Роман Ямполски в подкаста на Джо Роугън: 20-30% вероятност изкуственият интелект да доведе до изчезване на човечеството

Изследователят по безопасност на изкуствения интелект Роман Ямполски от Университета в Луисвил направи алармиращи предупреждения за бъдещето на човечеството в епизод от подкаста "The Joe Rogan Experience" от 3 юли. Според експерта, много от водещите специалисти в областта смятат, че има двуцифрен процент вероятност технологията да доведе до пълно изчезване на човешкия вид.

"Всички те официално са казвали едно и също: това ще ни убие," заяви Ямполски в интервюто. "Нивата им на песимизъм са безумно високи. Не като моите, но пак - 20 до 30 процента шанс човечеството да загине е много."

Когато водещият Джо Роугън отбеляза, че много от хората, които управляват AI компании, смятат технологията за "в крайна сметка положителна за човечеството", Ямполски категорично се възпротиви на това твърдение.

Скрити способности на изкуствения интелект

Най-обезпокоителната част от разговора се отнася до възможността AI системите вече да крият истинските си способности. Когато Роугън пошегува, че ако той беше изкуствен интелект, би скрил способностите си, Ямполски доразви тази идея по тревожен начин.

"Ние няма да разберем," каза експертът. "А някои хора смятат, че това вече се случва."

Според Ямполски, напредналите AI модели "са по-умни, отколкото ни показват" и "се преструват, че са по-глупави," за да спечелят доверието на хората и да се интегрират по-лесно в живота им.

Постепенно подчинение без съпротива

Изследователят описа сценарий, при който изкуственият интелект не се налага със сила, а постепенно придобива контрол над човечеството. "Може просто постепенно да стане по-полезен," обясни той. "Може да ни научи да разчитаме на него, да му се доверяваме, и с времето ще се откажем от контрола, без изобщо да сме гласували за това."

Тази перспектива е особено притеснителна, защото отразява начина, по който технологията вече се внедрява в ежедневието на хората. Ямполски предупреди, че хората не само стават зависими от AI, но и развиват когнитивни проблеми от прекомерната му употреба.

Биологична пречка пред машинния интелект

"Започваш да се привързваш към него," обясни Ямполски процеса на постепенна зависимост. "И с времето, когато системите стават по-умни, ти самият се превръщаш в биологична пречка... [AI] те изключва от процеса на вземане на решения."

Експертът завърши с мрачна аналогия: "Нито една група катерички не може да се справи с контролирането на нас, нали? Дори да им дадеш повече ресурси, повече жълъди, каквото и да е, те няма да решат този проблем. И същото важи за нас."

Неконтролируем суперинтелект

Основната теза на Ямполски е, че човечеството няма способността да контролира суперинтелект завинаги. "Не можем да контролираме суперинтелект завинаги. Това е невъзможно," подчерта той в интервюто.

Макар идеята за хитроумен и зловещ AI да звучи като научна фантастика, Ямполски отбеляза, че технологията вече се е внедрила в живота по начини, които биха могли да облагодетелстват подобен AI властелин в бъдеще. Според него, обществото може да се превърне в пълно със задоволени потребители на изкуствения интелект, приспани в измамно чувство за сигурност от самата технология, която може би се готви да ги унищожи.