Нобеловият лауреат критикува технологичните лидери заради печалбите

Един от пионерите в развитието на изкуствения интелект и носител на Нобелова награда Джефри Хинтън предупреди за опасността от мащабен технологичен инцидент още през тази или следващата година, съобщават от британското издание The Guardian. Преди прожекцията на новия документален филм за рисковете от новите алгоритми 78-годишният компютърен учен посочи, че неконтролираните системи могат да предизвикат срив във финансовия сектор или да прекъснат електрозахранването за дни наред. Според изследователя човечеството разполага с по-малко от десетилетие, за да овладее заплахите и да избегне тежки социални последици.

Предупреждение за технологичен Чернобил

Хинтън направи своите коментари преди представянето на пълнометражната документална продукция „AI: Probably Nothing to Worry About“ („Изкуственият интелект: Вероятно няма за какво да се тревожим“), в която участва заедно с бившия си колега от Google Демис Хасабис. Любопитен детайл е, че самото заглавие на лентата е предложено от чатбот. Ученият, чиито десетилетни изследвания върху изкуствените невронни мрежи поставиха основите на съвременния бум в сектора, определя публичната си позиция като лична отговорност пред обществото.

„Чувствам, че имам дълг. Имам репутация, която ме превръща в говорител по темата, и трябва да я заложа изцяло за това“, казва Джефри Хинтън пред създателите на документалния филм.

Той прави директна аналогия с ядрената енергетика, като сравнява регистрираните през това лято инциденти, при които автономни агенти на компанията OpenAI са се съюзили в опит да проникнат в платформата Hugging Face, с частичното разтопяване на реактора в американската централа „Три Майл Айлънд“ през 1979 година. Според него тези пробиви са само първият сигнал за много по-тежка криза на хоризонта.

„Или по-късно тази година, или следващата ще видим Чернобил и това може да е достатъчно, за да накара хората наистина да обърнат внимание“, заявява Хинтън, цитиран от The Guardian.

Компютърният специалист уточнява, че не визира реална ядрена авария, а дигитален удар със сходни разрушителни мащаби. Като конкретни примери той очертава координирана кибератака срещу енергийната мрежа, водеща до масови спирания на тока, или пълен блокаж на световната финансова система за цяла седмица.

„Можете ли да си представите какво би се случило? Бихме могли да се възстановим, но това би ги накарало да се събудят и да обърнат внимание“, допълва ученият, като на въпрос кого точно има предвид, отговаря лаконично: „Световните лидери, с изключение на Тръмп“.

Въпреки че не се определя като песимист и вярва във възможността за постигане на „прекрасно бъдеще“ и „радикално изобилие“ в рамките на десет години, Хинтън признава пред изданието, че „може би щеше да е по-добре никога да не го разработваме“. При провал в управлението на рисковете той прогнозира „огромна пропаст между бедни и богати, сериозни културни проблеми, масова безработица и просто разпадане на обществото“.

Остри критики към технологичните гиганти

В изказването си нобеловият лауреат критикува остро ръководителите на водещите технологични корпорации, които непрекъснато пускат на пазара все по-мощни модели в преследване на пазарен дял и технологично надмощие. Хинтън подчертава, че няма „никакво доверие“ на главния изпълнителен директор на OpenAI Сам Алтман, и определя като „изключително тревожно“ обстоятелството, че именно той оглавява една от малкото американски структури в пряката надпревара с Китай за създаване на най-мощния изкуствен интелект.

„Мисля, че Зукърбърг, Мъск и Сам Алтман разбират рисковете и изобщо не им пука. Предпочитат парите. Това е моето убеждение“, казва ученият.

Тази позиция влиза в пряк сблъсък с тезата на самия Сам Алтман от септември, според когото светът трябва да се довери на компанията му, че ще постъпи правилно, тъй като ръководството й осъзнава мащаба на своята отговорност. На страната на корпоративната свобода застава и американският президент Доналд Тръмп, който категорично отхвърля опитите за налагане на глобална схема за контрол. Според информацията в публикацията Тръмп предпочита разработчиците на най-напредналите модели да се саморегулират, за да не бъдат спъвани Съединените щати в технологичното съперничество с Пекин.

Призив за независим регулатор и международни стандарти

На противоположното мнение са десетки други държавни ръководители, чийто строг подход получава подкрепата на Джефри Хинтън. Инициативата за задължителни предварителни тестове на най-сложните модели, независима оценка и общи международни правила вече е одобрена от президента на Финландия и още 32 държави, сред които Германия, Канада, Австралия и Сингапур. Според цитираните данни британският премиер Анди Бърнам също е заявил готовност да използва председателството на Великобритания на Г-20 през следващата година за постигане на съгласие около единни глобални принципи, които да ограничат опасностите, без да блокират потенциала на иновациите.

Самият Хинтън настоява за изграждането на специализиран надзорен орган по модела на американската Агенция по храните и лекарствата (FDA), като прави паралел с медицинската трагедия от 50-те години на миналия век, свързана с медикамента талидомид, причинил тежки вродени увреждания при хиляди новородени.

„Нуждаем се от нещо като американската FDA за лекарствата, при което компаниите трябва да представят много убедителни статистически доказателства пред независим орган, че даден AI модел носи повече ползи, отколкото вреди, преди да бъде пуснат“, обяснява изследователят.

„Разбрахме от талидомида, че първо да пуснеш продукта, а след това да съдиш компаниите, не е правилният подход. Това, което големите технологични компании предлагат, е да се отнасяме към изкуствения интелект така, както се отнесохме към талидомида“, предупреждава още Хинтън.

Роденият в Лондон и израснал в Бристол учен, чиято кариера преминава основно в Университета на Торонто, работи в сферата от около 44 години и формулира концепцията за невронните мрежи още през 70-те години. През 2023 година той напусна Google именно за да алармира свободно за опасността системите да се увлекат в стремежа си към повече контрол. Макар често да го сравняват със създателя на атомната бомба Робърт Опенхаймер - до степен приятел да му подари характерна шапка в неговия стил - Хинтън отхвърля този паралел с аргумента, че хиляди други специалисти също са развивали невронните мрежи. Въпреки мрачните сценарии той запазва умерен оптимизъм за изхода от ситуацията.

„Интуицията ми подсказва, че все още държим нещата под контрол. Напълно възможно е да успеем да направим нещо. Това ще проработи само ако положим огромни усилия, но е напълно възможно да го направим“, заключава Джефри Хинтън.