Джейкъб Коксън напусна компанията заради опасения за безопасността

Старшият изследовател Еван Хюбингер от технологичната компания Anthropic предупреди този вторник, че съществува над 10 процента вероятност изкуственият интелект да унищожи човечеството до края на десетилетието. Изявлението му в социалната мрежа X идва след напускането на неговия колега Джейкъб Коксън, който обвини сектора в безотговорна надпревара към създаването на неконтролируем свръхинтелект, съобщават от Forbes България.

Оставки и мрачни прогнози

Ръководителят на отдела за съгласуване на целите на изкуствения интелект в Anthropic Еван Хюбингер заяви, че той и част от колегите му "наистина вярват, че изкуственият интелект може да убие всички хора". Според експерта компанията прави всичко по силите си, но все още няма ясен план как да реши проблема с контрола при евентуалната поява на свръхинтелект.

Коментарите на Хюбингер са провокирани от публикации на Джейкъб Коксън – друг изследовател, който обяви, че напуска Anthropic заради сериозни притеснения за безопасността. Коксън, работил върху обучението на модели както в OpenAI, така и в Anthropic, предупреди, че конкурентните компании "се надпреварват право към самоусъвършенстващ се свръхинтелект и залагат живота ни". Той е категоричен, че опасенията на разработчиците не са просто маркетингов трик.

Надпревара към неизвестното

В последващо разяснение Хюбингер успокои, че заплахата от настоящите езикови модели е ниска. Според него истинският риск се крие в появата на свръхинтелект чрез рекурсивно самоусъвършенстване, което според експертите се случва по-бързо от очакваното.

Междувременно Джейкъб Коксън заяви пред The Wall Street Journal, че светът върви към най-агресивните сценарии, при които процесите могат да излязат извън контрол още до края на следващата година. Той направи паралел между предишното и настоящото си работно място, отбелязвайки, че в OpenAI не са "осъзнали в дълбочина залога за цивилизацията". По думите му в Anthropic този залог е ясен, но ръководството е заключено в надпревара, вярвайки, че "никой друг няма да действа отговорно и затова те трябва да го направят сами, въпреки риска".

Призиви за държавна регулация

Тези събития се случват на фона на нарастващия натиск от страна на водещи специалисти за забавяне на най-напредналите системи. През юли редица знакови фигури, сред които съоснователите на Anthropic Дарио Амодей и Джаред Каплан, главният учен на OpenAI Якуб Пахоцки и експерти от Meta, подписаха декларацията „Pacing the Frontier“.

Документът настоява индустрията и правителствата да си осигурят време за разработване на мерки за сигурност и засилване на надзора. Авторите призовават американското правителство да подкрепи международни усилия за регулиране на темпото, с което се развиват автоматизираните системи от най-висок клас. Подобно послание отправи наскоро и Якуб Пахоцки, според когото нито една лаборатория не е решила проблемите с безопасността в достатъчна степен, за да продължава да развива моделите с максимална скорост.