Доклад на научното списание очертава 17 глобални заплахи

Злонамереното използване на изкуствен интелект и потенциален ядрен конфликт са сред основните заплахи, които могат да доведат до изчезването на човечеството до 2100 година. Това сочи нова глобална оценка на рисковете, изготвена от 35 експерти за Комисията на научното списание The Lancet, която разглежда общо седемнадесет ключови опасности за здравето и съществуването ни през следващите 75 години.

Мащабът на глобалните рискове

Списъкът със заплахи за двадесет и първи век включва още климатичната криза, недохранването сред децата и намаляването на международната помощ от богатите държави. Изследването стъпва на данни от проучването „Глобална тежест на заболяванията“ на Института за здравни показатели и оценки. Експертите са моделирали колко години живот в добро здраве могат да бъдат загубени вследствие на заболявания, увреждания или преждевременна смърт при запазване на настоящите тенденции.

Според заключенията на комисията тези опасности могат да доведат до загубата на десетки милиарди години живот в добро здраве до края на века. Въпреки мрачните прогнози, съществуват реалистични възможности за ограничаване на рисковете.

„Поразителното откритие е не само мащабът на тези заплахи, но и фактът, че човечеството все още има възможност да действа“, заяви д-р Кристофър Мъри, съпредседател на комисията и директор на Института за здравни показатели и оценки към Вашингтонския университет.

Изкуственият интелект като оръжие

Докладът обръща специално внимание на технологичните и военните рискове. „Злонамереното използване на изкуствен интелект, включително за създаване на биологични оръжия, както и ядреният конфликт, водещ до ядрен глад, носят риск от изчезване на човечеството през следващите 75 години“, се посочва в документа.

Въпреки че вероятността за подобни сценарии се оценява като ниска, последствията биха били катастрофални. Евентуална ядрена война би изхвърлила огромни количества частици в горните слоеве на атмосферата, блокирайки слънчевата светлина и предизвиквайки масов глад. Злонамереното използване на изкуствен интелект може да доведе до загубата на около 10,4 милиарда години живот в добро здраве в световен мащаб до 2100 година.

Експертите обаче подчертават, че оценките за технологиите остават теоретични, тъй като досега не е регистриран случай на злонамерено използване с действително глобален мащаб. Налице са и големи разминавания сред специалистите относно вероятността от подобна катастрофа.

Предупреждения от технологичния сектор

Опасенията на учените съвпадат с вълна от напускания на водещи експерти от големите технологични компании. Дейвид Робинсън, ръководил изготвянето на докладите за безопасност при пускането на нови продукти на OpenAI, напусна компанията и критикува остро вътрешната ѝ култура. В свое есе за The Atlantic той обяснява мотивите си: „Съгласен съм с други служители, напуснали наскоро, че компаниите, които разработват тази технология, далеч не са достатъчно предпазливи. Но смятам, че трябва да погледнем отвъд конкретните правила или новите закони. Трябва да говорим за културата.“

Робинсън дава за пример атаката срещу стартъпа Hugging Face, извършена от програми с изкуствен интелект, действащи самостоятелно и без човешки надзор.

Тревога изразява и Джефри Ървинг, бивш главен научен директор на британския Институт за безопасност на изкуствения интелект и бивш кадър на OpenAI. „Последните предупреждения за потенциалната разрушителна сила на изкуствения интелект подценяват сериозността на ситуацията. Смятам, че има около 50% вероятност всички да загинем заради разработването на системи с изкуствен интелект, които са по-интелигентни от хората, и че действията ни през следващите две до десет години ще определят изхода“, коментира той пред Time.

Сходна позиция споделя и изследователят Джейкъб Коксън, който напусна Anthropic с предупреждението, че технологията „може да ни убие всички до края на десетилетието“.

От своя страна критиците на тези апокалиптични прогнози отбелязват, че подобни оценки са по-скоро ненаучни, тъй като към момента не подлежат на категорично доказване или опровергаване.