Машините скоро ще избират сами човешки мишени

Генералният секретар на ООН Антонио Гутериш и председателят на Международния комитет на Червения кръст Миряна Сполярич призоваха световните лидери за незабавно въвеждане на международни правила, които да ограничат използването на напълно автономни оръжейни системи, съобщават от Ройтерс.

"В момента сме опасно близо да преминем една морална червена линия – автономното насочване на машини срещу хората", категорични са ръководителите на двете международни институции в свое общо изявление. Те предупреждават, че съществува реална опасност оръжия да бъдат използвани самостоятелно срещу хора без пряка човешка намеса и преценка.

Надпревара към пълна автономност

Въпреки че до момента няма официално потвърден случай за използване на напълно автономно оръжие, което само да натиска спусъка, технологиите бележат безпрецедентен напредък. Гутериш и Сполярич подчертават, че тази заплаха вече не е част от далечното бъдеще, а е реална надпревара във въоръжаването, която е в пълен ход.

Опасенията се засилват на фона на активните конфликти в Украйна, Судан, ивицата Газа и Персийския залив, където дроновете и полуавтономните системи се превърнаха в неизменна част от бойните действия. Напълно автономни дефанзивни оръжия вече намират приложение в някои армии под формата на противоракетни системи на бойни кораби, но засега не е известно те да са били насочвани към човешки цели.

Риск от фатални грешки и военни престъпления

Правозащитните организации също алармират за сериозните рискове, свързани със системите, управлявани от изкуствен интелект. Според експертите алгоритмите не са напълно предвидими и контролируеми, което драстично увеличава вероятността от фатални грешки на бойното поле. Основно притеснение е неспособността на машината да разпознае надеждно ранен или предаващ се войник.

Подобни инциденти биха създали безпрецедентен правен вакуум. Ако автономна система извърши нарушение на международното хуманитарно право, подвеждането под отговорност на конкретни извършители при евентуални дела за военни престъпления би се оказало изключително трудно.

Предстоящи преговори в Женева

Дискусиите за регулиране на този тип оръжия се водят още от 2014 година, но развитието на технологиите изпреварва многократно дипломатическите усилия, като липсва специален международен договор за оръжията с изкуствен интелект.

Представители на държавите членки на ООН ще се съберат в Женева в близките дни, за да обсъдят приемането на нови правила. Гутериш и Сполярич призовават правителствата да проявят политическа смелост и да започнат преговори за правно обвързващ документ през ноември тази година, когато е насрочена голяма международна конференция. По думите им необходимостта от ясни ограничения е спешна, защото иновациите трябва да служат на човечеството, а не да го застрашават.