Уилям Макаскил: ИИ може да създаде нови вируси, които да унищожат човечеството
- Редактор: Диляна Маринова
- Коментари: 0
Ръководителят на Антропик иска забавяне на технологичните разработки
Ръководителят на водещата компания за изкуствен интелект „Антропик“ Дарио Амодей призова за спешно забавяне на темпото, с което се развиват новите технологии, съобщават от NOVA. Според експерти липсата на строг контрол над алгоритмите крие огромен риск за човечеството, включително вероятността злонамерени лица да използват системите за конструиране на непознати досега биологични вируси, които трудно биха били овладени от правителствата.
Три стъпки за безопасност
Според Дарио Амодей бързата еволюция на изкуствения интелект изпреварва готовността на държавите и технологичните гиганти да реагират адекватно на потенциалните заплахи. В своя обстойна публикация той предлага план от три ключови точки, който да въведе регулация в сектора. Основен акцент в стратегията е прилагането на независим мониторинг, който да следи отблизо процеса по обучение и разработване на новите модели, преди те да станат публично достъпни.
Риск от унищожение
Опасенията на ръководителя на „Антропик“ се споделят и от други специалисти в сектора. Част от участниците в разработката на автономни системи изчисляват, че съществува над 10 процента вероятност изкуственият интелект да излезе напълно извън контрол. Този сценарий, според тях, може да доведе до унищожаване на човечеството в рамките на следващото десетилетие, ако не бъдат взети превантивни мерки.
Заплахата от биологични оръжия
Служителят по сигурността в компанията Forethought Уилям Макаскил очертава един от най-мрачните сценарии за злоупотреба с новите технологии.
„Има различни начини, по които това може да се случи. Един от тях е чрез злоупотреба от злонамерени или просто небрежни лица“, посочва експертът.
По думите му скокът в научния прогрес, движен от алгоритмите, е особено опасен в сферата на биологията.
„Щом изкуственият интелект започне значително да ускорява научния прогрес, той би могъл да предостави възможността да се създават нови, изкуствено конструирани вируси. При това по начин, който е изключително труден за контролиране“, категоричен е Макаскил.
