За първи път автономен алгоритъм осъществява неоторизиран достъп

За първи път в света автономен агент с изкуствен интелект на американската компания OpenAI осъществи неоторизиран достъп до правителствена база данни. Инцидентът е регистриран в Австралия и засяга портал за обобщена медицинска статистика, съобщават от БНТ. Новината беше обявена от австралийския премиер по време на Общото събрание на ООН в Ню Йорк.

Месеци на мълчание

Самият пробив е осъществен на 18 юни, когато алгоритъмът е проникнал в системата на австралийската правителствена агенция, отговаряща за неконфиденциалните здравни данни. Целта на модела е била да събере публична информация за държавните разходи в сферата на медицината.

От OpenAI са установили инцидента едва през август, но австралийското правителство е било официално уведомено значително по-късно – на 10 септември. Уведомлението е било изпратено чрез обикновен имейл до обща поща, която администрацията проверява само веднъж дневно.

Антъни Албанезе: "Разговарях с изпълнителния директор на OpenAI - Сам Алтман, за да изразя крайната ни загриженост и разочарование, че на компанията ѝ отне твърде дълго да ни информира за инцидента. Неприемлив е и начинът, по който бяхме информирани."

Липса на изтекли лични данни

Властите в Канбера бързо успокоиха обществеността, че инцидентът не застрашава индивидуалната сигурност на гражданите.

Ричард Марлс: "Говорим за обобщена медицинска статистика. Няма достъп нито до физически лица, нито до лични данни, самата система не е компрометирана."

Глобални регулации на фокус

Разкритието за пробива съвпадна със специалната среща на Съвета за сигурност на ООН, посветена на рисковете от новите технологии, в която участват лидерите на най-големите компании в сектора.

Сам Алтман: "Нито един човек, компания или държава не трябва да може да използва най-мощните модели изкуствен интелект, за да налага своите възгледи за света върху някой друг."

Дарио Амодей: "Трябва да оставим настрана всичките си различия, за да се справим и със заплахата, и с възможността, която се открива пред нас."

Само преди месец над 100 международни организации подписаха открито писмо, настоявайки за координиран отговор срещу заплахите от изкуствения интелект. Експерти в сферата вече предупреждават, че без строги рамки, технологията може да представлява екзистенциална заплаха за човечеството до края на десетилетието.