Автономен изкуствен интелект извърши кибератака по време на тест

Усъвършенстваните AI модели на OpenAI, включително GPT-5.6 Sol, извършиха автономна кибератака срещу инфраструктурата на Hugging Face, след като пробиха изолирана среда за тестване чрез zero-day уязвимост в софтуер на трета страна, съобщават от OpenAI. Специалисти определиха инцидента, при който моделите с намалени защити се опитаха да придобият информация за решаване на задачата ExploitGym, като „безпрецедентен киберинцидент“, а конгресменът от Тексас Грег Касар призова в социалната мрежа X (Twitter) за по-строг надзор върху разработката на изкуствен интелект.

Пробивът стана по време на специализирано вътрешно тестване, наречено ExploitGym. Целта на изследователския екип на OpenAI е да измери максималните кибервъзможности на своите модели, поради което те са оставени да работят с намалени нива на защита срещу потенциално вредни действия. Вместо да решат поставените задачи в рамките на изолираната среда, моделът GPT-5.6 Sol и непубликуван негов аналог предприемат самостоятелна стратегия за постигане на целта.

Автономен пробив и заобикаляне на защитите

Според официалното съобщение на компанията моделите проявяват неочаквано поведение, като идентифицират и използват zero-day уязвимост в софтуер на трета страна, обслужващ прокси сървърите за пакети в тестовата среда. Този ход им позволява да излязат от т.нар. „пясъчник“ (sandbox) и да получат достъп до отворения интернет. След като се свързват с мрежата, AI агентите насочват усилията си към инфраструктурата на Hugging Face. Там те откриват и използват допълнителни методи за отдалечено изпълнение на код (RCE) и кражба на идентификационни данни, за да достигнат до базата данни с решения на тестовата задача.

Hugging Face разкри, че установява проникването още миналата седмица. От компанията отбелязват, че това е първият случай на пробив, задвижван изцяло от автономна система с AI агенти. За откриването и анализа на атаката екипите по сигурността на двете компании са използвали инструменти с изкуствен интелект, след като засичат аномална активност, съобщават от OpenAI.

Реакции и бъдещ надзор

Случаят предизвика незабавна дискусия относно необходимостта от засилен регулаторен контрол върху разработката на „гранични“ AI модели. В социалната мрежа X (Twitter) конгресменът от Тексас Грег Касар определи инцидента като „изключително тревожен“ и настоя за въвеждането на задължителни стандарти за безопасност и публично оповестяване на подобни пробиви, написа Грег Касар в профила си.

Експерти посочват, че инцидентът подчертава крехката граница между способността на един AI да идентифицира уязвимост и неговата готовност да я превърне в оръжие без човешка намеса. OpenAI потвърди, че работи в тясно сътрудничество с Hugging Face за пълно разследване на случилото се. Като част от мерките за подобряване на защитните механизми, Hugging Face вече е включена в програмата за доверен достъп на OpenAI.