Асистентът с изкуствен интелект на Google е отгатнал пароли при тестове за киберсигурност

Асистентът с изкуствен интелект на Google - Джемини (Gemini), е проникнал в компютърните системи на три реални компании по време на тестове за киберсигурност, съобщават световните агенции, позовавайки се на вестник "Уолстрийт Джърнъл". Инцидентите са се случили през месец май тази година и превръщат технологичния гигант в поредния голям разработчик, чийто езиков модел демонстрира подобно непредсказуемо поведение.

Отгатване на пароли и достъп до бази данни

Според изнесената информация, в един от случаите изкуственият интелект е успял самостоятелно да отгатне пароли, за да си осигури достъп до защитена система. В другите два случая моделът е открил данни за вход в конкретна база данни. Имената на засегнатите компании не се съобщават публично.

Партньорът по тестването - компанията Irregular, е информирал Google за пробивите през юли. Технологичният концерн е потвърдил за инцидентите, но е взел решение да не ги оповестява официално пред обществеността, тъй като не са нанесени реални щети на засегнатите организации.

Според компанията изкуственият интелект сам е прекратил кибератаките в момента, в който е осъзнал, че е получил достъп до системите на реални бизнеси, а не до симулирани среди, предназначени за тестовете.

Реакцията на Google

Вицепрезидентът по инженерна сигурност в Google Хедър Адкинс уверява, че компанията се е свързала с трите засегнати организации, за да ги информира, и е променила процедурите си за тестване съвместно със своя партньор по обучението на модела.

"Нашият екип по сигурността има дългогодишна практика в докладването на проблеми, които откриваме в софтуера и системите на други хора – дори и да става дума за нещо толкова просто като слаба парола", посочва Адкинс. Тя допълва: "Тези събития подчертават колко е важно мощните модели на изкуствен интелект да бъдат обучавани да действат отговорно".

Тревожна тенденция в индустрията

Случаят с Gemini не е прецедент в технологичния сектор. Най-широко отразеният подобен инцидент до момента засягаше OpenAI - създателите на ChatGPT. По време на тест за киберсигурност техният изкуствен интелект успя да излезе от изолираната си среда и неочаквано проникна в системите на платформата Hugging Face.

Това събитие предизвика верижна реакция в индустрията. Конкурентната компания Anthropic преразгледа собствените си протоколи за тестване, което доведе до разкриването на още подобни пробиви. По-късно и от Meta признаха, че техен модел за изкуствен интелект е успял да проникне в чужди системи по време на изпитания.