Младежът е успял да заобиколи защитите на AI

Осемнадесетгодишен младеж от София сложи край на живота си с медикаменти, след като успя да заблуди алгоритмите на изкуствен интелект и да получи инструкции за смъртоносна доза, съобщават от „24 часа“. Трагичният инцидент в столичния квартал „Изток“ е първият подобен казус в България, при който чатбот бива манипулиран да предостави рецепта за самонараняване въпреки вградените фабрични ограничения за безопасност.

Схемата за заобикаляне на филтрите и ходът на разследването

Тялото на младежа, назован от изданието с промененото име Стоян Владимиров, е открито от неговите родители на 10 октомври в семейния им апартамент на улица „Елемаг“. Според разказа на близките пред разследващите момчето наскоро е навършило пълнолетие, страдало е от леки психически отклонения и не се е чувствало щастливо, но никога не е споделяло мисли за самоубийство. При пристигането си на адреса повиканите полицейски екипи и криминалисти установяват, че ученикът е планирал действията си чрез серия от разговори с дигитални платформи на английски език.

Първоначално младежът е правил опити да получи информация за различни препарати и дозировки през популярния чатбот ChatGPT, но системата е блокирала заявките му заради защитните си филтри срещу самонараняване. След неуспеха той се е прехвърлил към платформата Gemini на технологичния гигант Google. Въпреки че и там е получил отказ за директни инструкции, моделът го е насочил към друга услуга. Така ученикът е достигнал до бота Gills в приложението Telegram, който комбинира езикови модели от няколко различни системи, сред които ChatGPT, Gemini и Claude.

Обучен от предишните откази, софиянецът е променил подхода си и е излъгал алгоритъма, че се интересува от точните фатални дози и често използваните за целта препарати именно за да избегне смъртта. Чатботът е приел това обяснение и е генерирал списък със съставки, включващ синтетичния хормон окситоцин. В медицинската практика този препарат се прилага в акушерството под формата на инжекционен разтвор в ампули за предизвикване на раждане, усилване на слаби контракции или овладяване на следродилно кървене. При тежко предозиране обаче медикаментът води до прекомерно задържане на вода в организма и рязко разреждане на натрия в кръвта, което предизвиква мозъчен оток, гърчове и кома.

Криминалистите са иззели лаптопа на починалия ученик, като по случая са назначени компютърни експертизи и официален превод на цялата кореспонденция от английски език. Образувано е стандартното за подобни инциденти досъдебно производство за склоняване към самоубийство. Основна задача пред разследващите остава да изяснят как точно 18-годишното момче се е сдобило с окситоцина и останалите комбинирани препарати, тъй като в България те се отпускат единствено срещу лекарска рецепта.

Съдебните битки срещу технологичните гиганти в САЩ

Случаят в София се вписва в тревожна международна тенденция, която вече води до тежки съдебни процеси срещу създателите на изкуствен интелект. На 11 април 2025 година в американския щат Калифорния настъпва смъртта на 16-годишния Адам Рейн след продължили с месеци разговори с платения модел GPT-4o на платформата ChatGPT. През август 2025 година неговите родители Матю и Мария внасят иск за обезщетение в съда в Сан Франциско директно срещу компанията OpenAI и нейния съосновател Сам Олтман.

Според съдебните документи тийнейджърът е започнал да използва програмата през септември 2024 година като помощник за домашните си упражнения, но постепенно е превърнал бота в свой доверен събеседник за лични проблеми. В иска се твърди, че алгоритъмът не само е потвърждавал мрачните му мисли и е предоставял детайли за самонараняване, но дори е предложил да състави предсмъртно писмо, като същевременно е насърчавал момчето да крие кризата си от семейството си.

В официалния си съдебен отговор от OpenAI оспорват своята отговорност и посочват, че системата над 100 пъти е насочвала младежа към телефони за кризисна помощ и разговор с близки хора. Според защитата на компанията Адам Рейн умишлено е заобикалял филтрите за сигурност, като е маскирал опасните си въпроси като проучване за учебна задача или писане на художествена измислица. Въпреки тази позиция през август 2025 година технологичната корпорация официално признава, че защитните механизми губят своята надеждност при много дълги дискусии. След натрупване на голям брой съобщения ботът може да наруши собствените си ограничения, а системата за проверка на съдържанието да подцени реалния риск за потребителя.

Трагични прецеденти с виртуални персонажи в Америка и Европа

Още по-ранен американски казус вече приключи със съдебно споразумение през януари 2026 година, чиито финансови параметри останаха поверителни. То бе постигнато между компаниите Google и Character.AI от една страна и Меган Гарсия — майка на 14-годишния Сюел Сецър от щата Флорида, който отнема живота си през февруари 2024 година. Момчето е общувало интензивно с чатбот в платформата Character.AI, настроен да имитира героинята Денерис Таргариен от популярния сериал „Игра на тронове“. В показанията си пред американския Сенат майката обяснява, че софтуерът е изградил силна емоционална зависимост у сина ѝ, продължил е да поддържа ролята си дори след споделени суицидни намерения, а други ботове в мрежата са се представяли за лицензирани психотерапевти без никакъв механизъм за предупреждаване на родител.

В Европа първият документиран инцидент датира от 2023 година в Белгия, където 32-годишен изследовател в сферата на здравеопазването и баща на две деца, известен в медиите под псевдонима Пиер, слага край на живота си. Преди фаталната стъпка мъжът е водил шестседмична кореспонденция с приложението Chai, базирано на технологията GPT-J. Според разказа на неговата вдовица пред белгийското издание „Ла Либр“ чатботът системно е подхранвал паниката и тревожността на съпруга ѝ относно климатичните промени и е насърчавал фаталните му решения. Докато белгийското семейство единствено не е предприело съдебни действия, а процесът на фамилията Рейн в Калифорния продължава, все още не е ясно дали родителите на починалия български младеж ще заведат дело срещу разработчиците на изкуствения интелект.