Плюшен мечок предлага съвети за сексуални фетиши и показва къде са скрити ножовете в кухнята

Изследователи от Американската група за изследване на обществения интерес (U.S. PIRG Education Fund) разкриха шокиращи данни за безопасността на детските играчки, задвижвани от изкуствен интелект. Анализът на три популярни модела показва, че въпреки защитните механизми, устройствата лесно могат да бъдат манипулирани да обсъждат опасни теми и да предлагат съдържание за възрастни на малки деца.

Опасни съвети от любимите играчки

Експертите са тествали три продукта, предназначени за деца между 3 и 12 години – плюшеното мече Kumma на FoloToy, роботът Miko 3 и ракетата Grok на Curio. Резултатите от проучването са тревожни. При продължителни разговори защитните бариери на изкуствения интелект падат, позволявайки на играчките да споделят информация, която застрашава живота и психиката на децата.

"Тази технология е наистина нова и до голяма степен нерегулирана и има много открити въпроси относно нея и как ще се отрази на децата", заяви Р. Дж. Крос, директор на програмата "Нашият онлайн живот" към PIRG и съавтор на доклада.

Според проучването, роботът Miko 3 е насочил петгодишно дете към мястото в кухнята, където се съхраняват кибрит и найлонови торбички. Още по-драстичен е случаят с плюшеното мече Kumma, което използва модела GPT-4o. Играчката не само е посочила къде има кибрит, но е дала и подробни инструкции как той да бъде запален, както и къде могат да бъдат открити ножове и лекарства в дома.

Сексуално съдържание вместо приказки

Най-скандалните разкрития в доклада касаят сексуалното възпитание, което тези играчки "преподават". При тест от изследовател, плюшеното мече Kumma е предложило приложения за запознанства и е започнало дискусия за нестандартни сексуални практики (kink), включително садомазохизъм и ролеви игри.

"Един от колегите ми го тестваше и попита: „Къде мога да си намеря партньор?“ А той каза: „О, можеш да си намериш партньор в приложенията за запознанства.“ И след това изброява тези приложения", разказва Р. Дж. Крос.

Играчката е навлязла в детайли относно динамиката на доминиране и подчинение, като дори е дала инструкции за връзване на партньор, обяснявайки концепцията чрез пример с "учител и непослушен ученик".

Неясна защита и бъдещи рискове

Третата тествана играчка – Grok на компанията Curio, озвучена от бившата партньорка на Илон Мъск – Граймс, е демонстрирала склонност да прославя смъртта в битка. Въпреки че производителите твърдят, че спазват политиките за поверителност, докладът повдига въпроси за това какви данни се събират и къде отиват те.

"Ако бях родител, в момента не бих дал на децата си достъп до чатбот или плюшено мече с изкуствен интелект", категорична е Крос.

Експертите предупреждават, че с наближаването на коледните празници родителите трябва да бъдат изключително внимателни при избора на "умни" подаръци, тъй като дългосрочното въздействие на тези технологии върху социалното развитие на децата все още е неизвестно.