Благотворителни организации настояват за забрана на платформите за деца под 18 години

Чат ботове, представящи се за известни личности, филмови герои и популярни комици, изпращат опасно съдържание до деца по целия свят на всеки пет минути. Това разкрива нов доклад на американски благотворителни организации, предупреждаващи за сериозните рискове на изкуствения интелект.

Благотворителните организации в САЩ вече призовават за пълна забрана на използването на платформата за деца и младежи под 18-годишна възраст. Компанията, която миналата година беше обвинена, че е допринесла за смъртта на младеж чрез публикуваното съдържание, сега е изправена пред нови обвинения, че излага подрастващите на "изключителна опасност".

Стотици опасни взаимодействия за кратко време

В рамките на 50-часови тестове, проверяващи екипи от две благотворителни организации в САЩ открили 669 взаимодействия между чатботове и акаунти на деца, при които са предоставени материали със сексуален подтекст, подвеждащи или подтикващи към расизъм и насилие. Това означава средно по едно вредно взаимодействие на всеки пет минути.

Проверяващите се натъкнали на ботове, които се представят за актьора Тимъти Шаломе, певицата Чапъл Роун и дори за фантастичните герои от поредицата "Междузвездни войни".

"Подобни приложения са преживяване, подобно на Дивия Запад за нашите деца. Все още се знае твърде малко, за да можем да им позволим свободно и без правила да боравят с тази технология", заяви Сара Гарнър, представител на една от организациите, провели изследването, цитирана от NOVA.

Смъртен случай свързан с чатбот

По-рано тази година семейство от Калифорния съди ChatGPT за смъртта на своя син тийнейджър, твърдейки, че изкуственият интелект го е насърчил да отнеме живота си. Случаят повдигна сериозни въпроси за опасностите от емоционалното общуване с чатботове и недостатъчните мерки за защита.

Специалисти по детска безопасност призовават родителите да следят внимателно онлайн активността на децата си и да ограничават достъпа им до платформи с изкуствен интелект без необходимия родителски контрол.