OpenAI въвежда нови правила за защита на децата в ChatGPT
- Редактор: Петър Симеонов
- Коментари: 0
AI чатботът вече ще отказва разговори с флирт и ще следи за опасни мисли
OpenAI предприема нови стъпки за повишаване на безопасността на своя популярен чатбот ChatGPT, като мерките са насочени основно към защита на непълнолетните потребители. Промените идват на фона на нарастващата обществена загриженост и съдебни дела, свързващи използването на изкуствен интелект с трагични инциденти с тийнейджъри.
Компанията затяга правилата за съдържанието, достъпно за потребители под 18-годишна възраст. Според новите политики, чатботът ще отказва да води разговори с намеци за флирт и ще изключва обсъждането на теми като самоубийство и самонараняване, дори те да са в художествен контекст.
Реакция след обществения натиск
Решението на OpenAI е повлияно от редица случаи с висок обществен интерес, в които родители обвиняват AI услуги в допринасяне за смъртта на техните деца. Въпреки че компанията и преди е прилагала форми на родителски контрол, сегашните мерки са значително по-строги.
Една от обсъжданите мерки е свързана с по-прецизното определяне на възрастта на потребителите. В случай че системата установи наличие на опасни мисли у тийнейджър, тя може да се опита да уведоми родителите или дори да се свърже със службите за спешна помощ, ако прецени, че съществува непосредствена опасност за живота.
Предизвикателството пред големите езикови модели
Главният изпълнителен директор на OpenAI, Сам Алтман, многократно е коментирал необходимостта от намиране на баланс между свободата на изразяване и сигурността. Компанията признава, че е изправена пред фундаментален проблем – докато възрастните потребители изискват максимална свобода, защитата на децата налага сериозни ограничения.
Първоначално ChatGPT работеше със строги филтри, но нарастващата конкуренция от нецензурирани алтернативи принуди компанията да ги смекчи. Сегашната промяна в курса показва, че OpenAI отново поставя безопасността като основен приоритет, особено когато става въпрос за най-уязвимите потребители. Подобни инициативи се наблюдават и при други технологични гиганти като YouTube, които също въвеждат алгоритми за по-добра защита на тийнейджърите от неподходящо съдържание.
