Новият режим осигурява родителски контрол и предпазва непълнолетните

По информация на БГНЕС и Агенция Франс Прес (АФП), компанията OpenAI представи нова версия на популярния си чатбот, предназначена ексклузивно за тийнейджъри. Технологичното въведение, включващо засилени механизми за защита и наблюдение, идва на фона на остри критики и съдебни искове срещу компанията за предполагаема връзка на изкуствения интелект със самоубийства сред младежи.

Защитни механизми и родителски контрол

Новият профил, наречен „ChatGPT for Teens“, се активира автоматично за потребители, които при регистрация са посочили възраст между 13 и 17 години. Алгоритмите на системата ще обхващат и акаунти, за които има вероятност да се управляват от непълнолетни. Повечето рестрикции за съдържание, свързано със самонараняване, насилие и хранителни разстройства, вече бяха налични, но сега към тях се добавят нови инструменти за превенция.

Програмата въвежда специални „тихи часове“ за ограничаване на достъпа през определени периоди и режим за учене. Съобщават от OpenAI, че при този режим изкуственият интелект няма да дава готови отговори, а ще задава насочващи въпроси, „за да помогне на тийнейджърите да разберат материала“.

Ограничения в общуването с алгоритъма

Съществена новост е възможността родителите да свързват своите профили с тези на децата си. Те ще получават известия при възникване на високорискови разговори, като например споменаване на самонараняване или самоубийство. Сигналите ще се преглеждат от човешки модератори, а конкретните подробности от комуникацията ще бъдат премахвани заради защитата на личните данни.

На алгоритъма е изрично забранено да внушава, че притежава собствено съзнание или изпитва лични чувства към потребителя. Гласовият режим за тази възрастова група е напълно деактивиран.

Съдебни дела и регулаторен натиск

Внедряването на новите функции съвпада със засилващия се правен натиск върху технологичния гигант. OpenAI е ответник по няколко дела за неправомерно причинена смърт. Сред тях е искът, подаден от родителите на 16-годишния Адам Рейн, които твърдят, че синът им е отнел живота си, след като чатботът му е предоставил информация за методи за самоубийство.

Успоредно с това Федералната търговска комисия на САЩ вече разследва потенциалните рискове от дигиталните спътници за подрастващите. В Конгреса се обсъждат нови законопроекти, а щатът Калифорния вече наложи специални изисквания за безопасност на подобни асистенти. Заради нарастващите проблеми някои конкурентни компании избраха по-радикален подход, като напълно ограничиха достъпа на непълнолетни до своите продукти.