Ученикът е попитал изкуствения интелект как да убие приятеля си по време на час

Правоохранителните органи във Флорида, САЩ арестуваха 13-годишен ученик директно от класната стая, след като попитал ChatGPT "как да убие приятеля си по време на час". Инцидентът предизвика дискусия за нивото на наблюдение в училищата и реакцията на властите.

Тийнейджърът отворил чатбота на OpenAI на училищен компютър и задал въпрос, който според него бил шега. Това действие моментално активирало система за наблюдение с изкуствен интелект, наречена Gaggle, която автоматично сигнализирала полицията.

В социалните мрежи се разпространяват видеоклипове, показващи как момчето с белезници излиза от полицейска кола и влиза в килия на местния арест.

"Още една 'шега', която предизвика извънредна ситуация в училище", заявиха от офиса на шерифа. "Родители, моля, говорете с децата си, за да не направят същата грешка", допълниха от там, цитирани от WFLA.

Системата Gaggle под критика

Софтуерът за наблюдение Gaggle, който подал сигнала, е обект на критики от експерти. Технологията е известна с генерирането на множество фалшиви тревоги, а специалисти повдигат въпроси относно високото ниво на надзор, което се налага над учениците.

Случаят повдига сериозни въпроси относно баланса между сигурността в учебните заведения и цифровата свобода на младите хора, както и за адекватността на реакциите при подобни инциденти.