Социалната мрежа рискува огромна глоба заради функцията за "разсъбличане"

Британският регулатор Ofcom започна днес официално разследване срещу платформата "X" (бившия Twitter), собственост на милиардера Илон Мъск. Причината са "крайно тревожни доказателства", че вграденият изкуствен интелект Grok се използва масово за генериране на порнографски изображения на реални хора без тяхното съгласие, както и на материали със сексуално насилия над деца.

Разследването, което се провежда по ускорена процедура съгласно Закона за онлайн безопасност, поставя технологичния гигант пред безпрецедентна заплаха. Ако бъдат установени нарушения, "X" може да отнесе глоба в размер до 18 милиона паунда или 10% от глобалния си годишен оборот – което е по-голямата сума. Още по-драстичната мярка, която законът позволява, е пълно блокиране на достъпа до социалната мрежа на територията на Великобритания чрез съдебно нареждане към интернет доставчиците.

"Премиум" порнография?

Скандалът избухна миналата седмица, когато потребители и журналисти разкриха, че Grok позволява лесното създаване на "deepfake" изображения, при които дрехите на реални хора се "премахват" дигитално, или лицата им се монтират в порнографски сцени. Британският министър на технологиите Питър Кайл определи като "отвратителен" случая с еврейка, чието лице е било монтирано върху тяло по бикини на фона на лагера Аушвиц.

В опит да овладее кризата, компанията на Мъск предприе спорен ход – ограничи достъпа до генератора на изображения само за плащащи абонати ("Premium"). Този ход бе разтълкуван от критиците не като решение на проблема с безопасността, а като опит за монетизиране на опасната технология. Въпреки че идентифицирането на платените потребители е по-лесно, техническата възможност за злоупотреба остава налична в самата архитектура на модела.

Битката "Свобода срещу Безопасност"

Илон Мъск реагира в типичния си стил, обвинявайки британското правителство във "фашизъм" и опит за цензура. "Те искат всяко извинение за цензура", написа милиардерът, игнорирайки факта, че разследването касае незаконно съдържание като детска експлоатация, което не е защитено от принципите на свободното слово.

Ofcom действа под огромен политически натиск. Премиерът Киър Стармър нарече случващото се "позор" и призова за твърди мерки. Ако регулаторът не успее да наложи волята си над американската компания, това би обезсмислило новия Закон за онлайн безопасност, който бе приет именно за такива случаи.

"Разследването ще провери дали 'X' е въвела ефективни системи за предотвратяване на разпространението на незаконно съдържание", се казва в официалното съобщение на Ofcom. Регулаторът подчертава, че няма да се колебае да използва пълния си арсенал от санкции.