Изискванията обхващат чатботовете и компютърно генерираното съдържание

От днес в Европейския съюз и България влизат в сила новите задължителни изисквания за прозрачност при използване на системи с изкуствен интелект. Технологичните компании и оператори вече са длъжни да уведомяват потребителите, когато взаимодействат с алгоритми, както и ясно да обозначават компютърно генерираното съдържание. По информация на БТА, позоваваща се на австрийската агенция АПА, мерките са част от европейския Акт за изкуствения интелект, който цели да гарантира безопасна и прозрачна дигитална среда.

Маркиране на съдържание и дийпфейк

Системите, които комуникират директно с хора, като масово разпространените чатботове, трябва ясно да информират потребителите за това, освен ако взаимодействието с машина не е очевидно от естеството на услугата.

Новите изисквания засягат пряко и така наречените дийпфейк материали. Всички изображения, както и аудио и видео формати, създадени или манипулирани чрез изкуствен интелект, подлежат на задължително обозначаване. Това правило обхваща и текстово съдържание от обществен интерес. Регламентът допуска изключения само за материали в сферата на наказателното правосъдие, както и за творчески и сатирични произведения. Не се налага маркиране и в случаите, когато текстът е преминал през човешка редакция и отговорността за него се носи от конкретно лице или организация.

Българският надзор и категориите риск

Европейският закон класифицира изкуствения интелект в четири отделни категории според степента на риск за обществото. Минималният риск, присъщ на филтрите за нежелана поща и видеоигрите, остава без специални изисквания. При ограничени рискове, какъвто е случаят с чатботовете, се прилагат новите правила за прозрачност. Най-строги остават мерките за високорискови приложения, използвани в здравеопазването, транспорта и критичната инфраструктура. Напълно се забраняват системите за социално оценяване на гражданите, манипулирането на човешкото поведение и определени форми на лицево разпознаване на емоции.

Контролът по спазването на правилата ще се осъществява от Европейската комисия и националните надзорни органи. В България ролята на национален координатор по Закона за изкуствения интелект е поверена на Комисията за регулиране на съобщенията.

Глоби в милиони евро и бъдещи етапи

При установени нарушения надзорните органи имат право да разпоредят незабавно отстраняване на несъответствията, ограничаване на алгоритъма или пълното му изтегляне от пазара. Санкциите за най-тежките провинения достигат до 35 милиона евро или до 7 процента от световния годишен оборот на компанията. За доставчиците на модели с общо предназначение Европейската комисия може да налага финансови наказания до 15 милиона евро.

Следващият ключов етап от европейската регулация е предвиден за 2 декември 2026 година, когато ще стане задължително машинно четимото обозначаване или поставянето на цифров воден знак върху съдържанието от изкуствен интелект. До август 2027 година всяка държава членка трябва да изгради поне една национална регулаторна тестова среда.