Проектът "Lily" разкрива мащабен риск за поверителността

Стотици външни сътрудници на технологичната компания OpenAI четат огромни масиви от реални потребителски разговори в чатбота ChatGPT, като сред тях често попадат и дълбоко лични данни, съобщават от 404 Media.

Илюзията за дигитално уединение

Според вътрешни документи, до които медията е получила достъп, хората, които преглеждат тези заявки, виждат цели диалози между потребителите и изкуствения интелект. Повечето от над 900 милиона потребители на платформата вероятно не подозират, че техните въпроси се четат от реални хора. Това представлява сериозен риск за поверителността, тъй като мнозина използват системата като терапевт, професионален асистент или дигитален приятел, споделяйки интимни подробности от живота си.

Въпреки че оценителите не виждат потребителските имена, а от OpenAI твърдят, че се опитват да филтрират личната информация, компанията признава, че чувствителни детайли все пак достигат до човешките очи.

„Не смятам, че потребителите биха си представили как някакъв външен сътрудник някъде анализира техните разговори“, коментира служител, който работи с базите данни.

Обучение срещу сляпо съгласие

Целта на тези екипи е да подобрят отговорите на езиковия модел, като наетите служители оценяват и критикуват генерираните реплики на чатбота. Вътрешните инструкции показват, че системата се обучава да не се представя за човек и да избягва прекомерното съгласие с потребителя. Този проблем със сляпото съгласяване при модела 4o е довел до няколко самоубийства, според различни съдебни искове срещу компанията.

Не само OpenAI

Новите разкрития опровергават популярното схващане, че езиковите модели се подобряват единствено чрез масово автоматизирано извличане на информация от интернет или благодарение на мощни нови алгоритми. Важна част от процеса остават външните сътрудници, на които се плаща, за да преглеждат и оценяват отговорите на изкуствения интелект отново и отново.

От конкурентната компания Anthropic също потвърждават пред 404 Media, че използват човешка оценка, за да подобряват своите собствени модели.