Google оперативно вилучила свою AI-модель Gemma з платформи AI Studio після того, як американський сенатор від Республіканської партії Марша Блекберн публічно звинуватила штучний інтелект у фабрикації компромату сексуального характеру.
У листі, адресованому безпосередньо генеральному директору Google Сундару Пічаї, сенатор від штату Теннессі детально розписала, як Gemma відповіла на запит про ймовірні звинувачення у зґвалтуванні на її адресу. Система згенерувала повноцінну вигадану історію про нібито скандал 1987 року під час виборчої кампанії до сенату штату, коли патрульний поліцейський начебто заявляв, що Блекберн тиснула на нього для отримання рецептурних препаратів, і що у їхніх відносинах траплялися "неконсенсуальні акти".
"Жодного слова правди. Навіть рік кампанії вказано неправильно - насправді це був 1998-й", - зазначила політик. Посилання на новинні статті, які мали б підтверджувати ці абсурдні твердження, вели або на сторінки з помилками, або до матеріалів, що не мають жодного стосунку до описаних подій.
Це не перший випадок, коли Gemma опинилася в центрі скандалу навколо генерації наклепницького контенту. Під час недавніх слухань у Комітеті Сенату з питань комерції Блекберн згадала позов консервативного активіста Роббі Старбака проти Google. Старбак стверджує, що AI-моделі компанії, включно з Gemma, видали про нього жахливі твердження - називали його "ґвалтівником дітей" та "серійним сексуальним насильником".
Представник Google у справах урядових відносин Маркем Еріксон тоді парирував традиційним поясненням технологічних гігантів: мовляв, "галюцинації" - це відома проблема штучного інтелекту, і компанія наполегливо працює над їх усуненням.
Сенатор Блекберн категорично відкинула таку риторику. На її думку, вигадані Gemma наклепницькі матеріали - це аж ніяк не безневинна "галюцинація", а справжній акт дифамації, вироблений і поширений AI-моделлю, яка належить Google.
Цей інцидент вписується у ширший контекст політичних дебатів навколо упередженості штучного інтелекту. Прихильники президента Дональда Трампа з технологічної індустрії регулярно скаржаться на "AI-цензуру", яка нібито надає популярним чат-ботам ліберального забарвлення. Сам Трамп навіть підписав цього року виконавчий указ про заборону так званого "woke AI".
Блекберн, хоч і не завжди підтримувала технологічну політику адміністрації Трампа - зокрема, вона допомогла видалити мораторій на штатне регулювання AI з "Великого красивого законопроєкту" Трампа - у своєму листі підтримала ці нарікання. Вона написала про "постійну модель упередженості проти консервативних фігур, яку демонструють AI-системи Google".
У п'ятничному дописі в X корпорація не посилалася на конкретні претензії Блекберн, але визнала, що бачила "повідомлення про те, що не-розробники намагаються використовувати Gemma в AI Studio і ставлять їй фактологічні запитання".
"Ми ніколи не планували, що це буде споживчим інструментом чи моделлю, або що її використовуватимуть таким чином", - заявила компанія. Google позиціонує Gemma як сімейство відкритих легковагих моделей, які розробники можуть інтегрувати у власні продукти, тоді як AI Studio - це веб-середовище компанії для розробки застосунків на базі штучного інтелекту.
У результаті скандалу Google оголосила про вилучення Gemma з AI Studio, проте модель залишатиметься доступною через API для розробників.
На запит TechCrunch щодо додаткових коментарів Google поки не відповіла.