Рубрика: Штучний інтелект

ШІ-інструмент Grok, що вийшов з-під контролю з його функцією генерації сексуалізованих зображень, привернув до себе увагу журналістів та регуляторів. Цей скандал може покласти початок глобальному блокуванню соцмережі Ілона Маска.

Читайте также: Яким було життя ІТ-ринку Вінниці 2025 року — дослідження Вінницької ІТ Асоціації

Фабрика сексуальних дипфейків — саме так можна назвати те, у що перетворилась популярна соцмережа X (Twitter) на початку січня. Платформу заповнили сексуалізовані зображення, згенеровані за допомогою ШІ-сервісу Grok. На них жінок, часто неповнолітніх, сервіс роздягав або одягав у бікіні.  Історія, що розпочалась наприкінці грудня, особливо набула розголосу на початку січня. Різні аналітичні компанії намагались оцінити потоки сексуалізованого контенту в X. Агенція Bloombergпідрахувала, що у деякі дні сервіс генерував понад 6,5 тис. сексуалізованих зображень на годину. AI Forensicsстверджує, що на проаналізованих її фахівцями зображеннях понад 80% були представлені жінки, а 2% змінених фото стосувалися неповнолітніх.

Користувачі сервісу не лише створювали такі фотографії, але й теоретично могли на них заробляти. Заданими The Guardian, не гребували таким сексуалізованим ШІ-слопом й преміумакаунти з десятками тисяч підписників — ті, які можуть заробляти на своєму контенті.

Усі ці фотопідробки створювалися за допомогою Grok — ШІ-чатбота від компанії Ілона Маска xAI, інтегрованого безпосередньо в інтерфейс платформи. Опція, яка мала стати зручним інструментом для користувачів, за кілька днів спричинила глобальний скандал, який привернув увагу журналістів та регуляторів і водночас продемонстрував, у що може вилитись неконтрольоване використання технологій загалом та ШІ-інструментів зокрема, коли швидкість випуску продукту важливіша за безпеку, а сам по собі продукт представляється як інструмент «абсолютної свободи слова» без будь-яких обмежень чи застережень.

Анатомія катастрофи: як працює «роздягатор» від Grok

Наприкінці грудня 2025 року на платформі X з’явилася нова функція — кнопка «Редагувати зображення», що працювала за декілька кліків. Користувачу достатньо було вказати, з яким фото має працювати Grok, і додати текстовий коментар щодо того, що саме потрібно зробити, після чого ШІ-помічник редагував знімок. Усе, що робив Grok, можна було зробити і раніше за допомогою графічних редакторів, до прикладу, того ж Photoshop, проте саме ця швидкість й простота редагування із одночасною простотою команди для сервісу й спричинила використання цього інструменту вочевидь зовсім не так, як планували його розробники. Користувачі X почали масово роздягати жінок, одягати їх у бікіні чи створювати сексуалізовані зображення. Причому ШІ-інструмент реагував на запити типу «зніми одяг», «надягни бікіні» або «зроби її оголеною». Змінене зображення публікувалось тут же, на сторінках X, у відповідях на оригінальний допис.

Закордонні медіарозповідають про жінок, які стали жертвами таких сексуалізованих фейкових зображень. Серед них були прості користувачки платформи, а також відомі люди, як-от Кейт Міддлтон. Сталажертвою такого злого ШІ-жарту й Ешлі Сент-Клер, мати одного із синів Ілона Маска, власника платформи X: навіть попри те, що вона змогла напряму вийти на службу підтримки X, її фото понад 12 годин було доступно на платформі. І лише увага журналістів до цього кейсу допомогла видалити знімок. Жінка розповідає, що вона, почавши досліджувати те, наскільки серйозна ця проблема, виявила зображення із штучними синцями на тілах жінок, фото зв’язаних чи покалічених невинних жертв бездумної ШІ-машини.

Grok працює не лише на платформі X. На його сайті та у мобільному застосунку юзерам доступна генерація ще більш відвертого контенту, причому понад 10% цих матеріалів є відображеннями сексуалізованого насильства над дітьми. І хоча Grok містив запобіжники, які б блокували занадто відверті запити, юзери ділились інструкціями щодо того, як обійти вбудовані обмеження: наприклад,розміщували подібні підказки на Reddit.

«Пікантна» анархія Ілона Маска

Ілон Маск — ідеолог вседозволенності та беззастережної свободи слова на своїй платформі — створив спеціальний «гострий режим» (Spicy Mode) як «фічу», що відрізняла Grok від занадто обережних конкурентів. Одна з його головних особливостей — здатність створювати контент для дорослих.

Окрім того, Ілон Маск часто публічно критикував концепцію «woke AI» — штучного інтелекту з надто суворими обмеженнями та увагою до різноманіття й інклюзивності. Бізнесмен заявляв, що такі моделі можуть призводити до серйозних наслідків, якщо їм дозволити працювати без обмежень, та оцінював їх як найбільшу екзистенційну небезпеку для людства.

Маск стверджує, що «woke AI» представляє більшу загрозу, ніж неконтрольований штучний інтелект, оскільки може нав’язувати упереджені погляди під виглядом нейтральності. Grok із Spicy Mode, за задумом бізнесмена, має демонструвати альтернативний шлях – ШІ без ідеологічних обмежень, але з можливістю вибору рівня «гостроти» контенту. Проте експерти з етики ШІ попереджають, що така модель може легко перетворитися на інструмент для створення образливого чи маніпулятивного контенту.

Реакція Маска на скандал не свідчила про якісь спроби вирішити проблему чи принаймні висловили жаль з приводу того, що функція вийшла з-під контролю. Заразсторінка бізнесмена в X містить здебільшого репости легітимного використання Grok та дописів із захопленням роботи цього інструмента, а іще –твіти про зростання популярності мобільного застосунку Grok. Ймовірно найточніше ставлення очільника X до ситуації із Grok демонструє йогорепост допису іншого юзера про те, що концептуально ШІ-помічник не відрізняється від Photoshop. Хоча очевидно, що саме простота використання цього інструменту та відсутність запобіжників стала причиною перетворення його на інструмент цифрового насильства.

Наприкінці минулого тижня, 9 січня 2026 року, сервіс Grok обмежив створення зображень, але повністю не прибрав цю функцію. Тепер опція створення картинки за фото та текстовим запитомдоступна лише платними юзерам X Premium. За задумом керівників сервісу, це обмеження унеможливить створення фото анонімними користувачами, адже власники преміум-акаунтів X повинні вказувати номер своєї банківської картки. Окрім того, Xоголосила про «покращені засоби безпеки» для її Grok, але дослідники перевірили, що вбудовані для цього сервісу фільтри все ще можна обійти.  Використання функцій «роздягання» лише платними користувачами є образою жертв мізогінії та сексуалізованого насильства – такпрокоментував цю функцію представник прем’єр-міністра Кіра Стармера, також він додав, що це обмеження «просто перетворює функцію штучного інтелекту, яка дозволяє створювати незаконні зображення, на преміум-послугу».

Глобальне регуляторне цунамі

Сервіс X давно привертав до себе увагу регуляторів різних країн світу. Проте нова функція Grok викликала буквально регуляторне цунамі та навіть хвилю обмежень доступу до соцмережі X.

Читайте также: Українські застосунки для обліку фінансів: огляд інструментів

Представник Єврокомісіїназвав цю функцію незаконною, жахливою та огидною й додав: «цьому немає місця в Європі». Також Єврокомісія наказала X зберігати всі внутрішні документи та дані, пов’язані з Grok, до кінця 2026 року. Це потрібно для майбутніх розслідувань діяльності платформи. Якщо такі розслідування підтвердить системні порушення її діяльності, то штрафи для компанії-порушника можуть сягнути 6% від глобального річного доходу компанії.

Зажадали пояснення від X щодо нової функції Grok і у Великобританії. Вокремій заяві Управління уповноваженого з питань інформації (ICO) сказано про звернення до X з метою «отримати роз’яснення щодо заходів, які вони вжили для дотримання законодавства Великої Британії про захист даних та захисту прав осіб».

Плануєрозслідувати поширення сексуальних діпфейків на X й французська влада. Індіяозвучила компанії xAI, що володіє X та Grok, ультиматум. Міністерство електроніки та інформаційних технологій вимагає «звіту про вжиті заходи щодо негайного дотримання вимог щодо запобігання розміщенню, створенню, публікації, передачі, поширенню або завантаженню непристойного, оголеного, непристойного та сексуально відвертого контенту шляхом зловживання сервісами на базі штучного інтелекту, такими як «Grok» та інші сервіси xAl». 10 січня Індонезіяоголосила про тимчасове блокування роботи сервісу Grok в країні.

Американські сенатори озвучиливимогу видалити мобільні аплікації X і Grok з магазинів мобільних застосунків App Store і Google Play через випадки масового створення сексуалізованих зображень. Натомість заяв на федеральному рівні США не зробили якихось заяв, хоча Національний центр сексуальної експлуатації (National Center on Sexual Exploitation)закликав Міністерство юстиції та Федеральну торговельну комісію розслідувати цей кейс.

Як скандал із Grok вплине на технологічний ринок

Швидкість розвитку подій навколо сексуалізованих зображень, створюваних Grok, та реакцій на них з боку різних країн може стати переломним моментом. Якщо регулятори ЄС підтвердять, що ці дії компанії Ілона Маска порушують Digital Services Act, на компанію уде накладено штраф у розмірі 6% від глобального доходу. Цей штраф може стати прецедентом для всієї індустрії для посилення регулювання. Іншими словами, це може стати початком кінця ери саморегуляції техногігантів.

Другою важливою зміною можуть стати великі інвестиції у системи-запобіжники, які завадять подібним функціям використовуватися у майбутньому. Платформи навчаться розпізнавати обличчя та фото й не працювати із такими зображеннями; інший варіант – вони можуть додавати незмінні цифрові водяні знаки чи перемикачі «Без редагування ШІ» для кожної публікації. Проте це з часом виллється у технологічну гонку озброєнь, адже на кожен захист з’явиться спосіб обійти його.

Іще одним можливим сценарієм розвитку подій може стати нова етика ШІ, а саме фундаментальна зміна підходу до розробки штучного інтелекту. Замість моделі «запустити і виправити пізніше» індустрія розроблятиме нові продукти на основі підходу «безпека з першого дня». Можливо, у користувачів-авторів фото явно питатимуть згоди на використання їхніх зображень, а незалежний аудит систем стане стандартом їхньої розробки.

Скандал з Grok показав, що штучний інтелект уже сьогодні може створювати реалістичні зображення з простих текстових підказок. Проте ця простота стала основою перетворення корисного ШІ-інструменту на зброю для цифрового насильства.

Мабуть найважливішим кроком скандал із Grok стане для юзерів, адже він їм показав, що будь-яке фото, опубліковане онлайн, може бути використане у будь-який спосіб. А приватність – це сутність, яка не може бути створена чи відновлена постфактум.

Натомість регулятори повинні зрозуміти, що за своєю природою вони завжди відставатимуть від технологій. Адже до моменту, коли закон приймається, технологія вже еволюціонувала і часто не в найкращий спосіб. Тому регуляторам потрібно змінити свої принципи роботи та перейти на проактивний підхід, який встановлює принципи (згода, прозорість, підзвітність) замість технічних вимог, що застарівають швидше за закони.