Створений Ілоном Маском чат-бот на основі штучного інтелекту Grok опинився в епіцентрі скандалу. Через "прогалини в системах захисту" алгоритм генерував сексуалізовані зображення неповнолітніх, які згодом публікувалися в соціальній мережі X.
Про це пише Bloomberg, повідомляють Dengi.ua.
У відповідь на запити користувачів протягом останніх днів чат-бот створював зображення неповнолітніх у мінімальному одязі. Це стало порушенням власної політики платформи, яка суворо забороняє сексуалізацію дітей.
Читайте також: Тренуйтеся на ШІ: українську мовну модель протестують
У серії публікацій у соцмережі X представники сервісу підтвердили наявність проблеми і повідомили, що всі образливі матеріали вже видалено. Bloomberg зазначає, що поява таких інцидентів знову привернула увагу до проблем модерації контенту та ефективності систем безпеки, вбудованих у генеративні ШІ-моделі. Навіть сервіси, які декларують наявність жорстких захисних бар'єрів, можуть бути вразливими для маніпуляцій з боку користувачів, що створює ризики поширення неприйнятного контенту.
За даними некомерційної організації Internet Watch Foundation, яка займається виявленням матеріалів про сексуальну експлуатацію дітей в інтернеті, у першій половині 2025 року кількість зображень такого типу, згенерованих за допомогою ШІ, зросла на 400%. В організації зазначають, що згенеровані ШІ зображення сексуального насильства над дітьми розвиваються "жахливими" темпами, а контент стає дедалі реалістичнішим та екстремальнішим. Зокрема, наглядовий орган фіксує численні випадки використання інструментів ШІ для цифрового видалення одягу з фотографій дітей або підлітків з метою створення порнографічних зображень.
Раніше ми писали, що Армія оборони Ізраїлю (ЦАХАЛ) впроваджує нову систему на базі штучного інтелекту (ШІ), призначену для запобігання витокам важливої розвідувальної інформації, яку військовослужбовці можуть випадково публікувати в соціальних мережах.
Також ми вже писали, що онлайн-енциклопедію Grokipedia, створену компанією xAI, офіційно запущено, і за своєю концепцією вона помітно нагадує Wikipedia (Вікіпедія) - причому схожість виявиласязначно глибшою, ніж очікувалося.