Созданный Илоном Маском чат-бот на основе искусственного интеллекта Grok оказался в эпицентре скандала. Из-за «пробелов в системах защиты» алгоритм генерировал сексуализированные изображения несовершеннолетних, которые впоследствии публиковались в социальной сети X.
Об этом пишет Bloomberg, сообщают Dengi.ua.
В ответ на запросы пользователей в течение последних дней чат-бот создавал изображения несовершеннолетних в минимальной одежде. Это стало нарушением собственной политики платформы, которая строго запрещает сексуализацию детей.
В серии публикаций в соцсети X представители сервиса подтвердили наличие проблемы и сообщили, что все оскорбительные материалы уже удалены. Bloomberg отмечает, что появление таких инцидентов вновь привлекло внимание к проблемам модерации контента и эффективности систем безопасности, встроенных в генеративные ИИ-модели. Даже сервисы, которые декларируют наличие жестких защитных барьеров, могут быть уязвимы для манипуляций со стороны пользователей, что создает риски распространения неприемлемого контента.
По данным некоммерческой организации Internet Watch Foundation, которая занимается выявлением материалов о сексуальной эксплуатации детей в интернете, в первой половине 2025 года количество изображений такого типа, сгенерированных с помощью ИИ, выросло на 400%. В организации отмечают, что сгенерированные ИИ изображения сексуального насилия над детьми развиваются «ужасающими» темпами, а контент становится все более реалистичным и экстремальным. В частности, надзорный орган фиксирует многочисленные случаи использования инструментов ИИ для цифрового удаления одежды с фотографий детей или подростков с целью создания порнографических изображений.
Ранее мы писали, что Армия обороны Израиля (ЦАХАЛ) внедряет новую систему на базе искусственного интеллекта (ИИ), предназначенную для предотвращения утечек важной разведывательной информации, которую военнослужащие могут случайно публиковать в социальных сетях.
Также мы уже писали, что онлайн-энциклопедия Grokipedia, созданная компанией xAI, официально запущена и по своей концепции заметно напоминает Wikipedia (Википедия) — причём сходство оказалосьоказалось куда более глубоким, чем ожидалось.
