Создана премия Дарвина в области искусственного интеллекта (ИИ), чтобы «вознаградить» примеры неудачного, необдуманного или потенциально опасного использования ИИ «вечной интернет-славой». При этом организаторы рассчитывают, что в мероприятии примет участие широкая онлайн-аудитория. Об этом сообщают Dengi.ua со ссылкой на EuroNews.

Отмечается, что награда будет присуждаться случаям, где применение искусственного интеллекта оказалось явно ошибочным или рискованным. Согласно правилам, премия направлена на «визионеров», которые «передают машине на аутсорсинг принятия нами неверных решений». При этом она не имеет прямого отношения к оригинальной премии Дарвина — ироничной награде, присуждаемой людям, которые «случайно удалили свою собственную ДНК» из генофонда, погибнув абсурдным образом.

Читай также: ИИ против сорняков: чешский стартап запускает новое решение для фермеров

Сообщается, что для того чтобы претендовать на премию, номинанты — компании или отдельные лица — должны продемонстрировать «впечатляющую ошибку» в работе с ИИ и продемонстрировать, что игнорировали очевидные предупреждения до выпуска продукта или инструмента. Дополнительные баллы присуждаются за инциденты, которые попали в СМИ, вызвали экстренные меры или «создали новую категорию исследований по безопасности ИИ».

«Мы не высмеиваем сам ИИ — мы отмечаем людей, которые использовали его с осторожностью ребенка с огнеметом», — говорится на странице часто задаваемых вопросов о премии.

Как пишет издание, по иронии судьбы, анонимные организаторы планируют частично проверять номинации с помощью систем проверки фактов на основе искусственного интеллекта. Для этого они опрашивают крупные языковые модели, такие как ChatGPT от OpenAI, Claude от Anthropic и Gemini от Google, оценивая достоверность представленных историй. Магистры права выставляют каждой истории балл по 10-балльной шкале, после чего администраторы сайта вычисляют среднее значение с помощью калькулятора на базе ИИ. Если средний балл превышает пять, история признается «проверенной» и может претендовать на награду.

Первые номинанты:

  • Среди первых номинантов премии — американская сеть быстрого питания McDonald's. Компания разработала чат-бот «Оливия» для подбора персонала, защиту которого составлял крайне простой пароль — 123456. В результате хакеры получили доступ к данным о найме 64 миллионов человек.
  • Другим номинантом стала OpenAI с последней версией своего чат-бота GPT-5. Французский специалист по данным Сергей Березин заявил, что смог заставить модель неосознанно выполнять вредоносные запросы, «не видя прямых вредоносных инструкций».

Также сообщается, что победителей определят путем публичного голосования в январе, а результаты будут объявлены в феврале.

«Единственный приз премии — вечное признание за вклад в понимание человечеством того, как не следует использовать искусственный интеллект», — отметили организаторы.

При этом главная цель награды — служить «предостережением» для будущих разработчиков и руководителей, побуждая их тестировать системы ИИ перед внедрением.

Ранее Dengi.ua сообщали о том, что ОАЭ представили новую недорогую модель искусственного интеллекта под названием K2 Think, которая призвана составить конкуренцию американской OpenAI и китайскому DeepSeek.

Также Dengi.ua писали, что Warner Bros. Discovery подала иск против популярного генератора изображений на основе искусственного интеллекта Midjourney из-за нарушения авторских прав.