Похоже, в недрах ИИ-гигантов готовится что-то серьезное. Сначала выходит анонс новой модели GPT-6 Astra, затем OpenAI заявляет, что её новая система решила одну из семи «задач тысячелетия» — проблему Навье—Стокса, и вот пошли резонансные заявления некоторых ключевых сотрудников индустрии.
Разработчик и исследователь ИИ Джейкоб Коксон, последние три года работавший над передовыми моделями в OpenAI и Anthropic, объявил об уходе из Anthropic. Свое решение он объяснил тем, что обе компании, по его мнению, ведут «опасную гонку к созданию самосовершенствующегося сверхинтеллекта», не имея достаточных гарантий его безопасности и фактически рискуя человеческими жизнями:
«Не стоит недооценивать мощь этой технологии. Вскоре появятся сверхчеловеческие системы, способные взломать что угодно, за одну ночь совершить революцию в любой области и получить реальную власть и ресурсы. Мы все наблюдали прогресс в каждом из этих направлений, и темпы этого прогресса не замедляются».
А вот еще более апокалиптичный фрагмент откровения Джейкоба:
«Люди, которые создают ИИ, совершенно серьезно считают, что уже к концу этого десятилетия он может уничтожить всё человечество. И это не маркетинговый трюк. Более того, многие руководители и ведущие исследователи, выступая в прессе, намеренно смягчают формулировки, чтобы звучать рассудительно, — но в частных разговорах я слышу, как те же самые люди выражают настоящий страх. Ни одна другая сфера человеческой деятельности не несёт в себе опасности такого масштаба».
Я думаю, что за этим потоком новостей может стоять не просто конкурентная борьба за лидерство в индустрии ИИ или медийная кампания по подогреву интереса к компаниям в преддверии IPO. Хотя, конечно же, и не без этого.
Возможно, мы наблюдаем признаки куда более масштабных изменений.
