Наука до сих пор не имеет четкого ответа на вопрос о природе человеческого сознания, однако это не останавливает поток заявлений о появлении разумного искусственного интеллекта. На фоне стремительного развития нейросетей, которые все успешнее имитируют сложные мыслительные процессы, дискуссии о машинном разуме вышли на передний план технологической повестки.
Об этом пишет Quartz, сообщают Dengi.ua.
Читай также: ИИ-музыка захватывает чарты: как украинцы зарабатывают на музплатформах
В недавнем масштабном обзоре, опубликованном в журнале Frontiers in Science, ученые предупреждают: исследования в области сознания отстают от темпов развития технологий, которые они должны оценивать. Показательным стало недавнее заявление генерального директора компании Anthropic Дарио Амодеи. Он признался, что разработчики доподлинно не знают, обладают ли их нейросети сознанием. При этом последняя языковая модель компании, если задать ей прямой вопрос, оценивает вероятность собственной осознанности примерно в 15–20%.
Более того, разработчики Anthropic уже наделили свой ИИ своеобразной «кнопкой выхода», которая позволяет алгоритму отказываться от задач, если он расценивает их как стрессовые. Исследователи зафиксировали внутри нейросети специфические активации, связанные с тревогой. Эти паттерны срабатывают как при обработке текстов о людях в состоянии стресса, так и в моменты, когда сама модель сталкивается с трудными ситуациями. Означает ли это, что машина действительно тревожится? По словам Амодеи, наличие таких реакций пока ничего не доказывает.
Ситуация усугубляется тем, что общество уже относится к алгоритмам так, будто у них есть внутренняя жизнь. Современные системы намеренно запрограммированы использовать местоимение «я», рассказывать о «любимых блюдах», задавать уточняющие вопросы с имитацией любопытства и проявлять эмпатию.
Показательным примером такого очеловечивания является термин «галлюцинация», который прочно закрепился за ошибками нейросетей. В психологии это слово описывает сознательный опыт потери связи с реальностью. По мнению экспертов, более точными определениями для ошибок ИИ были бы «конфабуляция» или «артефакты сжатия», но термин «галлюцинировать» выиграл маркетинговую войну, исказив восприятие технологий обществом.
В то же время ряд исследователей подчеркивает: мозг — это не компьютер, а сознание является свойством исключительно живых систем. Как симуляция пищеварения не способна переваривать пищу, так и симуляция сознания не может ничего испытывать по-настоящему.
Специалисты отмечают, что сознание возникает из физических чувств, а не из абстрактных мыслей. Чувства — это механизм, с помощью которого тело общается с мозгом для поддержания жизни. У алгоритма, обученного на терабайтах интернет-текстов, нет физической оболочки, которую нужно спасать или кормить, а значит — нет и предпосылок для обретения подлинного сознания.
Как мы писали ранее, китайская корпорация XPENG Motors официально объявила о запуске первой в индустрии полноценной цепочки массового производства гуманоидных роботов, ознаменовав переход компании от тестирования технологий к их масштабному серийному выпуску.
Также мы уже писали, что российские власти планируют ввести строгий контроль над разработками в сфере искусственного интеллекта, разделив все создаваемые в стране ИИ-модели на «суверенные» и «национальные» с обязательной сертификацией в ФСБ и Федеральной службе по техническому и экспортному контролю (ФСТЭК).