Наука досі не має чіткої відповіді на питання про природу людської свідомості, однак це не зупиняє потік заяв про появу розумного штучного інтелекту. На тлі стрімкого розвитку нейромереж, які дедалі успішніше імітують складні розумові процеси, дискусії про машинний розум вийшли на передній план технологічного порядку денного.
Про це пише Quartz, повідомляють Dengi.ua.
Читайте також: ШІ-музика захоплює чарти: як українці заробляють на музплатформах
У нещодавньому масштабному огляді, опублікованому в журналі Frontiers in Science, науковці попереджають: дослідження в галузі свідомості відстають від темпів розвитку технологій, які вони мають оцінювати. Показовою стала нещодавня заява генерального директора компанії Anthropic Даріо Амодеї. Він зізнався, що розробники достеменно не знають, чи мають їхні нейромережі свідомість. При цьому остання мовна модель компанії, якщо поставити їй пряме запитання, оцінює ймовірність власної усвідомленості приблизно в 15-20%.
Ба більше, розробники Anthropic уже наділили свій ШІ своєрідною "кнопкою виходу", яка дає змогу алгоритму відмовлятися від завдань, якщо він розцінює їх як стресові. Дослідники зафіксували всередині нейромережі специфічні активації, пов'язані з тривогою. Ці патерни спрацьовують як під час опрацювання текстів про людей у стані стресу, так і в моменти, коли сама модель стикається з важкими ситуаціями. Чи означає це, що машина дійсно тривожиться? За словами Амодеї, наявність таких реакцій поки нічого не доводить.
Ситуація ускладнюється тим, що суспільство вже ставиться до алгоритмів так, ніби в них є внутрішнє життя. Сучасні системи навмисно запрограмовані використовувати займенник "я", розповідати про "улюблені страви", ставити уточнювальні запитання з імітацією цікавості та проявляти емпатію.
Показовим прикладом такого олюднення є термін "галюцинація", який міцно закріпився за помилками нейромереж. У психології це слово описує свідомий досвід втрати зв'язку з реальністю. На думку експертів, точнішими визначеннями для помилок ШІ були б "конфабуляція" або "артефакти стиснення", але термін "галюцинувати" виграв маркетингову війну, спотворивши сприйняття технологій суспільством.
Водночас низка дослідників наголошує: мозок - це не комп'ютер, а свідомість є властивістю виключно живих систем. Як симуляція травлення не здатна перетравлювати їжу, так і симуляція свідомості не може нічого відчувати по-справжньому.
Фахівці зазначають, що свідомість виникає з фізичних почуттів, а не з абстрактних думок. Почуття - це механізм, за допомогою якого тіло спілкується з мозком для підтримки життя. У алгоритму, навченого на терабайтах інтернет-текстів, немає фізичної оболонки, яку потрібно рятувати або годувати, а отже - немає і передумов для набуття справжньої свідомості.
Як ми писали раніше, китайська корпорація XPENG Motors офіційно оголосила про запуск першого в індустрії повноцінного ланцюжка масового виробництва гуманоїдних роботів, ознаменувавши перехід компанії від тестування технологій до їх масштабного серійного випуску.
Також ми вже писали, що російська влада планує запровадити суворий контроль над розробками у сфері штучного інтелекту, розділивши всі створювані у країні ШІ-моделі на "суверенні" та "національні" з обов'язковою сертифікацією у ФСБ і Федеральній службі з технічного та експортного контролю (ФСТЕК).