«Яндекс» начал эксперимент по развитию сознания у ИИ

Автор:
Михаил Метцель

"Яндекс" начал эксперимент по изучению возможности проявления сознания у искусственного интеллекта (ИИ), рассказали ТАСС в компании. Цель исследования - выяснить, формируются ли у нейросети устойчивые предпочтения и собственная точка зрения, не заимствованная из текстов людей.

Проект ведется совместно с нейробиологом, академиком РАН Константином Анохиным.

На первом этапе ученые проверили, способна ли базовая языковая модель формировать стабильные предпочтения без дополнительного обучения, и выявили их отсутствие. Теперь планируется запустить основной этап, в ходе которого модель будут стимулировать к рассуждениям и рефлексии, обучая ее на собственных размышлениях. Так, нейросеть будет пытаться формировать внутренние убеждения, подобные человеческим, например, отвечая на вопрос о любимом цвете и аргументируя свой выбор.

"Мы, люди, учим собственную нейронную сеть непрерывно. Это происходит автоматически в процессе мышления. Нейросеть учится исключительно на чужих "мыслях". Есть надежда, что если мы начнем обучать нейронную сеть на ее собственных рассуждениях, то получится сделать модель, у который появится действительно своя точка зрения. Не "навязанная" и не ее имитация. А внутренние убеждения. Или может даже нечто более того", - рассказал ТАСС директор по развитию технологий искусственного интеллекта "Яндекса" Александр Крайнов.

По мнению компании, появление устойчивых предпочтений у модели может указывать на формирование внутренней картины мира, напоминающей личность и характер человека. Эксперимент "Яндекса" призван помочь глубже понять природу человеческого мышления и возможности ИИ выходить за рамки статистического предсказания, создавая концептуальное обобщение. Компания рассчитывает, что новые подходы к ИИ позволят решить задачи, неподвластные текущим моделям, и приблизят технологию к формированию осознанного мышления.