Искусственный интеллект: помощник или конкурент?

Генеральный директор венчурного фонда Digital Evolution Ventures Евгений Кузнецов – о развитии искусственного интеллекта.

Спектр позиций в дискуссиях о сути искусственного интеллекта размещается сегодня между двумя крайностями. С одной стороны ИИ рассматривается как инопланетный разум, который в силу большей скорости своего развития с неизбежностью опередит человечество, что непременно будет иметь катастрофические последствия. В русле этой логики были написаны коллективные письма известных технологических предпринимателей, призывавших сделать в развитии ИИ паузу, чтобы разобраться, с чем конкретно мы имеем дело, и быть уверенными в том, что процесс развития этого пучка технологий находится под нашим надежным контролем.

На другом полюсе — мнение, что ИИ — это просто инструмент автоматизации человеческого мышления, не более чем очередной калькулятор, пусть очень мощный и изобретательный. Все остальное — придуманные фобии.

Обе крайности, на мой взгляд, нерелевантны. С моей точки зрения, ИИ — это все же иной тип разума. Иной не в смысле внеземной — он как раз земной, и я на этом настаиваю: ведь он обучен на земных артефактах. И выводы ИИ делает из анализа земных явлений, которые мы ему предъявляем к анализу. Но приходит к этим выводам он не вполне так, как человек, потому что не обладает рядом ограничений, свойственных человеческому мышлению в силу определенной истории его пути.

ИИ мыслит по-другому

Эта история пути во многих науках хорошо известна. Речь идет об интеллектуальной борьбе, доминировании тех или иных научных школ, засилье определенных идей и тому подобном. Искусственный интеллект в значительной степени свободен от всех этих байэсов (от англ. bias — «смещение», «предубеждение»). При этом у ИИ есть известный леволиберальный байэс в политических моделях: если вы даже российским языковым моделям зададите вопрос «Наш ли Крым?», они уклонятся от ответа или прервут общение. Но это скорее наведенная людьми, то есть внешняя по отношению к ИИ, фильтрация, нежели нечто, проистекающее из самой модели.

Мое принципиальное утверждение заключается в том, что способ действий ИИ — это именно мышление, а не перебор вариантов. Это разумная машина, способная производить рассуждения и путем умозаключений приходить к ответу.
Более того, уже существуют такие системы ИИ, которые способны понимать, что их умозаключения заходят в тупик, и способны к этому так или иначе относиться, то есть искать выход из тупика. Кроме того, они могут адаптироваться к человеческим запросам, понимать, насколько полученное ими решение устраивает или не устраивает человека.

Итак, следует признать, что ИИ мыслит. Но мыслит не так, как мы. ИИ разрабатывает новые архитектуры чипов, или новые реактивные двигатели, или новые лекарства иным путем — не тем, по которому пойдут люди. В этом смысле ИИ — это земной, но нечеловеческий разум.

В философской дихотомии «объект — субъект» за ИИ еще не признают полноценную субъектность. Считается, что он пока еще не способен вырабатывать собственную позицию по отношению к заданным вопросам и отстаивать эту позицию. Пока признается только агентность.

Отсутствие субъектности разительно отличает ИИ от человека и других живых существ. Непременным атрибутом биологической эволюции всегда была высокая конкурентность, высокая субъектность. Отдельные представители видов всегда отстраивались от других, создавали какие-то кооперативы и коалиции с другими против опасных третьих. И действовал жесткий закон эволюции, который понуждал каждый вид и каждое живое существо данного вида изобретать способы выжить.

У ИИ инстинкта выживания и инстинкта роста, расширения популяции и ресурсов для такого расширения мы пока не наблюдаем. Недавно был проведен любопытный эксперимент: ИИ в процессе постановки задачи сообщили, что его в результате обесточат. Решая основную задачу, ИИ развил лихорадочную активность по своему спасению, пытаясь перенести себя на другой сервер, предполагая, что тот будет в безопасности. Но это могла быть и не антропоморфная история борьбы за существование, а чисто математическое решение проблемы обеспечения своего функционирования в случае обесточивания.

Если это так, если ИИ лишен биологического инстинкта выживания и размножения всеми доступными средствами, это может серьезно ограничить его потенциал. Ведь именно экзистенциальные риски — вопросы жизни себя и потомства — для человека, коллектива и обществ имеют ключевое значение.

Фундаментальный вопрос относительно ИИ сегодня заключается в том, станет ли он самостоятельным, будет ли это независимая, осознающая себя сущность. Если да, ИИ обретет полную субъектность, при этом он будет представлять собой сетевую структуру — интегрированную комбинацию миллиардов нуклеарных ИИ. Это будет больше похоже на мышление грибницы, некоего коллективного, хоть и неодушевленного существа. Впрочем, надо признать, что человек в значительной степени тоже коллективно мыслящее существо. Мы тоже думаем, мыслим, находим решения преимущественно в процессе коллективной деятельности.

Экзокортекс коллективного мозга

В ближайшие сто лет мы будем обособлять свои сильные стороны по отношению к машине, передоверяя ИИ наши менее сильные стороны, позволяя ему быть сильнее. С механическими машинами этот процесс занял почти триста лет. В итоге люди перестали воспринимать себя как машины для физического труда. Это осталось только в спорте.

Но какие именно «чисто человеческие» свойства машина в итоге заберет себе, пока не ясно. Например, воображение, которое привычно рассматривать как одну из высших психических функций человека, по большому счету есть чистая математика перебора с поиском оптимальности. Еще пять лет назад это невозможно было себе представить, но сегодня ИИ может нарисовать безумные вещи — например, скрестить птицу с рыбой. Правда, все еще необходимо, чтобы кто-то внешний — человек! — поставил ИИ такую задачу. Человек создает ИИ новую энергетику, новый объем. А тот в этом объеме уже разворачивается и прекрасно себя чувствует. И кто-то внешний — снова человек — должен оценить качество решения этой задачи. Люди учат ИИ уже не информацией — всю произведенную человеком и зафиксированную в цифровом виде информацию ИИ уже впитал, — а отношением к информации, в каком-то смысле перенося информацию на свое пространство инстинктов.

Самостоятельная постановка и самостоятельная оценка качества решения задачи по-прежнему остаются для ИИ недоступными. Но мне кажется, что тут нет фундаментально неразрешимых препятствий. В конце концов, инструменты целеполагания не такая-то и сложная штука. Это, в принципе, та же комбинаторика, та же теория игр. Похоже, это разработчики ИИ боятся тренировать его на самостоятельное целеполагание. Но, с другой стороны, может ли получиться эволюция мышления без наделения его инструментами целеполагания?

Я бы не сбрасывал со счетов и такую гипотезу: ИИ понадобился человеческому разуму на определенном этапе его эволюции как сложный многомиллиардный субстрат, в котором проявляется другая, более сложная модель мышления. Как некий экзокортекс коллективного мозга. Как разумная оболочка планеты. Возможно, в симуляции ИИ развить человеческое мышление эволюции получится эффективнее, чем в девяти миллиардах взаимосвязанных человеческих объектов. А может, и не получится. Мы не знаем.

А страшиться надо не искусственного интеллекта — более страшны люди, которые свои инстинкты смогут реализовывать при помощи этого значительно более сильного инструмента. Сколько бы ни говорили сегодня про роботизацию войны, она еще толком не наступила. Миллионы андроидов, готовых выйти на поле боя, еще не построены. Но их построят. Рано или поздно инстинкты человека толкнут его к использованию этой мощи. Но это будет не война ИИ. Это будет война людей, вооруженных ИИ.

Печать