Смена приоритетов: кибернетика вместо ИИ?

Политолог, публицист Александр Механик и директор Института проблем управления РАН, академик Дмитрий Новиков – об ажиотаже вокруг ИИ и о том, почему современные дети не умеют доказывать теоремы.

Развитие управляемых систем — от атомных реакторов и космических кораблей до станков с ЧПУ и роя дронов и даже биологических и социальных систем — определило круг задач, составивших предмет приложения математической теории управления. Ведущим центром ее развития стал еще в Советском Союзе и остается в современной России Институт проблем управления (ИПУ) РАН. В июне этого года ему исполняется 85 лет.

А несколько лет назад академик РАН Дмитрий Новиков, возглавляющий ИПУ с 2016 года, издал книгу о кибернетике, которую многие ассоциируют с теорией управления. Мы решили побеседовать с директором ИПУ о главных тезисах его книги и о том, чем сегодня занимается институт.

— Есть ли разница между этими двумя науками — кибернетикой и наукой управления? Или это просто разные названия одного и того же?

— Кибернетику можно понимать в двух смыслах. В первом смысле — как зонтичный бренд, который включает в себя теорию управления, теорию связи, информатику с различными отраслевыми направлениями: есть техническая кибернетика, есть экономическая кибернетика, есть биологическая кибернетика, космическая, военная и так далее.

А во втором смысле можно понимать кибернетику узко, как конкретную науку со своим корпусом результатов. Здесь кибернетике есть чем похвастаться, но не очень многим, потому что этот корпус результатов включает в себя лишь общие законы и закономерности, принципы управления, такие как принцип обратной связи, принцип адекватности и так далее. То есть принципы общеметодологического уровня. Следовательно, кибернетика как зонтичный бренд включает в себя теорию управления и многое другое, а кибернетика как наука в узком понимании является частью теории управления. Такая диалектическая взаимосвязь.

— Кибернетика долгое время была в центре внимания и в Советском Союзе, и во всем мире, ее воспринимали так же, как сейчас, наверное, искусственный интеллект — как науку, которая все решит…

— Да. Это вообще общий цикл развития науки и технологий. Если посмотреть те же гартнеровские кривые для различных технологий, того же искусственного интеллекта, то на них легко видеть первоначально медленное развитие, потом всплеск, завышенные ожидания, спад и выход на какой-то уровень продуктивности. Кибернетика пережила тот же цикл. В 1960-е, 1970-е и, наверное, в самом начале 1980-х годов была некоторая эйфория и ожидание, что очень многие проблемы удастся решить, потому что действительно многие проблемы успешно решались с помощью кибернетики — в технических системах были достигнуты очень большие успехи в области управления и связи. А кибернетика — это наука об управлении и связи в человеке, животном, машине и обществе, как говорил ее отец-основатель, который книжку свою издал в 1948 году, я имею в виду Норберта Винера.

Потом был период разочарований, потому что ожидания были завышенные. И все, кто были апологетами, начали ее критиковать. Сначала каяться, потом критиковать. Сейчас ситуация, наверное, стабилизировалась. Десять лет назад, когда я писал свою книжку, мне казалось, что нас неизбежно, как и в других науках, как в том же искусственном интеллекте, ожидает очередной всплеск кибернетики. Быть может, за счет каких-то прорывов в управлении и связи в социальных и живых системах. За эти десять лет я своей оценки не изменил, но пока такого «выстрела» не произошло. Я надеюсь, что произойдет, и еще через десять лет мы будем говорить про кибернетику и еще что-то, забыв про искусственный интеллект и квантовые технологии, так же как сейчас говорим о них, забыв о нанотехнологиях. Такая смена приоритетов — это нормально.

— А что нового вносит в науку об управлении искусственный интеллект?

— Не люблю я очень этот термин, хотя ему уже много лет, его придумали в 1956 году. И было несколько периодов ажиотажа вокруг него. Но на сегодняшнем всплеске пока ничего, кроме информационного шума, эйфории у обывателей и, к сожалению, у чиновников, он не привнес. Задачами принятия решений, управлением в условиях неполной информации, в условиях неопределенности, моделированием автономного поведения занимались в течение последних шестидесяти лет, не называя это этим модным словом. И дальше будут заниматься. Поверьте, эта пена сольется, реальность останется. Девяносто девять процентов задач теперешнего искусственного интеллекта — это задачи распознавания образов. Такие задачи сформулированы в 50-е годы прошлого века, в 60-е годы появились первые работы, в том числе в стенах нашего института. Например, метод потенциальных функций в задачах обучения машин.

Сейчас еще часто, но ошибочно отождествляют искусственный интеллект с нейронными сетями. Да, нейронные сети стали сложнее, соответствующие вычислительные мощности несоизмеримы, стали на много порядков дешевле, они более энергоэффективны и так далее. Да, это новые возможности. Но с точки зрения науки ничего принципиально нового там нет.

— Недавно вышла книга французского философа Гаспара Кёнига «Конец индивидуума», посвященная искусственному интеллекту. Он задается вопросом, в чем состоит угроза искусственного интеллекта, которую сейчас активно обсуждают. И он приходит к выводу: главная угроза в том, что он лишает человека свободы воли — человек слаб и предпочитает пользоваться советами искусственного интеллекта, а не думать сам.

— Давайте с вами посмотрим на историю человечества немножко поглубже. Когнитивные возможности человека вряд ли сильно поменялись с биологической точки зрения за последние 30 тысяч лет. Как писал уже упомянутый Норберт Винер, последним человеком, который мог охватить всю совокупность знаний человечества, был Лейбниц. Дальше объем информации начал так возрастать, что люди начали становиться все более узкими специалистами. И так было, по крайней мере, точно до 70‒80-х годов прошлого века.

А потом люди все больше стали приходить к мысли, что думать-то тяжело, затратно, в том числе с энергетической точки зрения, биолого-энергетической, и вообще лень. Поэтому человек начал потихонечку все больше лениться и все больше полагаться на мнение специалистов. А потом «специалистов» в кавычках, потом экспертов, а потом «экспертов» в кавычках.

С одной стороны, это объективный процесс: нельзя профессионально разбираться во всем. С другой стороны, информационно-коммуникационные технологии, и искусственный интеллект здесь ни при чем абсолютно, ведь они только дали возможность быстро обращаться к информации. Зачем тогда думать? Калькулятор, ставший массовым, отбил у детей мотивацию учить таблицу умножения. Я не говорю о политической составляющей. Давайте вспомним Шварца «Убить дракона»: надо заниматься детьми; если мы хотим кого-то ослабить, то давайте вырастим у него поколение, которое не хочет интересоваться причиной явлений, устройством окружающего мира, а будет потребителем. И этим поколением уже можно будет управлять. Мы, к сожалению, на эту удочку попались. И в результате вот что наблюдаем: думать лень, мотивации никакой, доступ к информации легчайший. Искусственный интеллект — да, чуть быстрее и в какой-то более понятной форме даст ответ на вопрос, но не более того. Это бантик сбоку. Даже если бы его не было, эта устрашающая тенденция была бы. Это угроза как результат развития технологий последних пятидесяти лет. А искусственный интеллект — еще одна мелочь в копилку.

Вред искусственного интеллекта заключается в завышенных ожиданиях и в повышенном внимании к нему со стороны властей. Конечно, правильно вкладывать деньги в новые технологии, но акценты нужно расставлять с умом, обращаясь к реальным специалистам, а не к «экспертам». Рынок труда в этой области перегрет. У меня аспирант первого года ушел в одну высокотехнологичную государственную компанию на 500 тысяч рублей заниматься искусственным интеллектом. Что аспирант первого года делает такое, что стоит полмиллиона рублей в месяц? И эта ситуация массовая для рынка труда в этой области в Москве и в крупных городах, куда со всей страны толковые ребята приезжают и занимаются этими временными поверхностными задачами.

— А что сейчас находится на острие исследований и разработок вашего института?

— С одной стороны все, что было традиционными направлениями наших разработок с момента создания института: авиация, космос, морские объекты, промышленность, энергетика — все это продолжается, все это востребовано, причем востребовано в виде хоздоговоров с теми или иными заказчиками. Тенденция последних, наверное, десяти лет, особенно проявившаяся с началом специальной военной операции, — это переосознание роли робототехники и роботов, в первую очередь роботов на поле боя. Ведь традиционно средство поражения должно стоить на два-три порядка дешевле, чем поражаемый объект. Например, пушка со всеми снарядами существенно дешевле, чем танк, по которому она стреляет.

А беспилотник — безумно простое дешевое устройство, для борьбы с которым нужно привлекать столько сил и средств, что это превышает его стоимость на три-четыре-пять порядков. Несуразица! А ученые и инженеры пропустили этот эффект, не спрогнозировали вовремя.

Отчасти это можно объяснить тем, что сейчас технологии развиваются быстрее, чем мы успеваем осознать их плюсы или минусы. Всегда в истории человечества, на всем протяжении развития науки и технологий люди осознавали и формулировали, чего они хотят, потом развивали науку и технологии для удовлетворения своих познавательных и потребительских потребностей. А с конца прошлого века и тем более сейчас мы наблюдаем появление новых изделий, новых возможностей, технических и технологических, о которых мы и не думали. Иногда они являются побочным продуктом какой-то научно-технологической деятельности, и мы совершенно не успеваем осознать их возможности и опасности, которые они несут. Мы с вами пользуемся сотовым телефоном, понимая, что, может быть, это вредно, но не прошло еще достаточно времени, чтобы оценить эту вредность. Вред тех же социальных медиа колоссален для подрастающего поколения и для системы образования. Мы это осознаем? Не уверен.

Так же, видимо, произошло и с дронами. Массовая технология, возможность их военного применения, о котором наши специалисты говорили, но, знаете, пока жареный петух не клюнет, мужик не перекрестится, если комбинировать сразу две поговорки вместе. Никому в голову просто не приходило, что эти прогнозы, которые делались нашими коллегами и сотрудниками пять-семь лет назад, реализуются. Сейчас мы это расхлебываем.

И это большой вызов для современной науки, потому что сейчас над этими задачами работают и математики, и аэродинамики, и специалисты по связи, по радиоэлектронной борьбе и так далее, и задача пока далеко не решена.

— Какие, с вашей точки зрения как директора института, сейчас проблемы у российской науки в целом? В плане финансирования, кадров, международных связей, оборудования — в общем, того, что постоянно обсуждается.

— Что касается системы планирования, обеспечения приборами, вряд ли я могу говорить за всю российскую науку, но я примерно представляю, что происходит в области математической теории управления, за которую отвечаем мы, потому что наш институт — лидер в этом направлении в стране. С моей точки зрения, в этом направлении в последнее время ведется очень правильная государственная политика. То есть та, которая реализуется в первую очередь Министерством науки и высшего образования при взаимодействии с Российской академией наук. Программы обновления приборной базы, те или иные виды грантов, мегагрантов, технологических грантов, поддержка передовых инженерных школ и так далее — очень правильная система мер. И это уже дает эффекты. Конечно, хотелось бы, чтобы там денег было побольше. Конечно, хотелось бы, чтобы победителей в этих конкурсах было побольше. Но в принципе направление и механизмы очень правильные. И дай бог только, чтобы это дело продолжалось. Пока я бы здесь вообще ничего не менял.

Что касается международного сотрудничества, взаимодействия с нашими коллегами за рубежом, то проблемы с началом СВО, конечно, возникли: отклоняют статьи, поданные доклады на конференциях по причине аффилиации авторов с Россией. Тем более что наш институт входит в реестр оборонно-промышленного комплекса, мы находимся под всевозможными санкциями. Честно говоря, это не очень ощущается. Возможность коммуникаций, конечно, уменьшилась. Но я уверен, что это проблема временная и ситуация рано или поздно изменится в лучшую сторону.

А третий аспект, который вы упомянули, кадровый, я бы рассмотрел поглубже. Потому что, наверное, он сейчас для российской науки самый больной, как и для любой отрасли. Потому что конкретные результаты получают конкретные люди. Иосиф Виссарионович человек был мудрый, он говорил: «Кадры решают все». Они действительно решают все. А ситуация уже десять-пятнадцать лет назад стала плачевной. Именно тогда в кадровом составе проявился провал в возрасте тех, кому сейчас сорок‒шестьдесят лет. Тех, кто ушел из своей профессиональной деятельности в конце 1980-х — начале 1990-х годов. И это коснулось не только науки — и инженерии, и высшей школы, и культуры, и чего угодно.

Если говорить о нашем институте, то возрастное распределение сотрудников — от 20 до 80 лет, и сейчас наша стратегическая задача в области кадров — постепенно выйти на более или менее равномерное распределение сотрудников по возрастам. Значит, надо обеспечивать приток к нам новых сотрудников из числа выпускников вузов. У нас порядка тысячи сотрудников. Значит, для решения этой задачи необходимо, чтобы к нам каждый год приходило работать не менее 20 человек, которых нужно удерживать.

И здесь есть такое соображение. Наверное, любой человек с хорошим образованием, в принципе, способен работать ученым, но не для любого человека это наилучшая для него и приносящая наибольшее удовлетворение специальность. Понять, что человеку по душе, а что не по душе, можно только попробовав. Значит, нужен еще больший поток тех, кто пробует. Наш опыт последних лет говорит, что КПД вот этого «пробования» примерно 10‒15 процентов. Значит, для того чтобы осталось 20 человек, нужно иметь 120 человек на входе. Сейчас у нас в год на практику приходит порядка 120‒130 студентов из разных вузов. Это Физтех, где у нас базовая кафедра, МГУ — с физфака и с ВМК, Бауманка, МАИ, МЭИ, МИРЭА, «Станкин». Тех ребят, которым интересно, и от них есть польза, берем на полставки в соответствующую лабораторию, где работает их научный руководитель. Затем — аспирантура и так далее. Такой поток должен быть постоянным и системным.

— Какие еще инструменты используете для решения кадровой проблемы?

— В последние пять лет запустили в том числе Центр молодежного инновационного творчества, который работает со школьниками. Мы находимся в очень хорошем взаимодействии и со многими московскими школами, и с департаментом образования правительства Москвы. То есть уже школьник имеет возможность посмотреть, а что такое академический институт. Походить, поинтересоваться, посмотреть, что за люди здесь работают. Интересно, что занятия в этом центре с большим удовольствием ведут и стар и млад, начиная с аспирантов и заканчивая маститыми профессорами, у которых тоже глаза загораются, когда они видят, что у детишек глаза горят. Выпускники центра поступают в вузы по договорам целевого набора с нашим институтом. Сейчас их пока немного, но уже есть 15 целевиков, которые учатся в вузах, и мы надеемся, что они или большая часть из них попадут в эту кадровую «воронку». То есть система достаточно сложная и комплексная.

Вторая составляющая кадровой проблемы — экономическая. Последние годы с появлением майских указов, которые президент страны издал в 2012 году, об обеспечении достойной заработной платы, в том числе ученым, и которые действуют до сих пор, ученые, конечно, стали чувствовать себя гораздо лучше. Конечно, хотелось бы большего. Но тут многое зависит уже от нашей инициативы, от тех грантов и договоров, которые удастся добавить к тому, что дает государство на развитие фундаментальной науки.

И сложность работы с молодым поколением, которое еще не совсем определилось со своей траекторией, идти ли им в науку, задерживаться ли в ней, заключается в том, что молодые люди имеют достаточно короткий горизонт принятия решений. Они общаются со своими друзьями, однокурсниками, узнают, кто где работает, подрабатывает, кто сколько получает. Мерило «сколько ты сегодня получаешь» иногда является решающим, если ты не смотришь вдаль. А если посмотреть вдаль: а чем ты будешь заниматься и сколько ты будешь получать через пятнадцать лет, через двадцать лет? а будет ли тебе интересно заниматься этим же самым всю свою жизнь? — вот как только эти соображения включаются в рассмотрение, тут наука начинает сильно выигрывать, потому что заниматься наукой всегда интересно, потому что всегда делаешь что-то новое. А ученые никогда не являлись самым богатым слоем общества, но чувствуют себя, по крайней мере сейчас, относительно достойно.

Мы, научные руководители конкретных мальчишек и девчонок, как можем пытаемся им все это объяснить. Конечно, студент — это не старший подросток, это уже сформировавшаяся личность, но пока они своих шишек не набьют, они не поверят. Стараемся убеждать ребят задумываться над тем, кем они будут через пятнадцать-двадцать дет.

— А как вы оцениваете уровень подготовки школьников и студентов? Недавно у нас была опубликована статья известного педагога Сергея Рукшина, который воспитал двух филдсовских лауреатов. Он считает, что сейчас уровень подготовки школьников и студентов, за исключением некой когорты уже ориентированных сознательно на науку, очень сильно упал, что в школе плохо преподают математику, естественно-научные дисциплины.

— Я возглавляю кафедру интегрированных киберсистем на Физтехе и имею дело с потоком студентов, которые к нам приходят. Кроме того, у меня дочка старшеклассница. Хочу сказать: то, что творится со школой в последние двадцать-тридцать лет, — это вредительство на государственном уровне. Причем это не дурь, это не глупость. Давайте разделять глупость и умысел. Это не глупость. Потому что только глупостью объяснить это нельзя. И виноваты в этом не дети — дети такие же. Не родители, не учителя, которым памятник надо ставить. А система, которая навязывает новые программы, новые организационные формы, забюрокрачивает деятельность учителей. В итоге получается черт-те что. Учителя безумно устают, дети ничего не знают и устают, как не устают взрослые. То есть с физиологической, с когнитивной точки зрения нагрузка на современных школьников безумная, по сравнению с теми, например, временами, когда мы с вами учились. А знают они в итоге гораздо меньше.

И то клиповое мышление, которое уже заразило наших детей, очень затрудняет обучение. Потому что для того, чтобы освоить некоторую логическую цепочку, проследить, понять и уложить в голове, нужна концентрация внимания. И дети, и мы с вами отвыкаем от концентрации внимания. Коллеги-математики жалуются, что становится все меньше и меньше «детей» — студентов, аспирантов, — способных к доказательству теорем. Доказательство теорем требует концентрации. И будем честными перед самими собой: если мы пишем — я научную статью, а вы готовите какую-то публикацию — работаем, работаем, и вдруг — бах! — надо в почту залезть. Есть такое? Или телефон посмотреть. А вдруг мне кто-то звонил, а я пропустил? Или мне эсэмэска какая-то пришла? Ничего не произойдет, если вы этого не сделаете. Но, отключаясь от своей деятельности, разрывая ее, вы безумно теряете свою эффективность удержания логической цепочки в голове и способность продуцировать сложные интеллектуальные конструкции. Но что поделать! Это новая объективная реальность, и в ней нам надо жить и управлять.

Ранее опубликовано на: https://stimul.online/articles/interview/cherez-desyat-let-vse-opyat-zagovoryat-pro-kibernetiku/

Печать