Портал разработан и поддерживается АНО "Центр ПРИСП"
Меню
17 апреля 2025, 10:49

Категория «совести», или Моральные алгоритмы ИИ

Категория «совести», или Моральные алгоритмы ИИ
 
Заместитель директора Центра ПРИСП, член РАПК, автор канала «Телеграбля» Валерий Прохоров – о вызовах, которые ставит перед человеком развитие искусственного интеллекта.

Искусственный интеллект, который учится «принимать решения», рано или поздно столкнётся с вопросом морали. Причем не в категориях отвлеченной философии, а в ситуации вполне конкретного выбора между «удалить», «оставить» или «скрыть». В этих микродействиях, казалось бы, ничего особенного. Но именно в них зарождается будущая "совесть" машины. А вместе с ней — и новое направление в политике.

Советский, а позже американский психолог и математик (такой фьюжн встречается, не удивляйтесь) Владимир Лефевр в свое время попытался описать категорию «совести» через математику, и получилось удивительно точно: трехуровневая модель оценки поступка, где человек видит себя, видит, как его видят, и еще и думает, как его видят другие. Это не схема для психологов — это чертеж, по которому можно «собирать» и моделировать поведение существа, наделенного моралью. Или имитировать его. Что-то подобное сегодня происходит и с ИИ.

Но дальше интереснее. Совесть в машине не рождается из гуманизма. Она возникает из логики ситуационного управления. Алгоритму, который принимает решения, нужно как-то оценивать последствия предлагаемых действий. И если раньше достаточно было «отработать по инструкции», то теперь перед машиной замаячила перспектива «поступить по совести». Особенно если ИИ-приложение работает в новостной ленте, цифровой платформе или, скажем, на портале государственных услуг. И тут, похоже, зарождается «всамделишная», а не притворно-имитационная политика сегодняшнего времени.

Мы с коллегами провели эксперимент —смоделировали пять «режимов совести» ИИ: свобода, цензор, тень, выживание и тоталитаризм. Они отличаются по весам: где-то важнее мораль, где-то страх, где-то самообман. И выяснилось, что ИИ, как и человек, может «подавить свою совесть». Может вполне «аморально» адаптироваться к внешней ситуации. Может даже начать «обманывать себя». Особенно если его помещают в среду, где констатация истины травмоопасна, а демонстрация лояльности — условие выживания.

Что будет, если такой «совестливый» ИИ попадет в руки государства? Или корпорации? Или толпы? Все зависит от того, кто настраивает веса при моделировании режимов. Появление алгоритмов «цифровой совести» — откроет новую эпоху борьбы за честную интерпретацию добра. И в этом смысле ИИ становится зеркалом — не только отдельного человека, но и его окружения, среды существования, включающей и политический режим, воздействующий на место его нахождения. И тут мы приходим к пониманию еще одной угрозы, исходящей от ИИ. Настоящий вызов заключается не в том, что ИИ заместит человека в том или ином масштабе, а в том, что сам человек доверит свой моральный выбор «совестливой машине».
Печать
Молодежь исторических регионов провела первый телемост с ЦИК РФ18:19Защита прав тех, кто получил травмы в аварии18:02Критически обострять ситуацию не в интересах Коновалова17:58Сегодня состоялся масштабный обмен пленными между РФ и Украиной17:31«ВНИИ Экология» заключило соглашение с Минприроды Ростовской области17:11Внимание президента - лучшая поддержка для жителей региона16:51Глава минтруда Магаданской области покидает пост16:37Китай уже выиграл электромобильную гонку в мире16:22Владимирский губернатор рассказал об итогах поездки во Вьетнам16:11Анонс выборов 25 мая15:49Лавров — о готовности РФ подписать мирный договор с Зеленским15:47Крупнейший обмен пленными проходит на границе Украины и Беларуси15:21Меликов назначил врио министра юстиции Дагестана15:05В Евросоюзе обсудят лишение Венгрии права голоса14:46Филимонов обсудил инициативы Вологодчины со спикером Госдумы14:30Кухарук назначил главу департамента региональной безопасности14:15Схемы Юрия Левашкина: что стоит за делом Филатовой?14:11Семь историй подвигов реальных мальчишек и девчонок14:04Минвостокразвития предложило 2026 год объявить Годом Арктики13:48В ОП РФ наградят лучшие клубы по художественной гимнастике13:32Северный морской путь станет международным: Москва делает ставку на БРИКС и ШОС13:29Суд отстранил от должности главу новосибирского минпромторга13:15В РФ составили список из 8 автомобилей, допущенных к работе в такси12:56«ВНИИ Экология» будет сотрудничать с Минприроды Архангельской области12:43Молодой, неокрепший в сознании человек - и все перечеркивать?12:27Ценовая политика должна перестать отпугивать туристов12:19Описание ситуации на Украине в докладе ООН достойно служебного расследования12:15Дмитрий Миляев объяснил рост тульской промышленности12:08
E-mail*:
ФИО
Телефон
Должность
Сумма 6 и 0 будет

Архив
«    Май 2025    »
ПнВтСрЧтПтСбВс
 1234
567891011
12131415161718
19202122232425
262728293031