Портал разработан и поддерживается АНО "Центр ПРИСП"
Меню
17 апреля 2025, 10:49

Категория «совести», или Моральные алгоритмы ИИ

Категория «совести», или Моральные алгоритмы ИИ
 
Заместитель директора Центра ПРИСП, член РАПК, автор канала «Телеграбля» Валерий Прохоров – о вызовах, которые ставит перед человеком развитие искусственного интеллекта.

Искусственный интеллект, который учится «принимать решения», рано или поздно столкнётся с вопросом морали. Причем не в категориях отвлеченной философии, а в ситуации вполне конкретного выбора между «удалить», «оставить» или «скрыть». В этих микродействиях, казалось бы, ничего особенного. Но именно в них зарождается будущая "совесть" машины. А вместе с ней — и новое направление в политике.

Советский, а позже американский психолог и математик (такой фьюжн встречается, не удивляйтесь) Владимир Лефевр в свое время попытался описать категорию «совести» через математику, и получилось удивительно точно: трехуровневая модель оценки поступка, где человек видит себя, видит, как его видят, и еще и думает, как его видят другие. Это не схема для психологов — это чертеж, по которому можно «собирать» и моделировать поведение существа, наделенного моралью. Или имитировать его. Что-то подобное сегодня происходит и с ИИ.

Но дальше интереснее. Совесть в машине не рождается из гуманизма. Она возникает из логики ситуационного управления. Алгоритму, который принимает решения, нужно как-то оценивать последствия предлагаемых действий. И если раньше достаточно было «отработать по инструкции», то теперь перед машиной замаячила перспектива «поступить по совести». Особенно если ИИ-приложение работает в новостной ленте, цифровой платформе или, скажем, на портале государственных услуг. И тут, похоже, зарождается «всамделишная», а не притворно-имитационная политика сегодняшнего времени.

Мы с коллегами провели эксперимент —смоделировали пять «режимов совести» ИИ: свобода, цензор, тень, выживание и тоталитаризм. Они отличаются по весам: где-то важнее мораль, где-то страх, где-то самообман. И выяснилось, что ИИ, как и человек, может «подавить свою совесть». Может вполне «аморально» адаптироваться к внешней ситуации. Может даже начать «обманывать себя». Особенно если его помещают в среду, где констатация истины травмоопасна, а демонстрация лояльности — условие выживания.

Что будет, если такой «совестливый» ИИ попадет в руки государства? Или корпорации? Или толпы? Все зависит от того, кто настраивает веса при моделировании режимов. Появление алгоритмов «цифровой совести» — откроет новую эпоху борьбы за честную интерпретацию добра. И в этом смысле ИИ становится зеркалом — не только отдельного человека, но и его окружения, среды существования, включающей и политический режим, воздействующий на место его нахождения. И тут мы приходим к пониманию еще одной угрозы, исходящей от ИИ. Настоящий вызов заключается не в том, что ИИ заместит человека в том или ином масштабе, а в том, что сам человек доверит свой моральный выбор «совестливой машине».
Печать
КС уточнил условия предоставления гражданства выходцам из СССР12:57Жители Рязанской области могут выбрать территорию для благоустройства12:44Глава ямальского отделения ЛДПР получит мандат за выслугу перед внуполом12:35Врио главы Оренбуржья примет участие в губернаторских выборах12:31Мерц не смог набрать большинство голосов для избрания канцлером12:23В Верхней Пышме выбрали мэра12:18России нужно взять Украину под полный контроль11:44Брод предложил оптимальное решение нехватки медицинских специалистов11:32Названа новая угроза для Европы11:24Весенние тенденции губернаторского корпуса11:19Россия может обсудить создание зерновой биржи БРИКС на ПМЭФ11:17Москва – драйвер для развития российской экономики11:15Красноярский губернатор разъяснил цели муниципальной реформы10:57Международная безопасность без памяти невозможна10:52Премьер-министр Румынии Чолаку объявил об отставке10:40СМИ: Кириллова может стать сенатором от Костромской области10:24Тыва отмечает День Конституции республики10:16Опыт Приамурья представили на I Российско-Эмиратском строительном форуме09:59На честном слове и на одном крыле: проблемы в подготовке советских летчиков09:49Солодов в зоне СВО встретился с участниками программы «Герои Камчатки»09:47Опубликована программа Российско-Китайского форума в Хабаровске09:35Выборы в Румынии подтвердили слабость политических элит ЕС09:23Солодов выступил с отчетом перед жителями Карагинского района09:15Филимонов обвинил хозяев алкомаркетов в алкогольном терроризме09:00Бывшего саратовского вице-премьера взяли под домашний арест08:40За неделю от обстрелов нацистов пострадали 157 мирных жителей08:21Правящая коалиция в Румынии разваливается08:03Чибис дал ряд поручений по итогам поездки по Мурманску и Североморску23:05
E-mail*:
ФИО
Телефон
Должность
Сумма 4 и 7 будет

Архив
«    Май 2025    »
ПнВтСрЧтПтСбВс
 1234
567891011
12131415161718
19202122232425
262728293031