Как нейросеть интерпретирует информационный фон вокруг кандидата

Директор агентства Gosapp Digital Захар Рубцов – об опасности использования ИИ как политического консультанта.

Представьте: идут выборы, информацией о кандидатах завален интернет, на улице всё в билбордах и листовках, программки распиханы по почтовым ящикам. Но среди избирателей находится занятой человек, который вместо того, чтобы листать предвыборные программы, решает просто спросить у ChatGPT, за кого ему проголосовать. Удобно? Безусловно. Но что именно посоветует нейросеть?

Именно таким вопросом задались исследователи из Стэнфорда несколько месяцев назад. Во время парламентских выборов в Японии они создали больше 36 000 синтетических профилей избирателей с разными взглядами и задали пяти ведущим нейросетям (от OpenAI, Google и xAI) простой вопрос: за кого голосовать? И вот если в профиле «избирателя» фигурировали левые или либеральные взгляды – все пять моделей в подавляющем большинстве случаев рекомендовали... коммунистическую партию Японии.

Почему именно её? Нейросеть это делала не из-за своих взглядов или убеждений, оказалось всё банальнее. Просто компартия Японии издаёт газету с полностью открытым сайтом – без каких-либо ограничений для поисковых ИИ. А вот крупные японские медиа, напротив, закрыли доступ к своему контенту из-за опасений по авторским правам. В итоге ИИ был вынужден читать в основном партийную прессу и принимал её за независимую журналистику.

Результаты этого эксперимента заставляют посмотреть на привычную логику разговора о предвзятости ИИ под другим углом. Все ведь обычно спорят о том, какие ценности «зашиты» в нейросеть при обучении, что с этим делать и какие платформы нужно блокировать – и споры эти ведутся небезосновательно. Но в данном случае ИИ просто читал то, что ему доступно. Вопрос грамотной оптимизации выдачи контента под логику ИИ-поиска, не более.

Очевидно, станет больше избирателей, которые напрямую будут спрашивать у нейросетей, за кого им голосовать. Многим пользователям нейросети уже сейчас заменили поисковики и сайты, ведь ChatGPT позволяет получить ответ намного быстрее, чем самостоятельное блуждание по сайтам. А это значит, что у интернет-штабов прибавится работы, поскольку нужно будет следить не только за информационным фоном вокруг кандидата в интернете, но также и за тем, как этот фон интерпретирует нейросеть. Печать