Иллюзия истины, или Что предлагает человеку нейросеть

Заместитель директора Центра ПРИСП, член РАПК, автор канала «Телеграбля» Валерий Прохоров – о поиске информации с помощью нейросети.

В последние время всё чаще попадается на глаза слово «нейровыдача». Этим термином назвали новый тренд в поисковой выдаче, когда машина решает, что тебе знать.

Искусственный интеллект стремительно меняет привычные нам процедуры «гуглинга». Раньше поисковики давали десятки ссылок, и ты сам выбирал, что читать, кому верить, в какой из предложенных источников знаний углубиться для нахождения точного ответа на вопрос. Теперь всё иначе: поисковая строка всё чаще отвечает сама, коротко, уверенно, как бы навязывая алчущему истину в последней инстанции. Эта новация в технологии и называется нейровыдачей: теперь вместо подборки сайтов ты получаешь готовый ответ от нейросети.

Вроде бы всё выглядит очень удобно. Но есть нюанс: ты не знаешь, откуда берётся ответ на интересующий тебя вопрос. Он запросто может быть собран из обрывков сообщений с форумов, Дзена, блогов или рекламных текстов. Машина скомпоновала — человек прочитал и... поверил. Без проверки источников, без понимания контекста, без критики.

Некоторые эксперты считают, что нейровыдача запустит тихую, но глубокую деформацию мышления. Раньше мы учились сравнивать, проверять, сомневаться. Теперь нам предлагают просто воспринимать и верить на слово нейросетям, которые, может, и не врут намеренно, но довольно часто искренне заблуждаются. Есть риск утонуть в пучине нейросетевых иллюзий и заблуждений.

Нейровыдача — это не просто удобная функция. Это очень похоже на способ манипуляции сознанием, при котором твоё мнение начинает окажется сформированным ещё до того, как ты успел задуматься на ту или иную тему. Если так пойдёт дальше, мы рискуем оказаться в ситуации Вовки в Тридевятом царстве, где мы видим мир глазами нейросетевых «двоих из ларца одинаковых с лица» и не вполне адекватно его воспринимаем.