GPT-4o взламывает реальность

Член СПЧ, глава «Белого Интернета» Элина Сидоренко - о том, как ИИ подделывает документы даже с защитой.

Новый GPT-4o научился создавать идеальные подделки документов — от паспортов до медицинских справок. И это не фейк: даже вшитые разработчиками метаданные стандарта C2PA не всегда спасают.

OpenAI заранее предвидела злоупотребления, поэтому каждая сгенерированная картинка помечается «цифровым водяным знаком» (C2PA), который показывает: «ЭТО СОЗДАЛ ИИ».

❕Но есть лайфхак для мошенников: достаточно сделать скриншот изображения — и метаданные исчезнут. Новый файл будет «чистым», как будто его нарисовал человек.

Теперь мошенники могут подделывать договоры, чеки, даже судебные документы. Очевидно, что такое технологии такие технологии упростят отмывание денег, шантаж и взлом систем.

Что же делать?

- Всегда проверяйте источник файла (особенно в соцсетях и мессенджерах);
- Используйте инструменты вроде Adobe Content Credentials для анализа метаданных;
- Не верьте «официальным» документам из непроверенных чатов. Печать