Дипфейки и дезинформация
На протяжении почти всей истории человечества фотография или запись чьего-то голоса считались доказательством. Если вы видели видео, на котором человек что-то говорит, вы верили, что он это сказал. Это старое правило больше не работает.
Генеративный искусственный интеллект (generative AI) способен подделывать лица, голоса, фотографии и видео так, что они выдержат беглый взгляд. Это не научная фантастика и это не редкость — обычных людей уже обманывают, ставят в неловкое положение и вводят в заблуждение с помощью таких подделок. Хорошая новость: чтобы защитить себя, вам не нужно становиться экспертом-криминалистом. Вам нужна привычка проверять, и этот урок даёт вам такую привычку — она работает даже тогда, когда подделки становятся всё лучше.
- Объяснять, что такое дипфейк, и различать два его вида: подмену лица или голоса реального человека и полностью синтетический образ человека, которого никогда не существовало.
- Описывать простыми словами, на уровне интуиции, как создаются такие подделки — достаточно, чтобы понять сами возможности технологии, но без инструкции по их изготовлению.
- Называть основные виды вреда — мошеннические звонки с клонированным голосом, поддельные заявления, изображения без согласия, сфабрикованные «доказательства» и коварный дивиденд лжеца (liar's dividend).
- Объяснять, почему наш мозг попадается на это, и отличать ложную информацию (misinformation) от дезинформации (disinformation).
- Применять метод SIFT к подозрительному фото или видео, читать латерально, как проверяющий факты, и выполнять обратный поиск изображений.
- Следовать личному чек-листу «прежде чем поделиться» и установить семейное кодовое слово против голосового мошенничества.