Эпоха синтетического контента

Как отличать правду от ИИ-фейков · Урок 1 / 20

Что изменилось на самом деле

Подделки существовали всегда: ретушь, монтаж, вырванные из контекста цитаты. Изменилось не то, что подделка стала возможна, а сколько она стоит. Убедительный фейк раньше требовал навыка, времени и денег — теперь минуты и нулевой квалификации.

Из этого следует всё остальное. Раньше подделку делали ради крупной цели, потому что она дорого обходилась. Теперь её делают ради мелкой: обмануть одного человека на небольшую сумму, накрутить отзывы, поднять охват. Объём вырос на порядки, а качество отдельного экземпляра выросло настолько, что старые способы распознавания перестали работать.

Три вещи, которые перестали быть признаками правды

Грамотность. Опечатки и корявый язык больше не выдают мошенника — текст пишет модель.
Наличие фотографии. «Есть фото» ничего не доказывает уже несколько лет.
Знакомый голос. Голос клонируется по короткой записи, и по телефону разница неразличима.

Каждый из этих признаков люди используют автоматически, не задумываясь. Именно поэтому обновить их так трудно: сознательно вы согласны, что фото ничего не доказывает, а реагируете по-старому.

Чему теперь верить

Проверка сместилась с содержимого на происхождение. Не «выглядит ли это настоящим», а «откуда это взялось, кто первым опубликовал, подтверждает ли это кто-то независимый». Это единственный подход, который не устаревает с выходом следующей модели.

Чего не нужно делать

Не пытайтесь стать экспертом по артефактам генерации. Признаки, по которым сегодня видно подделку, через год исчезнут — а привычка доверять своему глазу останется и станет опасной. Лучше вложиться в привычку проверять источник: она работает всегда.

Инсайт. Изменилась не возможность подделки, а её цена. Поэтому фейки теперь делают ради мелких целей — и объём вырос сильнее, чем качество.

Частая ошибка. Учиться распознавать подделки «на глаз». Признаки генерации устаревают с каждой моделью, а выработанная уверенность в своём глазе остаётся и подводит.

Про-совет. Переносите проверку с содержимого на происхождение. Вопрос «откуда это взялось» не устаревает, а вопрос «похоже ли на настоящее» устаревает каждый год.

Шпаргалка

Подделка подешевела — выросли объёмы и мелкие цели.
Грамотность, фото и голос перестали быть доказательствами.
Проверять происхождение, а не внешний вид.
Навык «вижу подделку» устаревает, навык проверки — нет.

1. Что изменилось главным образом?

2. Почему опасно учиться распознавать фейки на глаз?

3. Куда сместилась проверка?

Задание — проверяет ИИ

Вспомните три случая за последний год, когда вы во что-то поверили в интернете, а потом выяснилось, что это неправда (или наоборот — усомнились в подлинном). По каждому разберите: что именно заставило вас поверить или усомниться, был ли среди этих причин один из трёх устаревших признаков (грамотность, наличие фото, знакомый голос), и какой вопрос о происхождении вы могли бы задать тогда.

🔒 Ответьте на вопрос верно, чтобы перейти к следующему уроку.