Дипфейк: что это и как его распознать? Ответственное использование

Короткий ответ: дипфейк - это изображение, звук или видео, созданные или измененные с помощью ИИ так, что они похожи на реального человека, место или событие и выглядят настоящими. Технология используется и в развлечениях, и в творческих проектах, но вред возникает, когда ее применяют без согласия человека и с целью обмана. В этой статье мы объясняем определение, основные риски, способы проверить, настоящий ли контент, и что такое ответственное использование. Статья не является юридической консультацией.

Что именно такое дипфейк?

Закон ЕС об искусственном интеллекте определяет «deep fake» как созданный или измененный с помощью ИИ контент (изображение, звук или видео), который напоминает существующих людей, предметы, места, организации или события и может ошибочно восприниматься как подлинный. Совместная информационная записка NSA, ФБР и CISA рассматривает дипфейк как синтетический или измененный медиаконтент, созданный с помощью машинного обучения или глубокого обучения. Общее в обоих определениях: искусственный контент выглядит реальным.

Не каждое изображение, созданное ИИ, является дипфейком. Явно вымышленная сцена, мультяшная картинка или пейзаж, который ни на кого не похож, не пытаются выдать себя за реальность. Проблема возникает, когда лицо, голос или слова настоящего человека подделываются так, чтобы их приняли за подлинные.

Какой вред может причинить дипфейк?

• Мошенничество: по предупреждению FTC, мошенникам достаточно короткой записи голоса близкого человека, опубликованной в интернете, и программы для клонирования голоса; затем они звонят с просьбой срочно перевести деньги.
• Выдача себя за сотрудников организаций: записка NSA, ФБР и CISA называет среди основных угроз подделку бренда, имитацию руководителей и финансовых сотрудников, а также поддельные сообщения для доступа к сетям.
• Дезинформация: видео или аудио о событии, которого не было, может повлиять на решения людей.
• Ущерб репутации и приватности: показ человека, который говорит или делает то, чего не делал, без его согласия может привести к травле, шантажу и потере репутации.

В записке NSA, ФБР и CISA отмечается, что признаков использования дипфейков государственными злоумышленниками немного, но их применение, вероятно, будет расти, поскольку менее квалифицированные субъекты легко получают доступ к этим технологиям.

Как понять, что контент - дипфейк?

Однозначного метода нет. Иногда помогают такие признаки, как несоответствия в лице, пальцах, ушах, зубах и освещении, рассинхрон губ и голоса, странный фон. Но по мере развития моделей эти признаки становятся менее заметными. Поэтому надежнее не полагаться на глаз, а проверять источник и контекст.

Метод	Для чего полезен?	Ограничение
Проверка источника	Кто опубликовал, где впервые появился, есть ли надежное издание?	Даже надежный на вид аккаунт мог поделиться подделкой
Проверка контекста	Есть ли это событие в других надежных источниках?	С новыми событиями проверка занимает время
Визуальные признаки	Несоответствия рук, зубов, надписей, теней и света	В хороших моделях эти признаки могут быть незаметны
Обратный поиск изображения	Не получено ли изображение из старой фотографии	У новых генераций результатов может не быть
Признаки происхождения	Учетные данные содержимого (C2PA), водяные знаки	Знак можно удалить; его отсутствие не доказывает, что контент настоящий
Обратный звонок (для голоса)	Позвонить человеку по известному номеру	Если не дозвониться, проверьте через другого близкого человека

C2PA - коалиция, которая разрабатывает открытые технические стандарты для происхождения и подлинности контента; страница Content Credentials объясняет признак, который показывает происхождение содержимого, и позволяет изучить, как контент был создан и менялся. На этой странице также признается, что злоумышленники продолжат пытаться выдавать синтетический контент за настоящий. То есть такие признаки помогают, но не являются окончательным доказательством.

Что делать с голосовым мошенничеством?

Рекомендации FTC просты: не доверяйте голосу; чтобы проверить историю, перезвоните человеку по известному вам номеру; если не дозвонились, попробуйте через другого члена семьи или друга; будьте осторожны с просьбами о немедленной оплате, особенно криптовалютой или подарочными картами, поскольку такие переводы трудно вернуть. Если вы столкнулись с мошенничеством, сообщите в соответствующую организацию.

Как использовать ответственно?

• Согласие: если вы используете лицо, голос или внешность реального человека, сначала получите явное разрешение.
• Не причинять вред: не создавайте контент, который унижает, обманывает, преследует или выставляет кого-то соучастником.
• Открытость: публикуя реалистичную сцену, скажите, что она создана ИИ.
• Политики и публичные люди: избегайте контента, который может быть принят за настоящий в контексте выборов и новостей.
• Дети: не создавайте такой контент с участием детей.

Что говорит закон? Пример закона ЕС об ИИ

Статья 50 Закона ЕС об искусственном интеллекте устанавливает обязанности по прозрачности. Согласно статье 50(4), организации, которые используют систему для создания или изменения дипфейка и публикуют такой контент (стороны в роли пользователей), должны раскрыть, что контент был создан или изменен искусственно. Если произведение носит художественный, творческий, сатирический или вымышленный характер, обязанность ограничивается раскрытием наличия такого контента в уместной форме, которая не мешает восприятию или наслаждению произведением. На странице часто задаваемых вопросов Европейской комиссии сказано, что обязанности по статьям 50(2) и 50(4) применяются с 2 августа 2026 года, для систем, выпущенных на рынок раньше, предусмотрен переходный период до 2 декабря 2026 года; также опубликован текст кодекса практики по маркировке дипфейков, касающийся дизайна и размещения. Подробнее см. нашу статью Маркировка AI-контента. Законы других стран могут отличаться; это не юридическая консультация.

Что делать, если вы столкнулись с дипфейком?

1. Не делитесь им: распространение увеличивает вред.
2. Проверьте источник и контекст.
3. Пожалуйтесь через инструмент сообщения платформы.
4. Если затронут личный интерес, сохраните скриншот и ссылку как доказательство.
5. При мошенничестве или шантаже обратитесь в правоохранительные органы и в банк; у таких ведомств, как FTC, есть каналы для сообщений.
6. Если цель - вы или близкий человек, получите юридическую помощь.

Какие меры принять в семье и на работе?

Записка NSA, ФБР и CISA предлагает организациям как технические, так и нетехнические меры: инструменты обнаружения и проверки источника, защиту коммуникаций ключевых лиц, обмен информацией, планирование и отработку ответа на атаки и обучение сотрудников. Эти рекомендации можно адаптировать к своему масштабу.

• Правило второго канала для денег: любой запрос о переводе или изменении реквизитов, пришедший по сообщению, голосу или видео, подтверждайте по другому известному каналу.
• Притормозите при давлении: мошенники используют спешку; требование «сделать немедленно» - тревожный сигнал.
• Поговорите в семье: особенно с пожилыми родственниками объясните, что существует мошенничество с клонированием голоса, и договоритесь о способе проверки; это общая рекомендация.
• Напишите правило в компании: зафиксируйте, кто и по каким каналам подтверждает каждый тип запроса.
• Подумайте о своих записях: публично доступные аудио и видео могут стать материалом для подделки; пересмотрите, что публикуете.

Типичные ошибки

• Полагаться на глаза: хороший дипфейк может быть незаметным.
• Отправлять деньги, узнав голос: голос можно клонировать; всегда перезванивайте.
• Считать, что нет водяного знака, значит контент настоящий: знаки могут быть удалены или не добавлены.
• Делать «шутку» с чужим лицом без согласия: вред не зависит от намерения.
• Делиться без проверки: ложная информация быстро распространяется.

Насколько надежны метки и водяные знаки?

Метка «создано с помощью ИИ» полезна как подсказка, но ее отсутствие не доказывает, что контент настоящий: недобросовестные люди не ставят метки или пытаются удалить знак. Верно и обратное: метка может быть подделана. Поэтому метки должны дополнять, а не заменять проверку источника и контекста. Правила маркировки описаны в статье Маркировка AI-контента.

Итоги

• Дипфейк - созданный или измененный ИИ контент, похожий на реального человека или событие и выдаваемый за настоящий.
• Основные риски: мошенничество, выдача себя за других, дезинформация и ущерб репутации.
• Визуальный осмотр ненадежен; проверяйте источник, контекст и звоните по известному номеру.
• Метки и водяные знаки помогают, но не являются окончательным доказательством.
• Ответственное использование: согласие, отсутствие вреда и открытость.