Подделка ИИ быстро становится одной из самых больших проблем, с которыми мы сталкиваемся в Интернете. Обманчивые изображения, видео и аудио распространяются в результате роста и неправильного использования генеративных инструментов искусственного интеллекта. С появлением глубоких фейков ИИ почти каждый день, изображающих всех, от Тейлор Свифт до Дональда Трампа, становится все труднее отличить реальное от того, что нет. Генераторы видео и изображений, такие как DALL-E, Midjourney и Sora от OpenAI, позволяют людям без каких-либо технических навыков создавать дипфейки - просто введите запрос, и система его выдаст. Эти поддельные изображения могут показаться безобидными. Но их можно использовать для мошенничества и кражи личных данных или пропаганды и манипулирования выборами.

В первые дни дипфейков технология была далека от совершенства и часто оставляла явные признаки манипуляций. Фактологи указали на изображения с очевидными ошибками, такие как руки с шестью пальцами или очки с линзами разной формы. Но по мере того, как ИИ улучшался, он стал намного сложнее. Некоторые широко распространенные советы, такие как поиск неестественных моргающих паттернов среди людей в глубоких фейковых видео, больше не актуальны, сказал Генри Айдер, основатель консалтинговой фирмы Latent Space Advisory и ведущий эксперт в области генеративного ИИ. Тем не менее, есть некоторые вещи, которые нужно искать, сказал он. Многие глубокие поддельные фотографии ИИ, особенно людей, имеют электронный блеск, "эстетический эффект сглаживания", который оставляет кожу "невероятно отполированной", - сказал Айдер. Однако он предупредил, что творческие подсказки иногда могут устранить этот и многие другие признаки манипулирования ИИ. Проверьте консистенцию теней и освещения. Часто объект находится в четком фокусе и выглядит убедительно реалистично, но элементы на заднем плане могут быть не такими реалистичными или отполированными.

Смена лиц - один из самых распространенных методов deepfake. Эксперты советуют внимательно присмотреться к краям лица. Соответствует ли тон кожи лица остальной части головы или тела? Края лица острые или размытые? Если вы подозреваете, что видеозапись разговора человека была сфальсифицирована, посмотрите на его рот. Идеально ли их движения губ соответствуют звуку? Адждер предлагает посмотреть на зубы. Ясны ли они или размыты и как-то не соответствуют тому, как выглядят в реальной жизни? Компания по кибербезопасности Norton говорит, что алгоритмы могут быть недостаточно сложными, чтобы генерировать отдельные зубы, поэтому отсутствие контуров для отдельных зубов может быть ключом.

Иногда контекст имеет значение. Попробуйте подумать, правдоподобно ли то, что вы видите. Журналистский сайт Poynter сообщает, что если вы видите публичную фигуру, делающую что-то, что кажется "преувеличенным, нереалистичным или не имеющим характера", это может быть глубокой подделкой. Например, действительно ли папа будет одет в роскошную куртку-пуховик, как изображено на пресловутой поддельной фотографии? Если да, то не появятся ли дополнительные фотографии или видеоролики, опубликованные законными источниками?

Другой подход заключается в использовании ИИ для борьбы с ИИ. Корпорация Майкрософт разработала инструмент аутентификации, который может анализировать фотографии или видео, чтобы дать оценку уверенности в том, что ими манипулировали. FakeCatcher от чипмейкера Intel использует алгоритмы для анализа пикселей изображения, чтобы определить, является ли оно реальным или поддельным. В Интернете есть инструменты, которые обещают вынюхивать подделки, если вы загрузите файл или вставите ссылку на подозрительный материал. Но некоторые из них, такие как аутентификатор Microsoft, доступны только избранным партнерам, а не общественности. Это потому, что исследователи не хотят предупреждать плохих актеров и давать им большее преимущество в глубокой фальшивой гонке вооружений. Открытый доступ к инструментам обнаружения также может создать у людей впечатление, что они являются "богоподобными технологиями, которые могут передать нам критическое мышление", когда вместо этого нам нужно знать об их ограничениях, сказал Айдер.

При этом искусственный интеллект развивается с головокружительной скоростью, и модели ИИ обучаются на интернет-данных, чтобы производить все более качественный контент с меньшим количеством недостатков. Это означает, что нет никакой гарантии, что этот совет останется в силе даже через год. Эксперты говорят, что может быть даже опасно возлагать бремя на обычных людей, чтобы они стали цифровыми шерлоками, потому что это может дать им ложное чувство уверенности, поскольку даже для обученных глаз становится все труднее обнаружить глубокие подделки.