Новый алгоритм ИИ научился распознавать искусственные видео с точностью 98%

Недавнее исследование методов обнаружения видео, созданного при помощи искусственного интеллекта, направлено на поиск конкретных маркеров, которых нет в стандартных цифровых изображениях. После запуска таких приложений как Sora и Luma, возникла потребность в создании инструмента, определяющего фальшивый, созданный при помощи ИИ, контент. На данный момент алгоритм способен идентифицировать маркеры, свойственные для искусственных видеороликов с точностью более 98%.

Руководитель проекта Мэтью Стамм, доцент кафедры инженерных наук Университета Дрекселя отметил, что в видео, сгенерированном ИИ, нет никаких свидетельств манипулирования изображениями от кадра к кадру, поэтому для того, чтобы программа обнаружения была эффективной, она должна быть в состоянии идентифицировать новые следы, оставленные тем, как ИИ создает каждый отдельный кадр. 

Новый инструмент, который исследовательский проект использует для борьбы с дипфейками (прим.ред.: дипфейк — это синтез правдоподобных поддельных изображений, видео и звука при помощи искусственного интеллекта), под названием MISLnet, был разработан на основе многолетних данных, полученных в результате обнаружения поддельных файлов. 

Такие инструменты работают, потому что алгоритмическая обработка цифровой камеры создает взаимосвязь между значениями цветов пикселей. Они сильно различаются в изображениях, созданных пользователями и тех, которые были отредактированы, например, в Photoshop. 

Поскольку видео, созданные искусственным интеллектом, не были записаны настоящей камерой, там нет явных различий между значениями пикселей. Именно на этот фактор обращают внимание алгоритмы искусственного интеллекта. MISL превзошла семь других систем видеодетектора с ИИ, правильно определив дипфейки в 98,3% случаев, превзойдя восемь других систем, набравших не более 93%. Об этом сообщает Live Science.