Microsoft распространяет инструмент обнаружения Deepfake

Учитывая, насколько дипфейки потенциально разрушительны для чьей-то репутации и их трудно обнаружить, когда все сделано правильно, они представляют собой серьезную проблему для безопасности. Теперь Microsoft стремится помочь остановить дипфейки, выпуская инструмент, который может их обнаружить.

Угроза, исходящая от дипфейков, настолько велика, что Facebook запретит весь контент Deepfake. Однако самым большим препятствием является то, насколько дипфейки выглядят убедительно; Таким образом, найти и подтвердить дипфейк очень сложно.

Facebook запрещает дипфейки и фотошопы

Facebook запрещает дипфейки и фотошопы. Идея состоит в том, чтобы удалить манипулируемые медиа, предназначенные для обмана пользователей.

Как сообщается на Microsoft о проблемах, компания хочет изменить это с помощью своего нового инструмента. Он называется Microsoft Video Authenticator и анализирует видео на предмет «швов», оставшихся после создания дипфейка. Эти швы невидимы для человеческого глаза, но компьютер может обнаружить их с помощью покадрового анализа.

Чтобы предотвратить реверс-инжиниринг технологии вредоносными агентами, Microsoft Video Authenticator не будет общедоступной версией. Вместо этого Microsoft распространяет свою систему среди новостей и политических организаций. Таким образом, эти организации могут использовать этот инструмент, чтобы отделить реальное от подделки.

Однако Microsoft анонсировала вторую технологию выявления дипфейков. Компания предлагает систему, в которой создатель контента может пометить свои видео уникальной «подписью». Если видео редактируется, оно будет генерировать подпись, отличную от оригинала, таким образом идентифицируя дипфейк.

Автор Deep Fakes and the Infocalypse Нина Шик сказала следующее:

Единственное действительно широкое применение мы видели до сих пор находится в неконсенсуальной порнографии в отношении женщин. Но ожидается, что синтетические носители станут повсеместными примерно через три-пять лет, поэтому нам необходимо развивать эти инструменты в будущем. Однако по мере того, как возможности обнаружения улучшаются, улучшаются и возможности генерации - это никогда не произойдет. будет тот случай, когда Microsoft может выпустить один инструмент, который может обнаруживать все виды видео манипуляции.

Дипфейки - серьезная проблема для авторитета СМИ, и компаниям нужен способ скажи, что реально, от того, что вымысел. Microsoft выпустила инструмент для поиска отредактированных видео. Однако еще предстоит увидеть, будет ли этого инструмента достаточно, чтобы не отставать от разработчиков дипфейков.

Если вы не знаете, что такое дипфейки и почему они имеют значение, определенно стоит потратить некоторое время, чтобы узнать о них. Дипфейки готовы стать в этом десятилетии эквивалентом «фотошопов» и могут нанести серьезный ущерб при злонамеренном использовании.

Объяснение Deepfakes: ИИ, который делает фейковые видео слишком убедительными

Созданные искусственным интеллектом поддельные видео полностью подрывают наше понимание мировых событий. Вот как дипфейки могут все изменить.

Об авторе