Вместе с экспертами Института системного программирования РАН разработчики «Яндекса» моделируют систему маркировки фото, видео и аудио. С её помощью можно будет не только помечать сгенерированный контент, но и распознавать его среди других материалов.
Для этого в контент будет внедряться артефакт-маркер — своеобразный «водяной знак», невидимый и неслышимый. Метку нельзя будет ни закрасить, ни удалить, поэтому система сможет отслеживать её наличие и делать вывод о «сгенерированности» материала.
В настоящее время дипфейки и другие созданные ИИ файлы выявляются вручную специалистами по информационной безопасности. Эксперты отслеживают дрожание изображения, запаздывание речи, склейки и нарушение потока аудиодорожек. Каждый случай требует времени.