В России появится сервис для маркировки ИИ‑контента и его выявления

Яндекс совместно с Институтом системного программирования Российской академии наук (ИСП РАН) разрабатывает систему маркировки для фото-, видео- и аудиоконтента, сгенерированного искусственным интеллектом (ИИ), в частности нейросетью Яндекса для генерации картинок «Шедеврум». Сроки готовности разработки в компании не уточнили.

«Мы планируем внедрять такие инструменты в наши сервисы», — заявил представитель Яндекса. Чтобы сервис мог распознавать изображения или видеоконтент, созданный с помощью ИИ-моделей других компаний, должен быть отраслевой стандарт генерации ИИ-контента, объяснил представитель Яндекса.

Совместная разработка ИСП РАН и Яндекса основана на внедрении невидимых цифровых водяных знаков (digital watermarking) в ИИ-контент, знает директор департамента расследований T.Hunter Игорь Бедеров. Технология предполагает два направления исследований: во-первых, это стеганографические метки, когда в пиксели изображений, аудиодорожки или кадры видео внедряются алгоритмические паттерны, незаметные для человека, но детектируемые специальными инструментами, поясняет эксперт. «Злоумышленники могут пытаться удалить водяные знаки через преобразования контента (сжатие, кадрирование, фильтры), однако современные методы (например, устойчивые к искажениям квазихаотические паттерны) усложняют это», — добавляет он.

Во-вторых, продолжает Бедеров, технология предполагает обнаружение артефактов генерации, т. е. статистических следов в контенте, которые остаются при работе нейросетей. Использование adversarial-атак — внесение в контент помех, сбивающих алгоритмы распознавания, вероятно, будет использовано для противодействия детекции, рассуждает он.

«ИСП РАН сотрудничает с ФСТЭК и Роскомнадзором в области сертификации безопасных ИИ-решений, а Яндекс стремится снизить риски распространения дипфейков на фоне кратно увеличивающихся случаев мошенничества», — отмечает Бедеров. Существующие ИИ-модели генерируют контент, который пока легко отличим от настоящего, но с каждым годом качество такого контента возрастает и он становится все более правдоподобным.

Для того чтобы бороться с использованием такого контента мошенниками, Минцифры обсуждало возможность разработки своей платформы. Судьбу этой разработки представитель Минцифры комментировать не стал.

Инициатива своевременная, потому что в интернете уже очень много контента, который создан с помощью ИИ, соглашается директор по продуктам Servicepipe Михаил Хлебунов. Есть разные подходы к реализации такого проверочного сервиса, но это значит лишь одно, что следующие поколения ИИ при генерации любого типа контента будут учитывать эту проверку, подчеркивает он.

У Яндекса нет никакого влияния на ChatGPT или другие нейросети, созданные вне России, поэтому речь скорее идет об отечественных стандартах, которые будут внедрены совместно с инструментами регулирования на федеральном уровне, говорит заместитель исполнительного директора ЦК НТИ по большим данным МГУ Гарник Арутюнян.

Бедеров предположил, что детектор Яндекса сможет выявлять контент от других нейросетей только при наличии общих метаданных или открытых API для анализа. Например, при внедрении водяных знаков, совместимых с российским стандартом, но без единого протокола системы будут работать изолированно, сетует эксперт.

По словам Арутюняна, сейчас уже существуют сервисы и open‑source проекты для выявления сгенерированного текстового контента, например GLTR. Также есть коммерческие API Originality.AI и Sapling для определения сгенерированного ChatGPT текста, но они работают не всегда и при малейших доработках текста не могут определить генеративный контент, говорит он. Для аудио/видео таких масштабных инструментов массово пока нет, но исследовательские проекты используют артефакты (признаки или паттерны, которые помогают выявить искусственное происхождение контента) и частотный анализ, так как все генеративные нейросети работают по похожим принципам, уточняет собеседник.

В отсутствие четких законодательных норм в сфере ИИ-контента Яндекс и ИСП РАН берут на себя инициативу по созданию отраслевого стандарта распознавания, отмечает Арутюнян. Это форма саморегуляции: компании стремятся сформировать правила и инструменты заранее, до появления внешнего регулирования, отметил он. Но если не будет давления со стороны законодателей на сервисы генерации контента по внедрению стандартов борьбы с фейками и штрафов за отсутствие маркировки сгенерированного контента, то эффективность инициативы снижается, заключил Бедеров.

В феврале 2025 г., представляя нацпроект «Экономика данных», вице-премьер Дмитрий Григоренко говорил, что власти не планируют вводить законодательное регулирование технологии ИИ в ближайшие два года. В апреле 2025 г. сообщили о создании в Госдуме рабочей группы по регулированию ИИ.

Источник: https://www.vedomosti.ru/technology/articles/2025/08/07/1129858-v-rossii-poyavitsya-servis-dlya-markirovki-ii-kontenta