Искусственный интеллект в России начнет борьбу с запрещенным контентом

В России запускается новая инициатива по использованию технологий искусственного интеллекта для обнаружения запрещенного контента в интернете. Об этом сообщил директор по ИИ-продуктам компании Оператор Газпром ИД Павел Боюка.

Платформа Video Tagging System

В основе новой системы лежит платформа Video Tagging System (VTS), которая предназначена для автоматизации процесса модерации видео, аудио и текстовых материалов. Это решение нацелено на оптимизацию работы модераторов, что позволит сократить регуляторные, правовые и репутационные риски для цифровых платформ.

Как отметил Боюка, эффективность работы модераторов может возрасти более чем в десять раз благодаря внедрению системы VTS, которая уже готова к обнаружению нецензурной лексики и пропаганды наркотиков.

Технические возможности VTS

Платформа включает свыше 15 нейросетевых моделей, которые обеспечивают анализ объектов и действий на видео, распознавание речи и эмоций, а также возможность работы с текстовыми и графическими данными. Одной из ключевых функций является автоматическое создание разметки нарушений с точными временными метками, что значительно ускоряет процесс проверки контента.

Кроме того, VTS предоставляет возможность использования как стандартных правил модерации, так и настройки пользовательских сценариев, адаптированных к конкретным требованиям платформы. В зависимости от конфигурации система может автоматически блокировать контент или передавать его для окончательного решения модератору.

Преимущества Zero-Shot-подхода

По словам Павла Боюки, применение Zero-Shot-подхода и каскадных моделей с перекрестной валидацией позволяет разработать новые сценарии без необходимости дополнительного обучения. Это минимизирует количество ложных срабатываний и обеспечивает стабильное качество работы при анализе больших объемов данных, пишет Дзен-канал "Новости ЕАН".