Главная » Технологии » Роскомнадзор усилит поиск запретного визуального контента искусственным интеллектом

Роскомнадзор усилит поиск запретного визуального контента искусственным интеллектом

Подведомственный Роскомнадзору Главный радиочастотный центр планирует запустить систему поиска противоправного контента в изображениях и видео в интернете «Окулус». Она будет работать на основе искусственного интеллекта, который должен эффективно выявлять экстремистские материалы и порнографию. Но эксперты опасаются замедления работы ресурсов в зоне действия системы

Главный радиочастотный центр (ГРЧЦ, подведомственен Роскомнадзору, планирует в 2022 году запустить систему поиска противоправного контента в изображениях и видео в интернете «Окулус». Об этом пишет «Коммерсантъ» со ссылкой на тендер стоимостью 15 млн рублей на разработку такой системы. Эксперты предупреждают, что работа такой системы может замедлить работу анализируемых ею с помощью искусственного интеллекта ресурсов. 

Система будет выявлять распространение экстремистских материалов и порнографии, пропаганду наркотиков, призывы к массовым беспорядкам и самоубийству, описано в техническом задании к тендеру по разработке. Сейчас поиск нарушений в изображениях и видео происходил вручную, применение в этом процессе  искусственного интеллекта (ИИ) позволит «ускорить процесс», отмечается в документации. Завершить работы нужно до 17 декабря 2020 года.

С 2019 года товарный знак Oculus закреплен за Facebook, которая развивает VR-систему под этим брендом. По поводу его использования с интернет-компанией судилась ветеринарная клиника ООО «Эко». Во время спора Facebook подала заявку на товарный знак «Окулус» в кириллическом варианте. Ее одобрили в марте 2021 года, указано в базе Роспатента.

У Facebook теоретически есть возможность запретить компьютерные программы и информационные сервисы под этим названием, если ГРЧЦ будет использовать его при оказании коммерческих услуг, отметил зампред комитета по интеллектуальной собственности Российского союза промышленников и предпринимателей (РСПП) Анатолий Семенов. По его словам, ГРЧЦ не относится к юридическим лицам, осуществляющим коммерческую деятельность.

Материалы на самом Facebook войдут в зону мониторинга системы. Текстовый контент уступает место фото- и видеоматериалам, которые сильнее влияют на сознание человека, объяснили в ГРЧЦ.  «По информации TikTok, количество ежемесячных пользователей сервиса выросло с 2018 года на 800%, в Facebook посты с изображениями привлекают пользователей в 2,3 раза чаще, чем сообщения без них, именно в таком контенте появляется все больше запрещенной законами Российской Федерации информации», — отметили в центре.

В интервью газете в мае глава Роскомнадзора Андрей Липов прогнозировал, что к концу года объем информации, которую смогут проанализировать сотрудники на предмет нарушений, увеличится благодаря ИИ в 14 раз. В июле Роскомнадзор уже заказал за 41,7 млн рублей доработку системы мониторинга телерадиовещания, чтобы превращать аудиозаписи в текст. Это позволит ему эффективнее искать нарушения в телевизионном контенте и радиоэфире. В конце августа было объявлено о закупке «автоматизированной системы мониторинга нарушений прав субъектов персональных данных в сети» за 41,1 млн рублей, а в середине сентября — системы мониторинга сайтов за 58,5 млн рублей.

Халва (Совкомбанк) - карта рассрочки