Как будут бороться с дипфейками
Правительственная комиссия по цифровому развитию, использованию информационных технологий для улучшения качества жизни и условий ведения предпринимательской деятельности утвердила «дорожную карту» развития новых интернет-технологий.
Данный документ был разработан «Ростелекомом» при участии АНО «Диалог» – организации, которая занимается мониторингом и анализом эффективности обратной связи власти с жителями по всей стране.
Что планируется cделать? Повысить к 2024 году до 70% точность решений по выявлению дипфейков – контента, который сгенерирован искусственным интеллектом и нейросетями и выдается за реальный. Подобным образом создают видео и аудиофайлы с изображением и голосом человека. Власти опасаются подобных подделок, равно как и распространяемых дотами инфоповодов, и хотят более продуктивно с ними бороться. Указано, что в уже 2021 году точность выявления дипфейков и распространяемых ботами контента должна составлять 55%.
Помимо показателя точности решений по выявлению дипфейков, к 2024 году планируется также увеличить:
- российскую аудиторию видеосервисов до 96 млн пользователей (с 63 млн в 2020‑м);
- аудитории комплексных коммуникационных платформ — до 108 млн (с 74 млн);
- отечественных облачных игровых платформ – до 2,31 млн (с 0,18 млн).
Также в планах обозначено и развитие определенных сервисов, например:
- сервис с рекомендациями, которые базируются на прогнозах пользовательского поведения, интересах и вкусах пользователей;
- сервис с выявлением нарушений прав граждан в интернете путем автоматического анализа соцсетей и мессенджеров;
- сервис подбора собеседников по интересам;
- сервис, выявляющий инфоповоды и анализирующий видеопотоки,
- сервис адаптации демонстрируемых элементов контента и даже генерации персонажей на базе пользовательских настроек;
Финансировать проекты планируется за счет грантов Фонда содействия инновациям и внебюджетных источников, но размер необходимой суммы не приводится. Учитывая, что часть проектов «дорожной карты» были утверждены той же правительственной комиссией как приоритетные для господдержки, то на их поддержку в 2020–2024 гг. предполагалось 46,3 млрд руб. в виде грантов от Российского фонда развития информационных технологий (РФРИТ), Фонда содействия развитию малых форм предприятий в научно-технической сфере (ФСИ) и Фонда «Сколково».
Опасность дипфейков комментирует член ВКС Партии прямой демократии Борис Чигидин:
Планы профилактики уже вполне наблюдаемого на горизонте девятого вала дипфейков похвальны в первую очередь тем, что имеют опережающий характер. Если не завтра, то послезавтра обязательно эта технология имеет все шансы не просто прописаться в нашей повседневности.
В чрезмерно шаловливых руках (а такие найдутся с гарантией и в избытке) она способна стать источником рисков и угроз крайне разнообразного характера – от бытового, начиная со школьного баловства, до стратегического, в пределе включающего вопросы войны и мира. Поэтому проблема скорейшей разработки как можно более надежной и универсальной методики распознавания дипфейков если и менее важна, чем, например, риски расползания и злонамеренного применения биотехнологий завтрашнего дня, то совсем ненамного.
Менее очевиден, но ничуть не менее важен, однако, и вопрос, зеркальный обсуждаемому. Реальность недалекого будущего, в которой любой произвольно взятый аудио- или видеоконтент с равным успехом может оказаться как «истинным», так и симулякром, предъявит спрос точно такого же масштаба на разработку методики, которая позволила бы гарантировать, что исследуемый материал дипфейковым не является. И озаботиться изысканиями в этом направлении тоже следовало бы опережающим образом. Особенно учитывая, что страна, которая займет лидирующие позиции по обоим этим вопросам, не только возглавит важную дисциплину цивилизационной гонки, но и застолбит за собой рынок, обещающий быть весьма обширным.