Россияне смогут обезопасить себя от опасного контента
В России появится система добровольного ограничения доступа к потенциально опасным материалам в интернете. Также для поиска нелегального контента скоро будут применять искусственный интеллект (ИИ). Эксперты указывают, что такие инициативы помогут обеспечить безопасность детей и пенсионеров в интернете.
В ближайшие два года будет создан механизм добровольного согласия на ограничение доступа к потенциально опасной информации в интернете. Это указано в утвержденном правительством плане мероприятий по противодействию кибермошенничеству.
Такой самозапрет может работать как фильтр от "нежелательного" контента или "защитным барьером" против материалов, которые могут негативно повлиять на психику или подтолкнуть к противоправным действиям.
"Правительством прорабатывается возможность добровольного ограничения доступа к потенциально опасному контенту. Параметры реализации этой опции еще обсуждаются, но, скорее всего, появится отдельный список интернет-ресурсов, содержание которых будет признано деструктивным. После чего предстоит решить отдельную техническую задачу - как обеспечить недоступность этих ресурсов не для широкого круга российских пользователей, а только для тех, кто этого сам захочет", - рассказал замглавы комитета Госдумы по информационной политике Антон Горелкин.
В целом такой механизм можно сравнить с возможностью финансового самоограничения, которое предоставляют некоторые банки. Он позволяет ограничить траты или доступ к кредитным продуктам.
Депутат Госдумы Антон Немкин объясняет, что на практике система может работать через личный кабинет на "Госуслугах" или в настройках аккаунтов социальных сетей и видеохостингов. Пользователь будет добровольно выбирать категории информации, к которым он не хочет получать доступ, после активации фильтра система автоматически заблокирует ссылки и страницы из этих категорий, даже если они не находятся в реестре официально запрещенных материалов. Немкин указывает, что это создаст дополнительный уровень защиты, который человек может включить по своей инициативе.
Он также добавляет, что это особенно актуально для родителей, так как возможность установить самозапрет для ребенка даст больше контроля и снизит риски, при этом сохранит прозрачность и доверие к цифровой экосистеме.
"Как я понимаю, речь идет о том, чтобы в каждом домохозяйстве появился внутренний Роскомнадзор. Где для бабушек или для детей будут установлены правила посещения сайтов в интернете. Например, отключение зарубежного трафика. Единых систем придумать невозможно: у кого-то бабушка с деменцией, а у кого-то дети хулиганят. Это неплохой ход государства навстречу гражданам - в семьях по-разному оценивают риски. Такое решение внесет вклад в безопасность пользователей", - рассказал председатель совета Фонда развития Цифровой экономики Герман Клименко.
Также запрещенный контент в интернете будут искать с помощью ИИ, а при обнаружении - ограничивать доступ. Сегодня существуют подобные ИИ-системы, способные анализировать тексты, изображения, видео и аудио в масштабах, недоступных человеку.
Олег Сажин, советник генерального директора Content AI, отмечает, что в отличие от простых алгоритмов, основанных на поиске ключевых слов, нейросетевые модели выявляют сложные лингвистические паттерны и взаимосвязи между словами. При этом важно, что эффективность ИИ в определении "опасного" контента напрямую зависит от качества обучающих данных, четкости правовых определений и интерпретации контекста.
Например, проблемы могут возникать при анализе иронии, сатиры, исторических или художественных материалов, где граница между допустимым и запрещенным стирается. Ложные оценки ИИ, как и с галлюцинациями - фактически неверными ответами - остаются существенной проблемой.
"Для снижения ошибок необходима многоуровневая система валидации. Во-первых, любое предписание ИИ должно в обязательном порядке проходить верификацию человеком. Во-вторых, алгоритмы необходимо постоянно дообучать на актуальных данных и тестировать на репрезентативных выборках. В-третьих, ключевым элементом должна стать прозрачная и оперативная система обжалования для пользователей, чей контент был заблокирован ошибочно, если это коснется модерации социальных сетей", - заключает Сажин.