Эксперт по кибербезопасности: «Сейчас искусственный интеллект научился удивительным вещам»

«Несмотря на то, что технологии ИИ активно проникают во многие производственные задачи, сейчас в информационной безопасности по-прежнему высока роль квалифицированного человека-эксперта. В практических задачах ИБ большинство событий обрабатывается «правилами реагирования», написанными человеком. Искусственный интеллект пока еще играет вспомогательную роль, однако его роль как на стороне атаки, так и на стороне защиты становится все более значимой. Отдельные технологии ИИ в ИБ используются достаточно давно, например, при анализе сетевого трафика, служебных сообщений (логов) в производственных системах, исследовании контента информационных материалов. Подобные решения наша компания создает и внедряет, например, для анализа производственного трафика (включая АСУТП) в продукте UDV NTA, для анализа логов в решении UDV Industrial Kit, при исследовании параметров работы ИТ с применением UDV ITM и в других решениях. Подобные технологии основаны на анализе данных и статистике, в них применяются модели с относительно небольшим количеством обучаемых параметров. Применение этих подходов давно уже перешло из разряда «искусство» в «ремесло». Однако в самом ближайшем будущем ситуация поменяется, потому что ИИ-модели научились удивительным вещам, например, понимать «символы», с помощью которых общаются люди: письменность, изображения, звуки. И огромные модели, которые состоят из миллиардов параметров, начинают демонстрировать настоящую «магию» в понимании содержания текста и изображений. Поэтому технологически нет ограничений для того, чтобы ИИ модели «выучили» все, что создало человечество, в том числе и в сфере кибербезопасности. Это происходит уже сейчас. Модели демонстрируют такой высокий уровень генерации текста и изображений, потому что они очень много всего «видели», «прочитали» интернет и «поняли», что для человека выглядит реальным. Впечатляющим результатом является то, что мы уже не можем отличить контент, который сгенерировала модель, от того, что создал человек. Поэтому технологии уже сейчас позволяют ИИ-моделям выполнять задачи на уровне человека, но самое интересное начнется, если модели начнут демонстрировать качество, превышающее возможности человека. В 2016 году искусственный интеллект обыграл человека в го, которая считается гораздо более сложной, чем шахматы. В игре ИИ против многократного чемпиона мира Ли Седоля был очень интересный момент: в одной из партий компьютер совершил ход (его номер был «37»), который сначала никто из специалистов не понял, а потом эксперты назвали его самым дальновидным, самым красивым, самым эффектным. Машина сделала такой ход, который многим людям был не по силам. И когда в сфере кибербезопасности ИИ сделает «37-й ход», многим специалистами по безопасности придется искать работу. Но хорошая новость в том, что пока до этого далеко: качественное образование и кадры являются основной для решения задач информационной безопасности, а искусственный интеллект – перспективной вспомогательной технологией». Фото: ФедералПресс / Иван Кабанов