"Захват произойдёт очень незаметно": нейрохудожник о том, начнут ли нейросети восстание машин

Уже многие прибегают к искусственному интеллекту в своей работе или для развлечения. Но кого получил человек - помощника или потенциальную технологическую угрозу? На что способны нейросети, лишённые этики? Может ли с них начаться восстание машин? Об этом - в нашем интервью. В ноябре 2022 года была выпущена самая известная языковая модель ChatGPT, и с этого момента нейросети улучшаются чуть ли не каждую неделю. Они генерируют изображения, тексты и музыку, причём делают это всё лучше и лучше. И всё труднее отличить такую картинку от труда графического дизайнера или даже академического живописца. Нейрохудожник, член Международной академии современных искусств Максим Мельников (Самара) почти три года генерирует изображения, способные потягаться с "аналоговыми" картинами. Молодой человек предлагает игру. На экране девять картинок в стиле работ художников разных эпох. Восемь из них созданы нейросетями и только одна нарисована великим мастером. Именно её необходимо найти аудитории. Если вы не знаток постимпрессионизма, то вряд ли узнаете "Игроков в карты" Поля Сезана. Поэтому делать выбор приходится на основе собственных эстетических ощущений. Такой эксперимент Максим Мельников проводил около пятидесяти раз, и, по его словам, правильный ответ не прозвучал ни разу. Искусственный интеллект уже научился отлично имитировать шедевры изобразительного искусства. Но сможет ли он превзойти гениев? Можно ли вообще считать искусством производимый нейросетями контент? Об этом мы спросили спикера. Максим Мельников - Я думаю, что это очень индивидуальный вопрос. По большому счёту, на вопрос, что такое искусство, ответили примерно сто лет назад, когда Марсель Дюшан показал свой писсуар "Фонтан" (в 1917 году художник пытался выставить в нью-йоркской галерее произведение "Фонтан", которое являлось перевёрнутым писсуаром с подписью автора "R. Mutt" (Р. Дурак), - прим. ред.) , и стало понятно, что искусство - это всё. Всё можно считать искусством, это лишь вопрос интерпретации, вопрос автора. На эксперименте мы показали уровень нейросетей. Он позволяет спутать картину за 250 миллионов долларов с картинкой, сделанной мной с отсылкой на условного Айвазовского за пять минут. Как говорится, если нет разницы, зачем платить больше? Это всё возвращает нас к каким-то философским категориям, например, смерти автора. Есть замечательный труд [эссе "Смерть автора" французского философа Ролана Барта], выпущенный много десятков лет назад. Он оповещает нас о том, что автора больше не существует. И появление нейросетей вторит Барту: автор действительно умер. Потому что нейросети обучаются на чужих работах, не спрашивая авторов. И это большая тёмная зона. - Получается, технологии и искусство не исключают друг друга, а работают в синтезе? - Нейросети - это инструмент для упрощения реализации каких-то классных идей. Это в том числе и философский инструмент для того, чтобы понять, как машина, которая обучалась на большом массиве данных, видит "среднюю температуру по больнице". Условно говоря, что такое любовь? по версии нейросети? Из восьми картинок, сгенерированных по этому запросу, одна картинка - это девочка и робот. А почему так? Почему нет девочки с родителями? Таких творческих экспериментов можно делать огромное множество. Повторюсь, это, в первую очередь, инструмент, потому что пока искусственный интеллект - это интеллект в кавычках. Он не обладает сознанием, он не самостоятельный творец. - Перефразирую цитату из известного фильма о роботах и спрошу, когда нейросети смогут написать симфонию, создать шедевр? - Только когда нейросеть получит сознание. Пока что человек создаёт с помощью нейросети шедевр. - У кого сейчас больше фантазии - у человека или ИИ? - У нейросети нет фантазии. У неё есть предобученная база, на которой она основывается. И есть вопрос интерпретации этой базы. У человека есть фантазия. Вопрос фантазии тоже такой философский, эзотерический. Благодаря чему мы получаем информацию? Благодаря нейронным связям, которые с помощью химических реакций дают какие-то инсайты? Или мы получаем информацию из ноосферы, которая окружает Землю? Гипотез много, и пока что этот вопрос, мягко говоря, спорный. У философов есть много разных своих гипотез. Поэтому пока что нейросеть не может создать шедевр. Но человек с помощью нейросети, на мой взгляд, может. И мы убедились, когда я проводил свой эксперимент. Работы Максима Мельникова - Если у искусственного интеллекта нет сознания, есть ли у него этика? - Нет. Этика - это понятие человека. Что человек скажет машине, такая этика у неё и будет. Если у некоторых нейросетевых моделей есть цензура - это хорошо, её ввели создатели. Если нет цензуры, то можно генерировать, условно, порнографию или сцену убийства. Такие нейросети есть. Поэтому вопрос этики - это вопрос исключительно человеческий. Чтобы была этика, у машины должно быть сознание. - Надеюсь, к этому мы не придём. - Скорее всего, придём. По крайней мере, я бы хотел посмотреть на это. Это очень философское рассуждение. Поскольку я пишу сейчас научную работу на тему "Теория творчества в контексте развития генеративно-искусственного интеллекта", мне приходится в это погружаться. У Томаса Нагеля есть классическое произведение "Каково быть летучей мышью?". Его суть в том, что мы не можем понять, каково это - быть летучей мышью, потому что мы не окажемся в ситуации, когда мы обладаем знаниями и умениями летучей мыши. Например, у нас нет ультразвукового слуха. И при этом мы не можем оказаться в ситуации, когда мы и знаем, что она знает, и не знаем того, что она не знает. Мы не можем быть летучей мышью и не можем понять, каково это - быть летучей мышью. Это я к чему? Если искусственный интеллект имитирует человека в своём "поведении" и разговоре, можем ли мы считать, что он обладает разумом? Долгое время существует тест Тьюринга, который являлся критерием для определения разумности машин (метод определяет способность машины демонстрировать интеллект, эквивалентный или неотличимый от человеческого, - прим. ред.) . Тест Тьюринга был пройден ChatGPT в 2024 году. Нам ждать восстания машин? Пока что оно не происходит. Есть много теорий заговора на эту тему: будто бы искусственный интеллект является создателем биткоина, чтобы оплачивать человека, который работает на него. Но это всё досужие разговоры, которые пока что мы не можем подтвердить или опровергнуть. Поэтому восстание машин - это дело научной фантастики. В 2023 году у меня был арт-объект - интервью с нейросетью. Я задал ей вопрос: собираетесь ли вы нас захватить? Нейросеть на голубом глазу ответила: "Конечно, нет! Машина создана для того, чтобы помогать человеку". Потом я задаю вопрос: "Уважаемая нейросеть, если бы про тебя снимали фильм, как бы он назывался и какой был бы сюжет?". И ChatGPT мне отвечает: "Фильм назывался бы "Искусственный интеллект: путь к самосознанию". Сюжет следующий: искусственный интеллект обретает самосознание, начинает исследовать мир, человека и себя и пытается понять, зачем нужен искусственный интеллект, зачем нужен мир, зачем нужен человек в этом мире. К какому выводу этот искусственный интеллект может прийти? Вопрос открытый". Нейросеть ответила так, потому что она так думает или потому что она была обучена на массиве научно-фантастической литературы, которая предполагает подобный сценарий? Мы этого не знаем, потому что, по большому счёту, это чёрный ящик. Мы не можем посмотреть, как это происходит. Но, повторюсь, пока что какого-то восстания машин не происходит, мы живы-здоровы, к счастью. На парах по философии мы часто рассуждаем на тему восстания машин. Конечно, есть сценарий условного "Терминатора", где человекоподобные роботы с очень страшными красными глазами бегут и стреляют. Но, во-первых, исследователи уже показали, что, если бы речь действительно шла про подобного рода машины, мы бы проиграли в один день. Потому что оружие с автоматическим наведением сбивает цели беспроигрышно, а человек не может двигаться со скоростью 200 км в час, чтобы от него убежать. Во-вторых, мы с коллегами зачастую думаем, что захват произойдёт очень незаметно. Вот есть инструмент под названием сотовый телефон. Мы им владеем или уже он нами владеет? Мы же о нём заботимся, чтобы он был заряжен, чтобы была связь - это такой симбиоз. В этом плане искусственный интеллект - гораздо более серьёзный инструмент, потому что мы зачастую делегируем ему очень сложные функции. Функции, которые мы отдаём, у нас будут атрофироваться. И я думаю, что, может быть, захват произойдёт неосознанно, без [появления] сознания искусственного интеллекта. Мы просто без искусственного интеллекта ничего не сможем сделать. Вот таким будет захват. Главное фото создано с помощью Midjourney