Что читать: магия из дата-центров

Пять книг об искусственном интеллекте

Во всем мире 2 января отмечают неофициальный праздник День научной фантастики. Именно в эту дату родился писатель Айзек Азимов, автор "Трех законов робототехники". Механические машины — одна из главных тем, которые занимали ум великого фантаста. Сегодня роботы в целом и искусственный интеллект в частности перешли из области фантастической в научную. Литературная обозревательница "Реального времени" Екатерина Петрова собрала пять книг ученых, разработчиков и философов, которые пытаются понять, что ждать человечеству от ИИ.

Кейт Кроуфорд. "Атлас искусственного интеллекта", АСТ (320 стр., 16+)

Эта книга быстро отрезвляет тех, кто привык думать об ИИ как о чистом коде и нейтральной технологии. Кейт Кроуфорд показывает искусственный интеллект как тяжелую инфраструктуру — с шахтами лития, складами Amazon, армиями плохо оплачиваемых разметчиков данных и политическими решениями, спрятанными внутри алгоритмов. ИИ здесь — индустрия добычи: ресурсов, энергии, человеческого труда и персональных данных. Автор последовательно разбирает, как алгоритмы усиливают социальное неравенство, формируют представления о расе, гендере и эмоциях, влияют на государственное управление, финансы и системы контроля. Главный вывод звучит так: ИИ не является ни искусственным, ни интеллектуальным, а реальная угроза — не замена людей машинами, а превращение людей в обслуживающий придаток алгоритмов.

Кроуфорд больше 15 лет изучает искусственный интеллект и строит книгу вокруг жизненного цикла Amazon Echo — от добычи полезных ископаемых до работы с пользовательскими данными. "Атлас" получил статус одной из ключевых технологических книг последних лет и был признан лучшей книгой по информатике 2022 года по версии ASIS&T.

Мартин Форд. "Власть роботов", "Альпина нон-фикшн" (326 стр., 12+)

Ключевая идея Форда проста: искусственный интеллект — это не отдельная технология, а универсальная инфраструктура, вроде электричества, которая масштабируется везде и сразу. В книге он подробно объясняет, как ИИ проникает в медицину, промышленность, науку, логистику, государственное управление и медиа и почему эффект от этого будет системным, а не точечным. Отдельные главы разбирают реальные риски: дипфейки как оружие массовой дезинформации, алгоритмическую предвзятость, автоматизированные системы слежки и рост цифрового авторитаризма. Форд показывает пределы технологий. Например, почему беспилотники и "сильный ИИ" не появятся завтра. Но одновременно настаивает: главная угроза в том, как люди используют уже работающие системы.

Мартин Форд — основатель IT-компании в Кремниевой долине и автор "Роботы наступают", книги года по версии Financial Times. Его TED-выступление о будущем ИИ посмотрели более 3 млн раз. "Власть роботов" — это практическая карта ближайшего будущего для бизнеса, регуляторов и управленцев, которым придется жить в мире, где интеллект стал масштабируемым ресурсом и источником новой власти.

Маттео Пасквинелли. "Измерять и навязывать", Individuum (352 стр., 16+)

Эта книга ломает привычный миф об ИИ как попытке скопировать человеческий мозг. Пасквинелли показывает другое происхождение алгоритмов — из истории труда, учета, контроля и постоянной гонки за производительностью. Искусственный интеллект здесь не "разум", а инструмент измерения и управления, выросший из разделения труда, бухгалтерии, статистики и надзора. Автор ведет читателя от первых механических калькуляторов XVIII века к нейросетям, системам распознавания лиц и слежки и объясняет, как ИИ автоматизирует не мышление, а социальные иерархии. Главный риск для человечества — новая организация труда, где коллективное знание людей извлекается, упаковывается в алгоритмы и концентрируется у узкого круга цифровых монополий.

Пасквинелли — философ науки и общества, а в книге он подробно разбирает идеи изобретателя Чарльза Бэббиджа и математика Ады Лавлейс как теоретиков управления трудом, а не "романтических изобретателей компьютера". "Измерять и навязывать" — жесткий антидот против хайпа вокруг ИИ и полезное чтение для тех, кто хочет понимать алгоритмы как экономическую и политическую силу.

Сьюзан Шнайдер. "Искусственный ты", "Альпина нон-фикшн" (246 стр., 12+)

Эта книга — холодный разбор будущего разума без техноэйфории. Сьюзан Шнайдер исследует, что произойдет с человеком, если ИИ перерастет статус инструмента и станет продолжением человеческого мышления. В центре — сознание: можно ли загрузить "себя" в машину, сохранить личность после нейроапгрейдов и где проходит граница, после которой вы уже не вы. Шнайдер разбирает сценарии усиления мозга — от нейропротезов и чипов памяти до слияния с ИИ — и показывает, что главные риски лежат не в скорости вычислений, а в потере идентичности и моральной слепоте. Отдельный блок — машинное сознание: если ИИ научится испытывать чувства, привычные модели эксплуатации технологий могут внезапно превратиться в этическую катастрофу.

Шнайдер — директор-основатель Центра будущего разума, работала с NASA над сценариями появления сверхинтеллектуального ИИ и участвовала в разработке тестов на машинное сознание. "Искусственный ты" — это практическое руководство по вопросам, которые уже стоят перед медициной, ИТ и регуляторами.

Гаспар Кёниг. "Конец индивидуума", Individuum (352 стр., 16+)

Это не книга о том, как "роботы отнимут работу". Кёниг смотрит глубже: искусственный интеллект подтачивает саму идею автономного человека. Свободу воли. Ответственность. Право ошибаться. Автор объехал полмира и поговорил более чем со ста исследователями, предпринимателями и политиками — от Кремниевой долины до Китая. Итог — ИИ не уничтожает человечество, но меняет правила игры. Алгоритмы мягко подталкивают. Мы выбираем, но все чаще внутри заранее просчитанного коридора. Так появляются права без демократии, экономика без рынка, искусство без автора и правосудие без виновного. Кёниг показывает, как логика оптимизации вытесняет идею личного выбора в образовании, медиа, судах и даже в любви.

Гаспар Кёниг — не технофоб. Он предлагает выход — "право на блуждание" и личную "первичную директиву" для алгоритмов. Не запретить ИИ, а вернуть человеку контроль над тем, как именно им управляют.

Рецензию на книгу Гаспара Кёнига "Конец индивидуума" читайте здесь.

Екатерина Петрова — литературная обозревательница интернет-газеты "Реальное время", ведущая телеграм-канала "Булочки с маком".