Опасные технологии: как распознавание лица на смартфоне может привести к глобальной катастрофе

Существует огромное количество инструментов биометрической идентификации — голос, сердцебиение, походка, рисунок вен, сетчатка глаза и многие другие. Вы не задумывались, почему компания с капитализацией в $1 трлн, — которая может позволить себе любой технологический каприз, — из всех возможных вариантов и комбинаций выбирает... распознавание лица? Почему именно этот способ? Ведущие производители смартфонов из Samsung и Huawei тут же подхватывают моду в новых моделях. У меня есть довольно страшная версия того, что произойдет, если эта система станет массовой для всех мобильных устройств. Технические моменты Если не вдаваться в технические детали, для распознавания лица на его поверхность проецируется примерно 30 000 инфракрасных точек. Полученный «портрет» за счет хитрой математики идентифицирует уникальное от природы лицо пользователя (теперь, кстати, понятно, о чем поет Земфира — «я знаю все твои трещинки!» — про iPhone X). В описании технологии Apple утверждает, что данные лица хранятся на устройстве и никаким спецслужбам и третьим лицам не передаются, точно так же, как отпечаток пальца всегда хранится только на устройстве и де-факто является лишь способом верификации. Например, для банковских приложений, которые при попытке совершения финансовой операции владельцем мобильного кошелька получают гарантированный ответ от смартфона «да, это пользователь Иванов», но не видят самого отпечатка. Сейчас информации о безопасном хранении биометрии можно верить (хотя бы потому, что никто не мог доказать обратного, обрушив акции компании). Но подвох в том, что если Apple или Google все же однажды решат эти данные кому-то передавать в одной из будущих версий своих продуктов, никто им не помешает, так как кликнув «я согласен» в политике пользователя, со своими данными вы простились раз и навсегда. Исключением из правил пока является Европа, где в мае этого года вступил в силу закон GDPR (General Data Protection Regulation), который призван жестко наказывать компании за злоупотребления приватными данными без ведома владельца. Штрафы измеряются в процентах от годового дохода компании, поэтому относятся к закону серьезно. Точнее детектора лжи Давайте предположим, что будущее наступило и компании активно передают третьим фирмам биометрию (разумеется, с разрешения пользователя, который снова нажмет «я согласен», не читая сути соглашения). Тут начинается самое интересное. На человеческом лице 57 мышц, некоторые из которых парные. Камера Apple имеет колоссальную плотность сенсоров и мониторит даже самые незначительные изменения мимики этих мышц в реальном времени. Безусловно, это можно и нужно делать, если ваша цель — идентифицировать человека. Тут все в порядке. Но дело в том, что науку психологию изобрели не вчера. Те, кто смотрел сериал «Lie to me», в курсе, что даже незначительные неконтролируемые микродвижения глаз, сокращения зрачков, дрожание губ и еще тысячи комбинаций микроскопических мимик можно с высокой степенью вероятности использовать для того, чтобы идентифицировать психологическое состояние человека — определить, лжет он или нет, находится в состоянии возбуждения или депрессии. Это не фантастика: сериал создан на основе работ Пола Экмана, помогающего спецслужбам в реальной жизни. Эксперт его уровня, равно как и любой опытный сотрудник ФСБ или спецагент ФБР, анализируя мимику, сможет сказать о человеке если не все, то очень многое. Точность моделей, если верить Полу Экману, изобретателю методологии, может достигать 80%. Правда для этого требуется длительное наблюдение за испытуемым. Но индустрию контекстной рекламы устроит и куда меньшая точность: потребителей миллиарды, и не обязательно точно угадывать состояние каждого из них. Мир высоких технологий, где микрофоны и мобильные камеры есть в каждом мобильном устройстве, может собрать необходимые данные, принудительно включая в нужный момент микрофон и камеры. Это исключительно вопрос желания. И юридически правильной формулировки в соглашении пользователя. Безусловно, для создания рабочих моделей искусственного интеллекта, способных определять микро-эмоции, потребуется обучение алгоритмов и довольно большая выборка «подопытных» людей. Но это вряд ли станет проблемой. Сегодня машины уже довольно точно определяют на фотографиях лица и предметы для поисковых нужд (задача, еще 10 лет казавшаяся неподъемной), поэтому такая узкая задача, как определение микро-эмоций, тоже может быть решена. Причем в ближайшее время. Думаете, разработчики об этом будут рассказывать, посылая запрос на физиономические данные вашим несведущим в технологиях маме или сестре? Мы уже столкнулись с использованием анализа пользователей соцсетей для влияния на выборы — считается, что это был один из факторов победы Дональда Трампа. Если технологии профилирования будут развиваться текущими темпами, то уже в недалеком будущем наблюдение за человеческой мимикой в динамике подскажет, в каком он состоянии: готов ли что-то покупать или надо слегка надавить, любит ли думать или работать рубанком, готов ли к риску или консерватор, проголосует за Путина или Трампа. Но главное — в каждый момент времени смартфон сможет с высокой вероятностью узнать, лжете вы или нет, отвечая на заданный на экране вопрос, или получить вашу реакцию на отображаемое изображение. Это карманный полиграф и ошейник одновременно. А значит — ожидаем морковку и кнут. Морковка, кнут и свобода для пользователя Морковка, собственно, уже тут — профилирование по психотипу позволит в разы поднять эффективность контекстной рекламы. Например, ваше психологическое профилирование, сопоставленное с историей поиска, покупок и другими данными, позволит выбирать уникальные формулировки рекламных объявлений, которые работают строго на вас. В приватном обсуждении коллеги из Apple и Facebook не стали развеивать мои опасения. Сегодня распознавание лица — это идентификация без пароля, удобная и практичная функция. Все, что я описал выше, пока не случилось. Но уже через пару лет вы можете оказаться в ситуации, когда смотрите на свой аппарат, а из него, словно через окно, кто-то будет лезть в ваши мозги. От распознавания лица до контроля психологии — всего один технологический шаг. Дальше наступает Оруэлл, «1984». Разработчики смартфонов и соцсетей — не единственные, кто работает в этом направлении. Мне известно о минимум трех стартапах, развивающих технологии психологического профилирования для нужд ретейла: при помощи внешних камер наблюдения и приложений программ лояльности человеческое лицо прогоняется через модели физиономического анализа, чтобы на основании вердикта машины о психотипе/состоянии человека продавцы могли действовать по заточенному под этот тип сценарию. Мы с коллегами работаем над подходом, полностью противоположным тому, которому следует большинство современных big-data игроков. Наша компания защищает данные пользователя так, как и положено защищать частную собственность: даже у нас нет доступа к их информации. Мы все живем в Сети, поэтому демократические принципы, такие, как право на неприкосновенность частной жизни, обязаны обеспечиваться в цифровом мире так же, как в реальном, ибо разница между ними уже неочевидна. Александр Солженицын как-то сказал, что свобода человека определяется тем, сколько о нем не знают. Он вкусил тоталитаризма и знал, о чем говорит. Хочется эту фразу напомнить всем — и нам, и всем разработчикам планеты Земля. Читайте также Цена улыбки: зачем системы искусственного интеллекта учатся распознавать эмоции