«Информационные системы должны быть способными помочь людям в самоорганизации»

Как люди реагируют на «цифровую диктатуру», каким образом можно выявить «взломщиков» системы мотивации и что из опыта «Острова 10-21» и «Острова 10-22» можно использовать для того, чтобы приучить людей к самоизоляции и «удаленке» в своей колонке для Indicator.Ru рассказал генеральный директор АНО «Университет 20.35» Василий Третьяков. Сейчас многие участники «Острова 10-21» и «Острова 10-22» (образовательные программы интенсивной подготовки кадров для цифровой экономики и Национальной технологической инициативы) говорят о том, что эти мероприятия стали для них подготовкой к тем стремительным изменениям, которые сейчас происходят в мире. «Острова» действительно во многом были экспериментом, где отрабатывались новые форматы цифрового взаимодействия, системы управления персональными траекториями развития людей в большом сообществе на основе данных цифрового следа. Организация и управление «Островами» стали уникальным опытом, которым команда Университета «20.35» считает важным поделиться именно сейчас, когда для общества вопрос повышения социальной ответственности и принятия новых моделей поведения напрямую связан с вопросом жизни и здоровья сотен тысяч людей. «Остров 10-21» и технооптимизм «Остров 10-21», состоявшийся во Владивостоке в 2018 году, стал первым в мире массовым мероприятием, где участники (1021 человек) принимали обязательства по сбору данных о своем местоположении и иных показателях, собираемых с помощью датчиков частоты сердечных сокращений. Из 1021 участника только десять человек тем или иным способом явно отказались от сбора данных (отказ в подписании общей формы соглашения об использовании данных, неустранимые проблемы с устройствами, непереносимость контакта кожи с материалами датчиков). Кирилл Королев Кирилл Королев Кирилл Королев Василий Третьяков Однако реальная готовность действительно носить устройства и обеспечивать непрерывный сбор данных в течение всего дня оказалось не такой высокой: только для 80% пользователей были собраны датасеты, пригодные для анализа. Более 70% людей хотя бы в один из дней забыли или надеть датчик, или зарядить его, или проверить работу приложения на телефоне. Социальным ответом на призыв к обязательному ношению датчиков стали предложения другим участникам интенсива «поносить датчик» вместо его владельца (вместе с личным телефоном) за скромное вознаграждение — этим пользовались участники, желающие выехать за пределы кампуса. Выводы: Сам факт процесса сбора данных для значительной доли участников стал дополнительным стимулом к выполнению правил (в нашем случае — нахождение в рабочее время на «Острове»); Для фиксации нарушений нужна инфраструктура (стабильная сотовая или Wi-Fi сеть) и централизованно выданные устройства, которые обеспечивают условия для выполнения правил участниками; В первые несколько дней (или даже недель) основными нарушителями будут люди с низкой цифровой культурой и те, кто успешно под них маскируются. О цифровой диктатуре ИИ Второй важный эксперимент, проведенный на «Острове 10-21», — это эксперимент с «цифровой диктатурой искусственного интеллекта» в плане формирования индивидуальных траекторий обучения и организации расписания. Программа каждого «Острова» предельно насыщенная: в каждый момент времени в кампусе проходит не менее 40 мероприятий, любое из которых каждый обучающийся может включить в свою траекторию. Для того, чтобы обеспечить справедливое распределение тысячи участников без переполненных аудиторий и с максимальным образовательным эффектом, был спроектирован механизм рекомендаций и автоматического формирования расписаний. Участник выбирал приоритетное направление своего развития, алгоритм формировал рекомендации, а участник использовал модель аукционов, позволяющих получить право участия даже в тех мероприятиях, которые не были рекомендованы. Посетители ситуационного центра Пресс-служба НТИ Посетители ситуационного центра Пресс-служба НТИ Посетители ситуационного центра Пресс-служба НТИ Посетители ситуационного центра Пресс-служба НТИ В реальности люди разделились на тех, кто следует рекомендациям «бездушного ИИ», и тех, кто их явно игнорирует. Изначально выбранный жесткий подход к распределению участников на первых этапах поставил под угрозу модель проведения интенсива. Отказ от цифровых инструментов управления (переход к полной самоорганизации или бумажным форматам работы) тоже был невозможен — слишком сложной была структура мероприятий и высока вероятность конфликта. Прямо в процессе интенсива была выработана и реализована новая модель, в рамках которой ИИ не предопределяет куда человек может пойти, а рекомендует ему наиболее подходящие для него мероприятия с учетом прогноза загруженности аудиторий и фактического наличия свободных мест (механизм аукционов продолжал гарантировать места в аудиториях для победителей). Такой механизм перестал вызывать отторжение (основное раздражение вызывал запрет перейти в соседнюю полупустую аудиторию), но позволил управлять процессом, избегать массовых конфликтов из-за наличия мест, сформировал осознанное отношение участников к своей траектории. Выводы: Очень важно нащупать баланс во взаимодействии человека и искусственного интеллекта, чтобы люди не чувствовали себя ущемленными в возможности выбора, но при этом понимали ценность, обеспечиваемую контролем со стороны ИИ; Коллапс системы поддержки деятельности в цифровом мире приводит к дезориентации с последующей попыткой самоорганизации людей. Информационные системы должны быть способными помочь людям в самоорганизации, и тогда получится вернуть контроль над процессом. «Остров 10-22» и социальные рейтинги Во время «Острова 10-22», который прошел в Сколтехе в 2019 году с учетом предыдущего опыта, были сделаны другие акценты: Важна динамика не только отдельных участников, а работа с командами — обеспечение их совместного продуктивного участия в программе; Мотивация участников к соблюдению правил, которые помогают сообществу использовать возможности «Острова» максимально эффективно, например, через справедливое распределение возможности доступа к востребованным мероприятиям (нельзя приходить на мероприятие с переизбытком желающих, на которое для тебя не забронировано место, и нельзя бронировать места и не приходить). Для мониторинга посещения мероприятий была выбрана гибридная технология — одновременно использовались данные геопозиционирования, Wi-Fi-сети, регистрации на входе в помещения и видеоконтроль. Из этических соображений сбор данных с датчиков стал опциональным — желающим получить дополнительные данные о себе предоставлялась такая возможность. Для контроля соблюдения правил была реализована система красных и зеленых «карточек», которая поощряла за правильные действия и начисляла штрафные баллы командам за неправильные. Рейтинг команд был публичен в рамках сообщества «Острова». Гибридная система мониторинга в целом повысила точность данных, однако выяснилось, что при наличии достаточно больших групп людей, при нечетком разделении пространств для работы и гибком индивидуальном расписании для каждого участника неизбежны погрешности. Проще говоря, был ли человек на конкретном мероприятии в течение какого-то времени, мы можем определить только вероятностно. Сочетание достаточно строгих правил публичного начисления карточек с одной стороны, и неизбежной погрешности с другой, привело к ожидаемым «народным возмущениям» и борьбе за справедливость. Решение было найдено через установление пороговой вероятности нарушения (карточки выдавались только на основании нескольких подтверждающих данные источников, введение системы апелляции и смещение информационного фона в сторону зеленых карточек за правильные действия. При этом стоит отметить, что, в отличие от автоматической раздачи красных карточек, апелляции проводились вручную и требовали достаточно много сил в первые дни. Отдельно хочется отметить, что практически любая система мотивации (в нашем случае — система зеленых карточек) с большей вероятностью, чем репрессивная система, может быть «взломана». С этим мы столкнулись на второй неделе: люди находили способы получать зеленые карточки, и все свои усилия сосредотачивали на этом. Это казалось им проще, чем исключить получение красных карточек. При этом есть два варианта. Первый — участники выявляют стратегию, которая близка той, что задумали организаторы, и достигают предельных результатов в ущерб более осмысленной деятельности. Второй — участники убеждаются в несправедливости системы или не соглашаются с предложенной стратегией и ищут способы препятствовать работе системы или явно фальсифицировать результаты. Выявление таких случаев требует работы ситуационного центра, который способен на основе данных проводить мониторинг происходящего и имеет возможности для управления процессом — налаженные каналы коммуникации, изменения в программном обеспечении «на лету», управление распределением ресурсов, ценных для участников. Ситуационный центр в Сочи Пресс-служба НТИ Выводы: Важна динамика не только отдельных участников, а работа с командами — обеспечение их совместного продуктивного участия в программе; Мотивационные механизмы и понятная для участников система ограничений, явно обеспечивающая повышение эффективности для самих участников, работают гораздо эффективнее, чем жесткие репрессивные системы; Введение системы контроля и мотивации позволяет сильно ускорить процесс вхождения людей в новую среду, объединить их вокруг новых вызовов, повысить осознанность в принятии решений; Создавая репрессивные инструменты, опирающиеся на автоматизированные системы оценки, нужно сразу планировать действия в тех случаях, когда система ошибается, и проводить оценку ресурсов, которые потребуются на корректировку и минимизацию последствий ошибок; Очень важно правильное проектирование и экспериментальное подтверждение того, что система мотивации ведет к желаемому социальному поведению. Если единственный способ — провести эксперимент в процессе работы, то надо иметь ресурсы для быстрой модификации системы, в том числе через изменения в информационных системах. Как использовать опыт «Островов» сейчас: Для создания цифровой системы контроля и мотивации людей на уровне компании или даже региона для быстрого введения новых моделей поведения — от самоизоляции до культуры удаленной работы (мы готовы делиться опытом, программными решениями, апробированными моделями); Для введения систем мотивации на активное развитие в период самоизоляции, поощрения прохождения онлайн-курсов, работы с образовательными ресурсами, передачи образовательного опыта другим людям, в том числе внутри компании (набор инструментов для этого мы планируем запустить в самое ближайшее время). Автор: Василий Третьяков Понравился материал? Добавьте Indicator.Ru в «Мои источники» Яндекс.Новостей и читайте нас чаще. Подписывайтесь на Indicator.Ru в соцсетях: Facebook, ВКонтакте, Twitter, Telegram, Одноклассники.