Индийские программисты вместо ИИ и фейки на сайтах знакомств: пять примеров мошенничества в сфере высоких технологий
Анализы с ложными результатами У каждой яркой вспышки из Кремниевой долины неизбежно появляются подражатели. Печально известная компания Theranos не стала исключением. Она планировала произвести революцию на рынке анализов крови, а ее последователи Ubiome предложили простые тесты для проверки кала на дому. Как и Theranos, Ubiome быстро рос и привлек миллионы долларов. Когда Theranos рухнул, Ubiome последовал за ним — оба стартапа оказались компаниями мошенников. И если в Theranos просто выдавали отсутствие результатов за супертехнологию, то в Ubiome пошли дальше. Они до пяти раз выставляли счета страховым компаниям за один и тот же тест, который к тому же не имел никакой медицинской ценности. Страховщики требуют, чтобы лабораторные исследования проводили только люди с медицинским образованием. Поэтому Ubiome наняли собственную команду врачей и заставляли их одобрять результаты всех тестов, независимо от их качества. Как минимум одного врача уволили за то, что он делал тесты недостаточно быстро. Компания публиковала фейковые отзывы о своих услугах, используя портреты со стоков, и применяла много других недобросовестных рекламных тактик. Когда страховые компании начали отклонять чеки Ubiome, она начала показывать инвесторам квитанции для будущей оплаты, а не реально оплаченные счета — это позволяло создать видимость быстрого роста. Компании по защите данных, которые платят хакерам Корпорации и правительства все чаще сталкиваются с атаками вымогателей: хакеры шифруют данные или блокируют доступ к критически важным системам и требуют выкуп. Появились даже специальные компании по восстановлению данных — Proven Data и MonsterCloud называют себя «экспертами по борьбе с вымогателями» и обещают быстро и эффективно расшифровать поврежденные файлы. Конечно, это не бесплатная услуга — иногда такие сервисы просят даже больше, чем хакеры. Но клиенты не против немного переплатить: так они чувствуют, что поступают правильно и не идут на сомнительную сделку с преступниками. Они бы очень удивились, узнав, что Proven Data и MonsterCloud просто передают злоумышленникам деньги и оставляют разницу себе. Это стало настоящей проблемой в сфере кибербезопасности. Один исследователь инсценировал хакерскую атаку и отправил запросы о помощи в несколько компаний. Все они радостно взялись за дело, утверждая, что неоднократно имели дело с этим злоумышленником, а потом тайно попробовали договориться с «хакером» об уплате выкупа, не подозревая, что преступник и его жертва — один и тот же человек. Судя по всему, это довольно легкие деньги — лишь один из основателей Proven Data имел какое-то отношение к ИТ-сфере. Правда, он редко появлялся на работе и уделял куда больше внимания своему хобби — борец с киберпреступностью оказался начинающим диджеем. Должно быть, печально заплатить кучу денег крутому ИТ-эксперту и увидеть, как его выкидывают из клуба за то, что он перебрал энергетиков. Сам факт появления такого бизнеса неудивителен — кино и телевидение приучили людей к мысли о том, что для борьбы с хакерами достаточно найти умника, который умеет очень быстро печатать. На самом деле этот процесс устроен несколько сложнее. К тому же злоумышленники часто атакуют больницы и медицинские компании, где любое промедление действительно подобно смерти. Такие ситуации ловко используют лжеборцы с хакерами. Proven Data и MonsterCloud изображали из себя экспертов-дешифровщиков, готовых на все для восстановления систем. Вот только они умолчали, что «все» в их понимании означало просто заплатить преступникам. Фото: Minerva Studio / Shutterstock У деятельности таких компаний есть еще более неприятные последствия, чем обман пользователей. Легкость получения выкупа мотивирует хакеров атаковать своих жертв снова и снова. К тому же сервисы могут создавать взаимовыгодные отношения с киберпреступниками. Когда программа-вымогатель SamSam атаковала системы по всей территории США, сотрудники Proven Data перечислили хакерам так много выкупов, что те даже согласились поддерживать работу пострадавших сетей, пока компания не согласует свои контракты. Более того, хакеры SamSam фактически начали рекомендовать своим жертвам обращаться в Proven Data. Знайте: если грабитель оставляет визитку частного детектива у порога, это по меньшей мере подозрительно. Манипуляции с медицинскими данными в облачных сервисах До недавнего времени медицинские записи делались на бумаге и терялись где-то в недрах регистратуры. С появлением интернета возникла идея перенести эти данные в онлайн. Стартапы, обещающие разместить медицинские записи в облачных сервисах, собирают миллионные инвестиции в Кремниевой долине. Эта технология может серьезно облегчить жизнь врачей, если использовать ее во благо. К сожалению, иногда это происходит совсем наоборот. Компания Practice Fusion создала облачный сервис для медицинских записей, который должен был помогать врачам, выявляя проблемы пациентов и разрабатывая планы лечения на основе собранных данных. Стартап привлек более $150 млн и планировал получить еще $1,5 млрд на IPO в 2016 году. Но в 2018 году Practice Fusion неожиданно продали всего за $100 млн. В результате очень подозрительной сделки сотрудники и акционеры остались ни с чем, а руководители получили миллионы. Что случилось? Оказалось, что Practice Fusion получала «спонсорскую помощь» от фармацевтических компаний за изменение настроек программы. В результате программное обеспечение рекомендовало врачам назначать препараты этих компаний даже тем пациентам, которым они не были нужны. Фото: everything possible / Shutterstock Например, производитель опиоидов заплатил Practice Fusion за создание всплывающего окна с вопросом об уровне боли пациента. В выпадающем списке нужно было выбрать метод лечения, среди которых была и «опиоидная терапия» с использованием препаратов компании. Программа предлагала этот вариант даже в тех случаях, когда их применение противоречило медицинским рекомендациям. Специалисты Practice Fusion обещали, что этот ход обеспечит производителям до 2777 дополнительных пациентов от каждого врача. Тот факт, что большинство из них не нуждалось в лекарствах с высокой степенью привыкания, никого не волновал. Чтобы замять эту историю, компания заключила соглашение с Министерством юстиции на сумму $145 млн. Видимо, распространение опасных наркотиков карается тюремным заключением, только если продавать их из багажника старого Фиата, а компьютерные программы — совсем другое дело. Одним из основных конкурентов Practice Fusion была компания eClinicalWorks (ECW), среди клиентов которой оказались такие крупные организации, как Департамент исправительных учреждений и общественного надзора штата Нью-Йорк. К сожалению, в программе компании было полно багов: сервис регулярно терял истории болезни, рекомендовал неподходящие или несуществующие лекарства, не передавал рецепты в аптеки, отображал имя одного пациента и историю болезни другого и так далее. В ECW намеренно скрывали все эти проблемы для получения государственной сертификации, а также тратили десятки тысяч долларов на подкуп врачей, чтобы обеспечить необходимое общественное одобрение. Софт оказался настолько плохим, что, похоже, буквально убивал людей. В одном из таких случаев врач отправил пациента на сканирование головного мозга, но этот запрос так и не поступил в лабораторию. Через некоторое время пациент умер от невыявленной аневризмы. Проблемы с медицинскими данными регулярно возникали в исправительных учреждениях штата, поэтому в 2018 году ECW обязали выплатить $155 млн в пользу Министерства юстиции США. Возможно, компания, систематически рискующая жизнями пациентов, заслуживала куда более серьезных мер. Рабский труд вместо искусственного интеллекта В последнее время тема искусственного интеллект пользуется огромной популярностью. В 2018 году ИИ-стартапы в сумме привлекли $31 млрд. Настоящий ИИ сложно эксплуатировать и дорого создавать — гораздо проще набрать огромное количество низкоквалифицированных сотрудников, которые сделают всю работу. К сожалению, некоторые стартапы не устояли перед этим искушением. Например, Engineer.ai привлекла немало инвестиций после заявления CEO компании о том, что искусственный интеллект можно использовать для разработки мобильных приложений. Руководитель Engineer.ai заверил пользователей и инвесторов, что ИИ компании готов на 80%, а несколько инженеров временно закрывают остальные 20% задач до момента полной готовности системы. Расследование The Wall Street Journal доказало, что 100% проектов Engineer.ai были выполнены индийскими инженерами. В лучшем случае у компании были смутные планы задействовать ИИ в далеком будущем. Сервисы планирования Xan.ai и Clara фактически использовали вместо чат-ботов сотрудников, работающих по 12 часов в день. Expensify обещал применять для сканирования данных запатентованную технологию smartscan, но на самом деле их обрабатывали в MTurk сотрудники компании. GoButler называл себя консьерж-службой, работающей на базе искусственного интеллекта. На самом деле компания была запущена без ИИ, а все запросы направлялись команде перегруженных сотрудников колл-центра. Их официальные должности звучали как «герой» и «супергерой», и они были настолько завалены работой, что даже на рождественскую вечеринку могли выйти только в собственный 30-минутный перерыв. Даже крупные компании используют похожие методы. За «М», виртуального помощника Facebook на базе искусственного интеллекта, чаще отвечают реальные люди. Еще одна тревожная новая тенденция — использование «роботов», пилотируемых жителями развивающихся стран. Очаровательные роботы, доставляющие буррито в университетском городке Беркли, на самом деле работали под управлением колумбийцев, зарабатывающих менее $2 в час. Японская компания планирует создать роботов-горничных, фактически контролируемых удаленными работниками. По словам основателей проекта, это позволит занятым семьям получить недорогую помощь по дому. А люди, управляющие роботами, смогут увидеть чудеса первого мира их глазами. Если это не антиутопия, то что тогда? Фейковые аккаунты на сайтах знакомств Использование поддельных учетных записей для привлечения клиентов — давняя традиция в Кремниевой долине. Создатели Reddit неоднократно открыто заявляли, что применяли этот подход при запуске платформы: комментарии несуществующих пользователей помогали сайту выглядеть более «живым» и привлекали реальных людей. Сейчас они говорят об этом как о чем-то абсолютно естественном. Но все выглядит совершенно иначе, когда речь заходит о платных сервисах. Например, оказалось, что тот же метод используют многие сайты онлайн-знакомств. Большинство таких сайтов позволяет бесплатно размещать анкеты и получать сообщения. А вот чтобы ответить на них, понадобится платный аккаунт. Самый простой вариант мошенничества связан именно с этим: система отправляет сообщения от несуществующих пользователей, побуждая реальных людей перейти на платную версию. Например, JDI Dating — сервис, владеющий миллионами платных аккаунтов на таких сайтах, как findmelove.com — был оштрафован за использование поддельных профилей для привлечения новых пользователей. Некоторые компании заходят еще дальше. Global Personals, британский гигант, владеющий тысячами сайтов знакомств по всему миру, создал целую команду псевдопользователей. Сотрудники компании отбирали наиболее популярные профили, а затем использовали размещенные в них фотографии для создания поддельных учетных записей на других порталах. Каждый сотрудник вел не менее 15 псевдоаккаунтов, отправляя сообщения одиноким пользователям, чтобы те продолжали ежемесячно платить за учетную запись. Некоторые из них тратили годы на общение с несуществующими людьми. Когда реальный пользователь начинал слишком настаивать на встрече, сотрудник прерывал контакт, а затем продолжал отправлять сообщения под другим именем. Самую сложную схему реализовал лидер рынка Match.com. Он не создавал- поддельные профили напрямую — вместо этого он отправлял пользователям уведомления о спамерах и мошеннических учетных записях. Сотни тысяч пользователей получали такие сообщения и оформляли платную подписку, чтобы ответить на них. Открыв письмо, они понимали, что это было обычное уведомление от системы. Когда это обнаружилось, Match отказался возмещать ущерб и намеренно затруднил аннулирование платных аккаунтов. Источник. Фото на обложке: Dragon Images / Shutterstock
