Интернет знает вас лучше, чем муж или жена
Если вы любите компьютерные персональные тесты, то Apply Magic Sauce именно для вас. Сайт предлагает вам загрузить образец своего текста, например е-мейл или персональный блог. Вы также можете предоставить программе доступ к своей странице в социальных сетях (Facebook или Twitter) — и она проанализирует такие параметры, как, например, нажатие кнопки “Лайк”. Как только вы кликнете “Сделать предсказания”, вы увидите свою подробную психограму, которая содержит ваш приблизительный возраст, пол, то чем вы тревожны, или, наоборот, расслаблены, как быстро реагируете на стимулы и кто вы политически либерал или консерватор.
Анализ психологического профиля на основе своей активности онлайн может быть интересным развлечением. Но, с другой стороны, Apply Magic Sauce показывает, насколько легко любому, кто следит за вами в интернете, получить доступ к вашему сознанию. Кроме того, благодаря таким психологическим догадкам, вами становится очень легко манипулировать.
Сами лишь "лайки" хорошо указывают на то, на что мы ведемся. В 2015-м Дэвид Стилвел и Юю Ву из Кембриджского университета и Майкл Косинский из Стэнфорда продемонстрировали, что цифровые алгоритмы могут надежно определять то, что психологи называют “Большой пятеркой” — пять ключевых качеств личности (открытость, добросовестность, экстраверсия, радушие и невротизм), которые лежат в основе ее поведения и многих других параметров.
Исследователи натренировали свой алгоритм, использовав данные более 70 тысяч пользователей Facebook. Все пользователи накануне заполнили персональную анкету, поэтому их “Большая пятерка” была известна. Впоследствии программа прошлась по их страницам, сопоставляя "лайки" с результатами анкеты и находя корреляции между ними. Например, экстраверты чаще “лайкают” такие посты, как “вечеринка” или “танец”, а людям с высоким уровнем открытости нравится испанский художник Сальвадор Дали.
Впоследствии с помощью программы проанализировали “лайки” других пользователей. Оказалось, что десята “лайков” достаточно, чтобы оценить вас так же, как коллега по работе. Семьдесят — и программа уже знает вас, как близкий друг. А имея триста, она разбирается в вас лучше, чем муж или жена. Еще более удивительным стало то, что за “лайками” можно определять, кто страдает депрессией, принимает наркотики или даже какой предмет он или она изучает в колледже.
Проект развился из исследования, которое Дэвид Стилвел начал в 2007-м, когда он создал приложение для Facebook, которое дало возможность пользователям заполнять личную анкету, прося взамен доступ к персональной информации. В течение пяти лет в опросе приняли участие шесть миллионов человек, которые предоставили доступ к своим цифровым данным. Собранными данными, которые опубликовали в анонимной форме, заинтересовались исследователи со всего мира. Они легли в основу более 50 статей и диссертаций. Самое интересное было проанализировать поведение людей, когда они не знают, что за ними наблюдают.
Психологические инсайты, полученные из таких исследований, имеют много применений. Одним из них стала реклама косметических средств, которую в исследовательских целях создала Сандра Мац из Колумбийского университета вместе со своими коллегами, среди которых, в частности, были Стилвел и Косинский и описала в статье 2017 года. Команда Мац разработала десять различных вариантов рекламы одного и того же косметического средства, которое показали людям с различными психометрическими показателями, в частности женщинам-экстравертам и интровертам. На одной рекламе, предназначенной для экстравертов, была изображена женщина, которая самоотверженно танцует на зажигательной вечеринке. Внизу изображения была подпись: “Танцуй так, будто никто не видит (хотя на самом деле все все видят)”. В рекламе, предназначенной для интровертов, была показана молодая женщина, которая наносит макияж напротив зеркала. Снизу был слоган: “Красота не должна кричать”.
Два варианта рекламы одинакового средства, предназначенные для экстравертов и интровертов.
В течение недели обе рекламы увидело около трех миллионов пользовательниц Facebook. Как оказалось, когда реклама согласовывалась с психотипом личности, вероятность приобретения продукта возрастала на 50%.
Рекламодатели, однако, часто идут другим путем. Они ищут покупателей, которые уже купили или “лайкнули” определенный продукт, и таргетуют людей, которые уже показали, что имеют к нему склонность. Такое ограничение целевой группы основывается на предыдущем опыте потребления, но, по словам Мац, из ее исследования следует, насколько пользователи способны адаптироваться к новому сообщению, если его правильно сообщить.
Маркетологи уже используют такой подход. Многочисленные компании открыли для себя автоматический анализ личности и превратили его в бизнес-модель. Они в унисон подчеркивают ценности, которые с таким подходом доносят до потребителя, хотя, конечно, трудно судить, насколько хорошо работают эти методы в руках каждой конкретной компании.
Теперь уже несуществующая компания “Cambridge Analytica” показала миру страшный пример того, как персонализированное профилирование работает в реальной жизни. В марте 2018 г. стало известно, что, начиная с 2014 года, компания сформировала персональные профили для около 80 млн. пользователей Facebook (группа Стилвела отмечает, что их данных при этом не использовали) и применила их для персонализированной избирательной рекламы. В 2016 г. ее CEO Александр Никс описал ее стратегию во время презентации в Нью-Йорке. Он, в частности, говорил о том, как правильно обращаться к избирателям, выступающим за свободное владение оружием. Для невротиков — людей с высокой степенью тревожности — Никс предложил эмоционально окрашенную рекламу, в которой было показано вторжение грабителей в дом и сделан акцент на самозащите. Для людей с высоким показателем привязанности, которые ценят бщество и семью, показали ролик, в котором отец обучает сыновей охоте.
Во время избирательной кампании 2016 г. в США “Cambridge Analytica” работала на кандидатов от Республиканской партии Теда Круза и Дональда Трампа. По словам Никса, ее стратегия помогла Крузу высоко подняться в праймериз, а также сделала вклад в победу Трампа, хотя, конечно, масштабы и ценность этого вклада остаются дискуссионными.
Философ Филипп Хюбль, изучающий бессознательные мотивы поведения, сомневается в утверждениях Никса. По его словам, продавать косметику, которая стоит всего несколько долларов, — это не то же самое, что убеждать избирателей. “Даже те избиратели, которые не определились, взвешивают шансы и чтобы убедить их, нужно нечто большее, чем несколько баннерных реклам или фейковых новостей”, — говорит Хюбль. Мац также признает ограничения психологического маркетинга в его теперешней форме: “Избиратели, которые не определились, могут быть более чувствительными. Но превратить клинтониста в сторонника лозунга ‘Make America Great Again’ с помощью одной только рекламы почти нереально”, — говорит она. Впрочем, по ее словам, будущий потенциал психологического профилирования в политике и маркетинге не подвергается сомнению.
“Лайки” в Facebook – это далеко не единственные данные, которые можно использовать, чтобы получить доступ к вашей личности. В 2018 году компьютерный ученый Сабрина Хоуп из Штутгартского университета в Германии и ее коллеги надели на студентов-волонтеров устройство, которое следит за движением глаз. Надев устройство, волонтеры некоторое время гуляли по кампусу и занимались шопингом. Оказалось, что по одному только взгляду можно правильно установить четыре из пяти параметров “Большой пятерки”.
Тон голоса также может многое рассказать о личности. Компания из города Аахен (Германия) Precire Technologies, которая специализируется на психологических особенностях устной и письменной речи, разработала автоматизированное интервью для соискателей работы. Заявители общаются по телефону с роботом, который создает на основе их ответов детальную прихограму. Среди параметров, которые анализирует алгоритм, есть словарный запас и определенные комбинации слов, диалектные заимствования, грамматические ошибки и паузы в речи, интонация и тому подобное. Программу научили анализировать эти параметры на основе 5000 интервью с индивидами, которые накануне заполнили анкеты. Среди клиентов Precire, в частности, является компания Fraport, которая управляет Франкфуртским аэропортом и международное рекрутинговое агентство Randstad, которая использует программное обеспечение для автоматического интервьюирования перспективных работников. По словам директора ее немецкой ветви Андреаса Боллера, автоматизированные интервью более эффективнее и дешевле, чем традиционный подход face-to-face.
Другие компании разрабатывают программное обеспечение, которое позволяет сделать вывод о настроении и других параметрах личности при наблюдении за выражением лица. В начале 2018 г. во время IT-конференции nwHacks четверо программистов представили приложение, которое распознает настроение на основе изображения с фронтальной камеры iPhoneX. Это приложение получило название Loki и позволяет в реальном времени идентифицировать такие эмоциональные состояния человека как радость, печаль, злость, удивление и прочее. Один из разработчиков приложения сказал, что программа позволяет в реальном времени отслеживать эмоции и манипулировать контентом, который пользователь видит в ленте новостей. Такое программное обеспечение может секретно считывать эмоции и показывать рекламу, в зависимости от эмоционального состояния. Известно, что когда люди в хорошем настроении, они охотнее тратят деньги. Поэтому рекламщики могут показывать вам свой продукт именно тогда, когда вы “на высоте” и готовы открыть кошелек.
Интересно, что потребовалось только 24 часа, чтобы создать Loki. Его разработчики использовали машинное обучение, которое является привычным подходом к автоматическому распознаванию изображений. Они обучили программу, показав ей около 100 изображений человеческих лиц, на которых обозначили те или иные эмоции. Далее программа научилась самостоятельно связывать отдельные черты лица с настроением, например, когда краешек рта поднимается во время улыбки.
Косинский научил свою компьютерную программу распознавать даже сексуальную ориентацию. В 2018 г. вместе со своим коллегой Илун Венгом, он ввел в компьютер сотни тысяч фотографий людей с сайта знакомств вместе с информацией об их сексуальной ориентации. Впоследствии программе показали пары лиц людей одного пола и спросили про их ориентацию. Оказалось, что программа смогла правильно определить сексуальную ориентацию по чертам лица в 81% случаев для мужчин и 71% для женщин. Люди, по сравнению с компьютером, ошибались гораздо чаще.
Обобщенные черты лица людей с гетеро - и гомосексуальной ориентацией, сгенерированные компьютерной программой на основе нескольких сотен тысяч фотографий с сайта знакомств.
Учитывая то, что во многих странах мира геев преследуют, не удивительно, что исследование вызвало бурю негативных реакций. “Люди не поняли моего месседжа, — сказал Косинский. — Я не хотел показать, что мы можем определять сексуальную ориентацию человека, хотя это круто. Моей целью, напротив, было предупредить, призвать к защите приватности”.
В конце 2016 г. компьютерные ученые из Швейцарского федерального института технологий в Цюрихе продемонстрировали, что персоналии пользователей Facebook можно определить гораздо лучше, если их “лайки” связать с анализом фотографий. Интересно, что исследователи, которые использовали для этого технологию машинного обучения, не знают, как именно алгоритм делает свои выводы, например, что больше рассказывает о человеке — форма его стрижки или стиль одежды. Все это остается неизвестным, поскольку программы машинного обучения не раскрывают правил, на основе которых делают свои выводы. Известно лишь, что программа устанавливает связь между данными и психотипом, но даже ее разработчики не знают, какие именно показатели указывают на то, что мужчина испытывает влечение к другому мужчине, какие именно слова в моем е-мейле характеризуют меня как интроверта или экстроверта и пр.
“Алгоритмы распознавания личности кажутся чем-то вроде магии, но на самом деле они лишь находят корреляции”, — говорит участник швейцарского проекта Расмус Роте. Использование технологий для распознавания лиц уже давно вышло за рамки научных лабораторий. Его уже использует ряд коммерческий фирм, например израильская компания Faception, которая может распознать, имеет ли человек высокий IQ, педофильные склонности или является потенциальным террористом.
Даже если результат имеет высокую статистическую вероятность, эксперты выражают сомнение, что его следует использовать на практике. “Все, что нам могут дать алгоритмы, — это определенный статистический показатель”, — говорит Роте. По IQ, например, программа ошибается в четырех случаях из десяти. В некоторых случаях неправильные результаты вполне можно терпеть. Большинство не сильно переживает, что Apply Magic Source часто выдает комически абсурдные выводы. Но при других обстоятельствах эффект может быть катастрофическим. Даже если программа способна в 99% случаев правильно определить террориста, она может разрушить жизнь остального 1%. А в густонаселенных странах, таких как Германия или США, это могут быть тысячи людей.
Конечно, программы автоматической психологической оценки можно использовать не только во вред, а и на пользу. Например, они позволяют определить, имеет ли лицо склонность к суициду. В Facebook заметили, что пользователи сети могут случайно анонсировать свое намерение совершить самоубийство. Автоматический алгоритм распознавания текста компании сообщает, когда человек попадает в зону риска. После этого его профиль проверяет квалифицированный психолог. Если он также приходит к выводу, что опасения небезосновательны, с человеком свяжутся и предложат ему поддержку.
Посты в Twitter также могут быть хорошим материалом для анализа, — утверждает Глен Коперсмит, исследователь компании Quantify, из Арлингтона (Вирджиния), которая применяет науку о данных мониторинга общественного здоровья. По ее словам, сообщения в Twitter часто раскрывают намерение совершить суицид, поэтому следует серьезно отнестись к их скринингу.
А Университетский госпиталь имени Карла Густава Каруса в Дрездене с помощью смартфонов пытается определить показания серьезной депрессии. В частности, таким способом можно узнать о людях с биполярным расстройством и в какой фазе они находятся: в маниакальной или депрессивной.
Однако даже те, кто создает алгоритмы с добрыми намерениями, должны балансировать между благом с риском нарушения конфиденциальности. "Самаританс", некоммерческая организация из Соединенного Королевства, которая хотела помогать людям, имеющим склонность к самоубийству, почувствовала это на собственной коже. В 2014 г. она разработала приложение, которое сканировало сообщения в Twitter, ища в них определенные слова-маркеры (например, “я устал от жизни” или “я себя ненавижу”). С помощью приложения люди могли узнать, кто из их родных или близких находился в тяжелом психологическом положении и прийти им на помощь. Но “Самаританс” не получил предварительного согласия людей, чьи твиты собирали. Программу пришлось закрыть только через девять дней после запуска, поскольку ее критика была огромная. Университетский госпиталь имени Карла Густава Каруса не повторяет этих ошибок. Прежде чем собирать данные, он обязательно получает разрешение от всех пользователей смартфонов.
Автоматические психологические оценки уже становятся неотъемлемой частью цифровой эпохи. Однако еще необходимо узнать, будут ли они их использовать для добра или для зла.
Если Ян Смит (фамилия и имя изменены) провел утро в постели и пропустил лекцию, его отсутствие, скорее всего, будет вызывать тревогу. Ведь 25-летний студент имеет виртуального помощника, который достаточно хорошо осведомлен о всех нюансах его повседневной жизни: когда он ходит на прогулку, где и как часто он звонит друзьям, как долго он говорит по телефону и т. д. Он знает, что Ян Смит минувшей ночью отправил четыре сообщения в WhatsApp и два е-мейла, один из которых содержал более 2000 символов.
Смит страдает биполярным расстройством — психическое заболевание, в котором настроение и поведение человека постоянно колеблются между двумя крайностями. В определенные недели больные биполярным расстройством испытывают такую депрессию, что не могут даже встать с постели и справиться со своими ежедневными потребностями. А в другие — эйфорию и полноту сил, которая позволяет им работать вообще без сна.
Смит запустил программу на своем смартфоне, которая сканирует всю его активность: телефонные звонки, данные GPS и показатели шагомера, то, когда и как он использует каждое приложение. Эта информация регулярно попадает на сервер. Смит участвует в исследовании, которое координирует Университетский госпиталь Карла Густава Крауса, под названием Bipolife. Цель проекта — усовершенствовать диагностику биполярного расстройства, используя данные цифровых устройств. В течение двух лет ученые собираются изучать данные со смартфонов 180 пациентов с биполярным расстройством и собирать информацию об их активности в каждый конкретный момент. Дело в том, что больные биполярным расстройством часто не знают, когда у них начинается депрессивная или маниакальная стадия. Именно таким является опыт Смита: “Когда я нахожусь ‘на высоте’, я бросаю себя в работу и сплю по три-четыре часа в день. Мне тогда и в голову не приходит, что это может быть ненормально. Каждый в эти периоды завидует моей энергии и трудолюбию”.
Именно в таких случаях приложение на смартфоне посылает сигналы тревоги. "Передаваемые данные анализирует компьютерный алгоритм", - объясняет Эстер Мюльбауэр, психолог из Университетского госпиталя Карла Густава Крауса. Например, он распознает, когда человек начинает делать меньше звонков, вдруг перестает выходить из дома или, наоборот, работает в ритме 24/7. “Если наша программа видит это, она автоматически отправляет е-мейл психиатру пациента”, — говорит Мюльбауер. А психиатр уже связывается с ним и пробует помочь.
Чтобы получить эти данные, программа сначала должна определить, как пациенты используют свои смартфоны во время бессимптомных фаз. После этого программа определяет, когда поведение отходит от нормы, что позволяет оперативно помочь человеку. “Это означает, что кто-то всегда следит за моим состоянием. Это большая поддержка, особенно для людей, которые живут сами”, — говорит Смит.
