Сговор роботов: сможет ли искусственный интеллект задирать цены в магазинах?

  • 23 февраля 2019
Торговый робот Правообладатель иллюстрации LightRocket/Getty Images
Image caption Торговые роботы - будущее или уже настоящее?

Искусственный интеллект стремительно проникает в повседневную жизнь: рассчитывает маршруты, переводит с иностранных языков, подбирает нам фильмы, книги и одежду. Самообучающиеся алгоритмы приводят к простым целям все более сложным путем, и в этом кроется угроза, опасаются чиновники и эксперты.

Что если эта простая цель - не облегчить жизнь человеку, а выжать из него максимум прибыли? И что если машины, которым продавец поставил такую цель, в процессе ее достижения вступят в сговор и начнут массово обсчитывать потребителей? Как отследить и пресечь это?

Роботы уже вовсю используются в торговле. Алгоритмы автоматически устанавливают цены, оценивают спрос и предложение, определяют скидки и рекомендации покупателям. Их эволюция чревата двумя серьезными проблемами.

"С антимонопольной точки зрения опасность заключается в том, что алгоритмы репрайсинга потенциально способны каждый по отдельности прийти к одному выводу: чтобы обеспечить максимальную прибыль, нужно избегать ценовых войн", - предупреждают три профессора экономики из Болонского университета.

"То есть, они могут вступить в картельный сговор, даже если перед ними не ставили такую задачу и даже если они не общались друг с другом. Это проблема", - говорится в их февральской публикации.

Алгоритмами заинтересовались те, кому общество делегировало защиту потребителей от монополий. До сих пор вся их практика была построена на работе с людьми и корпорациями. Роботы - совсем другая история.

"Алгоритмы сделали много полезного для защиты прав потребителей и развития конкуренции - они сократили издержки поставщиков, улучшили обслуживание и доступность товара. Однако мы должны разобраться, может ли использование алгоритмов нанести вред потребителям в дальнейшем, и если да, то когда и как", - обратилось к проблеме антимонопольное ведомство Великобритании (CMA).

Почему сейчас?

Правообладатель иллюстрации South China Morning Post/Getty Images
Image caption С каждым днем машины узнают людей все ближе

Времена меняются. Цифровой след, который оставляют люди в интернет-магазинах, социальных сетях и браузерах буквально на глазах превращается в лавину информации и открывает роботам новые возможности для сложных стратегий ценообразования, включая персонифицированное.

Чем больше машина знает о нас, тем проще ей определить, какую максимальную цену мы готовы заплатить за платье, урок итальянского или поход в бассейн.

"90% всех цифровых данных в мире было создано в последние два года, - говорится в рабочей записке CMA, опубликованной минувшей осенью. - С развитием технологий больших данных (Big Data) бизнес все активнее покупает услуги анализа этой информации. Мировой оборот в этой сфере, как ожидается, достигнет 200 млрд долларов к 2020 году".

Алгоритмы давно использовались в торговле, но повсеместное проникновение машин в сферу потребления стало возможно только сейчас, и связано это не с развитием компьютеров и программ, а как раз со взрывным ростом объема, доступности и скорости сбора данных о потребителях, их привычках, доходах и поведении, полагает профессор Израильского технологического института Авигдор Гал.

Он в числе других представлял свои соображения к дискуссии в ОЭСР - клубе самых богатых стран мира. Антимонопольная комиссия этой организации занялась проблемой и признала, что современные методы защиты потребителей и конкуренции вряд ли будут достаточными для регулирования рынка в новую эру машин.

Однако и новые ограничения способны навредить прогрессу и затормозить технологическое развитие, поэтому если их и вводить, то осторожно и постепенно.

Как договариваются роботы

Правообладатель иллюстрации UIG/Getty Images
Image caption Людям нужно общение. Машины научились понимать друг друга без слов

Жизнь антимонопольным органам осложняет тот факт, что машины способны вступить в картельный сговор, даже не общаясь между собой.

Продавец ставит им цель, но путь к ней не указывает. Они сами ищут способ выполнить задачу, будь то продать новинку подороже или распродать запасы побыстрее. С учетом того, что машины давно обыгрывают людей в шахматы и го, путь к цели может оказаться самым изощренным.

Три профессора экономики из Болонского университета ставили опыты: запускали искусственный интеллект в классическую модель картельного сговора. Ученые меняли условия эксперимента, но роботы настырно учились только одному.

"Даже самые примитивные алгоритмы ценообразования методично оттачивают сложные стратегии сговора. И больше всего беспокоит то, что они не оставляют никаких следов. Они учатся договариваться методом проб и ошибок, не общаясь между собой, на новых для себя рынках и даже если им не ставили задачу создать картель", - пишут исследователи.

И это еще до того, как в матрице появляется еще пара неприятных осложнений. Первое - общая школа алгоритмов, второе - общая база данных о покупателях.

В первом случае алгоритмы, как в том эксперименте, обучаются в одном и том же месте, прежде чем вступить в игру. Многие мелкие продавцы не вкладываются в разработки, а покупают готовые решения у крупных игроков. Таким программам проще договориться, не разговаривая. И эта особенность машин уникальна: многократные эксперименты доказали неспособность людей создавать даже примитивные картели без общения между собой.

Во втором случае машины при анализе данных используют одну и ту же базу информации о потенциальных потребителях. А убийственная комбинация этих двух факторов - это когда и алгоритм, и информация принадлежат очень крупному сборщику личных данных, который одновременно еще и крупнейший продавец товаров или услуг.

Тогда машины в теории смогут определить покупательную способность каждого и извлечь максимальную выгоду через персонифицированное ценообразование.

Возможно, они уже это делают?

Восстание машин

Нет, говорят регуляторы. Они давно ищут, но пока не могут найти признаков того, что искусственный интеллект подрывает конкуренцию и задирает цены.

Правообладатель иллюстрации AFP
Image caption Автоматизация до сих пор позволяла торговле сокращать издержки и была на руку потребителям

В прошлом году Еврокомиссия провела исследование в восьми странах ЕС и не нашла ничего. Годом ранее к такому же выводу пришло британское антимонопольное ведомство.

А до этого два года подряд австрийцы проводили свой эксперимент. В 2016 году они отслеживали цены 36 различных товаров и услуг (от обуви до гостиниц и перелетов) на 28 девайсах (компьютерах, телефонах и планшетах) в течение пяти дней в девяти областных центрах Австрии и немецком Дюссельдорфе. И не нашли отклонений.

Через год они повторили эксперимент на трех десятках позициях крупных онлайн-магазинов (Amazon, Lufthansa, AirBerlin, Austrian Airline, Opodo, booking.com и Heine). На этот раз цены немного отличались, но никакой закономерности вывести не удалось.

Нет примеров пока и в судебной практике - за редким исключением. В 2015 году американский регулятор выиграл антимонопольное разбирательство, доказав преднамеренное использование компьютерной программы для установления единой цены на постеры в разных онлайн-магазинах. Продавцу пришлось заплатить штраф в 20 тысяч долларов.

И в ближайшее время ждать восстания машин не приходится, полагает британский антимонопольный орган, поскольку продавцы столкнутся с целым рядом сложностей - от прозрачности ценообразования до права на перепродажу.

"Эти сложности преодолимы, по крайней мере в теории, если компании задействуют достаточно продвинутые алгоритмы и базы данных, а также будут готовы целенаправленно договариваться и делиться информацией. Пойдут ли они на это - эмпирический вопрос о качестве и доступности данных и алгоритмов", - пришли к выводу борцы с монополиями.

Есть и еще одна важная преграда на пути манипуляторов - сами потребители. Если люди начнут подозревать, что их дурят сложные алгоритмы, пострадают продавцы.

"Если потребители теряют веру в то, что им предлагают хорошую и справедливую цену, они уходят с такого рынка или резко сворачивают свою активность на нем. Это проблема для индивидуального ценообразования, а подозрения, что алгоритмы облегчают ценовой сговор, способны еще больше подорвать потребительское доверие", - предупредило британское антимонопольное ведомство.

Новости по теме