Мы уже привыкли бояться, что искусственный интеллект отнимет у нас работу или что дата-центры, обеспечивающие его мощь, разрушают экологию. Однако реальность оказалась еще циничнее: пока мы переживаем за будущее, ИИ уже сейчас активно залезает в наши кошельки. Серия недавних отчетов вскрыла неприглядную правду: крупные корпорации используют алгоритмы, чтобы шпионить за покупательскими привычками и, что хуже, заставлять людей платить больше за привычные товары.
Особенно тревожная ситуация складывается с так называемыми программами лояльности. Исследование Vanderbilt Policy Accelerator показало, что под видом скидок и бонусов компании создают «аудиторию пленников». Поскольку пользователи добровольно соглашаются на условия программ лояльности, эти системы часто выпадают из-под действия законов о слежке.
Яркий пример — цифровая версия знаменитой игры «Монополия» от McDonald’s. Чтобы получить приз, клиент должен воспользоваться приложением, политика конфиденциальности которого позволяет отслеживать геолокацию, историю браузера и даже активность в соцсетях. На основе этих данных ИИ строит детальный психологический профиль потребителя, предсказывая его слабости и привычки, чтобы стимулировать повторные покупки. К 2027 году McDonald’s планирует собрать такие досье на четверть миллиарда человек.
Но если сбор данных — это полбеды, то манипуляция ценами — это уже прямой удар по бюджету. Совместное расследование Groundwork Collaborative и Consumer Reports выявило, что сервис доставки продуктов Instacart использует ИИ для персонализированного ценообразования. Эксперимент, в ходе которого 437 покупателей одновременно добавляли товары в корзину в разных городах, показал шокирующие результаты:
- Почти на три четверти позиций цены различались для разных пользователей.
- Разница в стоимости одного и того же товара могла достигать 23%.
Это явление, известное как динамическое ценообразование, давно используется авиакомпаниями, но ИИ вывел его на новый уровень гипер-таргетинга. Алгоритмы вычисляют максимальную сумму, которую конкретный человек готов заплатить здесь и сейчас, основываясь на его местоположении и истории поведения. Для семей, которые зависят от доставки продуктов из-за нехватки времени, такая «удобная» услуга может обходиться в скрытые 1200 долларов