Манипулятивный дизайн и его законодательное регулирование

Аналитический отдел АНО «ИРИ» продолжает разбор новых правоприменительных практик, относящихся к сфере информационных технологий. В статье ниже рассматривается вопросы, касающиеся приемов с помощью которых разработчик сайта или приложения может управлять поведением пользователя. Они получили название темных паттернов — уловок, которые заставляют пользователя делать то, что он не хочет, например, зарегистрироваться, совершить покупку, подписаться на рассылку и т.д.

В январе 2023 года Future of Privacy Forum (FPF) опубликовал пост о текущей позиции регуляторов США в отношении темных паттернов.

В частности, FPF выделил основные тенденции и выводы, объясняющие наиболее значимые правила, которые касаются манипулятивного дизайна в контексте защиты данных в США, а также обсудил возможности и проблемы применения правил анти-манипулятивного дизайна к конкретным секторам бизнеса или практикам.

В отчете отмечается, что недавние законы и находящиеся на рассмотрении законопроекты в основном используют общий подход к разработке этих правил. Многие из них запрещают онлайн-сервисам манипулировать пользовательским интерфейсом с целью нарушения самостоятельности принятия решений или запутывания выбора пользователя.

В 2021 году Федеральная торговая комиссия (FTC) провела семинар, посвященный «цифровым темным паттернам», и с тех пор активно инициирует разбирательства по данному вопросу.

В декабре 2022 года FTC объявила о заключении мирового соглашения с Epic Games на сумму 245 миллионов долларов в связи с обвинениями в том, что игровая компания использовала темные паттерны в своей популярной игровой франшизе Fortnight.

В жалобе FTC утверждалось, что Epic использовала «уловки интерфейса», заставляя пользователей совершать случайные встроенные покупки, и блокировала аккаунты, когда пользователи требовали возврата денег.

Такое внимание означает, что специалисты по защите конфиденциальности сталкиваются с трудной задачей понимания, распознавания и предотвращения манипулятивного дизайна.

Основная проблема заключается в том, чтобы отличить манипулятивный дизайн от законных методов убеждения.

Эксперты часто расходятся во мнениях относительно того, какие методы проектирования запрещены существующими законами – включая запрет на недобросовестные и обманные методы (Unfair, Deceptive and Abusive Practices, UDAP) – а также относительно оптимальной сферы применения предлагаемых новых мер регулирования.

Существует множество подходов к классификации и категоризации манипулятивных методов дизайна. Эти подходы каталогизируют формы вызывающей беспокойство архитектуры пользовательского опыта, начиная от прямого обмана, такого как «прокрадывание» в корзину (т.е. добавление дополнительных товаров в корзину пользователей без их согласия), до более неоднозначных, таких как «конфирмация» (когда организации используют язык, вызывающий эмоции, чтобы заставить пользователей совершать покупки или поддерживать подписку).

Часто незаконный манипулятивный дизайн мешает людям совершить желаемые действия, например, отменить подписку, или скрывает информацию об условиях соглашения.

Манипулятивный дизайн имеет важные последствия для конфиденциальности потребителя. Согласие пользователя, полученное путем манипуляции, поскольку оно не является ни информированным, ни свободным, подрывает основу любого режима уведомления и согласия на сбор, использование и обмен данными.

Большинство законов штатов, направленных на ограничение или запрет использования манипулятивного дизайна в Интернете в США, основаны на предложенном законе Deceptive Experiences To Online Users Reduction Act (DETOUR).

DETOUR, впервые представленный в Конгресс в 2018 году, но так и не принятый в качестве закона, запретил бы веб-сайтам, платформам и сервисам разрабатывать, изменять или манипулировать пользовательским интерфейсом с целью нарушения самостоятельности пользователя, принятия решений или выбора для получения согласия или обманного сбора пользовательских данных. Хотя в Законе DETOUR не использовался термин «темные паттерны», употребляемые в нем формулировки «манипулятивный интерфейс» и др. подразумевают под собой то, что мы сегодня называем темными паттернами/шаблонами.

Ряд законов штатов так или иначе воспроизводят положения Закона DETOUR, например, Закон о конфиденциальности потребителей Калифорнии (CCPA); Закон о конфиденциальности Колорадо (CPA); Закон о конфиденциальности данных Коннектикута (CDPA); Законопроект о конфиденциальности и защите американских данных (ADPPA); Калифорнийский кодекс дизайна, соответствующего возрасту (CA AADC), запрещает сервисам, ориентированным на детей, использовать темные паттерны.

Кроме этого, в США ведется разработка законопроектов, направленных на конкретные виды дизайна, которые считаются особенно пагубными.

Например, два недавних федеральных законопроекта:

1) Закон о технологиях снижения зависимости от социальных сетей (SMART Act), который запрещает автоматически обновляющийся контент, музыку и видео без остановки,

2) законопроект S.1629, который регулирует использование лутбоксов, стимулирующих формирование зависимости.

Усиление законодательной и правоприменительной активности в США в отношении манипулятивного дизайна является новой тенденцией, которая, вероятно, будет продолжаться как в контексте законодательства о конфиденциальности, так и вне его.