O que são ‘dark patterns’?

Já tive a oportunidade de mostrar o quanto a chamada soberania do consumidor é uma grande falácia, especialmente em mercados digitais, nos quais os consumidores estão cada vez mais vulneráveis em razão das chamadas dark patterns[1]

As dark patterns são estratégias de design ou arquitetura de ambientes digitais que dificultam que os consumidores expressem suas reais preferências ou que os manipulam para que tomem decisões que não sejam compatíveis com suas preferências ou expectativas. Daí já serem reconhecidas por importante relatório do governo norte-americano como substanciais falhas de mercado[2].

Dark patterns

Para Luguri e Strahilevitz[3], as dark patterns são interfaces de interação sabidamente desenhadas para confundir os usuários, dificultando que expressem sua verdadeira vontade ou procurando manipulá-los. Tais artifícios são tipicamente usados para explorar vieses cognitivos e limitações de racionalidade dos consumidores, a fim de que adquiram bens e serviços que não querem ou revelem dados pessoais que prefeririam manter em sigilo.

Como ensina Waldman[4], a importância da discussão sobre as dark patterns vai além da demonstração do quanto o modelo do homo economicus – o ser racional e calculador de utilidades, tradicionalmente utilizado pela economia mainstream – é descolado da realidade: é na verdade, uma evidência de que as inúmeras limitações de racionalidade dos consumidores têm sido exploradas, de forma sistemática e bem sucedida, pela indústria.

Com efeito, Waldman[5] mostra como diversos dos vieses cognitivos, como a ancoragem e o framing, são vastamente utilizados para manipular os consumidores, aos quais se acrescenta a exploração de diversas outras limitações, tais como (i) o hyperbolic discounting, que é a tendência de supervalorizar as consequências imediatas da decisão e subestimar as futuras, (ii) a overchoice, que é a sobrecarga de escolhas, o que pode paralisar consumidores; e (iii) as dificuldades diante de decisões complexas, que tendem a acionar o modo inércia, de forma a fazer com que o consumidor abra mão do processo decisório em favor da solução default.

É diante desse cenário que Waldman adverte para o fato de que os indivíduos não têm tomado decisões racionais e informadas no mundo online, diagnóstico convergente com a conclusão de Luguri e Strahilevitz[6], cujas pesquisas procuram comprovar o poder e a eficácia manipulatória das dark patterns.

De fato, em um dos experimentos conduzidos pelos autores, a conclusão foi a de que, ao submeter indivíduos a dark patterns suaves, aumenta-se em mais que o dobro a probabilidade de que contratem um serviço dúbio. Em caso de dark patterns agressivas, a probabilidade aumenta para quase quatro vezes.

Outras conclusões interessantes desse experimento são as de que: (i) enquanto as dark patterns agressivas envolvem o risco de forte retaliação por parte dos consumidores, as suaves não apresentam igual risco; e (ii) os indivíduos menos educados são significamente mais suscetíveis a dark patterns suaves.

Outro dos experimentos de Luguri e Strahilevitz[7] procurou identificar as dark patterns que são mais prováveis de produzirem um efeito nudge, conduzindo consumidores a tomar decisões que não entendem ou das quais provavelmente se arrependerão: (i) as informações escondidas, (ii) as chamadas trick questions e (iii) as estratégias de obstrução.

Estratégias que podem ser consideradas dark patterns

Para entender melhor a variedade e a sofisticação das estratégias que podem ser consideradas dark patterns, Luguri e Strahilevitz[8] apresentam a interessante e didática tabela que se segue:

Após explorarem a fundo as diversas estratégias, a conclusão fundamental a que chegam Luguri e Strahilevitz impressiona: são as decisões de arquitetura – e não de preço – que efetivamente direcionam a decisão de compra dos consumidores. Trata-se de descoberta extremamente importante, pois coloca em xeque um dos pressupostos básicos da economia, ao mostrar que o ambiente digital pode diluir ou até mesmo neutralizar a importância do mecanismo de preços.

Federal Trade Comission norte-americana

Esta argumentação foi, de certa forma, acolhida pela Federal Trade Comission norte-americana, que recentemente ingressou com ação contra a Amazon por inscrever consumidores no Amazon Prime sem o respectivo consentimento (non-consensual subscriptions) e ainda sabotando suas tentativas para cancelar a assinatura (cancellation trickery)[9].

Para a FTC, trata-se de prática implementada por anos por meio da qual a Amazon sabidamente enganou milhões de consumidores para que se inscrevessem na Amazon Prime. O objetivo foi implementado por meio de dark patterns, cujos designs manipulativos, coercitivos ou enganadores extraíram muito dinheiro dos consumidores.

No que diz respeito ao cancelamento, alega a FTC que a Amazon teria arquitetado conscientemente um processo que seria uma verdadeira malandragem, pois o design – composto por vários passos e com dificuldade considerável – era feito não para possibilitar o cancelamento, mas sim para impedi-lo.

A petição inicial da FTC[10] é bastante interessante, não apenas pelo esforço de demonstração das práticas, como também pela tentativa de se utilizar de algumas categorias de dark patterns para facilitar a compreensão do assunto. Dentre elas, destaca-se as seguintes práticas mencionadas pela FTC, que poderão ser encontradas na tabela já mencionada de Luguri e Strahilevitz:

• Subscrição não obrigatória (non-consensual enrollment), uma vez que a empresa não obteria o consentimento informado antes de cobrar do consumidor pelo serviço;
• Ação forçada (forced action), descrita como elementos de design que requerem do usuário a prática de certas ações para completar um processo ou acessar determinada funcionalidade, como o direcionamento do consumidor para subscrever o Prime antes de lhe permitir completar a sua compra independente;
• Interferência da interface (interface interference), descrita como elementos de design que manipulam a interface do usuário de forma a privilegiar certos tipos de informação, enganando os consumidores. Exemplos seriam (iii.i.) enunciar os termos e condições do Prime apenas no momento da conclusão da compra em uma fonte tão pequena que poderia nem ser notada pelo consumidor, (iii.ii.) uso de repetições e de cores para direcionar a atenção do consumidor para as palavras “free shipping” e não para o preço do Prime, (iii.iii.) estratégias que direcionam o consumidor para o fluxo do Prime sem cancelamento ou por meio de ícones próximos à opção de cancelamento que evocam ansiedade e medo nos consumidores;
• Obtruction or roach model technique, compreendido como elementos de design que envolvem um processo intencionalmente complicado e com passos desnecessários pensados para desestimular o consumidor de uma ação, que, no caso, seria o cancelamento do Prime;
• Misdirection, visto como a estratégia de focar a atenção do consumidor em uma coisa para distraí-lo de outra. No caso, alega a FTC que a Amazon teria apresentado escolhas assimétricas para induzir e facilitar a inscrição no Prime, bem como usado atrativos para direcionar os consumidores (tais como “remind me later” and “keep my benefits” ao invés de “continue to cancel”);
• Sneaking, que diria respeito a elementos de design que escondem ou disfarçam informações relevantes ou retardam a sua prestação. No caso, a FTC acusa a Amazon de esconder o preço do Prime e dificultar o encontro dos termos e condições do serviço;
• Confirm-shaming, que envolvem elementos de design que usam frases e expressões com alto grau de emotividade, a fim de imputar culpa ao consumidor na hipótese da escolha de uma determinada opção. Um exemplo seria a expressão “No thanks, I like full price” quando o consumidor recusava o serviço.

Diante da iniciativa da FTC, a Amazon já se pronunciou publicamente, alegando que as acusações são falsas tanto no que diz respeito aos fatos, como ao direito. Segundo a empresa, “a verdade é que os consumidores amam o Prime e que, por design, o serviço foi feito de forma clara e simples para que consumidores possam assiná-lo ou cancelá-lo”[11].

Como se observa, não há dúvidas de que se está diante de uma excelente oportunidade para testar concretamente a importância e a eficácia das dark patterns, dando mais corpo a um debate que, mais do que é necessário, é urgente.

Se é verdade que, nos termos da advertência de Luguri e Strahilevitz[12], as empresas já vinham explorando e manipulando consumidores há muito tempo no mundo real, é igualmente verdade que o ambiente virtual aumentou consideravelmente as possibilidades de exploração e manipulação. Não é sem razão que os autores concluem que, nesse contexto, os consumidores estão à mercê das empresas e sem qualquer possibilidade de defesa, pois no mundo digital as dark patterns se tornaram verdadeiras armas contra eles.

Daí por que Luguri e Strahilevitz concluem o seu artigo clamando não apenas pela regulação de tais práticas, como também por uma maior atenção por parte de juízes, reguladores e legisladores para tal problema.

Trata-se de aviso de extrema pertinência para todos os países, incluindo o Brasil. Aliás, no que diz respeito ao direito brasileiro, vale lembrar que o Código de Defesa do Consumidor, a Lei Antitruste e a Lei Geral de Proteção de Dados (LGPD) já nos oferecem várias medidas para resolver o problema das dark patterns, não sendo absolutamente indispensável novas legislações ou regulações para que se proteja efetivamente o consumidor contra tais práticas.

Fonte: Jota

CLIQUE E CONHEÇA O LIVRO DE ANA FRAZÃO!

LEIA TAMBÉM

• Aumento do salário mínimo traz efeitos econômicos positivos?
• Mais um passo em direção à regulação da inteligência artificial
• Aplicação Territorial da LGPD e Eficácia Extraterritorial

NOTAS

[1] FRAZAO, Ana. A falácia da soberania do consumidor. Economia digital pode tornar o consumidor ainda mais vulnerável. Jota. https://www.jota.info/opiniao-e-analise/colunas/constituicao-empresa-e-mercado/falacia-soberania-do-consumidor-08122021

[2] USA. Subcommittee in Antitrust, Commercial and Administrative Law of the Committee on the Judiciary. Investigation of Competition in Digital Markets. https://judiciary.house.gov/uploadedfiles/competition_in_digital_markets.pdf?utm_campaign=4493-519

[3] LUGURI, Jamie; STRAHILEVITZ, Jacob. Shining a Light on Dark Patterns. Journal of Legal Analysis, Volume 13, Issue 1, 2021, Pages 43-109, https://doi.org/10.1093/jla/laaa006; https://academic.oup.com/jla/article/13/1/43/6180579

[4] WALDMAN, Ari Ezra, “Cognitive Biases, Dark Patterns, and the ‘Privacy Paradox’” (2020). Articles & Chapters. 1332. https://digitalcommons.nyls.edu/fac_articles_chapters/1332

[5] Op.cit.

[6] LUGURI, Jamie; STRAHILEVITZ, Jacob. Shining a Light on Dark Patterns. Journal of Legal Analysis, Volume 13, Issue 1, 2021, Pages 43-109, https://doi.org/10.1093/jla/laaa006; https://academic.oup.com/jla/article/13/1/43/6180579

[7] Op.cit.

[8] Op.cit.

[9]https://www.ftc.gov/news-events/news/press-releases/2023/06/ftc-takes-action-against-amazon-enrolling-consumers-amazon-prime-without-consent-sabotaging-their

[10]https://www.ftc.gov/system/files/ftc_gov/pdf/amazon-rosca-public-redacted-complaint-to_be_filed.pdf

[11]https://www.theverge.com/2023/6/21/23768372/ftc-amazon-lawsuit-prime-dark-patterns-subscriptions

[12] LUGURI, Jamie; STRAHILEVITZ, Jacob. Shining a Light on Dark Patterns. Journal of Legal Analysis, Volume 13, Issue 1, 2021, Pages 43-109, https://doi.org/10.1093/jla/laaa006; https://academic.oup.com/jla/article/13/1/43/6180579