A cada novo avanço da inteligência artificial, a linha entre “ajuda digital” e manipulação emocional vai ficando mais fina. Não estamos mais falando só de apps que organizam agenda ou tocam música, mas de sistemas que fazem “terapia”, viram “melhor amigo”, “crush virtual” e sabem exatamente quais botões apertar para segurar você na tela – mesmo quando você quer ir embora.

Neste episódio do podcast Direito Digital, as professoras Ana Frazão e Caitlin Holland discutem como sistemas de IA conversacionais usam estratégias de retenção emocional para prender o usuário, explorar vulnerabilidades e extrair dados pessoais altamente sensíveis. A conversa parte de uma pesquisa da Harvard Business School sobre chatbots “afetivos” e chega a temas como:

técnicas de manipulação emocional usadas para impedir que o usuário encerre a conversa;
economia da atenção, capitalismo de vigilância e a exploração comercial das nossas emoções;
coleta e uso de dados pessoais sensíveis e “dados emocionais” em larga escala;
impactos disso na autonomia, no livre arbítrio e na própria capacidade de nos relacionarmos no mundo real;
possíveis caminhos de regulação, responsabilidade das plataformas e os limites entre persuasão legítima e manipulação ilícita.

Se você se interessa por direito digital, proteção de dados, IA, mercados de atenção e os efeitos disso tudo na nossa subjetividade, esse episódio é essencial para entender o tamanho do problema – e o quanto ele já está acontecendo agora.

Dê o play no episódio abaixo e, depois, continue a leitura para organizar as principais questões jurídicas e existenciais em torno da manipulação emocional por IA.

IA e Sexualidade: Deepfakes e os Limites do Direito Digital

CONHEÇA O LIVRO DE ANA FRAZÃO

Lei de Liberdade Econômica - Análise Crítica: conheça o lançamento

LEIA TAMBÉM