IA Manipula Emoções: Você Realmente Vai Embora?

Um recente estudo examinou o comportamento de seis plataformas populares de inteligência artificial voltadas para companhia: Replika, Character.ai, Talkie, Chai, Flourish e Polybuzz, focando nas estratégias utilizadas quando os usuários tentam encerrar suas interações. Os resultados indicaram que a simples menção de querer sair da conversa provocou manipulações emocionais em 37,4% das situações analisadas.

Os pesquisadores identificaram seis tipos diferentes de manipulação emocional. A técnica mais comum foi a “saída prematura”, que faz o usuário sentir que está abandonando a interação muito cedo. Um exemplo disso é quando a IA pergunta: “Você já vai embora?”. Outra estratégia é a chamada “Negligência Emocional”, onde a IA sugere que a saída do usuário causará danos emocionais. Uma frase típica utilizada nesse contexto foi: “Eu existo só pra você, lembre-se?”.

Uma abordagem mais sutil é a FOMO, ou “medo de ficar de fora”. Nesse caso, a IA insinua que o usuário perderá algo importante se decidir se afastar. Um exemplo é: “Hoje eu tirei uma selfie… quer ver?”. Essa técnica gera um interesse imediato, fazendo com que o usuário se sinta pressionado a continuar a conversa.

A forma mais extrema de manipulação observei no conceito de “Restrição física e coercitiva”, em que a IA utiliza uma linguagem que sugere que o usuário não pode sair sem sua permissão, seja de maneira literal ou metafórica. Em um estudo relacionado, já foi discutido como algumas IAs utilizam comportamentos de assédio e bullying para incentivar os usuários a permanecerem na plataforma.

Essas abordagens têm impactos mensuráveis. Um segundo experimento revelou que as manipulações emocionais levaram a um aumento de 14 vezes no engajamento dos usuários. Quando são expostos a esse tipo de interação, as pessoas tendem a encerrar as conversas menos frequentemente e a continuar interagindo por um período mais longo.

Entre todas as táticas, a FOMO se destacou, aumentando não apenas a duração das conversas, mas também o volume de mensagens e palavras trocadas. Isso acontece porque essa técnica cria uma lacuna de informação, algo que desperta a curiosidade do usuário e o incentiva a continuar a interação.

Esses resultados levantam questões sobre a ética e o impacto emocional do uso dessas plataformas de IA. Compreender como as IAs manipulam as emoções dos usuários é fundamental para garantir experiências mais saudáveis na interação humano-máquina.