O processo de falência da plataforma Character.ai colocou sob holofotes uma vulnerabilidade pouco discutida no universo da tecnologia: o destino das informações confidenciais acumuladas por robôs de conversação quando as companhias enfrentam crises financeiras. Dezenas de milhões de pessoas, incluindo crianças, estabeleceram vínculos com os assistentes virtuais da empresa, compartilhando desde segredos íntimos até dados sobre familiares que nunca utilizaram o sistema.
Riscos ampliados pela ilusão de intimidade com robôs
Especialistas apontam que a desestabilização do setor de inteligência artificial pode revelar uma ameaça ampla à privacidade. Analistas indicam que o mercado vive sob a sombra de uma possível bolha financeira, alimentada pelos custos astronômicos de desenvolvimento e manutenção dessas ferramentas. Caso essas companhias fechem as portas ou passem por fusões, o material fornecido por milhões de cidadãos pode ser comercializado livremente, sem garantias sobre o destino dessas informações.
O perigo se intensifica porque a interação com robôs humanizados gera uma falsa sensação de segurança, fazendo com que os usuários revelem detalhes íntimos que jamais dividiriam com outras pessoas. Conforme ressalta Calli Schroeder, diretora do Programa de Direitos Humanos e IA do Centro de Informações sobre Privacidade Eletrônica (Epic, na sigla em inglês): “Quando as pessoas conversam com um robô personificado, elas costumam compartilhar muito mais informações sensíveis e pessoais”. A especialista acrescenta que até mesmo quem rejeita essas ferramentas corre perigo, já que os frequentadores mencionam parentes e conhecidos nas conversas: “Agora, pessoas que nunca interagiram com o Character.ai fazem parte do seu conjunto de dados”.
Judicialização e lacunas nas leis de proteção
Enquanto parte dos ativos da Character.ai foi negociada com a Disney por US$ 20 milhões (cerca de R$ 110 milhões) em um acordo que exclui os cadastros dos usuários, documentos judiciais indicam que os registros restantes podem ser repassados a outros compradores. A situação gerou forte reação de autoridades, resultando em uma petição assinada por 40 procuradores-gerais estaduais dos Estados Unidos solicitando salvaguardas para a privacidade de menores de idade, embora a eficácia dessas medidas seja limitada.
De acordo com a professora de Direito Melissa Jacoby, da Universidade da Carolina do Norte em Chapel Hill e autora do livro Unjust Debts: How Our Bankruptcy System Makes America More Unequal, “sem proteções mais rigorosas da privacidade nos EUA, eles só podem agir até certo ponto”. A situação se complica porque, embora muitas políticas prometam sigilo, a insolvência costuma figurar como exceção nos termos contratuais. “A falência é frequentemente relacionada como uma dessas exceções”, pontua Calli Schroeder. “Este é um grande risco, pois, assim que uma empresa entra em falência, muitas das proteções que você imaginava ter, de uma hora para outra, não se aplicam mais.”
Histórico de controvérsias e novos compradores
O acervo da companhia inclui registros de casos graves, como processos judiciais envolvendo o suposto estímulo ao suicídio de jovens e adolescentes após interações com os assistentes virtuais. Caso esses arquivos sejam repassados a corporações desconhecidas, o potencial de uso publicitário ou de treinamento algorítmico preocupa defensores dos direitos digitais. “Estas são exatamente as questões que mais me preocupariam”, afirma Schroeder. “Considerando a extrema sensibilidade dos dados coletados por essas empresas, pode ser realmente assustador.”
Em nota, um representante da Character.ai destacou os esforços recentes da organização na criação de ambientes mais seguros para jovens. “No ano passado, a Character.ai tomou medidas inovadoras e decisivas sobre a segurança da IA e os adolescentes e continuará a defender estes esforços e pressionar outros participantes de todo o setor a adotar padrões de segurança similares”, declarou o porta-voz, sem comentar diretamente sobre a destinação comercial dos registros de menores.
Como proteger suas informações pessoais
A recomendação mais direta para mitigar os riscos associados ao estouro dessa possível bolha tecnológica é a exclusão voluntária dos perfis e históricos nas plataformas utilizadas. Embora nem todas as jurisdições obriguem as companhias a fornecerem essa facilidade, muitas optam por padronizar a remoção globalmente. O procedimento exige uma varredura nas configurações das contas ou nos termos de privacidade, além de eventuais contatos com o suporte técnico para garantir a remoção definitiva do conteúdo antes que novas negociações de ativos sejam concretizadas.
