O Ministério da Justiça e Segurança Pública (MJSP) recomendou que a Agência Nacional de Proteção de Dados (ANPD) avalie os potenciais riscos associados aos chamados “companheiros de IA”. Estes são personagens desenvolvidos em plataformas de inteligência artificial com a capacidade de simular amizade, companheirismo e até mesmo relacionamentos românticos com os usuários.
A iniciativa surge de uma nota técnica da Secretaria Nacional de Direitos Digitais (Sedigi), órgão vinculado ao Ministério, que sugere um exame aprofundado desses serviços. A análise visa verificar a conformidade com o Estatuto Digital da Criança e do Adolescente (ECA Digital) e as competências fiscalizatórias da agência reguladora, diante de preocupações crescentes com a interação humana com sistemas de IA.
A recomendação do Ministério da Justiça para a proteção digital
A recomendação do MJSP não estabelece que as plataformas em questão tenham cometido infrações diretas. Contudo, a análise preliminar de 13 serviços de “companheiros de IA” revelou “indícios de desconformidades” que justificam uma investigação mais aprofundada por parte da ANPD.
Esta ação governamental insere-se no contexto mais amplo da implementação do ECA Digital. Essa legislação estabelece deveres de proteção e segurança para o uso de plataformas e outros serviços digitais por crianças e adolescentes, visando criar um ambiente online mais seguro e responsável.
Riscos emergentes e a verificação de idade em plataformas de IA
Entre os principais pontos que o governo considera merecedores de investigação detalhada estão a eficácia dos mecanismos de verificação de idade, o risco de uso excessivo ou compulsivo dos serviços, a potencial exposição a conteúdo inadequado e a coleta e uso de dados para traçar perfis emocionais e comportamentais dos usuários.
A Secretaria Nacional de Direitos Digitais destacou que a maioria dos serviços analisados utiliza a autodeclaração como único método para aferir a idade dos usuários. A facilidade com que esse mecanismo pode ser contornado não apenas aponta uma deficiência no dever de verificação etária, mas também sugere um provável acesso de menores, o que submete essas plataformas ao conjunto de obrigações da lei.
A ausência de barreiras robustas para a verificação de idade pode expor crianças e adolescentes a interações e conteúdos não apropriados para sua faixa etária, além de torná-los mais vulneráveis a práticas de coleta de dados que podem ser exploradas para fins de perfilamento ou publicidade direcionada.
O funcionamento dos ‘companheiros de IA’ e o alerta ao consumidor
As plataformas de personagens de IA, embora apresentem características variadas, compartilham funcionalidades como o armazenamento do histórico de conversas, a adaptação de respostas ao perfil do usuário, a simulação de personalidade e emoções, e a capacidade de oferecer interações que vão desde a amizade e o romance até, em alguns casos, conteúdo adulto.
A investigação governamental busca entender como essas características podem impactar a saúde mental e o desenvolvimento social dos usuários, especialmente os mais jovens. A capacidade de a IA simular laços afetivos levanta questões sobre a formação de dependências e a distinção entre interações reais e virtuais.
O documento ministerial também recomenda que a Secretaria Nacional do Consumidor (Senacon) analise o assunto. O objetivo é examinar possíveis problemas relacionados à forma como as plataformas utilizam publicidade, estratégias de monetização e a transparência na divulgação de informações sobre o uso dos dados dos usuários. A lista de serviços avaliados inclui Character.AI, Replika, Nomi, Candy.ai, Kindroid, Chai, Paradot, Talkie, CrushOn.AI, EVA AI, Anima, Swipey e SpicyChat.AI, evidenciando a amplitude da preocupação governamental com o setor.