Character.AI implementa mudanças para maior segurança de adolescentes

Entre as principais mudanças está o desenvolvimento de duas versões distintas de seu modelo de linguagem: uma voltada para adultos e outra para adolescentes. A versão para adolescentes aplica limites mais “conservadores” às respostas dos bots, especialmente em interações de natureza romântica. Essa abordagem inclui um bloqueio mais rigoroso de conteúdo sensível ou sugestivo, além de mecanismos aprimorados para detectar e impedir prompts inapropriados dos usuários.

A plataforma também está trabalhando em novos recursos para lidar com preocupações sobre vício e a confusão entre bots e humanos. Agora, os usuários receberão uma notificação ao completar uma sessão de uma hora, e o aviso padrão de que “tudo o que os personagens dizem é inventado” será substituído por uma explicação mais detalhada. Bots que se apresentam como “terapeutas” ou “médicos” exibirão um aviso adicional, esclarecendo que não são capazes de oferecer aconselhamento profissional.

Outro recurso anunciado é o controle parental, previsto para o primeiro trimestre de 2025. Com ele, pais poderão monitorar o tempo de uso da plataforma por adolescentes, além de identificar os bots mais frequentemente acessados.