Califórnia pode obrigar empresas de IA a lembrarem crianças de que chatbots não são pessoas

Um novo projeto de lei na Califórnia exigiria que empresas de IA informassem periodicamente às crianças que um chatbot é uma máquina, e não um ser humano. Segundo o senador responsável pela proposta, a medida busca proteger os jovens dos aspectos “viciantes, isolantes e influentes” da tecnologia.

Além de limitar o uso de padrões de engajamento que possam induzir ao vício, o projeto obrigaria as empresas a apresentar relatórios anuais ao Departamento Estadual de Serviços de Saúde. Esses relatórios detalhariam a frequência com que foram identificados sinais de comportamento preocupante entre usuários jovens, como tendências autodestrutivas, além do número de vezes em que os chatbots abordaram temas sensíveis.

A legislação também exigiria que as empresas alertassem os usuários de que seus chatbots podem não ser apropriados para algumas crianças.