Eu não sou a favor de legislação prematura, mas eu estou começando a pensar que sistemas como o ChatGPT e o Bing Chat precisam ficar atrás de um paywall para evitar exposição indavertida, ou então uma campanha educacional a todos que forem ter acesso a essas ferramentas.

Não vejo que o maior problema vai ser o acesso ativo (no sentido de que o usuário vai atrás da ferramenta, apesar que isso pode dar problema sim), mas sim no acesso passivo onde você recebe um contado de alguém que está usando essa ferramenta para fazer um scam global 100% automatizado.

Hoje o scam que envolve conversar com alguém de forma mais profunda tem um limitador humano. Não sei quanto um único humano consegue em paralelo fazer scams, mas esse número vai ficar infinito.