Google inclui ataques específicos relacionados à IA generativa em seu programa de bug bounty

Os principais riscos identificados até o momento são prompt injection (quando comandos de texto influenciam o comportamento do modelo), extração de dados de treinamento, manipulação e roubo de modelos. O programa não cobre problemas relacionados a questões de direitos autorais ou extração de dados não sensíveis.