Pra mim o grande ponto é que os caras literalmente não sabem como a tecnologia/ferramenta realmente funciona, além da parte de segurança. Pelo menos pra mim é meio parecido com a história do Oppenheimer, criaram um monstro e deram de presente pra um bando de loucos!
Primeiro que eles não "criaram" nada, a maioria dos conceitos já existiam. Segundo que tem um paradoxo muito top que é "Se Albert Einstein não tivesse nascido ainda sim seria descoberto o efeito fotoeletrico" o mesmo vale para "Se Oppenheimer não tivesse nascido ainda sim teriamos a bomba atômica".
Eles sabem como a tecnologia/ferramenta funciona está ocorrendo um misunderstanding muito grande em relação a parte do "não saber o que está acontecendo".
Primeiro que AI não tá atirando coisas totalmente aleatórias (aleatoriedade não existe na computação) mas ao mesmo tempo AI não é uma coisa exata.
Você não tem resposta certa, resposta errada ou alguma coisa assim. O que temos são várias respostas dada "probabilidade" saca 50% de ser, 25% de não ser e 25% de sei lá.
Tanto que matemáticamente, antes do conceito de AI ser formalmente formulado um nome que se dava era Estatistica Multivariada
As coisas que vocês tem tanto medo, tem dois nomes "pattern matching" (sim, regex na veia) e "probabilidade".