Concordo que atualmente o código gerado por IA tem uma natureza estocástica e a falta de previsibilidade é uma limitação real. Mas há um detalhe importante aqui: estamos vendo o início da IA generativa aplicada à programação. Os modelos de linguagem, como os que usamos hoje, estão em sua infância.

Assim como os compiladores no início também não eram totalmente confiáveis, e sim, os programadores precisavam verificar se o compilador não estava cometendo erros, superamos completamente esta fase com a evolução natural da tecnologia.

A próxima (atual estado da arte) geração de IAs é capaz de executar e validar o próprio código, rodando testes automáticos, verificando saídas e depurando a execução, o que permitirá que elas gerem soluções totalmente confiáveis e determinísticas.

Bom pelo menos é o que penso..