Pesquisa indica que GPT-3.5 possui eficácia de apenas 0,66% para problemas difíceis de programação surgidos após 2021
O modelo foi desafiado com 728 questões de codificação nas linguagens C, C++, Java, JavaScript e Python. A taxa de sucesso para problemas de nível fácil foi de apenas 52%. O código gerado também apresentou vulnerabilidades, como falta de verificações de valores nulos, e a tecnologia foi incapaz de corrigir eficientemente seus próprios erros de lógica ou interpretação do problema. As informações são provenientes do site IEEE Spectrum.