Isso iria no mínimo beirar a ilegalidade, existem muitas leis que regulam a privacidade de dados médicos, apenas treinar o modelo já seria "crime".
Respondendo a "Cara, que legal. Me ajuda numa coisa: para faze..." dentro da publicação Implementando um finetuning de um modelo GPT usando a biblioteca python OpenAI
1