Já li alguns paper que exploravam essa idéia, tinha um que funcionava como o gerente que decidia para qual modelo enviar a questão, e tinha outro paper que enviava a pergunta para diferentes modelos especialistas e depois consolidava tudo em uma unica resposta.

Se a memória não me falha, a maior vantagem desses modelos eram o ganho de eficiência e de menor consumo energético, porém nenhum deles tinha um ganho relevante de qualidade de resposta, havia sim um ganho, mas não de maneira elevada.

Li esses paper a 6 meses atrás, e eles tinham sido recém lançados, talvez as coisas hoje em dia tenham mudado.