Já existe uma IA dess tipo ai que você falou, acho que até teve um caso polêmico pois a inteligência artificial estava cometendo racismo, um programa de computador que era pra ser o mais imparcial possível, estava cometendo racismo e estava dando algumas sentenças com base na raça do réu.

Se eu não me engano acho que tem até um documentário sobre isso... enfim mas concordo com você quando você falou sobre construír algo útil.