Eric, muito legal essa discussão, me deixou pensando bastante e por isso que demorei para responder.

O que talvez concluí é que todas as estratégias que adotamos são algoritmos. Por exemplo, se a mesma estratégia adotada nessas escolas fosse executada por humanos, resultaria provavelmente no exato mesmo problema, no exato mesmo efeito colateral.

E o problema começa quando nós perdemos o controle do que os algoritmos estão fazendo, num estágio na qual humanos convencionais não conseguem mais entender o que está sendo feito dado a quantidade de dados e variáveis... que daí sim pode entrar no estágio de destruição em massa.

Então pelo que observo, Inteligências Artificiais ou algoritmos ganharam um estigma meio que "especial", mas que não tem nada de especial... é apenas a própria natureza humana, só que em larga escala (e esse é o perigo). O que me deixa pensando: os esforços deveriam estar onde? Em melhorar os algoritmos, ou melhorar a natureza humana?