Executando verificação de segurança...
2
LeAndrade
1 min de leitura ·

Afinal, quem é a OpenAI?

Aqui mesmo no TabNews como pode ser visto neste post, parece que a vênus platinada das "inteligências" artificiais parece não estar ligando muito para o quesito segurança do seu produto, olha que legal. Hoje li no site Olhar Digital que na Cúpula Global de IA em Genebra, o CEO da empresa simplesmente diz que:

... a empresa também não compreende completamente seus grandes modelos de linguagem ...

O que causou mais um estranhamento entre tantos outros gerados por uma empresa até então desconhecida e que se tornou mundialmente reconhecida por encabeçar, talvez, a mais recente revolução tecnológica.

Já li em alguns fóruns pela internet que especialistas em segurança afirmam que, assim como os computadores foram criados para fins militares americanos, as IA's também sofreram o mesmo processo e que entidades federais americanas como CIA e FBI já as utilizam a muito tempo, e que só agora a tecnologia foi disponibilizado para uso civil. Então...

  • Afinal quem é OpenAI?
  • Quem é Sam Altman?
  • Por que uma pequena startup conseguiu sair na frente de gigantes consolidadas como Google, Meta, IBM, Microsoft e de investidores pesados na área de tecnologia como Elon Musk?

Fonte: https://olhardigital.com.br/2024/06/03/internet-e-redes-sociais/confirmado-openai-nao-sabe-como-sua-ia-realmente-funciona/

Carregando publicação patrocinada...
2
KitsuneSemCalda

Na verdade, a inteligência artificial teve seu estudo iniciado por volta de 1950. A única coisa nova que temos sobre isso são:

  • Processamento paralelo usando GPU
  • Novas redes neurais
  • O modelo de transformers

Sim, provavelmente os GPT podem ser muito mais poderosos do que aparentam:

  • Se a qualidade dos dados for boa
  • Se não bater o limite de quanto a rede neural aguenta sem decair para uma versão pior de si mesmo
  • Se os valores forem bem treinados

Veja que para isso, existem muitos SE's

Mas voltando ao foco principal:

A OpenAI surgiu em 2015 após uma nova forma de se pensar em geração de imagens (usando GANS) para realizar uma difusão.

Basicamente você tem duas redes neurais, uma que vai gerando ruídos, e outra que vai construindo uma imagem com base nesses ruídos com a segunda validando a primeira. O "Stable Difusion" em poucas palavras, e eles bateram na porta de muitas empresas querendo vender essa ideia.

Mas como a carne sempre cai no prato do vegano, nenhuma empresa quis nada com eles. Então eles fundaram a OpenAI. O tal do Musk quis fazer parte e começou a hypar o produto.

A live do INTELIGENCIA LIMITADA (com Kenneth Correa, Sergio Sacani e Fabio Akita conseguem explicar melhor, até porque não lembro completamente de cabeça.

Depois ocorreu alguns dessentendimentos com Elon Musk principalmente por causa dos modelos privados e ele se separou.

O tal Sam Altman foi principalmente um dos desenvolvedores do modelo de GANN (Generative Adversarial Neural Network) que logo se tornou CEO da própria startup.

1
LeAndrade
Autor
Autor

Pra mim o grande ponto é que os caras literalmente não sabem como a tecnologia/ferramenta realmente funciona, além da parte de segurança. Pelo menos pra mim é meio parecido com a história do Oppenheimer, criaram um monstro e deram de presente pra um bando de loucos!

1
KitsuneSemCalda

Primeiro que eles não "criaram" nada, a maioria dos conceitos já existiam. Segundo que tem um paradoxo muito top que é "Se Albert Einstein não tivesse nascido ainda sim seria descoberto o efeito fotoeletrico" o mesmo vale para "Se Oppenheimer não tivesse nascido ainda sim teriamos a bomba atômica".

Eles sabem como a tecnologia/ferramenta funciona está ocorrendo um misunderstanding muito grande em relação a parte do "não saber o que está acontecendo".

Primeiro que AI não tá atirando coisas totalmente aleatórias (aleatoriedade não existe na computação) mas ao mesmo tempo AI não é uma coisa exata.

Você não tem resposta certa, resposta errada ou alguma coisa assim. O que temos são várias respostas dada "probabilidade" saca 50% de ser, 25% de não ser e 25% de sei lá.

Tanto que matemáticamente, antes do conceito de AI ser formalmente formulado um nome que se dava era Estatistica Multivariada

As coisas que vocês tem tanto medo, tem dois nomes "pattern matching" (sim, regex na veia) e "probabilidade".

1
arroz

mas ai é completamente esperado, a própria ciência em si tenta evoluir mesmo com partes não compreendidas de determinados processos, por exemplo, temos os transistores nos processadores, diminuindo a escala ainda mais podemos chegar nas particulas elementares, e ninguém sabe como elas funcionam. Determinadas áreas da IA estão por estudos também para compreensão do mecanismo como as alucinações.

A Open Ai está fazendo um bom trabalho impulsionando diversos estudos aí redor do mundo sobre o tema.