O jogo das cadeiras no palácio da OpenAI acabou a alguns dias mas outro alvoroço começou imediatamente em seguida, você ouviu falar no Q*? A Reuters revelou que uma carta de advertência escrita por vários pesquisadores ao conselho de administração antes de Altman ser demitido que pode ter sido o gatilho para todo o incidente
O modelo de IA da próxima geração, denominado internamente Q* (pronuncia-se Q-Star), é tão poderoso e avançado que pode ameaçar a humanidade.
Q* é liderado pelo cientista-chefe Ilya Sutskever, a figura central desta tempestade. As pessoas rapidamente vincularam o discurso anterior de Altman na cúpula da APEC
Houve quatro vezes na história da OpenAI, mais recentemente, nas últimas semanas, quando eu estava na sala quando abrimos a cortina da ignorância e chegamos à fronteira da descoberta, que é a maior honra de uma carreira . “
Q* é considerado um passo fundamental em direção à AGI ou superinteligência. Esta notícia rapidamente desencadeou uma grande discussão, e Musk também seguiu com um link.
Rompendo os limites de dados
De acordo com as últimas notícias do The Information, o antecessor do Q* é o GPT-Zero. Este projeto foi iniciado por Ilya Sutskever, e o nome é uma homenagem ao Alpha-Zero da DeepMind. Alpha-Zero não precisa aprender os registros humanos do xadrez, ele pode dominar jogos de tabuleiro jogando Go consigo mesmo.
O GPT-Zero permitira que a próxima geração de modelos de IA seja treinada usando dados sintéticos em vez de depender de dados do mundo real, como textos ou imagens rastreados da Internet.
Em 2021, o projeto GPT-Zero foi lançado oficialmente e poucas notícias diretamente relacionadas foram divulgadas desde então.
Mas apenas algumas semanas atrás, Ilya mencionou em uma entrevista:
Sem entrar em muitos detalhes, basta dizer que as limitações de dados podem ser superadas e o progresso continuará.
Baseado no GPT-Zero, o Q* foi desenvolvido por Jakub Pachocki e Szymon Sidor.
Ambos foram os primeiros membros da OpenAI e estavam entre os primeiros membros a anunciar que seguiriam o Altman até a Microsoft.
akub Pachocki foi promovido a Diretor de Pesquisa no mês passado e tem sido um contribuidor fundamental para muitos avanços no passado, incluindo o projeto Dota 2 e o pré-treinamento do GPT-4. Szymon Sidor também participou do projeto Dota 2. Em seu perfil pessoal diz: “Fazendo AGI, uma linha de código após a outra.”
Nas notícias da Reuters, foi mencionado que Q* possui enormes recursos computacionais e pode resolver certos problemas matemáticos. Embora a atual capacidade matemática atinja apenas o nível do ensino primário, os investigadores estão muito otimistas quanto ao sucesso futuro. Também foi mencionado que a OpenAI estabeleceu uma nova equipe de “cientistas de IA”, que foi fundida das primeiras equipes “Code Gen” e “Math Gen”. Ela está explorando a otimização e melhorando as capacidades de raciocínio da IA e, em última análise, realizando exploração científica.
Seja o primeiro a comentar