Antes dos quatro dias de exílio do CEO da OpenAI, Sam Altman, vários pesquisadores da equipe escreveram uma carta ao conselho de diretores alertando sobre uma poderosa descoberta de inteligência artificial que, segundo especialistas, poderia ameaçar a humanidade, relatou a Reuters.
A carta não divulgada anteriormente e o algoritmo de IA foram o estopim para a demissão de Altman do conselho, disseram as fontes. Antes de seu retorno triunfante na terça-feira passada, mais de 700 funcionários ameaçaram sair e se juntar a Microsoft em solidariedade ao líder demitido.
As fontes citaram a carta como um dos fatores em uma lista maior de queixas do conselho que levaram à demissão de Altman, entre as quais estavam preocupações com a comercialização de avanços antes de compreender as consequências.
Depois de ser contatada pela Reuters, a OpenAI, que se recusou a comentar, reconheceu em uma mensagem interna aos funcionários um projeto chamado Q* e uma carta ao conselho antes dos eventos do fim de semana, disse uma das pessoas. Um porta-voz da OpenAI afirmou que a mensagem, enviada pela executiva de longa data Mira Murati, alertou os funcionários sobre certas histórias na mídia sem comentar sobre sua precisão.
Alguns na OpenAI acreditam que o Q* (pronuncia-se Q-Star) pode ser uma descoberta na busca da startup pelo que é conhecido como inteligência artificial geral (IAG), disse uma das pessoas à Reuters. A OpenAI define IAG como sistemas autônomos que superam os humanos na maioria das tarefas economicamente valiosas.
Com vastos recursos computacionais, o novo modelo foi capaz de resolver certos problemas matemáticos, disse a pessoa sob condição de anonimato, pois não estava autorizada a falar pela empresa. Embora realizando apenas matemática no nível de ensino fundamental, o sucesso nessas provas deixou os pesquisadores muito otimistas sobre o sucesso futuro do Q*, disse a fonte.
A Reuters não pôde verificar de forma independente as capacidades do Q* reivindicadas pelos pesquisadores.
O VÉU DA IGNORÂNCIA
Os pesquisadores consideram a matemática como uma fronteira no desenvolvimento da IA generativa. Atualmente, a IA generativa é boa em escrever e traduzir idiomas, prevendo estatisticamente a próxima palavra e as respostas para a mesma pergunta podem variar amplamente. Porém dominar a capacidade de fazer matemática, onde há apenas uma resposta correta, implica que a IA teria maior capacidade de raciocínio semelhante à inteligência humana. Isso poderia ser aplicado, por exemplo, em pesquisas científicas inovadoras, acreditam os pesquisadores de IA.
Ao contrário de uma calculadora que pode resolver um número limitado de operações, a IAG pode generalizar, aprender e compreender.
Em sua carta ao conselho, os pesquisadores destacaram a capacidade e o perigo potencial da IA, disseram as fontes sem especificar as preocupações exatas com a segurança mencionadas na carta. Há muito debate entre cientistas da computação sobre o perigo representado por máquinas altamente inteligentes, por exemplo, se elas podem decidir que a destruição da humanidade está em seu interesse.
Os pesquisadores também destacaram o trabalho de uma equipe de “cientistas de IA”, cuja existência múltiplas fontes confirmaram. O grupo, formado pela combinação das equipes anteriores “Code Gen” e “Math Gen”, estava explorando como otimizar modelos de IA existentes para melhorar seu raciocínio e, eventualmente, realizar trabalhos científicos, disse uma das pessoas.
Altman liderou esforços para tornar o ChatGPT uma das aplicações de software de crescimento mais rápido na história e atraiu investimentos – e recursos computacionais – necessários da Microsoft para se aproximar da IAG.
Além de anunciar uma série de novas ferramentas em uma demonstração neste mês, Altman na semana passada insinuou em uma cúpula de líderes mundiais em San Francisco que acreditava que avanços significativos estavam próximos.
“Quatro vezes agora na história da OpenAI, a última vez foi nas últimas semanas, tive a oportunidade de estar na sala, quando empurramos o véu da ignorância para trás e a fronteira da descoberta para a frente, e ter essa oportunidade é a honra profissional de uma vida”, disse ele na cúpula da Cooperação Econômica da Ásia-Pacífico.
Um dia depois, o conselho o demitiu.
Fonte: Reuters.com