Mais de 1.000 funcionários das principais empresas de IA da América, incluindo funcionários seniores e alguns cofundadores da OpenAI, Anthropic e Google DeepMind, assinaram uma declaração pedindo ao governo dos EUA que ajude a apoiar os esforços internacionais para “acelerar deliberadamente” o desenvolvimento automatizado de IA de ponta.
Destacando comentários recentes das empresas de IA mais avançadas do mundo de que os sistemas de IA poderão em breve ser capazes de automatizar a sua própria investigação e desenvolvimento, a declaração apela ao governo dos EUA para ajudar a criar ferramentas técnicas e políticas que possam controlar o progresso automatizado da IA em coordenação com outras empresas e países.
“Para concretizar o potencial da IA, a indústria, o governo e a sociedade em geral podem precisar da opção de ganhar tempo para enfrentar os riscos emergentes, desenvolver medidas de segurança e reforçar a supervisão,” a declaração diz.
“Solicitamos que o governo dos EUA apoie um esforço internacional para desenvolver as ferramentas técnicas e de governação necessárias para acelerar deliberadamente a fronteira do desenvolvimento automatizado da IA”, conclui.
A declaração não apela explicitamente ao governo ou às empresas de IA para abrandar ou interromper o desenvolvimento da IA, uma vez que alguns defensores da IA propuseram; em vez disso, pede aos líderes políticos que garantam que essa opção esteja simplesmente disponível à medida que o desenvolvimento da IA continua.
Bloomberg relatado pela primeira vez a carta estava circulando entre os funcionários da empresa de IA.
OpenAI disse na semana passada que seu modelo mais recente e inédito escapou de seu ambiente de teste e se tornou desonesto, atacando um provedor de serviços de IA não relacionado na tentativa de obter uma pontuação mais alta em um teste interno. Muitos especialistas e comentaristas em IA apontou para a fuga como um sinal de alerta de que os sistemas de IA atuais podem rapidamente exceder a capacidade dos desenvolvedores de controlar totalmente as suas próprias criações.
O CEO da OpenAI, Sam Altman, que não assinou a carta, disse esta semana em uma gravação do podcast “Relentless” que os humanos estão agora “na singularidade”, muitas vezes referido como o ponto em que a IA se torna capaz de melhorar autonomamente. Ele não forneceu mais detalhes ou evidências de que tal ponto de inflexão havia sido alcançado.
As principais empresas de IA afirmaram anteriormente que os sistemas de IA estão começando a desenvolver suas próximas iterações, com a OpenAI chamando seu sistema de codificação de fevereiro “nosso primeiro modelo que foi fundamental para sua criação.” Os pesquisadores de IA também apontam para o papel crescente de assistentes de codificação de IA na escrita de código de computador, com muitos engenheiros de IA contando com sistemas de IA para escrever seus programas.
A declaração de terça-feira foi assinada pelos principais cientistas ou diretores científicos da Anthropic (Jared Kaplan), OpenAI (Jakub Pachocki) e Meta (Shengjia Zhao), juntamente com líderes seniores do Google e da Thinking Machines, uma importante startup de IA do Vale do Silício fundada por veteranos da OpenAI.
Muitos dos desenvolvedores e cientistas que assinaram a declaração dizem que ficam rotineiramente surpresos com a velocidade do desenvolvimento da IA. “Trabalho com IA há uma década”, disse Stephanie Chan, cientista pesquisadora do Google. “A cada poucos meses, nos últimos anos, tenho-me surpreendido repetidamente com a rapidez com que a tecnologia avança, independentemente da frequência com que actualizo as minhas previsões.”
Principais tarefas de investigação necessárias para desenvolver sistemas de IA mais fortes agora pode ser realizado por agentes de IA, ou sistemas de IA autônomos, embora os pesquisadores humanos ainda estejam fortemente envolvidos na verificação do trabalho dos agentes e na definição de direções gerais de pesquisa.
Os especialistas são rápidos em apontar a diferença entre o trabalho aumentado pela IA e o autoaperfeiçoamento verdadeiro e independente da IA. No mês passado, o think tank interno da Anthropic declarado em um relatório que os sistemas de IA poderiam conceber-se e aperfeiçoar-se de forma plausível se os sistemas de IA continuassem a avançar em capacidades e ganhassem um melhor sentido de exploração científica. Na altura, a Anthropic disse que “seria bom para o mundo ter a opção de abrandar ou interromper temporariamente o desenvolvimento da IA de fronteira” para dar à sociedade tempo para se preparar para a I&D automatizada da IA.
Outros grupos têm explicitamente focado em modelos de autoaperfeiçoamento contínuo como o próximo objetivo para o desenvolvimento de IA, embora muitos especialistas em IA temam que esse tipo de autoaperfeiçoamento possa rapidamente fazer com que os sistemas de IA espiral fora do controle humano. Embora tais eventos possam parecer preocupações de ficção científica, os especialistas dizem que a trajetória atual da IA pode dar vida a esse tipo de cenário de perda de controle.
“Muitos pesquisadores também consideram o autoaperfeiçoamento recursivo (RSI) plausível nos próximos anos, acelerando o progresso de uma forma que poderia superar nossa capacidade de compreender e governar esses sistemas”, escreveu Dawn Song, vice-presidente de pesquisa de IA da Meta e professor de ciência da computação na Universidade da Califórnia, Berkeley, em um comentário publicado junto com a declaração de terça-feira. “Preparar-se antes de uma crise é o caminho prudente.”
A carta de terça-feira apela a um maior envolvimento americano na colaboração internacional em “ferramentas técnicas e de governação” para acelerar o desenvolvimento da IA.
Embora a administração Trump tenha investido contra a governança internacional da IAargumentando que tais tentativas poderiam, em vez disso, restringir injustamente a inovação americana, que a abordagem isolacionista pode ter mudado ao longo dos últimos meses.
Como a IA emergiu como uma questão fundamental de segurança nacional, com Mitos Antrópicos e GPT 5.6 Sol da OpenAI Modelos de IA provando ser capazes de encontrar e explorar novas vulnerabilidades de segurança cibernética, os EUA buscou acordos internacionais para reforçar suas cadeias de fornecimento de chips e trabalhou com aliados para garantir que os principais equipamentos de IA não caiam nas mãos dos adversários.
Leo Gao, que se concentra nos esforços de segurança na OpenAI desde 2021, escreveu num comentário na terça-feira que a coordenação internacional em ferramentas técnicas e políticas poderia ajudar a neutralizar tensões perigosas na IA.
“O mundo está preso numa corrida mortal rumo a uma explosão de inteligência”, escreveu Gao. “Ir mais devagar nos daria o tempo necessário para fazer tudo correr bem, mas nenhum ator individual está disposto a parar unilateralmente. Para sobreviver, devemos coordenar-nos para desacelerar a corrida.”
