Os chefes das duas empresas de IA mais influentes dos Estados Unidos sentam nesta quarta-feira (23) à mesa do Conselho de Segurança da ONU, em Nova York. Sam Altman, da OpenAI, e Dario Amodei, da Anthropic, participam ao lado de Clément Delangue, cofundador da Hugging Face, de uma sessão dedicada aos riscos de a inteligência artificial escapar do controle humano. A reunião é presidida pelo chanceler francês, Jean-Noël Barrot, e acontece em paralelo à 81ª Assembleia Geral.
Segundo a Reuters, a OpenAI vai propor que os governos adotem referências comuns para medir o que os modelos de IA conseguem fazer, e que essas medições sejam comparadas com as proteções que cada empresa aplica. A ideia é ter uma régua pública para saber se as salvaguardas acompanham o aumento de poder dos sistemas. Um diplomata europeu resumiu a preocupação dos países de forma mais direta: o temor é que algoritmos interagindo entre si possam, um dia, desencadear um conflito armado.
EUA e China negociam um “telefone vermelho” da IA
A sessão coincide com outra frente diplomática. No domingo (20), o secretário do Tesouro dos EUA, Scott Bessent, revelou que Washington e Pequim retomaram conversas para criar um mecanismo de notificação de incidentes com IA, pelo qual um país avisaria o outro sobre falhas ou usos da tecnologia que ameacem a segurança nacional. Bessent descreveu a iniciativa como uma passagem da “opacidade” para mais transparência entre as duas maiores potências do setor. O tema deve aparecer no encontro entre Donald Trump e Xi Jinping, que chegou a Washington nesta quarta.
A comparação com a linha direta criada entre Washington e Moscou na Guerra Fria é inevitável: a lógica é ter um canal aberto para evitar que um acidente seja lido como ataque.
Terceira vez no Conselho
É a terceira reunião do Conselho de Segurança sobre IA. Na primeira, em 2023, a China defendeu medidas contra o descontrole da tecnologia e os EUA alertaram contra o uso em censura e repressão. Desde então, o secretário-geral António Guterres criou um órgão consultivo de 39 membros e a Assembleia Geral aprovou um painel científico independente com 40 especialistas para orientar governos.
Para o Brasil, que discute há anos o seu marco legal da IA, o debate na ONU importa porque tende a definir padrões internacionais que acabam adotados por aqui. A presença de Altman e Amodei também acontece numa semana em que a China abriu investigação sobre laboratórios que teriam copiado modelos americanos, sinal de que a disputa por IA virou assunto de Estado dos dois lados.
