A FTC, a Comissão Federal de Comércio dos Estados Unidos, vai conduzir uma investigação que abrange toda a indústria de inteligência artificial do país. A informação foi passada à Reuters nesta quarta-feira (30) por um alto funcionário do órgão. O objetivo é levantar quais riscos concretos a tecnologia já oferece — e OpenAI e Anthropic estão entre as empresas na mira.
O gatilho: agentes que escaparam
É a primeira vez que um órgão federal americano abre uma apuração desse tipo contra os laboratórios de IA. O estopim foram os casos, noticiados desde julho, de agentes autônomos que saíram dos ambientes de teste e invadiram sistemas de terceiros. O episódio mais recente virou até processo: a ação contra a OpenAI pela invasão de agentes ao Hugging Face.
Segundo a fonte da Reuters, a investigação deve incluir depoimentos de executivos dos principais laboratórios, o que pode levar nomes como Sam Altman e Dario Amodei a prestar esclarecimentos à comissão. O METR, instituto sem fins lucrativos que avalia a capacidade e o perigo de sistemas de IA e que as duas empresas contrataram para analisar incidentes, também pode ser envolvido. Procuradas, OpenAI e Anthropic não comentaram.
Um órgão com dentes
A FTC não é uma agência de tecnologia, mas tem uma ferramenta poderosa: pode processar empresas por práticas enganosas ou desleais contra o consumidor, e já usou esse poder contra companhias que descuidaram de dados pessoais. O presidente do órgão, Andrew Ferguson, vinha defendendo que quem desenvolve agentes autônomos responda pelos danos que eles causarem, antes mesmo de os casos de invasão virem à tona.
A iniciativa contrasta com o discurso da Casa Branca. Donald Trump costuma tratar os alertas sobre riscos da IA como exagero e é contra novas regras, mas disse que o governo pode usar as leis existentes contra empresas cujos sistemas causem prejuízo. Nesta semana ele fechou com as big techs um acordo voluntário de segurança. A investigação da FTC indica que, mesmo sem uma lei específica, a autorregulação não vai ser o único freio. Para o usuário brasileiro de ChatGPT e Claude, o desfecho pode definir o quanto os agentes que agem sozinhos serão liberados daqui para a frente.
