Irene Solaiman, chefe de políticas da Hugging Face, afirmou em entrevista a um podcast que a escalada de ataques contra repositórios de código aberto pode empurrar a indústria de inteligência artificial para um modelo mais restrito. A Hugging Face hospeda modelos, conjuntos de dados e demonstrações de milhares de desenvolvedores e é um dos maiores repositórios de IA do mundo.
O raciocínio dela é direto. O que fez a plataforma crescer é o mesmo que chama a atenção dos criminosos. Qualquer pessoa cria uma conta, sobe um modelo e baixa o trabalho alheio, seja um estudante sem vínculo com universidade, seja um pesquisador de uma grande empresa. Para Solaiman, esse acesso livre, somado ao valor do material guardado ali, coloca os repositórios abertos no topo da lista de alvos.
O que mudaria com portas fechadas
Um ecossistema fechado significaria checagem de identidade mais dura, aprovação prévia antes de publicar modelos e dados e limites ao que cada desenvolvedor pode fazer dentro da plataforma. Ganha-se segurança. Perde-se velocidade: boa parte do avanço recente da IA veio de milhares de pessoas mexendo nos mesmos projetos ao mesmo tempo, algo que um sistema com fila de aprovação dificilmente reproduz.
O risco apontado pela executiva é de concentração. Se publicar e acessar modelos virar um processo burocrático, quem tem estrutura para cumprir as exigências são as big techs. Desenvolvedores independentes, laboratórios universitários e startups pequenas ficariam com menos acesso às ferramentas de ponta, justamente quando o modelo aberto ganhou adesão tanto do público quanto das grandes empresas do setor.
Para o Brasil, a discussão tem peso prático. Muito do que se faz em IA no país parte de modelos baixados gratuitamente desses repositórios e ajustados para o português. O Lumi, modelo aberto de 4 bilhões de parâmetros lançado pela UFG, é o tipo de projeto que perde fôlego se publicar e baixar pesos passar a exigir cadastro verificado e aval da plataforma.
A resposta da Hugging Face
A empresa diz ter achado um meio-termo no seu novo sistema de segurança. Tokens de acesso administrativo passam a ser trocados com mais frequência, e controles de rede tentam barrar o roubo de credenciais. O GitHub segue um caminho parecido, com foco em identificar comportamento suspeito em pacotes publicados na plataforma.
O entrave é a conta. Segundo Solaiman, monitoramento de segurança contínuo custa caro, e só as plataformas grandes conseguem bancar esse gasto. Repositórios menores, que muitas vezes atendem nichos ou idiomas específicos, devem ter dificuldade para manter o mesmo nível de proteção.
