Anthropic propõe lei nos EUA para barrar IAs com risco de mortes em massa

Por Melhores Tech · deslize para ver →

Rascunho da dona do Claude dá ao governo americano poder de suspender modelos de ponta com risco de dano acima de US$ 1 bilhão ou de mais de 50 vítimas.

Em que situações o governo dos EUA poderia bloquear uma IA pela proposta da…

Quando o modelo representar ameaça iminente de prejuízo acima de US$ 1 bilhão ou chance concreta de causar mais de 50 mortes ou ferimentos graves, como em casos de arma biológica, perda de controle do modelo ou ataque cibernético.

Quem avaliaria os modelos de IA?

Um comitê independente de avaliadores credenciados no Departamento de Comércio, que teria 72 horas para comunicar um risco ao governo, que então pediria a um juiz a ordem de suspensão.

A lei já está em tramitação?

Não. A Anthropic apresentou um rascunho a parlamentares, mas nenhum projeto foi protocolado no Congresso americano e não há data para votação.