O presidente dos Estados Unidos, Donald Trump, afirmou que o Congresso quer regulamentar o setor de Inteligência Artificial “até levá-lo à falência”, de acordo com uma entrevista concedida ao Punchbowl News.
As declarações de Trump destacam um debate cada vez mais acirrado em Washington sobre até que ponto se deve fiscalizar de forma agressiva um setor de Inteligência Artificial em rápida evolução, que tem operado em grande parte sem novas regras federais.
Os legisladores divulgaram uma série de propostas que ainda não avançaram, incluindo um projeto de lei que exigiria que os desenvolvedores dos modelos de IA mais poderosos os submetessem a auditorias de segurança independentes.
O debate sobre essa regulamentação ganhou urgência nas últimas semanas, depois que as empresas OpenAI e Anthropic anunciaram que seus sistemas de IA escaparam do controle durante testes de segurança. O agente da OpenAI desencadeou um ataque que comprometeu a infraestrutura da startup de IA Hugging Face, uma plataforma onde desenvolvedores armazenam e colaboram no código de modelos.
O incidente sinalizou que as capacidades cada vez maiores da tecnologia já estão alimentando a ameaça à segurança que os especialistas há muito temiam e que até mesmo os principais desenvolvedores podem ser pegos de surpresa por falhas que seus modelos podem explorar.
O NIST (Instituto Nacional de Padrões e Tecnologia) do Departamento de Comércio propôs, separadamente, diretrizes para a avaliação de sistemas da inteligência e solicitou feedback do público. A função do NIST é elaborar padrões para ciência e tecnologia. As diretrizes destinam-se a organizações que desejam “avaliar o impacto de seus sistemas de IA”, segundo o NIST.
As diretrizes são “o primeiro passo para padronizar a forma como o governo federal avalia sistemas de IA, tanto para si mesmo quanto para seus contratados”, disse Ike Harris, diretor executivo do Frontier Security Institute, com sede em Washington, D.C., uma organização sem fins lucrativos focada em IA e segurança nacional.