Parlamentares dos EUA pedem novas regras para IA após alertas de segurança de pesquisador da Anthropic

10 Set (Reuters) - Parlamentares dos Estados Unidos pediram esta semana novas regras para governar a ​inteligência artificial, depois que um pesquisador da Anthropic tornou públicas suas preocupações sobre a tecnologia estar escapando do controle humano.

A reação foi mais ampla do que após declarações anteriores de funcionários da OpenAI e da Anthropic sobre preocupações com a segurança, atraindo contribuições de parlamentares que raramente se envolvem de forma incisiva em debates sobre como governar a IA.

As declarações dos parlamentares foram uma resposta às preocupações levantadas esta semana pelo pesquisador da Anthropic, Jacob Coxon, que acusou a OpenAI e a Anthropic de avançarem de forma descontrolada na área de IA. Coxon afirmou que estava deixando a indústria de IA, e suas alegações se espalharam rapidamente na plataforma de mídia social X, com o cientista da Anthropic, Evan Hubinger, comentando posteriormente na mesma plataforma, afirmando que Coxon estava 'correto'.

'Acreditamos sinceramente que a IA pode matar todos os humanos', escreveu Hubinger no X. 'Pessoalmente, acho que esse número será superior a 10% na próxima década.'

A OpenAI afirmou na quarta-feira que está pressionando por requisitos nacionais obrigatórios de segurança para IA nos Estados Unidos, devido ⁠à preocupação de que a tecnologia ⁠possa acelerar seu próprio desenvolvimento, após alguns de seus agentes ​de IA terem ‌se descontrolado. Vários incidentes desse tipo, nos quais modelos de IA de desenvolvedores acessaram sistemas externos durante testes, motivaram pedidos por regulamentações de segurança mais rigorosas.

A assessoria de imprensa da Anthropic não respondeu imediatamente ao pedido de comentário da Reuters sobre as alegações de Coxon.

AUDITORES INDEPENDENTES

Na quarta-feira, a Califórnia promulgou a primeira lei estadual que estabelece regras para a avaliação de produtos de IA por auditores independentes. Chris Lehane, executivo da OpenAI, afirmou que a OpenAI apoiaria o projeto ⁠de lei, quase simultaneamente à divulgação de um comunicado do gabinete do governador da Califórnia, Gavin Newsom, informando que ele o ​havia sancionado.

Em julho, um grupo bipartidário de seis deputados da Câmara dos Deputados dos EUA propôs um projeto de lei que exigiria que os desenvolvedores ​dos modelos de IA mais poderosos os submetessem a auditorias de segurança independentes. Os auditores seriam ‌credenciados pelo Departamento de Comércio dos EUA, ​e o ⁠departamento criaria um novo cargo para supervisionar a segurança da IA, de acordo com o projeto de lei.

'É importante haver espaço para a supervisão desses sistemas, incluindo uma revisão pré-implantação devidamente calibrada e auditorias independentes de terceiros', disse Alicia Solow-Niederman, professora de direito da tecnologia na Universidade George Washington.

Os democratas lideraram os apelos por novas regras para a IA nesta ​semana, com um número menor de republicanos aderindo a eles.

APOIO BIPARTIDÁRIO CRESCENTE

A lista de republicanos inclui o senador do Texas, Ted Cruz, que preside uma comissão do Senado responsável pela supervisão do Departamento de Comércio dos EUA, agência que conta com pesquisadores internos de segurança em IA. Cruz, no programa de TV 'The View', mencionou a legislação para regulamentar os 'riscos catastróficos' da IA, acrescentando que estava trabalhando em um projeto de lei com o líder da maioria no Senado, John Thune, e a democrata Amy Klobuchar. Thune ​disse à Reuters no final de julho que vinha trabalhando na legislação 'há bastante tempo' e não deu detalhes sobre quando ela estaria pronta para ser divulgada ao público.

O deputado republicano Nathaniel Moran, do Texas, afirmou em uma publicação no X que “o Congresso não pode ignorar as realidades da IA”. A deputada Anna Paulina Luna, republicana da Flórida, em outra publicação no X, pediu ao presidente da Câmara, Mike Johnson, que convoque uma “sessão especial sobre IA”. A Câmara está em recesso esta semana e planeja retornar na próxima semana.

O senador republicano Josh Hawley, que preside uma subcomissão do Senado responsável pela supervisão do gerenciamento de desastres, enviou uma carta à OpenAI na quarta-feira solicitando detalhes sobre a divulgação, em julho, de que um de seus agentes de IA violou seu ambiente de testes e invadiu a plataforma de IA Hugging Face. A OpenAI ​e a plataforma de desenvolvimento de IA Hugging Face, que está sendo adquirida pela Nvidia por quase US$13 bilhões, não responderam imediatamente aos pedidos de comentários da Reuters sobre a ‌solicitação. Vários parlamentares enviaram à OpenAI pedidos semelhantes de mais informações nas ⁠últimas semanas.

A lista de democratas que defenderam novas regras para a IA esta semana inclui a senadora Patty Murray, principal democrata na comissão responsável pela alocação de verbas para agências federais. Senadores democratas que surgiram como possíveis candidatos à presidência em 2028 também se juntaram ao coro, incluindo Chris Murphy, de Connecticut, e Mark Kelly, ⁠do Arizona.

“Washington precisa acordar e levar isso a sério”, publicou Kelly no X, referindo-se aos riscos da tecnologia ⁠de IA.

O senador democrata Richard Blumenthal, de Connecticut, enviou uma carta separada ao presidente-executivo ⁠da OpenAI, Sam Altman, buscando respostas ⁠sobre ​relatos de que agentes da OpenAI se envolveram em tentativas mais amplas de burlar as medidas de segurança — inclusive usando sites públicos para se comunicar e coordenar atividades.

(Por Courtney Rozen)