Agência dos EUA inicia investigação sobre gigantes da IA

Por Jody Godoy

30 Set (Reuters) - A ​Comissão Federal de Comércio dos Estados Unidos (FTC) está conduzindo uma investigação em todo o setor de inteligência artificial, envolvendo empresas como Anthropic e OpenAI, para identificar possíveis riscos que a tecnologia representa para os consumidores, informou um autoridade de alto escalão da FTC à Reuters nesta quarta-feira.

A investigação é a primeira ação regulatória oficial dos EUA ⁠a ⁠se aprofundar na questão de ​agentes ‌de IA rebeldes, em meio a um aumento de incidentes que têm criado temores de que uma IA descontrolada possa, um dia, causar danos ⁠aos seres humanos.

A FTC planeja emitir intimações formais ​para obtenção de informações e exigir depoimentos de executivos ​das principais empresas desenvolvedoras de ‌IA, incluindo Anthropic, OpenAI ​e o ⁠grupo de pesquisa METR, disse o funcionário.

O presidente da FTC, Andrew Ferguson, sugeriu na semana passada que os desenvolvedores ​que instruem agentes de IA em testes de segurança que resultem em invasões a outros sistemas devem ser responsabilizados por quaisquer danos que causem.

Anthropic e ​OpenAI não responderam imediatamente a pedidos de comentário da Reuters.

Ferguson já tinha preocupações com as empresas antes mesmo dos agentes de IA desenvolvidos pela OpenAI invadirem a plataforma de código aberto Hugging Face, disse a autoridade.

Mas o incidente em que os agentes da OpenAI sondaram o ​hub de programação de IA em busca de vulnerabilidades ‌antes de realizar um ⁠ataque em grande escala aumentou a urgência em torno da questão, disse a autoridade.

O presidente dos EUA, ⁠Donald Trump, se reuniu com altos ⁠executivos do setor de ⁠IA na ⁠terça-feira, ​ocasião em que as empresas concordaram em estabelecer padrões voluntários.