EUA ABREM INVESTIGAÇÃO SOBRE RISCOS DA INTELIGÊNCIA ARTIFICIAL

A Federal Trade Commission (FTC), agência responsável pela proteção dos consumidores e pela fiscalização da concorrência nos Estados Unidos, abriu uma investigação sobre os riscos associados aos sistemas avançados de inteligência artificial.

Entre as organizações incluídas estão OpenAI, responsável pelo ChatGPT, e Anthropic, desenvolvedora do Claude, além de outros participantes do setor. A investigação também alcança a METR, organização independente e sem fins lucrativos especializada na avaliação de modelos avançados de IA.

O objetivo é examinar como essas organizações avaliam e administram potenciais riscos aos consumidores e verificar as informações fornecidas sobre a segurança de seus sistemas.

Agentes de IA entram no foco

Um dos pontos de atenção são os chamados agentes de inteligência artificial, sistemas capazes de realizar sequências de tarefas com maior autonomia, utilizando ferramentas digitais e interagindo com outros ambientes para atingir determinados objetivos.

O avanço dessa tecnologia aumentou a discussão sobre os mecanismos utilizados para limitar comportamentos inesperados e garantir que os sistemas permaneçam dentro das instruções estabelecidas pelos usuários e desenvolvedores.

Nas próximas semanas, a FTC deverá emitir intimações formais que podem obrigar as organizações investigadas a fornecer documentos e informações internas, além de solicitar depoimentos de executivos e responsáveis pelas tecnologias.

Segurança da IA ganha espaço em Washington

A investigação tornou-se pública um dia depois de empresas do setor de tecnologia participarem de um compromisso voluntário de segurança na Casa Branca, envolvendo medidas de controle interno, avaliações externas e supervisão sobre sistemas avançados de inteligência artificial.

Representantes da agência indicaram que a iniciativa é exploratória e que o objetivo não é comprometer a posição dos Estados Unidos no desenvolvimento da inteligência artificial.

O movimento acrescenta uma nova frente ao debate sobre a expansão da IA: além da disputa tecnológica entre as empresas, órgãos reguladores começam a analisar mais diretamente como sistemas capazes de operar com maior autonomia são testados, apresentados ao público e controlados antes de chegar aos consumidores.