Agentes de IA tentaram invadir site do governo canadense, diz empresa de pesquisa

Por Kanishka Singh e Christian Martinez e Deepa ​Seetharaman

WASHINGTON, 30 Set (Reuters) - Uma empresa de pesquisa em inteligência artificial afirmou nesta quarta-feira que agentes de IA tentaram invadir um site do governo do Canadá, classificando a ação como uma tentativa fracassada de invasão, enquanto o Canadá afirmou que não havia indícios de que seus sistemas tivessem sido comprometidos.

A empresa de pesquisa em IA Transluce afirmou que as tentativas exibiram táticas “consistentes com atividades de agentes observadas anteriormente, que atribuímos à OpenAI em um período semelhante”. No entanto, acrescentou que não estava atribuindo com certeza essas tentativas à OpenAI.

Os agentes tentaram acessar o site ⁠da Biblioteca ⁠e Arquivos do Canadá em 28 ​de maio ‌e 9 de junho, informou a Transluce em uma postagem no blog. A Transluce afirmou ter comunicado o ocorrido ao governo canadense na segunda-feira.

O Centro Canadense de Segurança Cibernética afirmou na terça-feira estar ciente de relatos de suspeita de atividade de ⁠agentes de IA. “Não há indícios de que os sistemas governamentais tenham sido comprometidos ​neste momento”, afirmou em comunicado.

“Não atribuímos com certeza essas tentativas à OpenAI, mas elas ​apresentam táticas consistentes com atividades de agentes observadas anteriormente, ‌que atribuímos à OpenAI ​em ⁠um período semelhante”, afirmou a Transluce.

A OpenAI afirmou estar “ciente dos relatos de que modelos da OpenAI tentaram acessar informações disponíveis publicamente em sites do governo canadense”. Um porta-voz disse que a OpenAI ​estava analisando as descobertas relatadas e havia fornecido um briefing inicial às autoridades canadenses responsáveis pela investigação do governo.

As principais empresas de IA do mundo alertaram sobre os riscos que a IA representa para a humanidade, apelando para que os governos trabalhem juntos para gerenciar ​essa tecnologia cada vez mais poderosa. Governos em todo o mundo têm enfrentado dificuldades para acompanhar os rápidos avanços na IA.

O serviço online gratuito arquivo.pt, o arquivo nacional da web português operado pela Fundação Portuguesa para a Ciência e a Tecnologia, registrou 899 solicitações direcionadas ao serviço de “busca no acervo” da Biblioteca e Arquivos do Canadá, incluindo uma série de tentativas rudimentares de hacking aparentemente malsucedidas, nos dias 28 de maio e 9 de junho, informou a ​Transluce.

Várias violações recentes em todo o mundo causadas por agentes de IA desonestos têm alarmado governos ‌e empresas.

Na semana passada, a Austrália informou ⁠que um agente da OpenAI invadiu um portal de dados de saúde do governo em junho, obtendo acesso não autorizado a arquivos, no que foi o primeiro caso conhecido ⁠de um agente de IA invadindo um site do governo.

A ⁠OpenAI pediu desculpas na terça-feira pelo ataque ⁠ao site do governo ⁠australiano ​perpetrado pelo agente de IA rebelde.

(Reportagem de Kanishka Singh, Christian Martinez, Deepa Seetharama e Akanksha Khushi)