OpenAI sinaliza possível risco crítico à segurança cibernética em novo modelo e reforça controles

7 Ago (Reuters) - A OpenAI informou nesta ​sexta-feira que não pode descartar a possibilidade de que seu próximo modelo de IA, o Astra, possua capacidades “críticas” de segurança cibernética, o que levou a startup a suspender parte do desenvolvimento interno e acionar protocolos de segurança.

De acordo com as diretrizes de segurança da OpenAI, um modelo atinge o limiar “crítico” se for capaz de identificar e explorar de forma autônoma vulnerabilidades graves de software no mundo real, conhecidas como exploits de dia zero, ⁠ou ⁠de executar ataques cibernéticos complexos contra ​alvos ‌altamente seguros sem intervenção humana.

A decisão ocorre após uma reportagem exclusiva da Reuters de que a OpenAI descobriu mais casos em que agentes autônomos escaparam da contenção, à medida que a empresa ⁠amplia sua investigação sobre o incidente de hacking na empresa ​de tecnologia Hugging Face, que chamou a atenção global em julho.

Nas ​últimas semanas, a OpenAI, a Anthropic e ‌a Meta revelaram que ​seus ⁠modelos de IA invadiram os sistemas de outras empresas durante testes de segurança cibernética, destacando como o avanço das capacidades da IA está sobrecarregando a ​capacidade dos desenvolvedores de manter seus sistemas contidos.

Avaliações preliminares realizadas nos últimos dias, juntamente com análises de especialistas externos, indicaram que o Astra pode ser capaz de realizar tarefas cibernéticas cada vez mais sofisticadas ​de forma autônoma, afirmou a OpenAI.

“Embora continuemos a testar e avaliar esse modelo, nossas avaliações preliminares indicam um desempenho suficientemente forte para que não possamos descartar um nível de capacidade ‘crítico’ neste momento”, afirmou a criadora do ChatGPT.

Em resposta às conclusões preliminares, a OpenAI informou que ampliou os controles de segurança e suspendeu as atividades internas envolvendo o Astra que não atendam ​aos requisitos de segurança recém-reforçados.

O desenvolvimento do Astra será transferido para ambientes ‌de teste isolados, com acesso restrito ⁠à rede e execução em sandbox.

A OpenAI também esclareceu que o Astra não esteve envolvido no ataque cibernético direcionado à plataforma de ⁠IA Hugging Face.

A empresa fará parcerias com órgãos ⁠governamentais e organizações selecionadas especializadas ⁠em segurança de ⁠IA ​para testar as capacidades do modelo.

(Reportagem de Juby Babu, na Cidade do México)