Anthropic defende plano para interromper desenvolvimento de IA se riscos aumentarem

4 Jun (Reuters) - A Anthropic disse na ​quinta-feira que os desenvolvedores de IA de fronteira devem estabelecer uma maneira coordenada e verificável de desacelerar ou interromper temporariamente seu trabalho caso os sistemas comecem a se aperfeiçoar mais rapidamente do que a sociedade pode gerenciar seus riscos.

Uma inteligência artificial capaz de se autoconstruir seria um grande desenvolvimento na história da tecnologia, mas 'o aperfeiçoamento recursivo completo também pode aumentar os riscos de os humanos perderem o controle sobre os sistemas de IA', disse a Anthropic.

'Se os ⁠sistemas ⁠forem capazes de criar totalmente seus ​próprios sucessores, ‌as formas como os protegemos, monitoramos e moldamos seu comportamento se tornarão muito mais importantes.'

Como exemplo, a Anthropic disse que, em maio, mais de 80% do código mesclado em sua base de código ⁠era de autoria do Claude, seu assistente de IA.

Seria 'bom para o ​mundo ter a opção de desacelerar ou pausar temporariamente o desenvolvimento da ​IA de fronteira para permitir que as ‌estruturas sociais e ​a pesquisa ⁠de alinhamento acompanhem o avanço da tecnologia', defendeu a empresa.

No entanto, a Anthropic advertiu que desacelerações unilaterais ou mal coordenadas podem ser um tiro pela culatra ​se atores menos cautelosos continuarem avançando, reduzindo potencialmente a segurança geral.

A empresa destacou que uma pausa significativa exigiria um acordo entre 'vários laboratórios com bons recursos' que operam na fronteira tecnológica, bem como regras sobre quais condições ​acionariam ou suspenderiam essa pausa e sobre quem supervisionaria as ações.

Uma pausa unilateral por parte de uma única empresa seria mais fácil de ser implementada, acrescentou a Anthropic, mas teria um impacto limitado.

Seu braço de pesquisa, o Anthropic Institute, planeja estudar e ajudar a construir sistemas que seriam necessários para suportar uma desaceleração.

Nos próximos meses, a Anthropic planeja retomar discussões envolvendo formuladores de políticas, ​pesquisadores, grupos da sociedade civil e outras empresas de IA para examinar as ‌principais questões.

Os temas incluem como gerenciar ⁠os riscos relacionados à IA, como o autoaperfeiçoamento recursivo, e como melhorar os mecanismos de coordenação.

No mês passado, a Anthropic concluiu uma rodada de ⁠captação de recursos que avaliou a empresa em ⁠US$965 bilhões. Na segunda-feira, a empresa ⁠solicitou confidencialmente um ⁠IPO (oferta ​pública inicial de ações) nos EUA.

(Reportagem de Juby Babu na Cidade do México)