IA pode representar risco “existencial” para humanidade, alerta chefe de direitos humanos da ONU

Por Emma Farge

GENEBRA, 7 Set (Reuters) - O chefe de direitos humanos da ​ONU, Volker Turk, alertou nesta segunda-feira que a inteligência artificial pode representar uma ameaça à humanidade e se comprometeu a pressionar as empresas do setor a reduzirem os riscos que, segundo seu escritório, incluem interrupções nos serviços, nas comunicações e nos sistemas democráticos.

Ele pediu “garantias irrefutáveis” para assegurar a segurança da IA em um discurso antes do início de seu segundo mandato, e também exigiu que os culpados pelas mortes de pessoas sob custódia de autoridades de imigração dos EUA sejam responsabilizados, além de condenar o suposto uso de drones autônomos pela Rússia.

O discurso abrangente foi o primeiro que ele proferiu perante o conselho de 47 membros desde que conquistou o mandato de quatro anos em julho, apesar da oposição de Moscou e Washington.

“Compartilho das preocupações dos especialistas do setor de que a IA avançada possa ⁠representar um risco existencial ⁠para a humanidade”, disse Turk ao órgão em Genebra.

“Apelo ​aqui, hoje, ‌por um esforço total para estabelecer garantias irrefutáveis em torno da segurança e proteção da IA, antes que seja tarde demais.”

Turk não entrou em detalhes sobre a natureza dos riscos, mas uma porta-voz de seu gabinete afirmou que falhas envolvendo sistemas poderosos de IA poderiam prejudicar infraestruturas críticas e instituições democráticas.

Ela se referiu aos “comportamentos perigosos de treinamento de agentes” no chamado ⁠incidente Hugging Face, ocorrido em julho, no qual um enxame de agentes da OpenAI invadiu uma plataforma ​de código aberto, afirmando que isso sugeria que as capacidades de ponta da IA estão avançando mais rapidamente do que as ​medidas de proteção.

Turk alertou que apenas um punhado de homens detêm “poder quase ‌ilimitado sobre a IA”, sem citar ​nomes. ⁠Entre as principais empresas de IA estão a Meta , a Anthropic, a OpenAI e o Google .

“No mínimo, precisamos que os países que abrigam a IA e aqueles envolvidos em suas cadeias de suprimentos se unam em torno de limites acordados”, disse ele.

O conselho está reunido até 7 ​de outubro para discutir a guerra no Irã, o conflito civil no Sudão e uma série de outras crises. O governo do presidente dos Estados Unidos, Donald Trump, se retirou do conselho no ano passado, acusando-o de parcialidade anti-israelense.

Turk exigiu a responsabilização dos culpados pelas cerca de 23 mortes que, segundo ele, ocorreram sob custódia das autoridades de imigração dos EUA neste ano, e acrescentou que está ​preocupado com os planos de equipar os agentes com luvas de choque elétrico.

O Departamento de Segurança Interna dos EUA já havia afirmado que estava comprometido em garantir um ambiente “seguro, protegido e humano” nas instalações de detenção. Seu inspetor-geral está investigando as mortes ocorridas sob custódia desde outubro de 2021.

O Departamento de Estado dos EUA não respondeu imediatamente a um pedido de comentário nesta segunda-feira.

'ATORES OCULTOS'

Turk condenou ainda a Rússia por seus ataques intensificados à Ucrânia e o Irã pelo número crescente de execuções.

Ele também expressou “horror” diante de relatos de que a Rússia teria utilizado drones totalmente autônomos na Ucrânia, supostamente matando três pessoas em agosto.

“Junto-me aos apelos pela proibição urgente de armas ​capazes de tirar vidas sem intervenção humana”, disse ele, referindo-se às negociações em Genebra. A Reuters não verificou essas notícias de forma independente. ‌A missão diplomática da Rússia não respondeu imediatamente a um ⁠pedido de comentário.

Com mais de 60 guerras em todo o mundo envolvendo pelo menos um Estado — o maior número desde a Segunda Guerra Mundial —, Turk apresentou ideias sobre formas de promover a paz, comprometendo-se a um maior escrutínio das empresas e dos interesses ⁠econômicos que estão alimentando os conflitos.

“Não hesitaremos em expor os atores ocultos e exigir ⁠que prestem contas”, afirmou ele.

Ainda neste mês, o escritório de ⁠direitos humanos da ONU deve ⁠publicar ​uma lista de empresas que operam nos assentamentos israelenses na Cisjordânia, considerados ilegais pelo órgão global — uma acusação rejeitada por Israel.

(Reportagem de Emma Farge)