Relatório da ONU aponta enormes benefícios potenciais e grandes riscos decorrentes da IA

Por Andrea Shalal

1 Jul (Reuters) - O rápido desenvolvimento da ​IA oferece enormes benefícios potenciais para países e pessoas em todo o mundo, mas também apresenta grandes riscos, afirmaram 40 cientistas e especialistas renomados no primeiro relatório elaborado por um painel científico independente da ONU sobre a tecnologia.

O relatório, que será apresentado aos governos no primeiro Diálogo Global da ONU sobre a governança da IA, em Genebra, de 6 a 7 de julho, oferece a primeira avaliação científica global e independente da IA, com um relatório mais completo e abrangente previsto para o próximo ano.

Os membros do painel foram selecionados em todas as regiões do mundo e cumprem um mandato de ⁠três anos, ⁠independentemente de qualquer governo, instituição ou empresa.

A ​seguir, alguns ‌detalhes do relatório preliminar:

• Os formuladores de políticas precisam de evidências científicas para governar a IA, mas as capacidades da tecnologia estão superando o entendimento científico e a capacidade de adaptação dos governos, com poucos métodos disponíveis para controlar sistemas de IA altamente autônomos.

• O ⁠copresidente do painel Yoshua Bengio observou evidências crescentes de comportamentos enganosos da IA ​e afirmou que a ciência não pode garantir que a IA não causará danos catastróficos “seja por ​conta própria, seja devido a usuários mal-intencionados”, à medida ‌que suas capacidades aumentam.

• “Os ​benefícios potenciais ⁠da IA são enormes”, concluiu o relatório. “A implantação rápida e descontrolada da tecnologia em grande escala também apresenta riscos consideráveis, incluindo danos à saúde mental dos usuários, uso potencial como ferramenta destrutiva, impactos nos sistemas ​sociais, econômicos e ambientais, e desafios associados ao controle da tecnologia.”

• A adoção da IA acelerou de forma ampla, mas desigual, entre países e setores. Globalmente, mais de um bilhão de pessoas agora usam IA conversacional semanalmente, mas a adoção nos países em desenvolvimento está atrasada.

• O desenvolvimento da ​IA está ainda mais concentrado, com os EUA respondendo por 75% do poder de computação entre os 500 maiores supercomputadores de IA do mundo, e a China, por 15%.

• Embora mais de 7.000 idiomas sejam falados em todo o mundo, os modelos atuais de IA são treinados para apenas uma pequena fração deles, e a tradução automática de alguns idiomas está repleta de erros que podem afetar diagnósticos de saúde e decisões de tratamento.

• Os riscos incluem possíveis impactos negativos sobre os direitos ​humanos, os sistemas sociais e o meio ambiente, com a circulação cada vez mais frequente de material ‌de abuso sexual infantil gerado por IA e ⁠de violência sexual facilitada por deepfakes.

• A IA também facilita a produção e o direcionamento de conteúdo persuasivo em grande escala, contribuindo para uma “erosão gradual da integridade da informação que pode ⁠enfraquecer a confiança pública, a coesão social e a deliberação democrática”.

• ⁠A maioria dos países, incluindo as economias avançadas, ⁠carece do conhecimento ⁠técnico ​necessário para avaliar os novos modelos de IA mais avançados ou participar de forma significativa de sua governança.