OpenAI oferece subsídios de US$100 mil para ideias sobre governança de IA

Por Greg Bensinger

(Reuters) - A OpenAI, startup por trás do popular chatbot de inteligência artificial ChatGPT, disse nesta quinta-feira que concederá dez doações de mesmo valor de um fundo de 1 milhão de dólares para experimentos que exploram processos democráticos para determinar como o software de IA deve ser governado para lidar com viés e outros fatores.

As doações de 100 mil dólares serão destinadas aos destinatários que apresentarem estruturas convincentes para responder a tais perguntas, como se a IA deve criticar figuras públicas e o que deve ser considerado o 'indivíduo mediano' no mundo, de acordo com uma publicação anunciando o fundo.

Os críticos dos sistemas de IA, como o ChatGPT, dizem que eles possuem um viés inerente devido às entradas utilizadas para moldar suas visões. Os usuários encontraram exemplos de expressões racistas ou sexistas a partir de softwares de IA, dependendo de quais perguntas estão respondendo. Crescem as preocupações de que a IA, trabalhando ao lado de mecanismos de pesquisa como o Google, da Alphabet, e o Bing, da Microsoft, possa produzir informações incorretas de maneira convincente.

A OpenAI, apoiada por 10 bilhões de dólares da Microsoft, tem liderado o apelo pela regulamentação da IA. No entanto, recentemente a companhia ameaçou sair da União Europeia por causa de regras propostas que, segundo a empresa, podem ser muito onerosas.

'O rascunho atual da Lei de IA da UE seria regulamentar demais, mas ouvimos dizer que ele será retirado', disse o presidente-executivo da OpenAI, Sam Altman, à Reuters. 'Eles ainda estão falando sobre isso.'

Os sistemas de IA 'devem beneficiar toda a humanidade e ser moldados para serem o mais inclusivos possível', disse a OpenAI em comunicado. 'Estamos lançando este programa de subsídios para dar um primeiro passo nessa direção'.