Chefe da Microsoft pede que humanos sejam responsabilizados por IA, cobra proteção para infraestrutura crítica

Por Diane Bartz

WASHINGTON (Reuters) - O presidente da Microsoft, Brad Smith, pediu nesta quinta-feira que as pessoas por trás da inteligência artificial sejam responsabilizadas por deficiências e instou parlamentares a garantir que freios de segurança sejam colocados na IA utilizada para controlar redes elétricas, abastecimento de água e outras infraestruturas críticas.

'Esta é a necessidade fundamental de garantir que as máquinas permaneçam sujeitas à supervisão eficaz das pessoas e que as pessoas que projetam e operam as máquinas permaneçam responsáveis perante todos os outros. Em suma, devemos sempre garantir que a inteligência artificial permaneça sob controle humano', escreveu.

Como parte de um plano de cinco pontos para a governança pública da inteligência artificial, Smith pediu que uma atenção especial seja dada à rede elétrica, sistemas de água e outras infraestruturas críticas. “Novas leis exigiriam que os operadores desses sistemas construíssem freios de segurança em sistemas de IA de alto risco por design”, acrescentou.

Ele pediu o uso de um sistema no estilo 'conheça seu cliente' para desenvolvedores de poderosos modelos de inteligência artificial para manter o controle sobre como sua tecnologia é usada e informar o público sobre qual conteúdo está criando para que eles possam identificar vídeos manipulados.

Na semana passada, Sam Altman, presidente-executivo da OpenAI, a startup por trás do ChatGPT, disse a um painel do Senado dos Estados Unidos que o uso de inteligência artificial para interferir na integridade das eleições é uma 'área significativa de preocupação', acrescentando que precisa de regulamentação.

Altman, cujo OpenAI é apoiado pela Microsoft, também pediu cooperação global em inteligência artificial e incentivos para conformidade com a segurança.