São Paulo – As contradições que envolvem as tecnologias de Inteligência Artificial (IA) acenderam alertas na comunidade internacional. Nesta semana, mais de 1.200 cientistas, pesquisadores, empresários e historiadores pediram a suspensão dos testes com IA por, no mínimo, seis meses. A presença de nomes como o fundador da Apple Steve Wozniak e do CEO da Tesla e da SpaceX, Elon Musk, reverberaram no mundo político e também entre desenvolvedores.

Após a divulgação do documento, a IA experimental geradora de imagens Midjourney interrompeu os testes gratuitos. A plataforma norte-americana ganhou as manchetes e as redes sociais após a viralização de imagens do papa Francisco com roupas descoladas. Países de todo o mundo correm para regulamentar o uso responsável deste tipo de tecnologia. Entre os argumentos estão os riscos de sua utilização maliciosa para criar fake news e disseminar desinformação. Com a alta qualidade das imagens, fica fácil induzir o público ao erro e à crença de que se trata de algo verídico.

ChatGPT na mira

Outra tecnologia da IA que enfrenta resistência é o ChatGPT, da empresa – também norte-americana – OpenAI. A plataforma impressionou o mundo ao imitar, com competência, a linguagem humana. O mecanismo utiliza algorítmos para encadear palavras e mimetizar o comportamento humano através de uma plataforma de conversas (chatbot). Ele é capaz de criar os mais diferentes tipos de textos, como artigos científicos, códigos de programação, petições judiciais, entre outros.

Para isso, o ChatGPT utiliza um sistema de aprendizado de máquina (machine learning). Ele é capaz de “aprender” conforme dialoga com os usuários. Este mecanismo é justamente pivo da mais nova polêmica em torno da ferramenta. A Agência de Proteção de Dados da Itália (GPDP) baniu o ChatGPT do país. Agora, a Justiça local investiga se a plataforma viola regras de coleta de dados de usuários. A agência ainda argumenta que há falta de transparência no chatbot.

Então, a Justiça deu 20 dias para que a OpenAI responda às acusações. A pena pecuniária, confirmadas as suspeitas, é de 20 milhões de euros, o que representa 4% da receita da empresa. “O ChatGPT trabalha sem qualquer base legal que justifique a coleta e armazenamento em massa de dados pessoais com o objetivo de ‘treinar’ os algoritmos subjacentes à operação da plataforma”, informou a agência.

Alucinações da Inteligência Artificial

A estimativa da OpenAI é de que mais de 100 milhões de pessoas utilizem a plataforma. Cientistas de todo o mundo criticam a falta de transparência da empresa, que pode resultar em problemas sérios em pouco tempo. Além do possível mau uso da ferramenta, pesam sobre ela críticas a respeito da ausência de compromisso com questões intrínsecas dos humanos, como verdade e ética. Não é raro a plataforma fornecer informações inventadas, algo que os cientistas de dados chamam de “alucinação”.

Entretanto, existe certo consenso de que as ferramentas de IA vieram para ficar; e que a evolução deve ser rápida. Cabe, agora, aos Estados, um estudo minucioso das tecnologias e seus impactos para uma regulação eficiente que impeça distorções e malefícios.

Leia também

• Inteligência Artificial pode ser risco à humanidade. Carta pede pausa nos experimentos
• Falta de transparência e de compromisso com a verdade afetam a Inteligência Artificial
• Arte antecipa intrusão da inteligência artificial na vida. Confira dicas da… inteligência artificial
• Ocidente tenta frear TikTok e impedir avanço de aplicativos chineses
• Comunidade acadêmica está mobilizada para entender impactos da Inteligência Artificial
• Cientistas divulgam 10 diretrizes para a educação lidar com a Inteligência Artificial
• ChatGPT, tecnologia e programadores. E o bicho-papão da automação