Para o bilionário Elon Musk, que sonha alto e já mandou um Tesla ao espaço, a inteligência artificial do ChatGPT é "scary good". A expressão pode ser traduzida como algo que é assustadoramente bom. No entanto, ele também tweetou que não estamos longe de uma IA perigosamente forte e avançada.

Mesmo sendo cofundador da OpenAI, que desenvolve e opera o ChatGPT, Musk não hesitou em se unir a outros 2.600 líderes e pesquisadores de tecnologia em uma carta aberta que pede uma pausa temporária nos estudos e desenvolvimento de inteligência artificial.

No documento, também assinado pelo cofundador da Apple, Steve Wozniak, e por engenheiros da Meta e Google, está expresso o temor por “riscos profundos para a sociedade e a humanidade".

Divulgada em 22 de março de 2023, a carta foi publicada pela Future of Life Institute (FOLI), uma instituição de pesquisa norte-americana. A entidade teme uma “corrida fora de controle” entre empresas de tecnologia para criar a inteligência artificial mais poderosa. O problema é que ninguém, nem mesmo os seus desenvolvedores, são capazes de "entender, prever ou controlar" essas ferramentas.

Além de propagar informações falsas e enganosas, a instituição mostrou preocupação com a possibilidade de as máquinas automatizarem todas as oportunidades de trabalho humano.

Por que a IA avançada é perigosa?

A inteligência artificial avançada é um nível mais sofisticado de inteligência artificial. Ela é capaz de executar tarefas complexas associadas à inteligência humana, como reconhecimento de fala e imagem, tradução de idiomas, raciocínio lógico, tomada de decisões e aprendizado profundo.

Geralmente, esse tipo de IA requer algoritmos mais avançados e modelos de aprendizado de máquina mais sofisticados que permitem a identificação de padrões em dados complexos e em grande escala. O sistema já é usado em muitos setores, como saúde, finanças, transporte e segurança, automatizando processos, melhorando precisão e eficiência e permitindo a tomada de decisões mais informadas.

À medida que a IA se torna mais avançada, pode se tornar autônoma e tomar decisões independentes sem intervenção humana. Se essas decisões forem prejudiciais, será difícil responsabilizar os desenvolvedores ou corrigir o comportamento do sistema. Esse é justamente o impasse que os signatários da carta estão enfrentando.

Ameaça à existência humana?

A carta foi divulgada ao público logo após o lançamento do GPT-4, uma nova e mais poderosa base de dados que alimenta o ChatGPT.

O robô passou nos difíceis exames de ensino médio e da Ordem dos Advogados dos Estados Unidos. A pontuação coloca a máquina entre as melhores classificações. A OpenAI já confirmou que a versão é 10 vezes mais avançada que a inicial.

Pausar o treinamento de sistemas como esse por pelo menos seis meses é uma tentativa de evitar uma competição da inteligência artificial com a inteligência humana. 

“Devemos desenvolver mentes não humanas que possam eventualmente nos superar em número, ser mais espertas, tornando as nossas mentes obsoletas e nos substituir? Devemos arriscar perder o controle sobre a nossa civilização?”, questiona a FOLI, que vê uma clara ameaça existencial à nossa espécie.

Controvérsias sobre perigo da inteligência artificial avançada

O apelo dos milhares de líderes de tecnologia e cientistas argumenta que decidir por desenvolver essas inteligências artificiais não deve estar nas mãos deles, pois não foram eleitos pelos cidadãos.

Até mesmo o cofundador e CEO da OpenAI, Sam Altman, que detém o ChatGPT, defendeu uma revisão independente antes que novos sistemas de IA sejam treinados.

Mas há quem discorde dessa visão apocalíptica. CEO da SingularityNET, Ben Goertzel não vê, num futuro próximo, modelos de aprendizado de linguagem como o ChatGPT se tornando inteligências artificiais avançadas. Seu apelo é mais focado no fim da criação de armas biológicas e nucleares.

Já os signatários da carta aberta defendem que, se não houver a paralisação solicitada, será preciso envolver intervenção dos governos. 

Enquanto isso, países que veem violações às suas leis já proíbem o funcionamento do ChatGPT em seu território. A Itália foi a primeira no Ocidente a suspender o serviço, e a Alemanha estuda fazer o mesmo.