Carta aberta é assinada por centenas de especialistas e alerta para o risco de tecnologia como a do ChatGPT, que nem seus próprios criadores conseguem ‘entender, prever ou controlar de forma confiável’
O bilionário Elon Musk e mais de mil pesquisadores, especialistas e executivos do setor de tecnologia publicaram nesta quarta-feira uma carta aberta conclamando empresas do mundo inteiro a realizarem uma pausa de seis meses no desenvolvimento de novas ferramentas de inteligência artificial (IA), como o popular ChatGPT, diante do que chamaram de “perigosa” corrida armamentista.
A carta foi divulgada pelo Future of Life Institute, um grupo sem fins lucrativos, e ganhou a adesão de centenas de acadêmicos e executivos do setor em poucas horas desde que foi tornada pública.
“Nos últimos meses, vimos os laboratórios de Inteligência Artificial em uma corrida fora do controle para desenvolver e aprimorar mentes digitais que ninguém – nem seus próprios criadores – consegue entender, prever ou controlar de forma confiável”, diz a carta, que menciona riscos à sociedade e à humanidade.
O Future of Life Institute tem Musk como um dos seus maiores financiadores e é liderado por Max Tegmark, professor do Instituto de Tecnologia de Massachusetts (MIT) e pesquisador de IA.
Entre os signatários da carta estão os mais conceituados pesquisadores sobre inteligência artificial, como os professores Stuart Russel, da Universidade de Montreal, e Youshua Bengio, de Berkeley, além de pensadores como o escritor Yuval Noah Harari.
Steve Wozniak, cofundador da Apple, também assina o documento, além de outros executivos do setor, como os fundadores de startups de IA como Stability AI e Charcacter.ai.
Moratória de seis meses
Eles pedem uma pausa no desenvolvimento dessa nova tecnologia até que protocolos de segurança sejam desenvolvidos, implementados, compartilhados e auditados por especialistas independentes. E, caso os laboratórios de IA não consigam fazer essa suspensão nas pesquisas, eles conclamam os governos a agirem e instituírem uma moratória:
“Pedimos a todos os laboratórios de IA que pausem imediatamente, por pelo menos seis meses, os treinamentos de sistemas de IA mais poderosos do que o GPT-4 (a versão mais atual do Chat-GPT). Esta pausa precisa ser pública e verificável, e incluir todos os atores relevantes. Se esta pausa não puder ser colocada em prática rapidamente, os governos devem tomar medidas e estabelecerem uma moratória (nas pesquisas)”, diz a carta.
Os protocolos de segurança a serem criados, dizem os signatários da carta, não apenas precisam ter auditoria independente como devem “garantir que os sistemas serão seguros acima de qualquer dúvida razoável”.
“Todos os sistemas com inteligência que rivalizem com a humana podem apresentar riscos profundos à sociedade e à humanidade”, alertam.
Musk é um dos cofundadores da OpenAI, o laboratório de inteligência artificial por trás da criação do ChatGPT e de outras ferramentas de IA, mas deixou a plataforma em 2018 e se tornou um crítico dela desde então.
Entre os primeiros mil signatários da carta, há ainda engenheiros e pesquisadores da Microsoft, Google, Amazon e Meta (dona do Facebook e do Instagram).
