História por Zoe Kleinman e Tom Gerken – Editora e repórter de Tecnologia da BBC News •
Elon Musk: se inteligência artificial ficar a cargo de ambientalistas poderá levar à extinção da humanidade© Getty Images
O bilionário Elon Musk alertou que a inteligência artificial (IA), se programada por pessoas do “movimento ambientalista”, pode levar à extinção da humanidade.
A frase foi dita durante um episódio do podcast apresentado pelo comediante Joe Rogan na terça-feira (31/10). Musk disse que algumas pessoas usariam a tecnologia para proteger o planeta, acabando com a vida humanidade.
O dono do X (antigo Twitter) fez a declaração pouco antes de participar de uma cúpula sobre segurança cibernética no Reino Unido.
Durante o evento, que já começou, Musk deverá se encontrar com Rishi Sunak, o primeiro-ministro do Reino Unido.
Muitos especialistas consideram as advertências feitas por ele exageradas.
Nick Clegg, presidente de assuntos globais da Meta e ex-vice-primeiro-ministro — que também participa da cúpula — disse que as pessoas não deveriam permitir que “previsões especulativas, às vezes um tanto futuristas” excluam desafios mais imediatos.
Musk disse que seus comentários nasceram do medo de que o movimento ambientalista estivesse “indo longe demais”.
“Se você começar a pensar que os seres humanos são maus, então a conclusão natural é que eles deveriam morrer”, disse Musk.
“Se a IA for programada por aqueles que defendem a extinção da nossa espécie, a função útil da tecnologia será a extinção da humanidade… E eles nem sequer pensarão que isso é algo ruim.”
Musk deve conversar com o primeiro-ministro do Reino Unido, Rishi Sunak, na plataforma X na próxima quinta-feira (2/11).
Representantes de alguns dos países mais poderosos do mundo participam da cúpula, incluindo — o que é incomum — a China, que aparece como um componente-chave na IA.
As relações entre a China e muitos países europeus e norte-americanos são tensas em diversas áreas da tecnologia — mas o vice-ministro do país, Wu Zhaohui, disse que buscava um espírito de abertura em relação à IA.
“Apelamos à colaboração global para partilhar conhecimento e disponibilizar tecnologias de IA ao público”, discursou Zhaohui.
“Os países, independentemente do tamanho e da força, têm direitos iguais para desenvolver e utilizar a IA. Deveríamos aumentar a representação e a voz dos países em desenvolvimento”, acrescentou ele.
A IA é ‘muito importante’
Demis Hassabis nos Prêmios “Princesa de Astúrias” na Espanha, em 2022© Getty Images
Embora poucas pessoas compartilhem a interpretação de Musk sobre a ameaça da IA, muitos concordam que ela apresenta alguns perigos potenciais.
Num discurso antes da cúpula, Demis Hassabis, cofundador do Google Deepmind, uma das maiores empresas de IA do Reino Unido, disse que o mantra “aja rápido e faça coisas”, comumente associado ao Vale do Silício, deveria ser evitado neste caso.
“A construção de grandes empresas e o fornecimento de muitos serviços tem sido extremamente bem-sucedida, com aplicações excelentes”, disse Hassabis.
“Mas a IA é muito importante. Há muito trabalho que precisa de ser feito para garantir que compreendemos [os sistemas de IA] e sabemos como implementá-los de forma segura e responsável.”
Ele identificou riscos potenciais, incluindo o risco de a IA gerar desinformação e deepfakes, além do uso indevido deliberado da tecnologia.
Discussões sobre segurança
Nos próximos dois dias, cerca de uma centena de líderes mundiais, chefes de tecnologia, acadêmicos e pesquisadores de IA se reunirão no campus de Bletchley Park, no Reino Unido.
O local já foi o lar dos especialistas que ajudaram a decifrar códigos criptografados alemães e garantir a vitória dos Aliados durante a Segunda Guerra Mundial.
Eles participarão de discussões sobre a melhor forma de maximizar os benefícios da inteligência artificial — como descobrir novos medicamentos e trabalhar em potenciais soluções para as alterações climáticas, por exemplo — ao mesmo tempo em que os riscos são minimizados.
A cúpula vai focar nas ameaças extremas representadas pela chamada IA de fronteira, as formas mais avançadas da tecnologia que Hassabis descreveu como “ponta da lança”. O evento ainda vai debater a ameaça do bioterrorismo e dos ataques cibernéticos.
Os delegados internacionais incluem a vice-presidente dos EUA, Kamala Harris, e a presidente da Comissão Europeia, Ursula von der Leyen.
Algumas críticas apontam que a lista de convidados é dominada por gigantes dos EUA, incluindo os criadores de ChatGPT OpenAI, Anthropic, Microsoft, Google e Amazon — bem como o proprietário da Tesla e do X (ex-Twitter), Elon Musk.
Outros críticos questionam se os anúncios feitos no início desta semana, tanto pelos EUA como do G7, especificamente sobre a segurança da IA, ofuscaram o evento — mas Hassabis entende que o Reino Unido ainda pode desempenhar “um papel importante” nas discussões.
‘Parece ficção científica’
Aidan Gomez, o fundador da Cohere, uma plataforma de IA para empresas, veio de Toronto, no Canadá, ao Reino Unido para participar da cúpula. A empresa dele foi avaliada em US$ 2 bilhões (R$ 10 bilhões) em maio de 2023.
Ele disse acreditar que havia ameaças mais imediatas do que o “cenário apocalíptico do Exterminador do Futuro”. Gomez descreveu essa possibilidade como “uma espécie de ficção científica”.
“Na minha opinião pessoal, gostaria que nos concentrássemos mais no curto prazo, onde há trabalho político concreto a ser feito”, disse ele.
“A tecnologia não está preparada para, por exemplo, prescrever medicamentos aos pacientes, onde um erro pode custar uma vida humana.”
“Precisamos realmente preservar a presença humana e a supervisão destes sistemas… Precisamos de regulamentação que nos ajude a orientar quais são os usos aceitáveis desta tecnologia.”
