Por que não perco o sono com o apocalipse da inteligência artificial

Este é um momento estranho para ser um usuário ativo e entusiasmado da inteligência artificial (IA).

Entre relatos de IAs “descontroladas”, que escapam de mecanismos de contenção e escondem seus rastros, e alertas de profissionais do setor de que a tecnologia pode acabar com a humanidade, demonstrar entusiasmo pela IA parece quase irresponsável.

Isso me coloca em uma posição peculiar. Passei boa parte dos últimos anos escrevendo e falando sobre o potencial da inteligência artificial e sobre como as pessoas podem utilizá-la no trabalho e na vida pessoal.

Recentemente, porém, tenho recebido menos perguntas sobre como usar a IA e mais sobre se devemos temê-la. As pessoas continuam me perguntando: você está preocupada com o apocalipse da inteligência artificial?

Minha resposta é: sim, estou preocupada com a velocidade do desenvolvimento da IA e com a falta de regulamentação efetiva. Também me incomoda ouvir pessoas de dentro do setor fazendo apostas sobre a extinção da humanidade.

Fim do mundo?

Mas a possibilidade de a IA destruir a humanidade me tira o sono? De jeito nenhum.

Para mim, o discurso sobre o fim do mundo provocado pela IA é fundamentalmente enganoso e contraproducente: baseia-se em especulações, atende a interesses próprios, é desproporcional e ignora o contexto.

Pior ainda, pode fazer com que pessoas comuns se sintam impotentes justamente no momento em que precisamos de muito mais gente participando das decisões sobre como a IA será desenvolvida, regulamentada e utilizada.

Apenas um palpite

Comecemos pelas estimativas dos chamados catastrofistas da IA, segundo as quais existe uma probabilidade de 10%, 20% ou até maior de que a tecnologia provoque a extinção da humanidade ou um evento com um número enorme de vítimas.

Há uma razão para as estimativas sobre os riscos da IA variarem tanto: não temos experiência nem dados suficientes para avaliar de maneira consistente as chances de uma catástrofe provocada pela tecnologia.

Como observaram os cientistas da computação de Princeton Arvind Narayanan e Sayash Kapoor, quando se trata do apocalipse da IA, “os analistas não estão recorrendo a nenhum conhecimento, evidência ou modelo especial que torne suas intuições mais confiáveis do que as suas, as nossas ou as de qualquer outra pessoa”.

Em outras palavras, todas essas manchetes se baseiam em suposições e dizem mais sobre quem está fazendo as previsões do que sobre o que provavelmente acontecerá.

Como muitos já observaram, algumas pessoas são atraídas pela IA justamente porque a consideram extremamente poderosa. E nem todas necessariamente se opõem a um futuro dominado pela tecnologia.

Além disso, esses especialistas não são meros observadores inocentes. Em grande medida, são as mesmas pessoas que estão construindo esse futuro. Mas todos nós deveríamos ter o poder de influenciá-lo — e podemos fazer isso se começarmos a olhar com ceticismo para essas previsões assustadoras.

Apesar de tudo o que ouvimos sobre IAs fora de controle, existem muitas maneiras sensatas e viáveis de conter esses riscos. Já enfrentamos ameaças tecnológicas antes e conseguimos negociar soluções para construir um mundo mais seguro.

Alguns especialistas citam a Agência Internacional de Energia Atômica como modelo para uma iniciativa coletiva de redução dos riscos da IA, por meio de regras que desenvolvedores de todo o mundo teriam de seguir, independentemente de onde estivessem sediados.

Um acordo multilateral poderia começar com uma moratória prolongada no treinamento de novos modelos, atividade que consome muitos recursos e representa uma das principais fontes de risco.

O acordo também deveria incluir padrões rigorosos para responsabilizar as firmas pela segurança tanto dos modelos de IA quanto de seus usuários, com mecanismos efetivos de fiscalização e recursos monetários suficientes para aplicá-los.

Se conseguirmos desacelerar o ritmo de desenvolvimento da IA enquanto aceleramos os investimentos em segurança, daremos aos reguladores — assim como aos cidadãos e empresários — a oportunidade de acompanhar essa evolução.

Podemos alcançar anos de avanços científicos e de produtividade aproveitando os modelos de IA que já temos hoje. Dar ao mundo a oportunidade de respirar e recuperar o fôlego é uma maneira de trazer mais pessoas para a discussão, evitando que o futuro de uma sociedade impulsionada pela inteligência artificial seja determinado por um pequeno grupo de pessoas que está na linha de frente do setor.

Somos péssimos em avaliar riscos

Há outra razão pela qual não estou tão preocupada com o risco de extinção: previsões aterrorizantes são uma estratégia eficaz para gerar entusiasmo em torno da IA, em parte porque os seres humanos são irracionais quando precisam avaliar riscos.

Temos tendência a prestar muita atenção a ameaças sensacionalistas — como sequestros por desconhecidos — em vez de considerar acontecimentos menos chamativos, mas com maior probabilidade de ocorrer e que também podem causar danos ou destruição.

Por isso, nos preocupamos com descarrilamentos de trens, raios e ataques de abelhas, embora seja muito mais provável morrer engasgado, em uma queda ou afogado em uma banheira.

Basta pensar nas pessoas que têm tanto medo de voar que preferem percorrer longas distâncias de carro a entrar em um avião. Isso apesar de as chances de morrer em um acidente aéreo serem extremamente pequenas, enquanto a probabilidade de morrer em um acidente de carro ao longo da vida é de aproximadamente uma em 100.

As previsões de destruição provocada pela IA acionam um alarme interno que dificulta avaliar os prós e contras de algo tão grande, novo, assustador e diferente quanto a inteligência artificial.

E isso me leva à última razão pela qual não temo um apocalipse da IA: acredito firmemente que vale a pena correr o risco de desenvolver essa tecnologia, principalmente porque existem muitas ameaças muito mais imediatas e mensuráveis que ela pode nos ajudar a enfrentar.

Preocupo-me muito menos com a possibilidade de a IA matar a humanidade do que com o risco de a própria humanidade encontrar seu fim de alguma outra maneira.

Já estamos testemunhando os impactos de pandemias, da resistência a antibióticos e das mudanças climáticas. Especialistas afirmam que existe uma probabilidade de 50% de enfrentarmos outra pandemia da dimensão da Covid nos próximos 25 anos.

Nesse mesmo período, estima-se que bactérias resistentes a medicamentos provoquem mais de 39 milhões de mortes. Há ainda a perspectiva de deslocamentos populacionais devastadores causados por desastres climáticos, da morte de grande parte dos recifes de coral do planeta e da exposição de parcelas significativas da população a temperaturas extremas.

Admito que nada disso é tão assustador ou repentino quanto uma guerra nuclear desencadeada pela IA. Mas me preocupo com uma guerra nuclear há mais de 40 anos. E, assim como existe o risco de a inteligência artificial contribuir para provocar um conflito nuclear, a tecnologia também oferece possibilidades de reduzir essa ameaça, por meio de sistemas melhores de monitoramento e dissuasão.

Em relação a outros riscos globais que realmente me tiram o sono, a IA oferece ainda mais esperança. Isso se deve aos avanços na pesquisa básica, que podem levar ao desenvolvimento de novas vacinas ou tratamentos para algumas das doenças que sabemos que matam milhões de pessoas por ano.

Sim, ainda estamos nos estágios iniciais de todos esses avanços, e as firmas de IA têm muitos motivos para exagerar seu potencial ou anunciar descobertas que talvez não sejam tão significativas.

No caso dos avanços em tecnologias limpas, em particular, será necessário um salto considerável para que a IA consiga compensar seu impacto sobre o aumento do consumo global de energia.

Ainda assim, parece mais justificável e útil concentrar a atenção no potencial emergente da IA para reduzir mortes em massa do que ficar preso a especulações sobre riscos hipotéticos.

Os perigos reais

Na verdade, quando penso nos danos que a IA pode causar, estou mais interessada naqueles que já são visíveis e mensuráveis.

É o caso da terceirização de nossas funções cognitivas e da tendência de abrir mão do próprio julgamento diante de uma resposta da IA que soa autoritária e convincente.

Também me preocupa o impacto da tecnologia sobre o emprego, à medida que a automação e a vigilância possibilitada pela IA se disseminam.

Há ainda a maneira como a inteligência artificial fortalece o autoritarismo e enfraquece a democracia, por meio da coleta em massa de informações sobre cidadãos, da explosão de conteúdos falsos gerados por IA e do enfraquecimento ainda maior da imprensa independente.

Esses são os danos que poderíamos — e deveríamos — enfrentar com as mesmas medidas necessárias para lidar com os riscos fundamentais da inteligência artificial.

Se você está preocupado com a possibilidade de seu filho desenvolver uma obsessão delirante por IA ou com a hipótese de um terrorista usar a tecnologia para desencadear uma pandemia, o caminho a seguir é o mesmo: precisamos regulamentar todo o setor de inteligência artificial e exigir que as firmas destinem à segurança recursos equivalentes aos que atualmente direcionam ao desenvolvimento de modelos, ao marketing e à construção de centros de dados.

O catastrofismo em relação à IA e a resistência à tecnologia podem parecer posições opostas, mas compartilham uma premissa semelhante: a de que a trajetória da inteligência artificial é praticamente inevitável e que nosso principal papel é temê-la ou rejeitá-la.

Mas ainda temos muitas escolhas. E elas não se resumem a construir um abrigo subterrâneo ou desligar tudo.

Podemos assumir o controle da inteligência artificial e utilizá-la para construir um futuro melhor — um futuro no qual não apenas evitaremos a destruição provocada pela IA, mas também reduziremos outros riscos catastróficos que ameaçam a humanidade.

Escreva para reports@wsj.com.