Carta profética de 1863 ressurge e alerta para os perigos da inteligência artificial

Em 1863, enquanto o mundo se concentrava na Guerra Civil Americana, um fazendeiro de ovelhas inglês, radicado na Nova Zelândia, escreveu um texto visionário que hoje ressoa com uma clareza inquietante. Publicada pelo jornal The Press, de Christchurch, em 13 de junho daquele ano, a carta intitulada “Darwin Among the Machines” antecipou, de maneira surpreendente, debates que enfrentamos atualmente sobre o avanço da tecnologia e o impacto da inteligência artificial.

Nas palavras do autor, Samuel Butler, que assinou o texto sob o pseudônimo Cellarius, máquinas poderiam evoluir até se tornarem os novos dominadores do planeta, substituindo a humanidade como a espécie dominante. Agora, mais de 160 anos depois, esse alerta voltou a circular nas redes sociais, impulsionado por pesquisadores como o americano Peter Wildeford, do Instituto de Políticas e Estratégias em IA, trazendo as reflexões de Butler para um novo público.

O Futuro das máquinas: Um aviso prematuro ou uma profecia realizada?

Em sua carta, Butler traçou paralelos diretos entre a teoria da evolução de Charles Darwin e o rápido desenvolvimento das máquinas, sugerindo que dispositivos mecânicos estavam em processo contínuo de “evolução” e poderiam, um dia, adquirir consciência própria. Segundo ele, os humanos, ao melhorar constantemente a eficiência e complexidade das máquinas, estavam criando seus próprios sucessores.

Estamos, dia após dia, nos tornando mais subservientes às máquinas. Estamos dando a elas mais poder, tornando-as mais independentes, e logo nos tornaremos seus cuidadores, assim como somos para com nossos animais domésticos, escreveu Butler.

O autor discutiu até a possibilidade de as máquinas passarem por processos de miniaturização — um conceito que se materializou ao longo dos séculos com a criação de microchips, dispositivos portáteis e a nanotecnologia. Butler observou que a evolução das máquinas era visível até mesmo na forma como relógios passaram de grandes e pesados instrumentos para versões portáteis e sofisticadas.

Seu alerta mais radical, porém, veio ao final da carta: um apelo pela destruição de todas as máquinas. Butler defendia que, para proteger a humanidade, seria necessário interromper o progresso tecnológico imediatamente.

Deveríamos declarar uma guerra até a morte contra todas as máquinas. Todo dispositivo mecânico, de qualquer tipo, deveria ser destruído. Não devemos fazer concessões, nem mostrar misericórdia. Precisamos retornar à condição primeva da nossa raça, clamou.

As advertências de Butler no contexto atual

O que torna a visão de Butler tão impressionante é o fato de que ele escreveu essas palavras em um contexto tecnológico muito primitivo. Em 1863, os dispositivos mais avançados eram calculadoras mecânicas e réguas de cálculo. O primeiro computador controlado por programas só surgiria mais de 70 anos depois.

No entanto, suas ideias inspiraram diversas obras de ficção científica que exploraram o domínio das máquinas sobre a humanidade. Entre elas, destacam-se:

• Isaac Asimov, em seu conto “The Evitable Conflict”, descreveu máquinas que controlavam a sociedade de maneira sutil.
• Frank Herbert, na série Duna, criou o conceito da Jihad Butleriana, uma guerra contra máquinas pensantes.
• As famosas trilogias cinematográficas Matrix e O Exterminador do Futuro popularizaram o medo de um mundo em que máquinas subjugaram a humanidade.

Esses cenários fictícios, que antes pareciam distantes, começaram a ganhar contornos reais com o avanço da inteligência artificial moderna. Nos últimos anos, o lançamento de modelos avançados de IA tem gerado debates acalorados. Líderes da tecnologia e pesquisadores assinaram cartas abertas alertando para os riscos existenciais que a IA pode representar.

Assim como Butler fez em sua carta, vozes atuais sugerem a necessidade de pausar o progresso tecnológico para evitar um cenário em que máquinas possam, de alguma forma, ameaçar a existência humana.

Um debate que não se encerrará tão cedo

Embora as máquinas de hoje ainda não tenham atingido a consciência que Butler previu, é inegável que nossa dependência delas está crescendo a passos largos. De algoritmos que regulam as redes sociais até sistemas de IA que tomam decisões em setores críticos como saúde, segurança e economia, vivemos em um mundo cada vez mais automatizado.

O debate iniciado por Butler, há mais de um século, permanece vivo. Suas palavras ecoam nos corredores das grandes empresas de tecnologia e nos fóruns de discussão sobre ética da inteligência artificial. A questão que ainda precisa ser respondida é: estamos prontos para lidar com as consequências do nosso próprio progresso?

A carta de Samuel Butler é um lembrete poderoso de que as preocupações sobre o avanço tecnológico não são novas. De 1863 até os dias atuais, a humanidade continua se perguntando até onde é seguro ir. Em um momento em que a inteligência artificial está cada vez mais presente em nossas vidas, talvez seja hora de olhar para o passado e reconsiderar algumas dessas advertências esquecidas.