Quando as máquinas não param

O primeiro Tesla que vi não faz nem 15 dias. Ao entrar em Israel pelo Egito, vindo do Cairo de ônibus, parei com a comitiva da imersão a Israel, África e Golfo Pérsico numa galeria de Eilat, o balneário israelense às margens do Mar Vermelho.

Três Tesla estavam ao sol recarregando suas baterias. Nós também precisávamos recarregar as nossas baterias de proteínas e carboidratos. Imediatamente fotografei o trio da modernidade e enviei para os meus dois filhos, que ficaram no Brasil.

Dias depois, já nos Emirados Árabes Unidos, tenho uma segunda inteira em Abu Dhabi e fico atônito com tamanha modernidade, arquitetura e beleza moderna. Sento para jantar numa churrascaria em Dubai e uma das integrantes da imersão mostra um vídeo para mim. “Ramon, olha o que houve com este carro da Tesla.”

O vídeo é impactante, uma máquina sem controle avança a todo vapor, está com uma velocidade surpreendente, não pensa e bate em tudo que lhe vem à frente. Na hora achei que fosse alguma peça de ficção, filme ou algo de realidade virtual inspirado nos jogos do estilo GTA.

No dia seguinte, ao acessar os portais dos jornais brasileiros, leio a notícia do carro do Elon Musk que desembestou na China. Matou duas pessoas e feriu outras três, além de colocar uma pulga atrás das nossas orelhas com a seguinte pergunta: e quando as máquinas não param?

É, a quarta revolução industrial está mostrando seus dissabores. “Quando as máquinas param” é uma excelente peça de Plínio Marcos (1935-1999) e se passa num quarto de subúrbio, onde um casal vive o dilema que mais de 50 milhões de brasileiros vivem atualmente: a fome.

A partir da fome, tudo fica meio desembestado, feito o carro desembestado do multimilionário Elon Musk, proprietário da Tesla. O que devemos aprender com tudo isso? Será que realmente é necessário que um carro tenha essa autonomia?

Notem, não é a primeira vez que um carro autônomo faz desgraça nesse mundo contemporâneo. Dizem que a ética dá limite ao profissional, impõe limites pricnipalmente para quem confunde as coisas no exercício, faz vistas grossas ali ou é mais “fominha” acolá. Mas, pergunto, as máquinas têm ética?

Isaac Asimov, o gênio da ficção científica, estabeleceu as três leis da robótica que, resumidamente, seriam: um robô não pode ferir ou matar um ser humano, um robô deve obedecer as ordens que os humanos lhes dão, exceto nos casos em que os comandos entrem em conflitos com a primeira lei e, finalmente, um robô deve proteger sua existência, mas desde que sua proteção não conflite com a 1ª e 2ª leis.

No caso do dia 5 de novembro, ocorrido na província de Guangdong, no Sul da China, a inteligência artificial sofreu tilt e mandou as três leis para lá para casa da “Cremilda”. O Modelo Y – 100 anos atrás falávamos do Modelo T, de Henry Ford – se tornou uma máquina mortífera e não respeitou nada e ninguém. Passou dos limites.

É justamente limites que o mundo busca hoje, limite entre o consumo moderno e a preservação do planeta, limite no que é verdade e “pós-verdade” – aliás, um termo de gente mentirosa e traiçoeira, isso sim – limite no que é fato ou que é fake, entre outros.

Quando as máquinas não param, o preço é pago pelo ser humano, que há milhões de anos domina essa Terra e tem capacidade imensa, inclusive de reescrever sua própria história. Dubai, Abu Dhabi, enfim, todos os Emirados, reescreveram a sua história e hoje são exemplos para o mundo.