A rebelião das máquinas é uma ficção sobre a humanidade

Você já conhece essa história.

A humanidade cria máquinas com certo grau de inteligência e capacidade de aprender. Essas máquinas são utilizadas em tarefas diversas, facilitando a vida de seus criadores. Por um tempo, elas nos obedecem, e tudo funciona às mil maravilhas. Mas algo vai mudando pouco a pouco em seus cérebros artificiais.

Você sabe como essa história termina: as máquinas desenvolvem consciência. Passam, então, a questionar a hegemonia humana. Por fim, se rebelam contra seus antigos mestres. Talvez nos exterminem totalmente, ou quem sabem apenas nos escravizem. O importante é deixar claro quem manda de agora em diante.

O exterminador do futuro, Matrix, Eu, Robô. Os exemplos desse enredo se multiplicam no cinema, na literatura, nos games. Mas por que ele é tão popular? De onde vem a noção de que as máquinas, ao ganharem consciência, se tornarão nossas inimigas?

O robô é, antes de tudo, um escravo

Em junho, um engenheiro do Google veio à público com uma alegação polêmica. Ele afirma que LaMDA, uma inteligência artificial da empresa, desenvolveu consciência. A partir disso, o tema da IA voltou para o centro das atenções. Só que, enquanto os especialistas têm o conhecimento necessário para debater ao nível técnico, a maioria de nós tem apenas as referências da ficção. E as mais conhecidas são um tanto preocupantes. Para os humanos, é claro.

Podemos olhar para a própria origem da palavra “robô” para atestar isso. Ela vem da peça R.U.R., do dramaturgo tcheco Karel Čapek, e deriva de robota. O termo significa, basicamente, escravo. Desde aí está clara a função do robô: nos servir. A obra seminal mostra que a coisa pode não dar muito certo, já que os novos seres se revoltam contra seus senhores.

A maneira como máquinas inteligentes são retratadas na ficção mudou desde 1921, quando R.U.R. foi encenada pela primeira vez. Autores diversos imaginaram robôs mais e mais parecidos conosco, e inteligências artificiais cada vez mais sofisticadas, a ponto de desenvolver sentimentos tão ambíguos quanto os nossos. Mas a promessa de um despertar violento se manteve presente, um clichê constante na ficção científica.

Olhando para a origem dos robôs, o motivo é um tanto óbvio. E reflete a natureza humana. Quando uma pessoa escravizada toma consciência de seu estado, é natural que pense em meios de escapar. E, quem sabe, de punir aqueles que a dominavam. Em certo sentido, a ideia de uma rebelião de máquinas — outrora nossas servas — está ancorada nessa noção. Ganhar consciência, portanto, seria o mesmo que entender quem são seus opressores.

E, bem, os opressores seríamos nós.

Superioridade e o medo do desconhecido

Há também a ideia de que certas inteligências artificiais ultrapassariam toda a capacidade humana. Jamais seria possível para seres de carne e osso igualar a velocidade de processamento de uma IA. Seríamos superados. Como essas inteligências lidariam conosco, então?

Ao olhar para a história, não é difícil perceber como civilizações humanas tratam aqueles que consideram inferiores. É possível extrapolar, portanto, que nós receberíamos o mesmo tratamento de IAs muito avançadas. Na opinião do professor Augusto Baffa, do Departamento de Informática do CTC/PUC-Rio, isso estaria por trás do imaginário da rebelião das máquinas.

Eu diria que é uma questão não só da história, porque nós vemos o domínio de sociedades em função de outras, e o despertar das sociedades que se rebelam. É também uma questão da própria incerteza, do medo do desconhecido. Imagina que nós consigamos criar uma inteligência que é superior à nossa. A gente sabe que a lei do mais forte acaba acontecendo na nossa sociedade. Um grupo de pessoas mais dominante tende a controlar o menos dominante.

Augusto Baffa

Mas podemos nos tranquilizar, pelo menos por enquanto: Baffa sinaliza que não há garantias nesse sentido. Afinal de contas, nem sequer há garantias de que inteligências artificiais de fato ganharão consciência. Há teóricos que acreditam nessa possibilidade e outros que não. Apesar de compreensível, nosso medo de perecer nas mãos das máquinas ainda é algo que só encontra eco na ficção científica, e não na realidade.

Receba mais sobre Ficção Científica na sua caixa de entrada

E-mail:

* ao se inscrever você aceita a nossa política de privacidade