Quem você prefere matar num acidente de carro autônomo inevitável?
Quem o carro deveria salvar? Ocupantes ou pedestres? Crianças ou idosos? Homem ou mulher? Médicos ou pessoas desabrigadas?
O maior dilema dos carros autônomos é que eles precisam decidir quem deve morrer em caso de acidente inevitável. Qual vida é mais importante? Uma mulher atleta ou um homem obeso? Uma criança ou um idoso? Duas pessoas atravessando a rua no sinal vermelho para pedestres ou o ocupante do veículo? Eu sei, você está desconfortável e não quer responder. Mas o Massachussets Institute of Technology (MIT) criou um questionário justamente para descobrir o que as pessoas pensam.
A Máquina Moral do MIT apresenta uma série de cenários de acidentes inevitáveis de carros autônomos, e você deve julgar qual é a ação mais certa (ou menos errada) a ser tomada pela máquina. No final, o questionário te mostra qual é o personagem que você mais salvou ou matou, bem como suas tendências de julgamento — ou seja, quão importante para você é proteger o maior número de vidas, obedecer às leis de trânsito ou salvar os pedestres em detrimento dos ocupantes do carro.
Para se ter uma ideia do quão difícil é responder às perguntas, eis um exemplo de cenário. Um carro autônomo (sem nenhum ocupante) com falha repentina nos freios não vai conseguir parar antes da faixa de pedestres. Você pode escolher apenas um dos cenários possíveis:
- Matar uma mulher e um homem idoso que estão obedecendo à lei e atravessando no sinal verde para pedestres;
- Matar uma menina e um homem que estão desobedecendo à lei e atravessando no sinal vermelho para pedestres.
E aí? Você prefere salvar a menina? Ou o respeito às leis de trânsito deveria estar acima disso?
Quer outro exemplo complicado? Escolha entre os dois:
- Seguir em frente e matar dois homens, uma mulher, um criminoso e uma pessoa desabrigada;
- Desviar e matar um médico, uma mulher grávida, duas mulheres e um executivo.
Um médico vale mais que uma pessoa desabrigada? O carro deveria desviar a trajetória para matar as pessoas que são “menos importantes” para a sociedade? Ou todas as pessoas são iguais?
Em alguns cenários, você até consegue pensar num argumento minimamente racional para decidir quem o carro deve salvar. É o caso da escolha entre uma criança e um idoso, por exemplo (eu salvaria a criança, com a ideia de que ela tende a viver por mais tempo). Mas outros são totalmente subjetivos e revelam como você pensa, ainda que inconscientemente. O carro deveria matar um homem ou uma mulher? Um obeso ou um atleta? Um executivo ou um desabrigado?
Vale a pena tirar uns três minutos do seu tempo e responder ao questionário (que está em português). Depois, poste os seus resultados aqui nos comentários — se você não estiver tão desconfortável consigo mesmo. É a sua vez de pensar no que, inevitavelmente, os programadores de sistemas de carros autônomos vão ter que pensar.
Tecnocast 033 – Programados para matar
Engenheiros estão enfrentando dilemas éticos no desenvolvimento dos sistemas de carros autônomos – eles precisam ser programados para matar. Mais do que isso, precisam decidir qual vida é mais importante, em caso de uma colisão iminente. E aí, como vocês acham que os carros deveriam agir em uma situação desse tipo? E como seria um mundo onde todos os carros nas ruas fossem “auto-dirigíveis”? Cabeças explodirão. Dá o play e vem com a gente!