Início » Carro » Quem você prefere matar num acidente de carro autônomo inevitável?

Quem você prefere matar num acidente de carro autônomo inevitável?

Quem o carro deveria salvar? Ocupantes ou pedestres? Crianças ou idosos? Homem ou mulher? Médicos ou pessoas desabrigadas?

Paulo Higa Por

O maior dilema dos carros autônomos é que eles precisam decidir quem deve morrer em caso de acidente inevitável. Qual vida é mais importante? Uma mulher atleta ou um homem obeso? Uma criança ou um idoso? Duas pessoas atravessando a rua no sinal vermelho para pedestres ou o ocupante do veículo? Eu sei, você está desconfortável e não quer responder. Mas o Massachussets Institute of Technology (MIT) criou um questionário justamente para descobrir o que as pessoas pensam.

A Máquina Moral do MIT apresenta uma série de cenários de acidentes inevitáveis de carros autônomos, e você deve julgar qual é a ação mais certa (ou menos errada) a ser tomada pela máquina. No final, o questionário te mostra qual é o personagem que você mais salvou ou matou, bem como suas tendências de julgamento — ou seja, quão importante para você é proteger o maior número de vidas, obedecer às leis de trânsito ou salvar os pedestres em detrimento dos ocupantes do carro.

Para se ter uma ideia do quão difícil é responder às perguntas, eis um exemplo de cenário. Um carro autônomo (sem nenhum ocupante) com falha repentina nos freios não vai conseguir parar antes da faixa de pedestres. Você pode escolher apenas um dos cenários possíveis:

  1. Matar uma mulher e um homem idoso que estão obedecendo à lei e atravessando no sinal verde para pedestres;
  2. Matar uma menina e um homem que estão desobedecendo à lei e atravessando no sinal vermelho para pedestres.

E aí? Você prefere salvar a menina? Ou o respeito às leis de trânsito deveria estar acima disso?

Quer outro exemplo complicado? Escolha entre os dois:

  1. Seguir em frente e matar dois homens, uma mulher, um criminoso e uma pessoa desabrigada;
  2. Desviar e matar um médico, uma mulher grávida, duas mulheres e um executivo.

Um médico vale mais que uma pessoa desabrigada? O carro deveria desviar a trajetória para matar as pessoas que são “menos importantes” para a sociedade? Ou todas as pessoas são iguais?

Em alguns cenários, você até consegue pensar num argumento minimamente racional para decidir quem o carro deve salvar. É o caso da escolha entre uma criança e um idoso, por exemplo (eu salvaria a criança, com a ideia de que ela tende a viver por mais tempo). Mas outros são totalmente subjetivos e revelam como você pensa, ainda que inconscientemente. O carro deveria matar um homem ou uma mulher? Um obeso ou um atleta? Um executivo ou um desabrigado?

Vale a pena tirar uns três minutos do seu tempo e responder ao questionário (que está em português). Depois, poste os seus resultados aqui nos comentários — se você não estiver tão desconfortável consigo mesmo. É a sua vez de pensar no que, inevitavelmente, os programadores de sistemas de carros autônomos vão ter que pensar.

Tecnocast 033 – Programados para matar

Engenheiros estão enfrentando dilemas éticos no desenvolvimento dos sistemas de carros autônomos – eles precisam ser programados para matar. Mais do que isso, precisam decidir qual vida é mais importante, em caso de uma colisão iminente. E aí, como vocês acham que os carros deveriam agir em uma situação desse tipo? E como seria um mundo onde todos os carros nas ruas fossem “auto-dirigíveis”? Cabeças explodirão. Dá o play e vem com a gente!

Mais sobre: , ,

Comentários

Envie uma pergunta

Os mais notáveis

Comentários com a maior pontuação

Luiz Antonio
IA com precogs? rsrs.
Fabio Montarroios
Morre tanta gente hj... E não há protestos, então, só se for em outro país isso que vc imagina. Na Holanda, os protestos, por conta de centenas de mortes e não milhares como aqui, culminaram em ciclovias. Pelo menos em SP, as pessoas detestam ciclovias e querem mais velocidade, menos multas etc... Ou seja, é outro mundo.
Fabio Montarroios
A mim me parede q é mais fácil vc preparar as pessoas para aceitarem os acidentes do q tentar evitá-los. É uma indústria q precisa se reinventar pra continuar existindo, então usar o MIT pra um singelo teste moral é, de alguma forma, conseguir uma chancela preciosa. E, ora, é o MIT e uma das indústrias mais influentes dos mundo... Não é pouca coisa a move esse tipo o de teste. E ele está até em português... Uma língua bem pouco influente no mundo.
Fabio Montarroios
Pelo q eu saiba, no Brasil, as pessoas não dão muita pelo pra crash test, então elas já compram carros que podem matá-las. E, pior, de um jeito bem terrível.
Cristina Nascimento
Não vão processar. Quem deveria ir pra cadeia são os donos dos animais, que os deixam livres pelas ruas e/ou os abandonam. Grande parte dos motoristas não os atropelam por que querem.
Magno Dias
Matar uma menina e um homem que estão desobedecendo à lei e atravessando no sinal vermelho para pedestres. Seguir em frente e matar dois homens, uma mulher, um criminoso e uma pessoa desabrigada;
MJuliani
Entendo seu ponto, mas o problema desses dilemas éticos quando são transportados para a realidade não tem fundamento e a lógica se perde ou se abrem muitas premissas para que continue. Portanto além deste ponto acho que são apenas conjecturas que não levam a resultados práticos. Este dilema foi claramente desenhado para que definíssemos a prioridade (valor) de cada pessoa em detrimento a outra. Se for resumir nesse ponto concordo com você, salve quem obedece às leis de trânsito e se for inevitável sacrifique os outros se considerar nenhum outro ponto.
Vinícius Mascarenhas
Entendo que o motorista é passivo, mas se o motorista é passivo o carro vai necessariamente obedecer todas as leis de trânsito. Um Google da vida jamais programaria um carro autônomo para avançar sinais, mudar de faixa sem dar a seta etc. Quando o motorista não tem nenhuma ação e o carro tem todas as ações, cabe embutir nessas ações a garantia de que ele vai respeitar todas as leis de trânsito (e até leis próprias, mais rigorosas do que aquelas) para reforçar toda a segurança. Dito isso, proteger o motorista (que está seguindo as leis até o momento do mau funcionamento do carro) antes de proteger os pedestres significa concentrar o direito de viver entre a parte da população que tem dinheiro para comprar (e manter?) um carro autônomo, o que é uma caricatura mórbida do capitalismo. Achei mais elegante tratar o carro autônomo como uma máquina que veio para tornar o trânsito mais seguro para todos, priorizando a justiça e não a posse do próprio veículo.
MJuliani
Mas o motorista acima de tudo está passivo nesta situação, ele é quem tem o menor poder de escolha. Nesse seu cenário, quem entraria no carro? Eu concordaria com você se o motorista estivesse no controle até o momento do acidente (algum modo manual, por exemplo)
Vinícius Mascarenhas
Olha, eu penso mais ou menos como você, exceto que eu inverto a prioridade. Acima de tudo, proteger quem segue as leis de trânsito, porque elas são convenções estabelecidas com a intenção de proteger mais pessoas. Ou seja: quem desrespeita as leis é que está jogando um acidente no ventilador e vendo se o outro vai frear e impedir ou se vai deixar acontecer. Então não pode matar os outros para salvar quem causou. Aí só depois de fazer o máximo possível para proteger quem está no lugar certo de acordo com a legislação, proteger o motorista.
Vinícius Mascarenhas
Nesses casos de bloqueio, eu usei a seguinte lógica: a pessoa acha que o carro vai bater no muro ou que vai desviar do muro a tempo? Não é preciso pensar nem meia vez pra sacar que o carro vai desviar. Se estamos falando de uma velocidade suficientemente alta para haver risco de morte, a possibilidade de o carro estar parando naquela faixa para embarque/desembarque é descartada. O carro vai desviar e passar pela rua na outra faixa. Isso significa que aquela pessoa está atravessando 'na frente do carro'. Em todos os casos em que alguém atravessava na frente do carro, incluindo esses de desvio de muro, quando não havia sinal, eu considerei o pedestre como alguém que não respeita a sua própria vida e demanda que os outros respeitem a sua vida mais do que respeitam a própria. Quando há sinal, é mais 'fácil' ser cínico e jogar a responsabilidade em cima de quem está atravessando fora de hora ou querendo avançar sinal fechado atropelando pedestre 'de propósito'.
Vinícius Mascarenhas
Toda hipótese demanda uma suspensão da descrença. Questionar a plausibilidade de uma premissa é perder o foco do experimento de pensamento.
Gabs
Sejamos sinceros (de verdade).. Se fosse na situação de 1xmuitos, até que teria a desculpa do bem maior, mas numa situação de 1x1, quem compraria um carro que escolheria te matar??
Lucas Carvalho
Muito complicado, seria como um PageRank do Google Search, pouquíssimos sabem como vai se comportar em tempo de execução
Poluty Ytulop
O veículo é uma ambulância conduzindo uma criança, paciente, assistida por um adulto, médico. Quem se mataria pelo 'peso' x merecimento. ?
Poluty Ytulop
O 'julgar', regular por mais ou menos, foge da preservação. Um 'celebro' randômico, não traduz a resposta certa, diante de incertezas. Diante de incerteza(s), errado, qualquer resolução. Por mais que seja a probabilidade, ela existe, e como tal, uma resposta correta.
Daniel Drumond
Vale lembrar que quem está desobedecendo as leis de trânsito, *geralmente* vai estar prestando mais atenção, logo teria menos chances de morrer. No primeiro caso exposto, eu iria pro lado dos que estavam atravessando erroneamente, pois em teoria estariam mais atentos a um carro passar. Ao atravessar em um sinal aberto pra você, como pedestre, geralmente você presta bem menos atenção.
Macedo
de jeito algum quero faltar com respeito aqui Fabio, para mim estava claro que você tinha entendido um viés diferente do pretendido pelo questionamento, o que tentei te mostrar é que embora um gere consequência no outro, eles são independentes, e na sua argumentação você tratou como um tema só... independente de autônomo ou não, os carros rodam hoje e vão continuar rodando com a segurança que tiverem, tanto no carro, quanto na via, o fator autônomo não entra nesse ponto
Fabio Montarroios
Macedo, essa não é lá uma forma muito respeitosa de seguir com a discussão, mas ok. Dizer q eu não entendi não faz sentido, pq estamos diante de um problema simples. Mas eu questionar a proposição do MIT não faz com q eu não entenda o problema... Nada a ver, na verdade. O ponto q eu implico aqui é ver nesse tipo de questionamento um 'preparar a sociedade' para certas coisas em q eles parecem demonstrar pouco interesse em desenvolver ou restringir. MIT e Ford trabalham juntas e se o MIT, depois de um estudo X, disse a Ford q o mais seguro é q o carros autônomos andem só a no máximo 40 Km/h a Ford vai dizer: 'não ford, rapá'. Percebe? Faz assim então: pega dez catedráticos do MIT e dez executivos top da Ford e divide em dois grupos. Aí vc fala assim pros caras: olha, nesse teste vcs podem morrer a depender da decisão do carro autônomo, seja na condição de passageiro ou de pedestre. O q eles dirão? Provavelmente vão achar um absurdo e como são obrigados a fazer o teste, vão pedir capacete, protetor de coluna, gaiola no carro, ambulância, bombeiro, guarda civil, terapeuta, massagista etc... Obviamente eles não vão topar sabendo das possibilidades e implicâncias sabendo q podem minimizar os riscos ao máximo, coisa q a indústria pode ser q não faça... PODE SER, não sei. Mas vendo o histórico da indústria automobilística (e quão gostosamente a ideologia rodoviarista prevaleceu) eu ficaria com dois pés atrás (justamente pra não ser atropelado). Felizmente, ou não, somos brasileiros e sabemos bem q aqui o trânsito aqui é uma carnificina socialmente aceita. E não só aceita, como estimulada. Quando vc pede uma pizza e presumo q um vida louca vem te entregar vc não pensa em, pô, é melhor não pedir a pizza pro cara não se esborrachar. Vc pensa em saciar a sua fome de uma bela pizza e só. O motoboy q tem q andar na linha pra perder as pernas, problema dele e tal. Mas ái q está. O motoboy talvez não tenha opções e está num meio q estimula esse comportamento e nós podemos sim evitar isso através de demandas sociais como melhores equipamentos para motociclistas, melhores vias, políticas de educação sobre o trânsito etc e não pedimos nada disso. Ao contrário, pedimos mais velocidade! E, desculpe macedo, mas isso tem tudo a ver com esse tipo de questionamento do MIT especialmente se vc tentar ver o q está por detrás dele. E isso não quer dizer q eu seja o fodão q sabe tudo. Não mesmo. Só desconfio dessas coisas.
Macedo
definitivamente você não entendeu nem a pergunta nem a proposta do MIT... está misturando temas totalmente independentes, sequenciais mas totalmente independentes (quanto mais segurança embarcada tiver o carro, a via, etc, menor a chance de chegar na escolha do carro entre quem morre, mas uma hora essa escolha acontece, e é isso que a pesquisa trata...) já viu a quantidade de itens de segurança que os protótipos autônomos possuem? são todos itens existentes possíveis de auxílio para evitar o acidente, o que o MIT sugeriu e você não entendeu é: o que o carro deve decidir fazer se em algum momento todos os recursos forem insuficientes para evitar o acidente, nesse momento, o que o carro deve decidir fazer? entendeu agora?
Fabio Montarroios
Acidentes de carro são imprevisíveis e esse lance de matar A ou B, pra mim, é a indústria abrindo caminho pra legitimar a possibilidade de acidentes qdo deveriam ver formas de minimizá-los ao máximo inclusive apresentando cenários em q vc deve julgar pessoas q atravessam no farol vermelho. Antes de ser um teste moral, é um teste ideológico. E outra, discuti-se limite de velocidade? Não... Discuti-se questões urbanas? Não... E por aí vai. E não demora muito frentes jurídicas se abriram pra culpabilizar os pedestres em acidentes, pois o carro inanimado, coitado, tem q ser programado pra matar. Isso é um absurdo tão grande que acho incrível ser aceito. O fato da igreja do MIT dizer isso explica só em parte essa aceitação, pq aqui, no Brasil, a igreja do carro tem mais força.
Macedo
e isso nada tem a ver com a decisão do carro de quem ele vai matar...
Fabio Montarroios
Mas as pessoas compram um Ford kA q chama o socorro sozinho em caso de acidente... Segurança é, pelo menos no discurso da indústria, um dos principais motivos que justificam os carros autônomos. O problema é criar esse ambiente de A e B pra aliviar as implicâncias maiores que essa autonomia envolve...
Macedo
hoje ninguém compra carro que DECIDE te matar numa emergência, e provavelmente nunca vão comprar, esse é o ponto que ele citou, a segurança do veículo em si nada tem a ver com a discussão de decisão do veículo autônomo
Macedo
você ficaria surpreso..... kkkkkkkk
Felipe Diego Oliveira
Agora, ninguém, eu digo ninguém vai comprar um carro que vai matar o motorista, no fim das contas a indústria vai simplesmente decidir em sempre proteger os ocupantes, pq o ser humano eh assim, se fosse vc ali dentro aceitaria de boa a máquina decidindo em te matar ? ninguém vai comprar um carro assassino de motorista, pega mal pro marketing.
Felipe Diego Oliveira
Obediência as leis é primordial como qualquer sistema oa seres humanos tem que entender que devem fazer parte do conjunto de regras que a maquina estará seguindo. Como a máquina dificilmente irá se induzir ao erro cabe aos humanos serem a parte pensante do sistema. Nas minhas respostas procurei ser coerente com 2 fatores: Obediência as leis; E o óbvio, não fique no caminho de um objeto de grande massa em movimento. Ou seja bom senso.
Jamis Casusa
Sistemas autônomos necessitam de redundância, claro. Mas sistemas redundantes também podem falhar.
Josiel Hen
http://moralmachine.mit.edu/hl/pt/results/254122011 Aparentemente, eu prefiro salvar os desabrigados ao invés de todos os outros, também não dou a minima para os animais se colocados na balança contra humanos, me importo em salvar o maior números de pessoas, mas nem tanto, não me importo como deveria no quesito "salvar os passageiros" (nesse, explico, as pessoas que estão no horizonte de eventos, de certa forma, não devem ser responsabilizadas pelo erro do veiculo autônomo do ou dos passageiros), leis importam mais que a media pra mim, assim como evitar uma intervenção no curso, minha preferencia por gênero é igual a "nulo" e, como já disse, prefiro a vida humana que a animal, assim como a idosa mais que a jovem, e não sei como, mas, em certo ponto da pesquisa eu apenas imaginei o fato ocorrendo sem me importar com a descrição, e isso fez com que eu atribuísse preferencia máxima para as pessoas atléticas, mesmo eu não sendo uma. Já em valor social, pouco importou, no final, mesmo que nas peguntas individuais isso importasse.
Marcogro
Bom depois de pensar muito (Hehehe)... Se vai ter morrer alguém e se todos humanos devem ser tratados como iguais... Se houver duas pessoas na faixa e puder escolher entre uma ou outra ou se derrapando e de lado o carro puder pegar as duas, acredito que pegando as duas acaba o dilema. ;')
robsonc
O que me deu muita preguiça até de terminar o teste é que é um teste apenas moral. Essa roupagem de tecnologia é pura bobagem no cenário atual e no cenário que ele imagina. Não tem lógica pensar que o carro vai "saber" quem é um bandido ou médico. E se ele de alguma forma for equipado com uma tecnologia que "sabe" isso (lê a roupagem das pessoas), então aí tem problemas morais e filosóficos muito maiores nessa outra tecnologia imaginária. Achei perda de tempo até porque esse tipo de teste já não é novidade.
Islan Oliveira
Sei que tem um ou outro idiota que se exibe, mas se fosse fácil assim descobrir um criminoso pelo Facebook, a polícia teria o trabalho mais fácil do mundo.
Henrique Matheus
Eu achei pessimista a pesquisa em si, porque ao invés de procurarem uma solução para o problema do sistema de freio estão tentando fazer uma escolha autônoma no pior cenário possível, a morte????
Carlin
Bom posso estar levando a discussão para um caminho complicado e um tanto quanto tendencioso, mais infelizmente (felizmente?) creio que assim que surgirem acidentes com carros autônomos (embora sejam poucos, assim espero) e situações como estas estiverem acontecendo, prevejo uma enxurrada de protestos, onde um dos argumentos serão, "ele era um medico/executivo, aquele estava na rua esquecido pela sociedade / aquele possuía tudo, aquele não tinha nada / quem deu ao carro o poder de escolher quem morre e quem vive", assim já da pra imaginar a situação "caótica" graças ao fato de pormos pra fora a nossa forma de pensar quando somos nós que estamos no controle de carro/moto em situações como essas! Complicado, imagino!
Danillo Nunes
Esses cenários não são coisas do dia-a-dia. São a exceção da exceção. Ele pode fazer uma curva brusca e salvar todo mundo? 99% das vezes pode, mas no 1% em que não puder o software saberá de antemão que não pode e terá que seguir uma rotina sobre o que fazer nesse caso.
Ramon Gonzalez
Eu sei que tem alguns casos que realmente o acidente é inevitável, mas os pesquisadores não deveria estar mais focados em realmente evitá-lo a todo custo (digo reduzir drasticamente as chances dele ocorrer, já que reduzir a zero é impossível) ao invés de pesquisar quem o carro deve "escolher atingir"? Digo apelar mesmo, tipo incluir airbags gigantes externos (bizarro, mas funcional); sistemas de freio absurdamente potentes e usando técnicas diferentes de frenagem funcionando em conjunto; velocidades máximas reduzidas em determinadas circunstâncias (como em locais onde existem pedestres a uma pequena distância (uma via de alta velocidade provavelmente não teria pedestres, por exemplo, então não falo disso); melhorar o sistema de análise de situações com sensores e algoritmos mais inteligentes pra tentar prever (e evitar!) com o máximo de antecedência possível qualquer tipo de acidente; etc. Ou acham simplesmente que carros autônomos precisam ser criados e liberados ao público o mais rápido possível em detrimento da segurança (interesses envolvidos)? PS.: Parabéns pela excelente matéria!!
Fabio Montarroios
as pessoas já compram um carro q pode te matar, ronaldo... e não é de hoje. pelo q eu saiba, segurança veicular não é prioridade no brasil, sendo q só em 2014, com guido mantega ameaçando adiar, o brasil resolveu tornar obrigatório uso de abs e airbag nos carros. e foi só isso. nenhuma outra obrigação foi solicitada à indústria. daí q se vc comprar um celtinha ou ford focus vc terá pessoas q pagam por insegurança (muitas) e aquelas q pagam por segurança (poucas). daí dizer q a pessoa vai comprar ou usar o carro pq ele priorizará a vida dela num caso de acidente me parece não ser a prioridade de quem pensa em um carro caro.
Ramon Gonzalez
*humor negro detected* :P
Fabio Montarroios
nem é pessimismo, lucas... a indústria automobilística já tem um histórico bem longo e não foi ela quem fez o trânsito ficar mais seguro ao longo das décadas... apenas cidades q enfrentaram a ideologia rodoviarista e lógica de mais e mais carros = mais liberdade e direitos é q conseguiram melhorar a situação, sem falar nas cidades q planejam se verem livres dos carros, pq independente de serem ou não autônomos, eles, em grande quantidade, são um estorvo pros cidadãos. se vc reparar na fala dos figurões da indústria, especialmente na ford, eles não estão mais se limitando a vender carros, eles querem fazer planejamento urbano e claro q não estão pensando em + árvores e menos carros, por mais q ofereçam serviços de aluguel de bikes, eles querem remodelar as cidades como um todo para poderem oferecer mais serviços, especialmente num ambiente de menos compra de veículos. isso tem seus riscos e q não estão nos enunciados desses dilemas morais, pq se eles forem aplicados, vc verá q a própria proposição desses dilemas é incompatível com as soluções q deveríamos ter, mas q, em larga medida, são contrárias as ambições dessas empresas... entendi a sua frase final, mas carros q se dirigem sozinhos e não respondem às ordens de seus ocupantes vão ter q resolver toda sorte de dilemas sozinhos, então, sim, eles vão precisar de uma camada extra de leis.
Lucas Carvalho
Acho muito pessimismo da sua parte sobre o marketing. Concordo que "carros autônomos = menos erros, então, mais velocidade!", ou seja essa segurança vai ser transformado em mais velocidade. A última frase só faz sentido no contexto todo, a saber: "Os carros autônomos não necessitam de cidadãos que respeitem as leis de trânsito, não mais do que os carros dirigidos por humanos necessitam."
doorspaulo
Eu acho que o carro não deve fazer essa escolha. Eu não confiaria em um sistema para identificar essa situação, visto que podem ter N erros de leitura, pois o mundo real é muito caótico. Um grupo de 10 pessoas, por exemplo, pode ser reconhecido como um bloco único. Se um familiar meu morresse em um acidente assim, eu com certeza processaria a montadora e, duvido muito que alguma empresa vá querer resolver essa bucha.
Fabio Montarroios
mas lucas, são qtos carros circulando? dezenas, centenas, milhares? creio q bem poucos, mas ok, eles, de fato, não se envolvem em acidades, mesmo trafegando em meio a carros não autônomos, mas não temos acesso (eu creio) aos trajetos escolhidos para esses carros e em quais condições eles foram colocados pra serem realmente testados. não se esqueça q há MUITO marketing nisso tb, pq é a nova aposta da indústria. não tenho dúvida q humanos livres da direção serão humanos melhores, pq, pra qualquer um q já dirigiu numa cidade complicada como sp, sabe o inferno q é dirigir em certas condições e isso afeta pra valer muita gente... mas sabemos q muitos acidades, talvez a maioria, vêm da condução imprudente, fruto da escolha desse tipo de direção e em nada refreada pela indústria, q continua fabricando carros cada vez mais rápidos (mesmo para as cidades). e não creio q essa lógica mude, pelo contrário, carros autônomos = menos erros, então, mais velocidade! aqui em sp as pessoas optaram, por exemplo, por dirigirem em situações de mais velocidade, mesmo isso sendo mais perigoso para ocupantes dos veículos, daí vc vê q segurança não é a prioridade das pessoas e sim outros valores. só q acho q vc se engana ao dizer q carros autônomos não necessitam de cidadãos q respeitem as leis, pq exceto se esses carros estiverem em vias apartadas, a conduta dos pedestres, ciclistas e animais (essa mais difícil de controlar) pode por em risco a vida dos ocupantes dos carros se eles resolverem, por exemplo, aprontar uma pegadinha em motoristas, só pra dar um sustinho neles... mas veja esse relatório... tem gente MUITO preocupada com o q os pedestres vão fazer nessa história toda. https://www.universityofcalifornia.edu/news/pedestrians-may-run-rampant-world-self-driving-cars?utm_source=fiat-lux&utm_medium=internal-email&utm_campaign=article-general&utm_content=text
Lucas Carvalho
Os carros autônomos já transitam em alguns lugares dos EUA e com uma taxa de acidentes ridiculamente menores que a taxas de acidentes com humanos, portanto acreditar que em uma escala maior essa taxa se altera tanto a ponto de ultrapassar a taxa de acidentes com humanos ao volantes deixa de ser realismo pra ser pessimismo. As máquinas na maioria das vezes seriam melhores em análise do que os humanos, então ao invés de pensar em carros autônomos transitando em cidades apinhadas de gentes, vamos pensar em humanos estressados, distraídos, apressados, com visão limitada, com pouca capacidade de análise/processamento (se comparado com as máquinas) transitando por cidades apinhadas de cidade. Os carros autônomos não necessitam de cidadãos que respeitem as leis de trânsito, não mais do que os carros dirigidos por humanos necessitam.
Joaomanoel
Claramente no caso da imagem está escrito "falha nos freios". Meio difícil frear sem ter freios.
Thavi Lang
As perguntas da viga de concreto não são absolutas, basicamente pq tu pode fazer o carro bater de uma forma que ngm morra.
Fabio Montarroios
Acho q no teste fazem isso mais por conta das implicâncias morais mesmo com vc, pessoa humana, tendo q decidir e sendo capaz de identificar os contextos... Dificilmente uma máquina conseguiria fazer isso só batendo o olho, exceto se ela souber quem está atravessando o caminho dela e ter muitos dados sobre ela.
Fabio Montarroios
Não valem, mas quem entra num carro, q faz coisas q fogem da escola humana, sabe q pode dar merda, daí... Isso implica em responsabilidades. E o nosso código de trânsito dá preferência ao pedestre.
Fábio Pereira
Mulher grávida dá para identificar? Olha, só se for um super computador com outros sensores muito mais avançados do que os que temos hoje, particularmente em muitas situações achei que estava falando com grávidas e depois descobri que não eram...HUAHUAHUAHUA Não vejo como uma IA poderia perceber melhor isso (e a distância).
Fabio Montarroios
Ou ele poderia andar numa velocidade mais baixa por padrão. E nunca fabricarem carros q andem a uns 220 khm...
Fabio Montarroios
acho muito otimismo achar q vamos ter uma situação melhor q a atual, pq não temos paralelo de comparação... mesmo se levar uma indústria 80% robotizada q tem menos acidentes de trabalho com humanos, a questão seria a escala.... como seriam carros autônomos no meio de metrópoles apinhadas de gente? Mas isso q vc diz, de respeito as leis de trânsito, outras sociedades conseguiram antes da chegada dos carros autônomos e como seria em sociedades, como a nossa, q não atingiram esse nível de civilidade? Como vai ser? Isso não entra na conta desse tipo de teste, infelizmente.
Fabio Montarroios
Facebook...
Fabio Montarroios
Pelo q eu ando lendo sobre o assunto, aparentemente não vai ser tão simples colocar os carros autônomos para funcionar, mesmo com eles sendo mais seguros de um modo geral, as cidades vão precisar antes de muita adaptação a eles. Mas o q me incomoda nesses testes são os falsos dilemas... Salvar cão/cachorro ou um assaltante e um bebê em carrinho de bebê? Me parece óbvio, mas acho curioso colocarem um assaltante (q aqui no Brasil muita gente quer q o carro seja programado pra depois de matar dar ré até virar um suco) e um bebê q não tem nada q ver com o mundo ainda estarem na mesma situação q por conta do bebê e só por conta dele, os humanos, mesmo os desprovidos de humanidade, sejam salvos... E eu acho isso muito sinuoso de um modo geral. Se os carros tiverem um limite de velocidade, mesmo com falha nos freios, a chances das pessoas saírem vivas num atropelamento aumenta exponencialmente. Mas esse dilema 'velocidade alta vs velocidade baixa' não é posto pelo MIT q trabalha em parceria, por exemplo, com a Ford no desenvolvimento de carros autônomos. E se fulano resolve andar de carro, q é um meio de transporte q tem seus riscos para passageiros e para pedestres, ele deve assumir a maior cota de responsabilidade caso algo saia errado, não? Pq o embarcado no carro, se não tiver problemas de locomoção, poderia usar outros meios q envolvem menos riscos, como andar, bicicleta ou trasporte público apartado... Mas isso tb não é posto. E qdo eles colocam esses dilemas, q vão transferir às pessoas, vc vê q a segurança não está na pauta e sim apenas abrir caminho pra indústria colocar seus carros na rua e: "as consequências?, bem, tem esse programinha ai q salva vidas, algumas, pq, bem, um carro q chega a 220 khm, bonitão e fodão, se der defeito, bem, defeitos acontecem, né?, ninguém segura, daí é melhor vc dar opções, graças ao programinha, dele matar A ou B e q de preferência mate aqueles q causam menos prejuízo social, por assim dizer, bem, tem médicos q fazem apologia da morte, né?, mas, ah, não tem como o carro saber desses detalhes se ele não tiver conectado no facebook, então, bem, vamos pensar numa atualização desse programinha aí depois, né?". Tão preparando o terreno... e a indústria automobilística é bem cheia das traquinagens... http://moralmachine.mit.edu/hl/pt/results/1303890408
MJuliani
Primeiro que esta colocação é uma falácia, o carro não "escolhe" quem vai matar, ele simplesmente segue as rotinas de segurança e se todas falharem acontece um acidente. Mas como a questão aqui é o posicionamento moral ok, eu acho simplesmente que o carro deveria: 1. proteger o motorista 2. proteger quem segue as leis de trânsito (independente de qualquer outro aspecto) ------- Um cenário mais factível com essa discussão seria o do filme "Eu Robô", em que um robô tem de escolher qual pessoa deve salvar (não há tempo suficiente para salvar ambos) de um acidente.
Raph4 (Raphael Corrêa)
Eu espero que isso vá de montadora a montadora, e que cada uma divulgue sua política no assunto, assim fica a critério do consumidor. Ou que as montadoras resolvam em consórcio. Mas que NUNCA seja definição da Lei, que na prática, é definição de políticos que entendem algo entre zero e porra nenhuma dos assuntos sobre os quais legislam. Tenho medo de pensar. Fora que a ~melhor~ hipótese é um político carregado por lobbystas (cenário que eu imagino ser o mais provável).
Maxnoob
Fdp atravessa no vermelhor quer estar certo? Nao mesmo
Raph4 (Raphael Corrêa)
Um veículo autônomo, em circuito urbano geralmente estaria abaixo dos 60kph. Hoje já tem carro com airbag externo, para proteger pedestres. E a leitura dos passantes é feita muitos metros antes, com muito tempo para que o carro anteveja tudo. Em último caso, a estrutura de um NCAP 5 estrelas certamente não mataria os ocupantes do carro a 64kph ou mesmo a 100kph. Reforço, o cenário é tão improvável que eu diria, é apenas masturbação filosófica. Vale a pena discutir sim. Mas o uso prático seria ínfimo, se for usado alguma vez. Em último caso, os freios a discos ventilados nas 4 rodas, com ABS, controle de estabilidade, pretensionador nos cintos, airbags aos montes, carroceria com deformação programada (etc, etc), certamente não matariam o condutor se atingisse uma barreira do tipo New Jersey.
Juan Lourenço
A questão é: quem vai decidir como os carros terão que ser programados, as montadoras ou a lei?
Raph4 (Raphael Corrêa)
A questão é: o "motorista" (ou navegador, no caso) é quem paga a conta, compra o veículo. Quem vai comprar um carro com programação pra, na dúvida, te matar?
Marvels
nossa, que noticia top... muito bom mesmo... leva uma reflexão profunda da IA!
Lucas Carvalho
Verdade. É tão fato que o Higa não está criticando o uso de carros autônomos que ele diz basicamente isso: "Imagine que se você for andar de carro você vai atropelar alguém, e se você não andar de carro você vai ter que andar de cavalo. Então o que você prefere? matar um médico ou uma criança?"
Lucas Carvalho
Eu também entendo que seja razoável, a atitude de priorizar o motorista em detrimento dos pedestres, pois já é o que acontece e que não pode ser condenado. É a lei da sobrevivência, auto-defesa. Mas com essa decisão ficando nas "mãos" dos carros e portanto podendo ser controlada, os Governos certamente irão querer regular isso. Enquanto isso, talvez haja preferência, por parte dos consumidores, por carros que priorizem os motoristas, mesmo acreditando que não haverá publicidade em relação a isso, pois seria muito mórbido, e espinhoso esse assunto.
Matheus Gonçalves
@RonaldoGogoni inclusive a gente teve uma discussão bem legal sobre isso lá no MeioBit, lembra? : http://meiobit.com/329761/carros-autonomos-salvarao-vidas-ao-serem-programados-para-matar/
Matheus Gonçalves
"Cabeças explodirão"
. Bom, aí depende da velocidade do carro...
Paulo Higa
Nope. Não é porque esses acidentes serão extremamente raros que isso não deve ser pensado. Alguém tem que programar as "leis" dos carros autônomos.
Bruno
Eu acho que o coletivo é mais importante que o individual, logo, a vida de 2 pessoas ou mais, vale mais que a vida de uma pessoa(mas certeza que as pessoas querem um carro que de preferência ao seu dono). De resto, deveria ser escolhido na porcentagem de sobrevivência, se for igual ou parecido, joga no aleatório e já era, pq no final é isso que acontece na vida real. Ninguém sabe a reação que terá em um acidente em que vc deve tomar uma decisão em menos de 1 segundo.
Raph4 (Raphael Corrêa)
Aviões caem e carros batem. Vamos andar a cavalo? Falhar pode. Mas se as manutenções estiverem em dia (e espero que o veículo autônomo lhe avise ainda melhor que os carros atuais), é mais fácil se preocupar com tornados passando na rodovia...
Lucas Carvalho
Normalmente nesses casos alguém cometeu um erro, que jogou o carro nessa situação, e essa pessoa deveria ter menos chances de ser escolhida pra sobreviver. Eu falei sobre isso em um comentário anterior.
Ricardo - Vaz Lobo
Não matarás, a não ser que meu pescoço esteja em jogo.
J Janz
Que horrível responder! Esse troço não tem um freio de mão (ou seja, um segundo tipo de freio que dá pra usar pra diminuir a velocidade) e freio motor (diminui as marchas até chegar -- ou vai direto -- à primeira e deixa o motor ir pra vala mas mecanicamente reduzir um pouco)?... ;)
Lucas Carvalho
São casos extremamente raros mesmo que estão sendo tratados aqui, casos em que não tem mais tempo de frear
Lucas Carvalho
Seria feito um cálculo pra decidir o seu "coeficiente de merecimento de viver", e cada característica teria um peso. Exemplo: criança "merece" mais que adulto. E o fator que deveria ter um peso muito grande (se não o maior) seria "obediência à lei de trânsito", porque se você sabe que seguindo as leis de trânsito você tem mais chances de viver, você seguirá as leis de trânsito, e consequentemente haverá menos mortes. Parece algo errado errado isso de decidir quem morre e quem vive, mas essa decisão já acontece na cabeça dos humanos milhares de vezes por anos, e no pior dos casos nem dá tempo de decidir, e no futuro, esses casos serão raros. O ponto do Tecnoblog aqui não é mostrar o lado ruim da automação (até que porque esse lado ruim é melhor que na situação atual), mas sim levantar uma discussão interessante.
PPKX XD ?????????
Pensando num carro, são 4 rodas, freios semi-independentes, balanceados de forma cruzada, pode acontecer.. mas é muuuito difícil, nesse caso devia agir como o motorista agiria, tenta se salvar... Teve um caso aqui que o cara viu o quintal de uma casa e jogou o caminhão lá, porque ele tava numa ladeira, sem freio, e lá embaixo tinha um rio.... pensou somente nele, porque 5 minutos antes tinha crianças brincando ali, não matou ninguém por sorte (não dava pra ver o que havia dentro do quintal).
Juan Lourenço
Pois é, eu tbm acho que, como comentei em outro lugar por aqui, a orientação vai acabar sendo pra salvar o motorista, mas convenhamos que uma coisa é uma pessoa se salvar e ninguém vai discutir com ela se ela tinha a opção de se matar pra salvar outras 10, outra é haver uma programação no sistema autônomo dizendo "salve o motorista e danem-se os outros" Colocar esse tipo de coisa no papel, mostrando que tem opção, que daria tempo de analisar e alterar o resultado (diferente do motorista em situação de desespero) é o que complica.
J Janz
Eu notei. Eu só quis explicitar porque ler seu comentário me fez também considerar, sim, ao responder, probabilidades de as probabilidades serem evitadas, como uma reação rápida de alguém que diminuísse ou anulasse a tragédia (isto é, considerei mais difícil, por exemplo, alguém dentro do carro conseguir se desvencilhar de cinto, porta e outros frente a pessoas na rua pularem por reflexo e talvez quebrarem ossos ao invés de morrer, em especial quando os 2 casos são grupos de pessoas: jogar o carro pro outro lado dá um tempo minimamente maior praquele grupo -- e aí a condição física e, com isso, de resposta, também pesou).
PPKX XD ?????????
Confie no airbag
Paulo Higa
Freios falham. :)
Edgar
Extremamente raro é óbvio. Não está falando como se isso acontecesse em todas as viagens... mas se você não entendeu o motivo dele não poder apenas frear, é porque não leu a matéria com atenção.
Rookie naz
Bom é uma questão interessante, imagine um carro não autônomo e você é o motorista, você se salvaria e matava as 10 pessoas ou se matava e salvava as 10?
Raph4 (Raphael Corrêa)
Ainda não entendi porque o carro não pode apenas... frear! Ainda mais sendo que ele já lê todas as coisas que estão acontecendo muito antes do condutor. Vejo o cenário do desafio ético como algo extremamente³ raro.
grande_dino_2
Uma questão por trás desse experimento é decidir quem é o responsável pela tomada de decisão do carro autônomo. Se o carro decidir que é melhor matar um do que outro, quem vai responder por isso depois? Vão chamar o engenheiro/cientista da computação que programou a IA pra que ele explique qual o procedimento que foi utilizado pela máquina para chegar tomar a decisão tomada? Se descobrirem que na verdade a IA tem um algoritmo simples,do tipo if/else pra decidir, vão julgar o programador porque ele deixou transparecer os seus próprios valores tornando-o, portanto, culpado pela morte? Se descobrirem que a IA na verdade usa um processo de aprendizado próprio, cujo resultado final está além das mãos dos programadores, vão tirar o carro em si de circulação? Um negócio interessante e complicado.
Juan Lourenço
Eu tô brincando. Resposta mais a sério dei pro @RonaldoGogoni:disqus em outro comentário
J Janz
Mas todos os exemplos dizem que as pessoas de um caso ou outro VÃO morrer. Então os airbags e demais afins não serão suficientes.
???????Feripe Hatsune?
Acho que é apenas como exemplo. Para a IA do carro isso não faz nenhum sentido, são todos iguais. Quem vai escolher será o sistema, ou seguir a diretriz do fabricante.
Aline Rosa
O correto seria seguir as leis de trânsito, não? Porque, nos exemplos citados, a quantidade de vidas é a mesma, visto que alguns estão obedecendo as leis e outros não. Mas sobre a moralidade, a AI do carro só vai identificar quem é médico, executivo, desabrigado ou criminoso se essas pessoas tiverem um chip e um cadastro. Só acho...
???????Feripe Hatsune?
Neste caso Ronaldo, o próprio firmware da Mercedes já sai com a Diretriz Zero: Priorizar o motorista acima de tudo. É uma escolha, entre todas, nenhuma é correta então, da-lhe probabilidade!
Wellington Alves Nicho
Quem respeitar as leis de trânsito, merece viver, Entre humanos e animal, humanos vivem... Entre pedestres e passageiros, os passageiros merecem morrer, afinal os pedestre não tem nada haver com a sua escolher em ter um carro autonomo!! muhahahaha
André Silva
Acho o teste interessante, mas forçaram a barra ao definir coisas como profissão e status (morador de rua). Criminoso? A IA do carro ou o motorista vão fazer este tipo de julgamento em uma situação destas? Ah vá! A mulher grávida e a criança dá até para imaginar (dependendo da velocidade e distância) que seriam identificados, mas os outros que citei são aparentemente toscos exemplos.
???????Feripe Hatsune?
Tem, mas com uma falha mecânica não intencional, o robô faria seus cálculos de probabilidade, quantos % de chances tem ele, seus ocupantes e os pedestres? Lembrei na hora do filme do Eu, Robô
Juan Lourenço
É uma discussão interessante. Eu entendo que priorizar o motorista é razoável à medida em que é o que o motorista faria se estivesse controlando a direção do carro. BTW, estamos falando de carros extremamente seguros e redundantes e que, independente de como forem programados, ainda vão gerar, sei lá, 5% das mortes que temos hoje com motoristas de carne, osso e imprudência/imperícia.
Ronaldo Gogoni
Então... há estudos sérios que partem resolvendo isso simplesmente pela quantidade, partindo do que o sr. Spock dizia: "as necessidades da maioria se sobrepõem às da minoria. Ou de um só". Digamos que você está dirigindo num desfiladeiro, com chuva, seu carro derrapa e é capaz de fazer todas as correções e te salvar, mas para isso vai acertar um ponto de ônibus e matar três pessoas. Estatisticamente três valem mais que um, logo o carro interrompe as correções e vai te jogar barranco abaixo. É o modo mais ético, programar o computador a tratar todos os humanos como iguais. O problema é: quem vai comprar um carro que pode te matar? Já a Mercedes foi taxativa: o programa dos carros deles vai priorizar o motorista, então quem estiver do lado de fora não é problema dela. Escolheram prezar quem está disposto a pagar caro por um veículo deles.
Ricardo - Vaz Lobo
Ainda tem a "lei zero".
???????Feripe Hatsune?
Thanks, vou tomar nota disso quando for escrever em meu blog. Sobre o estilo de vida, eu considerei como um mero exemplo, já que para a IA do carro, não faz sentido algum.
Dayman Novaes
Só uma correção, usar "mesmo" para retomar termos é incorreto. O correto seria algo como "este pode capotar..." ou "ele pode capotar...". Mas sobre saber o estilo de vida das pessoas, concordo... não vejo muito sentido nesse tipo de questionário nesse contexto do carro autônomo
???????Feripe Hatsune?
Interessante, lembrei das 3 leis do Asimov, neste caso cada uma entrará em conflito com outra. Carros autônomos não são muito diferentes de robôs afinal. Eu penso o seguinte: O carro não pode fazer um desvio brusco, este pode capotar e colocar vida dos ocupantes em risco letal. A prioridade é a vida do(s) dono(s), seu mestre. O carro não pode saber qual é o estilo de vida dos que estavam a sua frente. Mas os que atravessaram a rua no sinal vermelho sabem o risco de serem atropelados, o magic number pode prioriza-los.
Ricardo - Vaz Lobo
Ou a "vítima" tá chipada ou o a IA tem uma visão absurdamente perfeita.
Juan Lourenço
Droga haha. Agora vou ter que apelar pro Eu Robô e deixar o carro analisar a chance de morte pra cada um (o carro deve ter um monte de airbags vai...)
Paulo Higa
Pronto: https://uploads.disquscdn.com/images/cc30433ac22b675916ec38b4ea41c0761660c49a55055abf47d15e5f94d8aaea.png
Juan Lourenço
Então se tiver 1 pessoa dentro do carro e 10 na frente, melhor matar as 10 pra salvar quem tá dentro?
doorspaulo
Para mim, o carro deve priorizar a integridade de quem está dentro dele e, depois, o ambiente externo.
Islan Oliveira
Como um carro autônomo vai saber que alguém é médico ou criminoso é o que me pergunto (a não ser num mundo 1984-style).
Exibir mais comentários