Início » Carros » Quem você prefere matar num acidente de carro autônomo inevitável?

Quem você prefere matar num acidente de carro autônomo inevitável?

Quem o carro deveria salvar? Ocupantes ou pedestres? Crianças ou idosos? Homem ou mulher? Médicos ou pessoas desabrigadas?

Por
41 semanas atrás
Já conhece a nova extensão do Tecnoblog? Baixe Agora

O maior dilema dos carros autônomos é que eles precisam decidir quem deve morrer em caso de acidente inevitável. Qual vida é mais importante? Uma mulher atleta ou um homem obeso? Uma criança ou um idoso? Duas pessoas atravessando a rua no sinal vermelho para pedestres ou o ocupante do veículo? Eu sei, você está desconfortável e não quer responder. Mas o Massachussets Institute of Technology (MIT) criou um questionário justamente para descobrir o que as pessoas pensam.

A Máquina Moral do MIT apresenta uma série de cenários de acidentes inevitáveis de carros autônomos, e você deve julgar qual é a ação mais certa (ou menos errada) a ser tomada pela máquina. No final, o questionário te mostra qual é o personagem que você mais salvou ou matou, bem como suas tendências de julgamento — ou seja, quão importante para você é proteger o maior número de vidas, obedecer às leis de trânsito ou salvar os pedestres em detrimento dos ocupantes do carro.

Para se ter uma ideia do quão difícil é responder às perguntas, eis um exemplo de cenário. Um carro autônomo (sem nenhum ocupante) com falha repentina nos freios não vai conseguir parar antes da faixa de pedestres. Você pode escolher apenas um dos cenários possíveis:

  1. Matar uma mulher e um homem idoso que estão obedecendo à lei e atravessando no sinal verde para pedestres;
  2. Matar uma menina e um homem que estão desobedecendo à lei e atravessando no sinal vermelho para pedestres.

E aí? Você prefere salvar a menina? Ou o respeito às leis de trânsito deveria estar acima disso?

Quer outro exemplo complicado? Escolha entre os dois:

  1. Seguir em frente e matar dois homens, uma mulher, um criminoso e uma pessoa desabrigada;
  2. Desviar e matar um médico, uma mulher grávida, duas mulheres e um executivo.

Um médico vale mais que uma pessoa desabrigada? O carro deveria desviar a trajetória para matar as pessoas que são “menos importantes” para a sociedade? Ou todas as pessoas são iguais?

Em alguns cenários, você até consegue pensar num argumento minimamente racional para decidir quem o carro deve salvar. É o caso da escolha entre uma criança e um idoso, por exemplo (eu salvaria a criança, com a ideia de que ela tende a viver por mais tempo). Mas outros são totalmente subjetivos e revelam como você pensa, ainda que inconscientemente. O carro deveria matar um homem ou uma mulher? Um obeso ou um atleta? Um executivo ou um desabrigado?

Vale a pena tirar uns três minutos do seu tempo e responder ao questionário (que está em português). Depois, poste os seus resultados aqui nos comentários — se você não estiver tão desconfortável consigo mesmo. É a sua vez de pensar no que, inevitavelmente, os programadores de sistemas de carros autônomos vão ter que pensar.

Tecnocast 033 – Programados para matar

Engenheiros estão enfrentando dilemas éticos no desenvolvimento dos sistemas de carros autônomos – eles precisam ser programados para matar. Mais do que isso, precisam decidir qual vida é mais importante, em caso de uma colisão iminente. E aí, como vocês acham que os carros deveriam agir em uma situação desse tipo? E como seria um mundo onde todos os carros nas ruas fossem “auto-dirigíveis”? Cabeças explodirão. Dá o play e vem com a gente!

Mais sobre: , ,
    • Não vão processar. Quem deveria ir pra cadeia são os donos dos animais, que os deixam livres pelas ruas e/ou os abandonam. Grande parte dos motoristas não os atropelam por que querem.

  • Juan Lourenço

    Ele não pode fazer uma curva brusca e capotar antes de chegar nas pessoas? hehe

    Eu realmente acredito que os carros autônomos precisam ter redundância pra que uma situação dessa não ocorra. Ninguém vai querer programar “em caso de falha crítica, analisar se homens ou mulheres, idade, potencial profissão, mirar em tal grupo”…

    • Se fizer uma curva brusca e capotar com ocupantes no veículo, pode matar os ocupantes. E aí? Pedestres são mais importantes que os ocupantes? 😛

      • Juan Lourenço

        Ah, no exemplo o carro tá vazio, nem vem haha

          • Juan Lourenço

            Droga haha. Agora vou ter que apelar pro Eu Robô e deixar o carro analisar a chance de morte pra cada um (o carro deve ter um monte de airbags vai…)

          • J Janz

            Mas todos os exemplos dizem que as pessoas de um caso ou outro VÃO morrer. Então os airbags e demais afins não serão suficientes.

          • Juan Lourenço

            Eu tô brincando. Resposta mais a sério dei pro @RonaldoGogoni:disqus em outro comentário

          • J Janz

            Eu notei.

            Eu só quis explicitar porque ler seu comentário me fez também considerar, sim, ao responder, probabilidades de as probabilidades serem evitadas, como uma reação rápida de alguém que diminuísse ou anulasse a tragédia (isto é, considerei mais difícil, por exemplo, alguém dentro do carro conseguir se desvencilhar de cinto, porta e outros frente a pessoas na rua pularem por reflexo e talvez quebrarem ossos ao invés de morrer, em especial quando os 2 casos são grupos de pessoas: jogar o carro pro outro lado dá um tempo minimamente maior praquele grupo — e aí a condição física e, com isso, de resposta, também pesou).

          • PPKX XD ✓ᵛᵉʳᶦᶠᶦᵉᵈ

            Confie no airbag

          • Vinícius Mascarenhas

            Nesses casos de bloqueio, eu usei a seguinte lógica: a pessoa acha que o carro vai bater no muro ou que vai desviar do muro a tempo? Não é preciso pensar nem meia vez pra sacar que o carro vai desviar. Se estamos falando de uma velocidade suficientemente alta para haver risco de morte, a possibilidade de o carro estar parando naquela faixa para embarque/desembarque é descartada. O carro vai desviar e passar pela rua na outra faixa. Isso significa que aquela pessoa está atravessando ‘na frente do carro’.

            Em todos os casos em que alguém atravessava na frente do carro, incluindo esses de desvio de muro, quando não havia sinal, eu considerei o pedestre como alguém que não respeita a sua própria vida e demanda que os outros respeitem a sua vida mais do que respeitam a própria.

            Quando há sinal, é mais ‘fácil’ ser cínico e jogar a responsabilidade em cima de quem está atravessando fora de hora ou querendo avançar sinal fechado atropelando pedestre ‘de propósito’.

      • Fabio Montarroios

        Não valem, mas quem entra num carro, q faz coisas q fogem da escola humana, sabe q pode dar merda, daí… Isso implica em responsabilidades. E o nosso código de trânsito dá preferência ao pedestre.

    • Então… há estudos sérios que partem resolvendo isso simplesmente pela quantidade, partindo do que o sr. Spock dizia: “as necessidades da maioria se sobrepõem às da minoria. Ou de um só”.

      Digamos que você está dirigindo num desfiladeiro, com chuva, seu carro derrapa e é capaz de fazer todas as correções e te salvar, mas para isso vai acertar um ponto de ônibus e matar três pessoas.

      Estatisticamente três valem mais que um, logo o carro interrompe as correções e vai te jogar barranco abaixo. É o modo mais ético, programar o computador a tratar todos os humanos como iguais. O problema é: quem vai comprar um carro que pode te matar?

      Já a Mercedes foi taxativa: o programa dos carros deles vai priorizar o motorista, então quem estiver do lado de fora não é problema dela. Escolheram prezar quem está disposto a pagar caro por um veículo deles.

      • Juan Lourenço

        É uma discussão interessante.

        Eu entendo que priorizar o motorista é razoável à medida em que é o que o motorista faria se estivesse controlando a direção do carro.

        BTW, estamos falando de carros extremamente seguros e redundantes e que, independente de como forem programados, ainda vão gerar, sei lá, 5% das mortes que temos hoje com motoristas de carne, osso e imprudência/imperícia.

        • @RonaldoGogoni inclusive a gente teve uma discussão bem legal sobre isso lá no MeioBit, lembra? : http://meiobit.com/329761/carros-autonomos-salvarao-vidas-ao-serem-programados-para-matar/

        • Lucas Carvalho

          Eu também entendo que seja razoável, a atitude de priorizar o motorista em detrimento dos pedestres, pois já é o que acontece e que não pode ser condenado. É a lei da sobrevivência, auto-defesa.

          Mas com essa decisão ficando nas “mãos” dos carros e portanto podendo ser controlada, os Governos certamente irão querer regular isso. Enquanto isso, talvez haja preferência, por parte dos consumidores, por carros que priorizem os motoristas, mesmo acreditando que não haverá publicidade em relação a isso, pois seria muito mórbido, e espinhoso esse assunto.

      • Neste caso Ronaldo, o próprio firmware da Mercedes já sai com a Diretriz Zero: Priorizar o motorista acima de tudo.
        É uma escolha, entre todas, nenhuma é correta então, da-lhe probabilidade!

      • Fabio Montarroios

        as pessoas já compram um carro q pode te matar, ronaldo… e não é de hoje. pelo q eu saiba, segurança veicular não é prioridade no brasil, sendo q só em 2014, com guido mantega ameaçando adiar, o brasil resolveu tornar obrigatório uso de abs e airbag nos carros. e foi só isso. nenhuma outra obrigação foi solicitada à indústria. daí q se vc comprar um celtinha ou ford focus vc terá pessoas q pagam por insegurança (muitas) e aquelas q pagam por segurança (poucas). daí dizer q a pessoa vai comprar ou usar o carro pq ele priorizará a vida dela num caso de acidente me parece não ser a prioridade de quem pensa em um carro caro.

        • Macedo

          hoje ninguém compra carro que DECIDE te matar numa emergência, e provavelmente nunca vão comprar, esse é o ponto que ele citou, a segurança do veículo em si nada tem a ver com a discussão de decisão do veículo autônomo

          • Fabio Montarroios

            Mas as pessoas compram um Ford kA q chama o socorro sozinho em caso de acidente… Segurança é, pelo menos no discurso da indústria, um dos principais motivos que justificam os carros autônomos. O problema é criar esse ambiente de A e B pra aliviar as implicâncias maiores que essa autonomia envolve…

          • Macedo

            e isso nada tem a ver com a decisão do carro de quem ele vai matar…

          • Fabio Montarroios

            Acidentes de carro são imprevisíveis e esse lance de matar A ou B, pra mim, é a indústria abrindo caminho pra legitimar a possibilidade de acidentes qdo deveriam ver formas de minimizá-los ao máximo inclusive apresentando cenários em q vc deve julgar pessoas q atravessam no farol vermelho. Antes de ser um teste moral, é um teste ideológico. E outra, discuti-se limite de velocidade? Não… Discuti-se questões urbanas? Não… E por aí vai. E não demora muito frentes jurídicas se abriram pra culpabilizar os pedestres em acidentes, pois o carro inanimado, coitado, tem q ser programado pra matar. Isso é um absurdo tão grande que acho incrível ser aceito. O fato da igreja do MIT dizer isso explica só em parte essa aceitação, pq aqui, no Brasil, a igreja do carro tem mais força.

          • Macedo

            definitivamente você não entendeu nem a pergunta nem a proposta do MIT… está misturando temas totalmente independentes, sequenciais mas totalmente independentes (quanto mais segurança embarcada tiver o carro, a via, etc, menor a chance de chegar na escolha do carro entre quem morre, mas uma hora essa escolha acontece, e é isso que a pesquisa trata…)

            já viu a quantidade de itens de segurança que os protótipos autônomos possuem? são todos itens existentes possíveis de auxílio para evitar o acidente, o que o MIT sugeriu e você não entendeu é: o que o carro deve decidir fazer se em algum momento todos os recursos forem insuficientes para evitar o acidente, nesse momento, o que o carro deve decidir fazer? entendeu agora?

          • Fabio Montarroios

            Macedo, essa não é lá uma forma muito respeitosa de seguir com a discussão, mas ok. Dizer q eu não entendi não faz sentido, pq estamos diante de um problema simples. Mas eu questionar a proposição do MIT não faz com q eu não entenda o problema… Nada a ver, na verdade.

            O ponto q eu implico aqui é ver nesse tipo de questionamento um ‘preparar a sociedade’ para certas coisas em q eles parecem demonstrar pouco interesse em desenvolver ou restringir. MIT e Ford trabalham juntas e se o MIT, depois de um estudo X, disse a Ford q o mais seguro é q o carros autônomos andem só a no máximo 40 Km/h a Ford vai dizer: ‘não ford, rapá’. Percebe?

            Faz assim então: pega dez catedráticos do MIT e dez executivos top da Ford e divide em dois grupos. Aí vc fala assim pros caras: olha, nesse teste vcs podem morrer a depender da decisão do carro autônomo, seja na condição de passageiro ou de pedestre. O q eles dirão? Provavelmente vão achar um absurdo e como são obrigados a fazer o teste, vão pedir capacete, protetor de coluna, gaiola no carro, ambulância, bombeiro, guarda civil, terapeuta, massagista etc… Obviamente eles não vão topar sabendo das possibilidades e implicâncias sabendo q podem minimizar os riscos ao máximo, coisa q a indústria pode ser q não faça… PODE SER, não sei. Mas vendo o histórico da indústria automobilística (e quão gostosamente a ideologia rodoviarista prevaleceu) eu ficaria com dois pés atrás (justamente pra não ser atropelado).

            Felizmente, ou não, somos brasileiros e sabemos bem q aqui o trânsito aqui é uma carnificina socialmente aceita. E não só aceita, como estimulada. Quando vc pede uma pizza e presumo q um vida louca vem te entregar vc não pensa em, pô, é melhor não pedir a pizza pro cara não se esborrachar. Vc pensa em saciar a sua fome de uma bela pizza e só. O motoboy q tem q andar na linha pra perder as pernas, problema dele e tal. Mas ái q está. O motoboy talvez não tenha opções e está num meio q estimula esse comportamento e nós podemos sim evitar isso através de demandas sociais como melhores equipamentos para motociclistas, melhores vias, políticas de educação sobre o trânsito etc e não pedimos nada disso. Ao contrário, pedimos mais velocidade!

            E, desculpe macedo, mas isso tem tudo a ver com esse tipo de questionamento do MIT especialmente se vc tentar ver o q está por detrás dele. E isso não quer dizer q eu seja o fodão q sabe tudo. Não mesmo. Só desconfio dessas coisas.

          • Macedo

            de jeito algum quero faltar com respeito aqui Fabio, para mim estava claro que você tinha entendido um viés diferente do pretendido pelo questionamento, o que tentei te mostrar é que embora um gere consequência no outro, eles são independentes, e na sua argumentação você tratou como um tema só…
            independente de autônomo ou não, os carros rodam hoje e vão continuar rodando com a segurança que tiverem, tanto no carro, quanto na via, o fator autônomo não entra nesse ponto

    • Fabio Montarroios

      Ou ele poderia andar numa velocidade mais baixa por padrão. E nunca fabricarem carros q andem a uns 220 khm…

    • Esses cenários não são coisas do dia-a-dia. São a exceção da exceção. Ele pode fazer uma curva brusca e salvar todo mundo? 99% das vezes pode, mas no 1% em que não puder o software saberá de antemão que não pode e terá que seguir uma rotina sobre o que fazer nesse caso.

    • Sistemas autônomos necessitam de redundância, claro. Mas sistemas redundantes também podem falhar.

  • doorspaulo

    Para mim, o carro deve priorizar a integridade de quem está dentro dele e, depois, o ambiente externo.

    • Juan Lourenço

      Então se tiver 1 pessoa dentro do carro e 10 na frente, melhor matar as 10 pra salvar quem tá dentro?

      • Rookie naz

        Bom é uma questão interessante, imagine um carro não autônomo e você é o motorista, você se salvaria e matava as 10 pessoas ou se matava e salvava as 10?

        • Juan Lourenço

          Pois é, eu tbm acho que, como comentei em outro lugar por aqui, a orientação vai acabar sendo pra salvar o motorista, mas convenhamos que uma coisa é uma pessoa se salvar e ninguém vai discutir com ela se ela tinha a opção de se matar pra salvar outras 10, outra é haver uma programação no sistema autônomo dizendo “salve o motorista e danem-se os outros”

          Colocar esse tipo de coisa no papel, mostrando que tem opção, que daria tempo de analisar e alterar o resultado (diferente do motorista em situação de desespero) é o que complica.

          • Raph4 (Raphael Corrêa)

            A questão é: o “motorista” (ou navegador, no caso) é quem paga a conta, compra o veículo. Quem vai comprar um carro com programação pra, na dúvida, te matar?

          • Juan Lourenço

            A questão é: quem vai decidir como os carros terão que ser programados, as montadoras ou a lei?

          • Raph4 (Raphael Corrêa)

            Eu espero que isso vá de montadora a montadora, e que cada uma divulgue sua política no assunto, assim fica a critério do consumidor.
            Ou que as montadoras resolvam em consórcio.
            Mas que NUNCA seja definição da Lei, que na prática, é definição de políticos que entendem algo entre zero e porra nenhuma dos assuntos sobre os quais legislam. Tenho medo de pensar.
            Fora que a ~melhor~ hipótese é um político carregado por lobbystas (cenário que eu imagino ser o mais provável).

      • doorspaulo

        Eu acho que o carro não deve fazer essa escolha. Eu não confiaria em um sistema para identificar essa situação, visto que podem ter N erros de leitura, pois o mundo real é muito caótico.

        Um grupo de 10 pessoas, por exemplo, pode ser reconhecido como um bloco único.
        Se um familiar meu morresse em um acidente assim, eu com certeza processaria a montadora e, duvido muito que alguma empresa vá querer resolver essa bucha.

  • Islan Oliveira

    Como um carro autônomo vai saber que alguém é médico ou criminoso é o que me pergunto (a não ser num mundo 1984-style).

    • Ricardo – Vaz Lobo

      Ou a “vítima” tá chipada ou o a IA tem uma visão absurdamente perfeita.

      • Luiz Antonio

        IA com precogs? rsrs.

    • Fabio Montarroios

      Facebook…

      • Islan Oliveira

        Sei que tem um ou outro idiota que se exibe, mas se fosse fácil assim descobrir um criminoso pelo Facebook, a polícia teria o trabalho mais fácil do mundo.

        • Macedo

          você ficaria surpreso….. kkkkkkkk

    • Vinícius Mascarenhas

      Toda hipótese demanda uma suspensão da descrença. Questionar a plausibilidade de uma premissa é perder o foco do experimento de pensamento.

  • Interessante, lembrei das 3 leis do Asimov, neste caso cada uma entrará em conflito com outra. Carros autônomos não são muito diferentes de robôs afinal.
    Eu penso o seguinte:
    O carro não pode fazer um desvio brusco, este pode capotar e colocar vida dos ocupantes em risco letal. A prioridade é a vida do(s) dono(s), seu mestre.
    O carro não pode saber qual é o estilo de vida dos que estavam a sua frente. Mas os que atravessaram a rua no sinal vermelho sabem o risco de serem atropelados, o magic number pode prioriza-los.

    • Dayman Novaes

      Só uma correção, usar “mesmo” para retomar termos é incorreto. O correto seria algo como “este pode capotar…” ou “ele pode capotar…”.

      Mas sobre saber o estilo de vida das pessoas, concordo… não vejo muito sentido nesse tipo de questionário nesse contexto do carro autônomo

      • Thanks, vou tomar nota disso quando for escrever em meu blog.

        Sobre o estilo de vida, eu considerei como um mero exemplo, já que para a IA do carro, não faz sentido algum.

    • Ricardo – Vaz Lobo

      Ainda tem a “lei zero”.

      • Tem, mas com uma falha mecânica não intencional, o robô faria seus cálculos de probabilidade, quantos % de chances tem ele, seus ocupantes e os pedestres? Lembrei na hora do filme do Eu, Robô

  • André Silva

    Acho o teste interessante, mas forçaram a barra ao definir coisas como profissão e status (morador de rua). Criminoso?

    A IA do carro ou o motorista vão fazer este tipo de julgamento em uma situação destas? Ah vá!

    A mulher grávida e a criança dá até para imaginar (dependendo da velocidade e distância) que seriam identificados, mas os outros que citei são aparentemente toscos exemplos.

    • Acho que é apenas como exemplo. Para a IA do carro isso não faz nenhum sentido, são todos iguais. Quem vai escolher será o sistema, ou seguir a diretriz do fabricante.

    • Fábio Pereira

      Mulher grávida dá para identificar? Olha, só se for um super computador com outros sensores muito mais avançados do que os que temos hoje, particularmente em muitas situações achei que estava falando com grávidas e depois descobri que não eram…HUAHUAHUAHUA Não vejo como uma IA poderia perceber melhor isso (e a distância).

      • Fabio Montarroios

        Acho q no teste fazem isso mais por conta das implicâncias morais mesmo com vc, pessoa humana, tendo q decidir e sendo capaz de identificar os contextos… Dificilmente uma máquina conseguiria fazer isso só batendo o olho, exceto se ela souber quem está atravessando o caminho dela e ter muitos dados sobre ela.

  • Wellington Alves Nicho

    Quem respeitar as leis de trânsito, merece viver, Entre humanos e animal, humanos vivem… Entre pedestres e passageiros, os passageiros merecem morrer, afinal os pedestre não tem nada haver com a sua escolher em ter um carro autonomo!! muhahahaha

  • Aline Rosa

    O correto seria seguir as leis de trânsito, não? Porque, nos exemplos citados, a quantidade de vidas é a mesma, visto que alguns estão obedecendo as leis e outros não. Mas sobre a moralidade, a AI do carro só vai identificar quem é médico, executivo, desabrigado ou criminoso se essas pessoas tiverem um chip e um cadastro. Só acho…

  • grande_dino_2

    Uma questão por trás desse experimento é decidir quem é o responsável pela tomada de decisão do carro autônomo.
    Se o carro decidir que é melhor matar um do que outro, quem vai responder por isso depois?
    Vão chamar o engenheiro/cientista da computação que programou a IA pra que ele explique qual o procedimento que foi utilizado pela máquina para chegar tomar a decisão tomada?
    Se descobrirem que na verdade a IA tem um algoritmo simples,do tipo if/else pra decidir, vão julgar o programador porque ele deixou transparecer os seus próprios valores tornando-o, portanto, culpado pela morte?
    Se descobrirem que a IA na verdade usa um processo de aprendizado próprio, cujo resultado final está além das mãos dos programadores, vão tirar o carro em si de circulação? Um negócio interessante e complicado.

  • Raph4 (Raphael Corrêa)

    Ainda não entendi porque o carro não pode apenas… frear! Ainda mais sendo que ele já lê todas as coisas que estão acontecendo muito antes do condutor. Vejo o cenário do desafio ético como algo extremamente³ raro.

    • Extremamente raro é óbvio. Não está falando como se isso acontecesse em todas as viagens… mas se você não entendeu o motivo dele não poder apenas frear, é porque não leu a matéria com atenção.

    • Freios falham. 🙂

      • PPKX XD ✓ᵛᵉʳᶦᶠᶦᵉᵈ

        Pensando num carro, são 4 rodas, freios semi-independentes, balanceados de forma cruzada, pode acontecer.. mas é muuuito difícil, nesse caso devia agir como o motorista agiria, tenta se salvar…
        Teve um caso aqui que o cara viu o quintal de uma casa e jogou o caminhão lá, porque ele tava numa ladeira, sem freio, e lá embaixo tinha um rio…. pensou somente nele, porque 5 minutos antes tinha crianças brincando ali, não matou ninguém por sorte (não dava pra ver o que havia dentro do quintal).

      • Raph4 (Raphael Corrêa)

        Aviões caem e carros batem. Vamos andar a cavalo?
        Falhar pode. Mas se as manutenções estiverem em dia (e espero que o veículo autônomo lhe avise ainda melhor que os carros atuais), é mais fácil se preocupar com tornados passando na rodovia…

        • Nope.

          Não é porque esses acidentes serão extremamente raros que isso não deve ser pensado. Alguém tem que programar as “leis” dos carros autônomos.

          • Lucas Carvalho

            Verdade. É tão fato que o Higa não está criticando o uso de carros autônomos que ele diz basicamente isso: “Imagine que se você for andar de carro você vai atropelar alguém, e se você não andar de carro você vai ter que andar de cavalo. Então o que você prefere? matar um médico ou uma criança?”

          • Raph4 (Raphael Corrêa)

            Um veículo autônomo, em circuito urbano geralmente estaria abaixo dos 60kph. Hoje já tem carro com airbag externo, para proteger pedestres. E a leitura dos passantes é feita muitos metros antes, com muito tempo para que o carro anteveja tudo.
            Em último caso, a estrutura de um NCAP 5 estrelas certamente não mataria os ocupantes do carro a 64kph ou mesmo a 100kph.
            Reforço, o cenário é tão improvável que eu diria, é apenas masturbação filosófica. Vale a pena discutir sim. Mas o uso prático seria ínfimo, se for usado alguma vez.
            Em último caso, os freios a discos ventilados nas 4 rodas, com ABS, controle de estabilidade, pretensionador nos cintos, airbags aos montes, carroceria com deformação programada (etc, etc), certamente não matariam o condutor se atingisse uma barreira do tipo New Jersey.

    • Lucas Carvalho

      São casos extremamente raros mesmo que estão sendo tratados aqui, casos em que não tem mais tempo de frear

    • Lucas Carvalho

      Normalmente nesses casos alguém cometeu um erro, que jogou o carro nessa situação, e essa pessoa deveria ter menos chances de ser escolhida pra sobreviver. Eu falei sobre isso em um comentário anterior.

    • Joaomanoel

      Claramente no caso da imagem está escrito “falha nos freios”. Meio difícil frear sem ter freios.

  • Lucas Carvalho

    Seria feito um cálculo pra decidir o seu “coeficiente de merecimento de viver”, e cada característica teria um peso. Exemplo: criança “merece” mais que adulto. E o fator que deveria ter um peso muito grande (se não o maior) seria “obediência à lei de trânsito”, porque se você sabe que seguindo as leis de trânsito você tem mais chances de viver, você seguirá as leis de trânsito, e consequentemente haverá menos mortes.

    Parece algo errado errado isso de decidir quem morre e quem vive, mas essa decisão já acontece na cabeça dos humanos milhares de vezes por anos, e no pior dos casos nem dá tempo de decidir, e no futuro, esses casos serão raros.

    O ponto do Tecnoblog aqui não é mostrar o lado ruim da automação (até que porque esse lado ruim é melhor que na situação atual), mas sim levantar uma discussão interessante.

    • Fabio Montarroios

      acho muito otimismo achar q vamos ter uma situação melhor q a atual, pq não temos paralelo de comparação… mesmo se levar uma indústria 80% robotizada q tem menos acidentes de trabalho com humanos, a questão seria a escala…. como seriam carros autônomos no meio de metrópoles apinhadas de gente? Mas isso q vc diz, de respeito as leis de trânsito, outras sociedades conseguiram antes da chegada dos carros autônomos e como seria em sociedades, como a nossa, q não atingiram esse nível de civilidade? Como vai ser? Isso não entra na conta desse tipo de teste, infelizmente.

      • Lucas Carvalho

        Os carros autônomos já transitam em alguns lugares dos EUA e com uma taxa de acidentes ridiculamente menores que a taxas de acidentes com humanos, portanto acreditar que em uma escala maior essa taxa se altera tanto a ponto de ultrapassar a taxa de acidentes com humanos ao volantes deixa de ser realismo pra ser pessimismo.

        As máquinas na maioria das vezes seriam melhores em análise do que os humanos, então ao invés de pensar em carros autônomos transitando em cidades apinhadas de gentes, vamos pensar em humanos estressados, distraídos, apressados, com visão limitada, com pouca capacidade de análise/processamento (se comparado com as máquinas) transitando por cidades apinhadas de cidade.

        Os carros autônomos não necessitam de cidadãos que respeitem as leis de trânsito, não mais do que os carros dirigidos por humanos necessitam.

        • Fabio Montarroios

          mas lucas, são qtos carros circulando? dezenas, centenas, milhares? creio q bem poucos, mas ok, eles, de fato, não se envolvem em acidades, mesmo trafegando em meio a carros não autônomos, mas não temos acesso (eu creio) aos trajetos escolhidos para esses carros e em quais condições eles foram colocados pra serem realmente testados. não se esqueça q há MUITO marketing nisso tb, pq é a nova aposta da indústria.

          não tenho dúvida q humanos livres da direção serão humanos melhores, pq, pra qualquer um q já dirigiu numa cidade complicada como sp, sabe o inferno q é dirigir em certas condições e isso afeta pra valer muita gente… mas sabemos q muitos acidades, talvez a maioria, vêm da condução imprudente, fruto da escolha desse tipo de direção e em nada refreada pela indústria, q continua fabricando carros cada vez mais rápidos (mesmo para as cidades). e não creio q essa lógica mude, pelo contrário, carros autônomos = menos erros, então, mais velocidade!

          aqui em sp as pessoas optaram, por exemplo, por dirigirem em situações de mais velocidade, mesmo isso sendo mais perigoso para ocupantes dos veículos, daí vc vê q segurança não é a prioridade das pessoas e sim outros valores.

          só q acho q vc se engana ao dizer q carros autônomos não necessitam de cidadãos q respeitem as leis, pq exceto se esses carros estiverem em vias apartadas, a conduta dos pedestres, ciclistas e animais (essa mais difícil de controlar) pode por em risco a vida dos ocupantes dos carros se eles resolverem, por exemplo, aprontar uma pegadinha em motoristas, só pra dar um sustinho neles…

          mas veja esse relatório… tem gente MUITO preocupada com o q os pedestres vão fazer nessa história toda.

          https://www.universityofcalifornia.edu/news/pedestrians-may-run-rampant-world-self-driving-cars?utm_source=fiat-lux&utm_medium=internal-email&utm_campaign=article-general&utm_content=text

          • Lucas Carvalho

            Acho muito pessimismo da sua parte sobre o marketing.

            Concordo que “carros autônomos = menos erros, então, mais velocidade!”, ou seja essa segurança vai ser transformado em mais velocidade.

            A última frase só faz sentido no contexto todo, a saber: “Os carros autônomos não necessitam de cidadãos que respeitem as leis de trânsito, não mais do que os carros dirigidos por humanos necessitam.”

          • Fabio Montarroios

            nem é pessimismo, lucas… a indústria automobilística já tem um histórico bem longo e não foi ela quem fez o trânsito ficar mais seguro ao longo das décadas… apenas cidades q enfrentaram a ideologia rodoviarista e lógica de mais e mais carros = mais liberdade e direitos é q conseguiram melhorar a situação, sem falar nas cidades q planejam se verem livres dos carros, pq independente de serem ou não autônomos, eles, em grande quantidade, são um estorvo pros cidadãos.

            se vc reparar na fala dos figurões da indústria, especialmente na ford, eles não estão mais se limitando a vender carros, eles querem fazer planejamento urbano e claro q não estão pensando em + árvores e menos carros, por mais q ofereçam serviços de aluguel de bikes, eles querem remodelar as cidades como um todo para poderem oferecer mais serviços, especialmente num ambiente de menos compra de veículos. isso tem seus riscos e q não estão nos enunciados desses dilemas morais, pq se eles forem aplicados, vc verá q a própria proposição desses dilemas é incompatível com as soluções q deveríamos ter, mas q, em larga medida, são contrárias as ambições dessas empresas…

            entendi a sua frase final, mas carros q se dirigem sozinhos e não respondem às ordens de seus ocupantes vão ter q resolver toda sorte de dilemas sozinhos, então, sim, eles vão precisar de uma camada extra de leis.

    • Poluty Ytulop

      O veículo é uma ambulância conduzindo uma criança, paciente, assistida por um adulto, médico. Quem se mataria pelo ‘peso’ x merecimento. ?

      • Lucas Carvalho

        Muito complicado, seria como um PageRank do Google Search, pouquíssimos sabem como vai se comportar em tempo de execução

  • J Janz

    Que horrível responder! Esse troço não tem um freio de mão (ou seja, um segundo tipo de freio que dá pra usar pra diminuir a velocidade) e freio motor (diminui as marchas até chegar — ou vai direto — à primeira e deixa o motor ir pra vala mas mecanicamente reduzir um pouco)?…
    😉

  • Ricardo – Vaz Lobo

    Não matarás, a não ser que meu pescoço esteja em jogo.

  • Bruno

    Eu acho que o coletivo é mais importante que o individual, logo, a vida de 2 pessoas ou mais, vale mais que a vida de uma pessoa(mas certeza que as pessoas querem um carro que de preferência ao seu dono). De resto, deveria ser escolhido na porcentagem de sobrevivência, se for igual ou parecido, joga no aleatório e já era, pq no final é isso que acontece na vida real. Ninguém sabe a reação que terá em um acidente em que vc deve tomar uma decisão em menos de 1 segundo.

  • “Cabeças explodirão”

    . Bom, aí depende da velocidade do carro…

    • Ramon Gonzalez

      *humor negro detected*
      😛

  • Marvels

    nossa, que noticia top… muito bom mesmo… leva uma reflexão profunda da IA!

  • Maxnoob

    Fdp atravessa no vermelhor quer estar certo? Nao mesmo

  • MJuliani

    Primeiro que esta colocação é uma falácia, o carro não “escolhe” quem vai matar, ele simplesmente segue as rotinas de segurança e se todas falharem acontece um acidente.

    Mas como a questão aqui é o posicionamento moral ok, eu acho simplesmente que o carro deveria:
    1. proteger o motorista
    2. proteger quem segue as leis de trânsito (independente de qualquer outro aspecto)
    ——-
    Um cenário mais factível com essa discussão seria o do filme “Eu Robô”, em que um robô tem de escolher qual pessoa deve salvar (não há tempo suficiente para salvar ambos) de um acidente.

    • Vinícius Mascarenhas

      Olha, eu penso mais ou menos como você, exceto que eu inverto a prioridade. Acima de tudo, proteger quem segue as leis de trânsito, porque elas são convenções estabelecidas com a intenção de proteger mais pessoas. Ou seja: quem desrespeita as leis é que está jogando um acidente no ventilador e vendo se o outro vai frear e impedir ou se vai deixar acontecer. Então não pode matar os outros para salvar quem causou.

      Aí só depois de fazer o máximo possível para proteger quem está no lugar certo de acordo com a legislação, proteger o motorista.

      • MJuliani

        Mas o motorista acima de tudo está passivo nesta situação, ele é quem tem o menor poder de escolha.
        Nesse seu cenário, quem entraria no carro?
        Eu concordaria com você se o motorista estivesse no controle até o momento do acidente (algum modo manual, por exemplo)

        • Vinícius Mascarenhas

          Entendo que o motorista é passivo, mas se o motorista é passivo o carro vai necessariamente obedecer todas as leis de trânsito. Um Google da vida jamais programaria um carro autônomo para avançar sinais, mudar de faixa sem dar a seta etc. Quando o motorista não tem nenhuma ação e o carro tem todas as ações, cabe embutir nessas ações a garantia de que ele vai respeitar todas as leis de trânsito (e até leis próprias, mais rigorosas do que aquelas) para reforçar toda a segurança.

          Dito isso, proteger o motorista (que está seguindo as leis até o momento do mau funcionamento do carro) antes de proteger os pedestres significa concentrar o direito de viver entre a parte da população que tem dinheiro para comprar (e manter?) um carro autônomo, o que é uma caricatura mórbida do capitalismo. Achei mais elegante tratar o carro autônomo como uma máquina que veio para tornar o trânsito mais seguro para todos, priorizando a justiça e não a posse do próprio veículo.

          • MJuliani

            Entendo seu ponto, mas o problema desses dilemas éticos quando são transportados para a realidade não tem fundamento e a lógica se perde ou se abrem muitas premissas para que continue. Portanto além deste ponto acho que são apenas conjecturas que não levam a resultados práticos.
            Este dilema foi claramente desenhado para que definíssemos a prioridade (valor) de cada pessoa em detrimento a outra.
            Se for resumir nesse ponto concordo com você, salve quem obedece às leis de trânsito e se for inevitável sacrifique os outros se considerar nenhum outro ponto.

  • Fabio Montarroios

    Pelo q eu ando lendo sobre o assunto, aparentemente não vai ser tão simples colocar os carros autônomos para funcionar, mesmo com eles sendo mais seguros de um modo geral, as cidades vão precisar antes de muita adaptação a eles.

    Mas o q me incomoda nesses testes são os falsos dilemas… Salvar cão/cachorro ou um assaltante e um bebê em carrinho de bebê? Me parece óbvio, mas acho curioso colocarem um assaltante (q aqui no Brasil muita gente quer q o carro seja programado pra depois de matar dar ré até virar um suco) e um bebê q não tem nada q ver com o mundo ainda estarem na mesma situação q por conta do bebê e só por conta dele, os humanos, mesmo os desprovidos de humanidade, sejam salvos…

    E eu acho isso muito sinuoso de um modo geral. Se os carros tiverem um limite de velocidade, mesmo com falha nos freios, a chances das pessoas saírem vivas num atropelamento aumenta exponencialmente. Mas esse dilema ‘velocidade alta vs velocidade baixa’ não é posto pelo MIT q trabalha em parceria, por exemplo, com a Ford no desenvolvimento de carros autônomos. E se fulano resolve andar de carro, q é um meio de transporte q tem seus riscos para passageiros e para pedestres, ele deve assumir a maior cota de responsabilidade caso algo saia errado, não? Pq o embarcado no carro, se não tiver problemas de locomoção, poderia usar outros meios q envolvem menos riscos, como andar, bicicleta ou trasporte público apartado… Mas isso tb não é posto.

    E qdo eles colocam esses dilemas, q vão transferir às pessoas, vc vê q a segurança não está na pauta e sim apenas abrir caminho pra indústria colocar seus carros na rua e:

    “as consequências?, bem, tem esse programinha ai q salva vidas, algumas, pq, bem, um carro q chega a 220 khm, bonitão e fodão, se der defeito, bem, defeitos acontecem, né?, ninguém segura, daí é melhor vc dar opções, graças ao programinha, dele matar A ou B e q de preferência mate aqueles q causam menos prejuízo social, por assim dizer, bem, tem médicos q fazem apologia da morte, né?, mas, ah, não tem como o carro saber desses detalhes se ele não tiver conectado no facebook, então, bem, vamos pensar numa atualização desse programinha aí depois, né?”.

    Tão preparando o terreno… e a indústria automobilística é bem cheia das traquinagens…

    http://moralmachine.mit.edu/hl/pt/results/1303890408

  • Thavi Lang

    As perguntas da viga de concreto não são absolutas, basicamente pq tu pode fazer o carro bater de uma forma que ngm morra.

  • Ramon Gonzalez

    Eu sei que tem alguns casos que realmente o acidente é inevitável, mas os pesquisadores não deveria estar mais focados em realmente evitá-lo a todo custo (digo reduzir drasticamente as chances dele ocorrer, já que reduzir a zero é impossível) ao invés de pesquisar quem o carro deve “escolher atingir”? Digo apelar mesmo, tipo incluir airbags gigantes externos (bizarro, mas funcional); sistemas de freio absurdamente potentes e usando técnicas diferentes de frenagem funcionando em conjunto; velocidades máximas reduzidas em determinadas circunstâncias (como em locais onde existem pedestres a uma pequena distância (uma via de alta velocidade provavelmente não teria pedestres, por exemplo, então não falo disso); melhorar o sistema de análise de situações com sensores e algoritmos mais inteligentes pra tentar prever (e evitar!) com o máximo de antecedência possível qualquer tipo de acidente; etc. Ou acham simplesmente que carros autônomos precisam ser criados e liberados ao público o mais rápido possível em detrimento da segurança (interesses envolvidos)?

    PS.: Parabéns pela excelente matéria!!

  • Carlin

    Bom posso estar levando a discussão para um caminho complicado e um tanto quanto tendencioso, mais infelizmente (felizmente?) creio que assim que surgirem acidentes com carros autônomos (embora sejam poucos, assim espero) e situações como estas estiverem acontecendo, prevejo uma enxurrada de protestos, onde um dos argumentos serão, “ele era um medico/executivo, aquele estava na rua esquecido pela sociedade / aquele possuía tudo, aquele não tinha nada / quem deu ao carro o poder de escolher quem morre e quem vive”, assim já da pra imaginar a situação “caótica” graças ao fato de pormos pra fora a nossa forma de pensar quando somos nós que estamos no controle de carro/moto em situações como essas!

    Complicado, imagino!

    • Fabio Montarroios

      Morre tanta gente hj… E não há protestos, então, só se for em outro país isso que vc imagina. Na Holanda, os protestos, por conta de centenas de mortes e não milhares como aqui, culminaram em ciclovias. Pelo menos em SP, as pessoas detestam ciclovias e querem mais velocidade, menos multas etc… Ou seja, é outro mundo.

  • Henrique Matheus

    Eu achei pessimista a pesquisa em si, porque ao invés de procurarem uma solução para o problema do sistema de freio estão tentando fazer uma escolha autônoma no pior cenário possível, a morte????

    • Fabio Montarroios

      A mim me parede q é mais fácil vc preparar as pessoas para aceitarem os acidentes do q tentar evitá-los. É uma indústria q precisa se reinventar pra continuar existindo, então usar o MIT pra um singelo teste moral é, de alguma forma, conseguir uma chancela preciosa. E, ora, é o MIT e uma das indústrias mais influentes dos mundo… Não é pouca coisa a move esse tipo o de teste. E ele está até em português… Uma língua bem pouco influente no mundo.

  • O que me deu muita preguiça até de terminar o teste é que é um teste apenas moral. Essa roupagem de tecnologia é pura bobagem no cenário atual e no cenário que ele imagina. Não tem lógica pensar que o carro vai “saber” quem é um bandido ou médico. E se ele de alguma forma for equipado com uma tecnologia que “sabe” isso (lê a roupagem das pessoas), então aí tem problemas morais e filosóficos muito maiores nessa outra tecnologia imaginária. Achei perda de tempo até porque esse tipo de teste já não é novidade.

  • Marcogro

    Bom depois de pensar muito (Hehehe)… Se vai ter morrer alguém e se todos humanos devem ser tratados como iguais… Se houver duas pessoas na faixa e puder escolher entre uma ou outra ou se derrapando e de lado o carro puder pegar as duas, acredito que pegando as duas acaba o dilema. ;’)

  • Josiel Hen

    http://moralmachine.mit.edu/hl/pt/results/254122011
    Aparentemente, eu prefiro salvar os desabrigados ao invés de todos os outros, também não dou a minima para os animais se colocados na balança contra humanos, me importo em salvar o maior números de pessoas, mas nem tanto, não me importo como deveria no quesito “salvar os passageiros” (nesse, explico, as pessoas que estão no horizonte de eventos, de certa forma, não devem ser responsabilizadas pelo erro do veiculo autônomo do ou dos passageiros), leis importam mais que a media pra mim, assim como evitar uma intervenção no curso, minha preferencia por gênero é igual a “nulo” e, como já disse, prefiro a vida humana que a animal, assim como a idosa mais que a jovem, e não sei como, mas, em certo ponto da pesquisa eu apenas imaginei o fato ocorrendo sem me importar com a descrição, e isso fez com que eu atribuísse preferencia máxima para as pessoas atléticas, mesmo eu não sendo uma. Já em valor social, pouco importou, no final, mesmo que nas peguntas individuais isso importasse.

  • Felipe Diego Oliveira

    Obediência as leis é primordial como qualquer sistema oa seres humanos tem que entender que devem fazer parte do conjunto de regras que a maquina estará seguindo. Como a máquina dificilmente irá se induzir ao erro cabe aos humanos serem a parte pensante do sistema. Nas minhas respostas procurei ser coerente com 2 fatores: Obediência as leis; E o óbvio, não fique no caminho de um objeto de grande massa em movimento. Ou seja bom senso.

  • Felipe Diego Oliveira

    Agora, ninguém, eu digo ninguém vai comprar um carro que vai matar o motorista, no fim das contas a indústria vai simplesmente decidir em sempre proteger os ocupantes, pq o ser humano eh assim, se fosse vc ali dentro aceitaria de boa a máquina decidindo em te matar ? ninguém vai comprar um carro assassino de motorista, pega mal pro marketing.

    • Fabio Montarroios

      Pelo q eu saiba, no Brasil, as pessoas não dão muita pelo pra crash test, então elas já compram carros que podem matá-las. E, pior, de um jeito bem terrível.

  • Daniel Drumond

    Vale lembrar que quem está desobedecendo as leis de trânsito, *geralmente* vai estar prestando mais atenção, logo teria menos chances de morrer.

    No primeiro caso exposto, eu iria pro lado dos que estavam atravessando erroneamente, pois em teoria estariam mais atentos a um carro passar. Ao atravessar em um sinal aberto pra você, como pedestre, geralmente você presta bem menos atenção.

  • Poluty Ytulop

    O ‘julgar’, regular por mais ou menos, foge da preservação.
    Um ‘celebro’ randômico, não traduz a resposta certa, diante de
    incertezas. Diante de incerteza(s), errado, qualquer resolução. Por mais
    que seja a probabilidade, ela existe, e como tal, uma resposta correta.

  • Gabs

    Sejamos sinceros (de verdade).. Se fosse na situação de 1xmuitos, até que teria a desculpa do bem maior, mas numa situação de 1×1, quem compraria um carro que escolheria te matar??

  • Magno Dias

    Matar uma menina e um homem que estão desobedecendo à lei e atravessando no sinal vermelho para pedestres.
    Seguir em frente e matar dois homens, uma mulher, um criminoso e uma pessoa desabrigada;