Início » Carro » Tecnocast 033 – Programados para matar

Tecnocast 033 – Programados para matar

Thiago Mobilon Por

Engenheiros estão enfrentando dilemas éticos no desenvolvimento dos sistemas de carros autônomos – eles precisam ser programados para matar. Mais do que isso, precisam decidir qual vida é mais importante, em caso de uma colisão iminente.

033

E aí, como vocês acham que os carros deveriam agir em uma situação desse tipo? E como seria um mundo onde todos os carros nas ruas fossem "auto-dirigíveis"?

Cabeças explodirão. Dá o play e vem com a gente!

Participantes

Guia Semanal

Caixa Postal

Mande a sua mensagem: [email protected]

Tecnogrupo

Participe do grupo de discussão do TB no Facebook.

Assine o Tecnocast

Edição e Sonorização

O Tecnocast é editado por Rádiofobia Podcast e Multimídia.

Arte da Capa

Arte da capa por Paulo Moraes.

Comentários

Envie uma pergunta

Os mais notáveis

Comentários com a maior pontuação

Eric Souza
Acho que o pessoal do TED-ed anda ouvindo o Tecnocast :) https://www.youtube.com/watch?v=ixIoDYVfKA0
metiane

Excelente epiódio. O tema é muito interessante e de longe foi o episódio do TECNOCAST que eu mais gostei.
Porém acredito que vocês partiram da premissa errada, pois me parece a que a primeira pergunta a ser feita não é qual o algoritmo CORRETO a ser implementado em caso de haver necessidade de escolher entre a vida do proprietário / ocupante do veículo ou de terceiros.
Me parece que a(s) primeira(s) pergunta(s) a ser(em) feita(s) é (são):

1 - Em caso de uma morte provocada por um veículo autonomo, quem responderá penalmente pelo crime e à quem caberá a obrigação de indenizar a família da vítima ?
2 - Em caso de lesões corporais de quem será a obrigação de indenizar a vítima e custear o tratamento médico ?

Como foi dito no episódio me parece que cada veículo será pre-programado com várias opções e caberá ao proprietário fazer as combinações (SETUP) que achar melhor e em razão desse SETUP será aferido o grau de culpa e de responsabilizar do proprietário.

Na esfera cível me parece que tudo será resolvido com SEGUROS, mas é bom lembrar que no Brasil não temo o hábito de contratar seguros e os valores pagos pelo DPVAT são muito baixos e acabam não cobrindo todos os custos.

Então no final a discussão será muito mais econômica e financeira do que moral.

Marcio Etiane
Excelente epiódio. O tema é muito interessante e de longe foi o episódio do TECNOCAST que eu mais gostei. Porém acredito que vocês partiram da premissa errada, pois me parece a que a primeira pergunta a ser feita não é qual o algoritmo CORRETO a ser implementado em caso de haver necessidade de escolher entre a vida do proprietário / ocupante do veículo ou de terceiros. Me parece que a(s) primeira(s) pergunta(s) a ser(em) feita(s) é (são): 1 - Em caso de uma morte provocada por um veículo autonomo, quem responderá penalmente pelo crime e à quem caberá a obrigação de indenizar a família da vítima ? 2 - Em caso de lesões corporais de quem será a obrigação de indenizar a vítima e custear o tratamento médico ? Como foi dito no episódio me parece que cada veículo será pre-programado com várias opções e caberá ao proprietário fazer as combinações (SETUP) que achar melhor e em razão desse SETUP será aferido o grau de culpa e de responsabilizar do proprietário. Na esfera cível me parece que tudo será resolvido com SEGUROS, mas é bom lembrar que no Brasil não temo o hábito de contratar seguros e os valores pagos pelo DPVAT são muito baixos e acabam não cobrindo todos os custos. Então no final a discussão será muito mais econômica e financeira do que moral.
Afonso Alban
Um cenário que achei pouco explorado é que, à medida que todos os carros forem autônomos e os pedestres respeitarem os sinais de trânsito, os acidentes tendem diminuir a zero. As potenciais vítimas seriam apenas pedestres imprudentes.
davi koscianski vidal
Vamos lá. Estou assumindo um monte de coisas: o carro foi bem programado, não há falha mecânica, não há falha de software, o carro foi programado para seguir as leis de trânsito à risca (limites máximo e mínimo de velocidade, sinalização) e o carro tem bons sensores (para visibilidade, condições da via, etc, etc, etc). Ou seja: não é uma situação utópica, mas o mínimo necessário. No cenário que vocês citaram, um grupo de pessoas "surge" na frente do carro e vai haver um acidente. Pelas minhas asserções, é impossível um grupo de pessoas (ou mesmo uma única pessoa) "surgir" na frente do carro*. Então as pessoas se jogaram na frente do carro. Nesse caso, o carro deve passar por cima. Essa é a melhor alternativa e a que minimiza o número de vítimas porquê: - se bater num muro, pode matar alguém que esteja do outro lado do muro e que não tem nada a ver com o peixe; - se bater num muro, pode mater ainda mais pessoas do que "surgiram" na frente do carro; - desviar do grupo de pessoas pode ocasionar um acidente ainda maior com outros carros, potencialmente maximizando o número de vítimas; - bater num poste pode, ainda assim, vitimar o grupo materializado, já que um cabo de alta tensão pode romper e eletrocutar todo mundo; - bater num poste pode cortar o fornecimento de energia por um período difícil de prever. Se houver um hospital próximo e o gerador não aguentar todo o período sem energia... E isso tudo assumindo que estamos num mundo cor-de-rosa. Lembro que está extremamente comum os vídeos de bandidos se jogando na frente de carros em avenidas muito movimentadas para assaltar. Então você não apenas vai se acidentar feio (podendo até morrer), como ainda vai ser assaltado. Resumindo: passa por cima e vida que segue. :)
Ricardo Berlim Fonseca
Concordo, acho que este tema poderia ser aprofundado no futuro com alguns convidados, tanto de programadores de inteligências artificiais envolvidas no tema quanto de especialistas de trânsito. Poderia trazer uma visão além da nossa de consumidor final de transporte.
Ricardo Berlim Fonseca
Dando meus dois centavos de contribuição, acho que na verdade, o carro, autônomo ou não, se tornará um elemento de luxo, visto que, no futuro, o transporte público (provavelmente autônomo, também) deverá alcançar um grau de capilaridade e eficiência que tornaram os carros dispensáveis, pelo menos nos grandes centros. Quanto a comunicação entre os veículos, me preocupa sim são os fatores de proteção dos dados do usuário. A ultima coisa que gostaria seria ter mais dados pessoais rastreados e me identificando de forma única. O google now já é bastante invasivo neste ponto :)
Bruno Alves Siqueira
Cara esta na hora de desenvolver as três leis da robotica! rsrsrsr
Francis Rodrigues

Concordo em partes Thiago, mas veja bem, a palavra final não é do programador, visto que não será ele o representante legal à sociedade a falar sobre esse assunto.

Eu gostaria de ver especialistas de trânsito, médicos e outros especialistas falarem também sobre esse assunto. Sempre quis saber a opinião dessas pessoas.

Francis
Concordo em partes Thiago, mas veja bem, a palavra final não é do programador, visto que não será ele o representante legal à sociedade a falar sobre esse assunto. Eu gostaria de ver especialistas de trânsito, médicos e outros especialistas falarem também sobre esse assunto. Sempre quis saber a opinião dessas pessoas.
Evaldo Maciel
Matheus, eu to falando aquele filha da p*** que acha que é dono do trânsito, o mesmo cara quebra seu retrovisor. Trabalhei em uma empresa que tinha no quadro de funcionários 8 motoboys, só um era educado e responsável, não só no trânsito como na vida. O restante não valia um centavo. No trânsito é da mesma forma, uma minoria é educada no trânsito, em todos os sentidos da palavra. O restante, repito, não vale um centavo. A minha atual empresa tem apenas um motoboy que também se acha o dono da rua. Ridículo. Por outro lado já bateu um papo com motociclistas de verdade? Aqueles de moto clube. Os caras são educados, parceiros, muito gente boa. Então vamos resumir para uma criança de 4 anos entender: Motociclistas = bom, muito bom. Motoboys = malvados, muito malvados, nada bons.
Thiago Mobilon
Você tem razão em apenas um ponto: 17 segundos a 100 km/h dá 472 metros. São 27 metros por segundo (e foi aí que eu fiz a confusão). De resto, seu comentário foi tão estúpido e prepotente que eu prefiro fingir que não existiu.
Thiago Mobilon
"Na minha opinião esse assunto não será discutido por vocês e sim por profissionais de trânsito, direito civil e profissionais da saúde" – Esse assunto DEVE ser discutido não apenas por nós, mas por todos. Não se trata apenas de uma decisão técnica e sim ética e moral. E aí não é matemática: não existe apenas uma resposta correta para o problema. Por isso é importante saber qual é a mais aceita pela maior parte da sociedade.
Matheus Gonçalves
"Se for motoboy espero que o carro passe por cima, motoboy emgeral não é motociclista." - Você tá falando isso sério?
Evaldo Maciel
Vamos por ordem. Se for motoboy espero que o carro passe por cima, motoboy em geral não é motociclista. Essa atualização da Tesla não foi feita sozinho, ela é beta, os proprietários dos carros precisavam autorizar a atualização e vou explicar o motivo. A atualização beta da Tesla causou uma serie de acidentes, porem, no "read me" da atualização dizia que não era um sistema 100% autônomo, dependida da assistência do condutor, era apenas um experimento e as pessoas que a fizessem a atualização estariam auxiliando a Tesla a desenvolver uma nova solução. Porém muitas pessoas atualizaram se ler as especificações, acreditando que a partir daquele momento o carro dirigiria sozinho, completamente autônomo e seguro, mas desde o inicio dizia, é beta. Com isso situações horríveis aconteceram. A Tesla foi processada por várias pessoas, mas venceu todos os processos já que as pessoas clicaram em "aceito" no final do texto de "termos de uso". Carro manual é algo absurdo? De que adianta ter um carro com mais de 250cv se você não sente a emoção de controlar essa máquina na pista? Carro automático é legal no dia a dia, no trânsito. Na estrada, quando você quer diversão não é legal. Façamos o seguinte, pegue seu carrinho automático, autônomo, tanto faz, coloque ele no autódromo ao lado do meu e vamos ver quem se diverte mais. Sobre a capacidade de decisão dos carros autônomos, imagem um mundo perfeito com ao menos 65% de carros 100% autônomos, sem interferência de usuário. Os carros iram permanecer no limite de velocidade, isso já o suficiente para evitar um acidente grave. No máximo aconteceram um atropelamento, mas sem ferimentos de maior gravidade, isso ja descartando possíveis colisões com carros não autônomos. NHTSA - 17 segundos à 100 km/h é o suficiente para percorrer 472 metros e não apenas 27 metros como foi dito. Carro 100% autonomo não vai existir, não tem como, você sempre definirá o que o carro fará, imagine você na querendo para o carro 1m a frente de onde ele julgue o melhor lugar, caberá a você definir isso, não ao carro. Sobre situações de obras. Não sei se perceberam, mas o Google Maps já indica quando há obras em alguma parte do seu percurso, se isso já é realidade acredito que o carros automos do Google já sabem como lidar com obras na pista. Esse moleque é bom, esse moleque é bom: Enquanto não houver uma boa quantidade de carros automonos eles não pode ser 100% autonos. Vocês fizeram uma confusão ao dizer que um carro não pode ser autonomo se tiver controle manual, um carro pode ser autonomo e ter controle manual, cabe ao próprietario definir se irá preferir que o carro direje sozinho, se alguém vai diriger e o carro apenas auxiliará para evitar acidente, ou, essa é a minha preferida, se o próprietario irá dirigir o seu carro totalmente manual, mas na eventualidade do veículo ser utilizado pela esposa dele, a namorada, o filho, o pai, enfim, alguém que ele não confie em deixar dirigir sozinho, você ativa o controle 100% autonomo e empresta seu carro para alguém. :P Sobre os taxis. Adeus taxistas, não vou sentir falta de vocês seus put*s. Sinal laranja? Laranja? Daltônico
Exibir mais comentários