Somos continuamente confrontados com notícias de fabricantes automóveis que preparam sistemas de condução autónoma que dispensarão a necessidade de condutores - algo que irá certamente contribuir para o aumento da segurança rodoviária e a drástica redução de acidentes - mas é um tema que também permite abordar algumas perspectivas curiosas que inevitavelmente teremos que enfrentar e discutir. Como por exemplo: deverá um carro autónomo decidir matar uma pessoa para salvar outras duas?
É uma questão que alguns poderão querer nem abordar, mas que nos faz pensar em situações que se poderão tornar bem reais. Os automóveis autónomos poderão ser "praticamente" à prova de acidentes, estando continuamente atentos sobre tudo o que os rodeia e antecipando todas as situações de risco, mas os acidentes inesperados acontecem, e quando acontecerem nem sequer o seu elevado poder de processamento poderá contornar as leis da física de um veículo que poderá estar a circular a mais de 100Km/h numa via repleta de outros veículos.
O que podem fazer - e muito melhor que nós - é contabilizarem e considerarem todas as hipóteses possíveis para minimizarem os danos e maximizarem as probabilidades de sobrevivência dos ocupantes, o que nos leva à questão inicial: e se nessas deliberações se der o caso de o veículo ter que optar entre salvar ou matar duas ou mais pessoas?
Por exemplo, imagine-se um caso hipotético onde o rebentamento de um pneu faz com que o carro tenha que optar entre cair por um penhasco abaixo com 0% de probabilidade de sobrevivência, e chocar de frente com um veículo que viajava em sentido contrário, transportando um casal inocente, com probabilidades elevadas de lhes causar graves danos ou até a morte?
Como lidar com esta questão, que para um humano não seria pertinente, pois aconteceria numa fracção de segundo na qual apenas reagiria "por instinto" e sem consciência?
Será que passaremos a ter uma classificação atribuída a cada pessoa, da sua importância, fazendo com que um CEO de uma empresa terá mais valor que um condutor "anónimo"? Será que levar crianças no carro nos poderá dar melhor "pontuação" para que em caso de acidente os restantes veículos nos dêem prioridade? Ou chegaremos a um futuro onde a lista de sobreviventes prioritários dependerá de coisas como a quantidade de likes ou "+1" que tem nas redes sociais?
Uma coisa é certa, se subitamente virmos que carros autónomos de determinadas marcas fazem todos os possíveis para evitar chocar com veículos da mesma marca, preferindo chocar com veículos das marcas concorrentes... talvez seja o momento para exigir que o software de controlo dos automóveis seja disponibilizado como open-source, para que se possa ver o que passa por trás da sua inteligência electrónica.
[via popsci]
A resposta foi dada por Asimov. As leis da robótica tinham isso bem definido.
ResponderEliminarNão, as 3 leis da robótica não respondem a esta questão entre ter que escolher entre matar alguém para salvar outro alguém.
EliminarBem, nesse caso... segundo as leis da robótica o carro não poderia matar ninguém... mesmo que fosse para salvar outras mais pessoas... porque estaria a violar a 1ª Lei...
ResponderEliminar1ª Lei: Um robô não pode ferir um ser humano ou, por inação, permitir que um ser humano sofra algum mal.
2ª Lei: Um robô deve obedecer as ordens que lhe sejam dadas por seres humanos exceto nos casos em que tais ordens entrem em conflito com a Primeira Lei.
Pois, mas aqui não teria "hipótese" de não decidir: fizesse o que fizesse iria matar alguém. A questão é se tentaria minimizar os danos, ou não. Ao não "matar" o condutor, estaria a matar outra(s) pessoa(s); ao evitar a morte de mais pessoas estaria a "matar" o condutor.
Eliminar... O mais certo seria resultar num blue screen a tentar chegar a alguma conclusão. :)
Penso que vai passar por proteger os ocupantes prioritariamente. Vocês comprariam um carro autónomo que não desse sempre prioridade à segurança dos ocupantes?
EliminarPenso que vai passar por proteger os ocupantes prioritariamente. Vocês comprariam um carro autónomo que não desse sempre prioridade à segurança dos ocupantes?
EliminarEste comentário foi removido pelo autor.
Eliminar"o carro não poderia matar ninguém... mesmo que fosse para salvar outras mais pessoas"
Eliminarlol pois, mas ao não salvar as pessoas está a matá-las ou como a 1a lei diz "permitir que um ser humano sofra algum mal" ou seja, também esta a quebrar a sua 1a lei, é isso que o Carlos quer dizer, das duas maneiras ele ia quebrar a lei, e aí está a pergunta o que é que o carro ia fazer?
Sinceramente acho que deveria num caso desses ir sempre para a escolha com maior probabilidade de sobrevivência.
No precipício se não tinha hipóteses de sobreviver e a única outra opção era guinar por exemplo então para a outra faixa que vinha um carro, essa segunda é muito melhor, pois na verdade o outro carro também se ia depois fazer a sua escolha, se calhar batiam e morriam todos, se calhar batiam e não morria ninguém e se calhar nem batiam etc etc.
Eu acho que essa questão não deveria ser sequer equacionada por uma máquina.
ResponderEliminarNo caso, o carro devia simplesmente tentar proteger ao máximo os ocupantes, independentemente do resultado. Ponto final.
Creio que näo há uma resposta correcta, mas no caso dum carro com X passageiros ir atropelar 1 pessoa, é indiferente o valor X porque o software vai dizer "desviar para evitar atropelamento". Se isso implicar que o carro caia duma ribanceira...paciencia.
ResponderEliminarIsso tem um fundamento teórico semelhante: estäo 10 carros (total 10 ou mais pessoas) que querem passar numa rua com passadeira, e vai 1 pessoa atravessar. Passam os 10 ou passa 1 peäo? Resposta: passa o peäo. Porque? Quem vai FORA do carro (na passadeira) tem prioridade.
Quanto a acidentes carro-carro isso é mais complicado, mas acho que a decisao é carro/carro e näo o seu conteúdo.
Provavelmente irá iniciar o protocolo GTA e depois analisa qual das situações gera maior "highscore" :)
ResponderEliminarIsto é um assunto que junta o metafísico com inteligência artificial e eu creio que esse conflito não pode existir sequer numa máquina, qualquer que sejam as leis utilizadas.
Hal 9000:
ResponderEliminarDave, I'm afraid Dave...
Acho que o carro deve priorizar a sobrevivência dos seus ocupantes. No entanto, o outro carro também o fará, e claro o carro com problemas poderia automaticamente comunicar com os outros. Quem sabe se não se criaria uma situação com múltiplos carros a trabalhar em conjunto para que ninguém morra. :)
ResponderEliminarNa minha opinião, nada mais errado que essa questão de probabilidades de sobrevivência.
ResponderEliminarPorquê? Porque são apenas probabilidades. E a escolha no final, poderia revelar-se a pior de todas. Afinal as duas com mais probabilidade poderiam acabar por morrer e a com menos, poderia salvar-se.
Uma coisa é certa, o "computador" vai continuar sem saber qual o estado final da pessoa antes do acidente se dar. Logo, não pode tomar uma decisão sobre o qual não sabe. Já vi muito acidente da "caca" dar em ferimentos graves... E aquele acidente bem "espalhafatoso" não dar em nada ou todas as pessoas se admirarem como se salvaram.
Eu faria outra pergunta. Se estamos num cenários em que todos os automóveis são autónomos, conhecendo as leis da física, sabendo que a via está repleta de veículos, porque motivo estaria a circular a uma velocidade perigosa desafiando as leis da física? :P Não vai já contra a 1ª lei?
São questões hipotéticas. :)
EliminarO carro bem pode considerar tudo o que vai na via para circular em segurança, com margens de segurança para rebentamento de pneus e tudo o mais... e algo inesperado acontece: cai um avião no meio da estrada.
Já vi que aqui a malta gosta muito do seu umbigo. "deve sempre salvaguardar os ocupantes do carro"
ResponderEliminarOra bem, o carro vai em rota de colisão com uma árvore, e nem vai muito depressa, a única alternativa possível é atropelar uma grupo de crianças em idade pré escolar que se encontram no passeio a brincar. Na vossa opinião o carro deve sempre optar por não fazer dói-dói no condutor!! Claro que não, nem poderia ser programado de tal forma. Quantas pessoas já não espetaram o carro para não atropelarem outras pessoas??
É uma questão bastante pertinente, a partir do momento em que a decisão deixe de ser do humano (que pode ser responsabilizado e até condenado por ela) e passe a ser de uma máquina.
Deixem ver se entendi, a questão é, se um automóvel autónomo numa situação de rebentamento de um pneu deve decidir se: ou manda o carro por uma ravina ou se bate contra outro automóvel também este "inteligente" vitimando outras pessoas?.
ResponderEliminarEntão vamos analisar isto, o pneu rebentou porque? falta de pressão? pressão em excesso? pneu danificado ou defeituoso? objecto na via?.
No caso da pressão ser em excesso ou em falta, não é necessário imaginar cenários hipotéticos pois isso já existe e se já existe e falando de um carro 100% autónomo o que este deveria ter feito era corrigir a pressão. O pneu esta danificado ou defeituoso? o automóvel deveria ter providenciado a substituição do elemento e/ou nunca deveria mesmo que durante o trajecto para a substituição a velocidade de segurança não permitiria que o carro circula-se a essa velocidade. Objecto na estrada? e então onde estão todos os satélites, câmaras e sensores existentes ao longo da via, assim como a telecomunicações entre veículos a comunicar o dito objecto ou irregularidade no pavimento???.
E já agora embater contra outra viatura sendo esta também autónoma e com Inteligência Artificial, esta por sua vez não identificaria a anomalia e analisado a trajectória antecipadamente da viatura descontrolada e corrigido o seu trajecto de forma a evitar a colisão??? Sem que por sua vez a viatura com o pneu danificado tivesse lançado um alerta e obrigar a que os outros veículos quer no mesmo sentido quer em sentido contrario activassem o protocolo de segurança em que os obriga-se a reduzir a velocidade e desobstruíssem a via de forma a deixar passar um veiculo em emergência como por exemplo numa situação equiparada a uma ambulância?.
E já agora pneus? se já o Maglev (comboio de alta velocidade chinês) flutua mediante um campo magnético no nosso futuro onde os automóveis autónomos não poderão recorrer da mesma tecnologia? ou se não quiserem complicar tanto, já ouviram falar de pneus anti furo ou run-flat?.
Isto são só algumas ideias mas talvez esse problema não se coloque
A situação do pneu foi apenas um exemplo. :) Imagines todas as possibilidades que imaginares, haverá sempre acontecimentos imprevisíveis, e este é um caso de este tipo de situação - depois de todas as considerações possíveis que pudessem evitar, pelo carro sozinho ou em conjunto com múltiplos outros veículos e sistemas de segurança, se viesse a resumir à dita questão.
EliminarEu acho que cada carro que salve seu ocupante
ResponderEliminar