2019/11/10

Sistema autónomo da Uber viu mas ignorou peão no atropelamento fatal


O relatório sobre o atropelamento mortal de um dos automóveis autónomos da Uber em 2018 vem mostrar um cenário bastante complicado nos sistemas de condução autónoma, que ultimamente poderá levar a Uber a desistir do seu projecto e recorrer à tecnologia da Waymo.

O sistema da Uber, que estava em funcionamento no momento do acidente (com o condutor distraído a ver vídeos no smartphone em vez de estar a olhar para a estrada como devia), foi capaz de detectar que havia algo na estrada, mas estava deliberadamente programado com uma série de regras que roçam o surreal!

O relatório da NTSB (National Transportation Safety Board) refere que o sistema detectou a mulher que seguia a pé com uma bicicleta pela mão, mas não a identificou como sendo um peão nem reconheceu que estava em processo de atravessar a estrada. Quando finalmente detectou que estava em rota de colisão com um peão, 1.2 segundos antes do impacto, não efectuou nenhuma travagem de emergência; em vez disso, estava programado para aguardar 1 segundo, enquanto alertava o condutor (uma medida que a Uber justificou como forma para evitar travagens abruptas em caso de falsas detecções).

Mas, para cúmulo, mesmo no caso do condutor não reagir no espaço de um segundo, a Uber tinha implementado um sistema de protecção adicional, que fazia com que, no caso de já ser impossível evitar a colisão, o carro optasse por não fazer uma travagem com a força máxima, mas apenas uma travagem mais progressiva!



Ou seja, o sistema da Uber estava especificamente programado para que, mesmo no caso de saber que estava perante uma colisão iminente, não actuar com a força de travagem máxima, mas sim "deixar ir"!

Ora, é certo que há atenuantes. Era um carro de desenvolvimento, que deveria ter um condutor que estivesse atento e tivesse visto a pessoa a atravessar a estrada e reagido atempadamente. Ninguém quer seguir num carro em condução autónoma, ou semi-autónoma, e levar com uma travagem de emergência inusitada porque o carro achou que um cartaz ao lado da estrada era um peão, ou que a sombra de uma ponte era um obstáculo (e são coisas que acontecem) - para além do risco adicional de poder provocar um acidente com os carros que circulem atrás de si. Por outro lado... não podemos chegar a este ponto da Uber, de achar que, já que vai bater, então que não incomode os passageiros e deixe bater.

Com este caso, e outro que determinou que afinal ainda estão a usar tecnologia roubada da Waymo, a Uber pode acabar por ser forçada a simplesmente licenciar a sua tecnologia e aproveitar toda a experiência já acumulada (e que entre milhões de quilómetros já percorridos, não inclui nenhum atropelamento).

Sem comentários:

Enviar um comentário (problemas a comentar?)

[pub]