2020/01/29

Projectores podem enganar o Autopilot da Tesla


Elon Musk tem garantido que a condução autónoma poderá ser feita apenas com câmaras, mas agora temos quem demonstre como é fácil enganar o Autopilot usando um projector de baixo custo.

Um investigador que se tem dedicado a encontrar formas de enganar o sistema de piloto automático da Mobileye decidiu por à prova um Tesla Model X, com resultados pouco abonatórios. O objectivo é tentar enganar o sistema, e para isso recorre a projectores para criar imagens falsas na estrada, como pessoas, automóveis, linhas, ou até sinais de trânsito.

Como seria de esperar, o Autopilot fica baralhado quando "vê" imagens de uma suposta pessoa ou veículo na estrada, identificando-os como se fossem reais e reagindo em conformidade, com travagens ou tentando seguir as linhas falsas (potencialmente ficando na via contrária). Não menos curioso é que no caso dos sinais de trânsito, o sistema é capaz de reagir mesmo no caso em que se tratem de coisas como um sinal de limite de velocidade que seja apresentando durante uma fracção de segundo, de forma quase imperceptível para um humano, mas que é reconhecido e obedecido pelo Autopilot.

... Sabem o que podia ajudar a resolver estas situações de imagens fantasma? O tal LIDAR que Elon Musk considera ser completamente desnecessário. ;)


4 comentários:

  1. Acho boa idea realmente usarem LIDAR mas porra, vamos falar a sério... Isto não é um problema real. É um chamado "non-issue". Ou acham mesmo que vai andar por aí pessoal com projectores montados para enganar os carros?

    ResponderEliminar
    Respostas
    1. Pode ser usados por ladrões para forçar um carro tesla parar e depois assaltar ou sequestrar pessoas importantes, tem que ser pensado nesses problemas, trabalho como adm de rede desde 1998 e posso dizer que hackers e bandidos inventam tudo que for possivel para prejudicar e poder tirar vantagem dos outros

      Eliminar
    2. Porque não tens maneiras de fazer o mesmo com um carro "normal"... Volto a dizer, é um "non-issue".

      Eliminar
    3. O ponto não é esse. Se quisermos falar de condução autónoma grau 4 ou 5, estes sistemas têm que garantir fiabilidade de 99,(9) com bastantes 9. Mais até do que a falibilidade do ser humano caso contrário vão senpre cair em cima do sistena qd acontecer qq coisa. Isso implica resistir a situações muito improváveis, a yriqes, etc. Por isso isto revela que o sistema não está no ponto.

      Eliminar

[pub]