O Autopilot da Tesla pode ser bastante útil em muitas circunstâncias, mas precisa ser vigiado atentamente, como demonstram uns investigadores com uns pequenos autocolantes capazes de fazer o automóvel virar para onde não deve.
Relembrando os muitos motivos que aconselham cautela antes de se confiar cegamente num sistema de piloto automático como o da Tesla, um grupo de investigadores decidiu por à prova as capacidades do sistema de AI que controla o Autopilot da Tesla (pdf link).
Para além de terem explorado as possibilidades de interferir com o funcionamento do carro quando se tem acesso ao seu barramento de comunicações interno, a parte mais interessante - e também preocupante - surge com a possibilidade de se poder enganar o Autopilot usando pequenas marcas na estrada.
Usando marcas que seriam quase imperceptíveis aos condutores humanos, estes investigadores conseguiram fazer com que o sistema Autopilot acreditasse estar a ver uma linha contínua na estrada.
A preocupação advém do facto de que isto pode ser feito sem que se precise de ter acesso físico ao carro, e permitindo manipular estradas de modo a que o Autopilot possa mudar de via sem motivo aparente, ao pensar que está simplesmente a seguir as linhas (inexistentes) na estrada.
À medida que mais Teslas e carros com sistemas de condução idênticos chegarem às estradas, suspeito que será apenas uma questão de tempo até que comecem a surgir casos deliberados que tentem tirar partido destas falhas.
Sem comentários:
Enviar um comentário (problemas a comentar?)