Linda Baker, da FreightWaves, entrou em contato comigo por e-mail para me perguntar sobre os hacks realizados pelo Keen Security Lab, um laboratório de segurança pertencente à gigante de tecnologia chinesa Tencent, nos sistemas de assistência à condução da Tesla, que incluíam enganar o sistema de controle do limpador de pára-brisa e a faixa controle de mudança. Em 3 de abril, a FreightWaves publicou um artigo intitulado “Pesquisadores enganam o piloto automático da Tesla usando adesivos na estrada” (pdf), citando-me.

Os hacks em questão, que incluíram a exibição de uma série de imagens na câmera frontal do Tesla que o mecanismo do limpador de pára-brisa identificou como chuva ou, mais perigosamente, colocando três pequenos adesivos brancos em uma estrada, que marcavam o veículo para mudar de faixa. levar a Tesla a considerar como proteger seus veículos contra tais eventualidades, mas, como tal, eles não questionam a segurança dos veículos da empresa, nem devem se qualificar para o programa de recompensas de bugs da empresa, razão pela qual eles se tornaram notícia. .

Nenhum sistema pode ser protegido contra todas as eventualidades e os limites devem ser definidos. Como eu comentei com Linda, colocar adesivos em uma estrada para enganar os sensores de um veículo é mais como montar uma armadilha ou algo que Wile E. Coyote tentaria do que algo que poderia acontecer em circunstâncias normais. Dito isto, se for possível fazê-lo, então uma investigação mais aprofundada é justificada. Os hacks não questionam de forma alguma a segurança da condução autônoma; não importa o quanto a Tesla ou qualquer outra empresa tente, não é possível proteger um sistema contra todas as ideias que um especialista em segurança possa apresentar, e o limite, na minha opinião, é modificar o ambiente da estrada.

Abaixo, o texto completo das perguntas e respostas da minha conversa com Linda:

P. Como respeitável é Tencent?
A R. Tencent é um grande conglomerado de investimentos em multinacionais chinesas fundado em 1998, uma das maiores corporações da China. A Tencent é a maior empresa de jogos do mundo, um dos conglomerados de tecnologia mais valiosos do mundo, uma das maiores empresas de mídia social do mundo (a rede social Chines e o portal QQ, entre outros) e uma das maiores corporações de investimento e capital de risco do mundo. Seus serviços incluem redes sociais, música, portais, e-commerce, jogos para celular, serviços de internet, sistemas de pagamento, smartphones e jogos on-line multiplayer, que estão entre os maiores e mais bem sucedidos do mundo em suas categorias. O Keen Security Lab é uma das partes importantes da Tencent Security e concentra-se na pesquisa de segurança de ponta dos principais sistemas operacionais de PC / Mobile, aplicativos, tecnologias de computação em nuvem, dispositivos inteligentes IOT, etc.
P. Quão significativas são as descobertas da Tencent sobre ser capaz de comandar o sistema de direção Tesla e confundir o sistema de identificação de pista?
R. Mudanças e alterações no ambiente físico são geralmente consideradas fora do escopo de ataques contra sistemas autônomos. Os projetistas de um sistema não podem antecipar todas as possíveis mudanças artificiais que poderiam ser feitas ao ambiente para provocar um determinado comportamento.
P. Tesla diz que este relatório não é elegível para o seu programa de recompensas de bugs. Os programas de recompensa de bugs são suficientes para detectar bugs de software, especialmente em veículos autônomos?
Os programas de recompensas R. Bug são altamente recomendáveis ​​para apresentar problemas externos e problemas. Pagar às pessoas para solucionar problemas de sistemas de computadores é agora considerado uma parte cada vez mais importante da segurança das organizações, e elas são importantes em termos de eficácia e reputação. No entanto, a questão descoberta pelo Tencent Keen Security Lab não é um bug, nem um problema com o software ou uma limitação do hardware, mas a modificação proposital de uma estrada, mais parecida com uma armadilha. As descobertas são interessantes e podem merecer algumas ações da Tesla, a fim de melhorar o comportamento do veículo sob certas circunstâncias, mas mudanças e alterações no ambiente físico são geralmente consideradas fora do escopo de ataques contra sistemas de auto-direção, porque seria extremamente difícil estabelecer um limite adequado para este tipo de intervenções.