Os testes de veículos autônomos são um risco público? | doug newcomb

No início da Internet, alguém poderia esperar trolling e cyberbullying - e que um futuro POTUS se envolveria com a nação de 140 caracteres na época? Pode ser difícil antecipar as desvantagens das novas tecnologias revolucionárias.

Entre as possíveis desvantagens de veículos autônomos - incluindo enormes perdas de empregos entre motoristas comerciais e possivelmente ainda mais tráfego de robôs-táxis - está o chamado "problema do carrinho". Isso se refere a decisões éticas que um carro autônomo terá que tomar quando confrontado com situações sem vitória, como atropelar um indivíduo que se arrisca em seu caminho em uma rua estreita e movimentada da cidade ou desviar para um dos lados e atacar pedestres na calçada.

Embora o professor de filosofia da California Polytechnic State University, Patrick Lin, tenha realizado testes no mundo real sobre esse dilema em conjunto com o Center for Automotive Research, em Stanford, ele reconhece que "algo parece desonesto sobre o pânico moral sobre carros autônomos" e o problema do carrinho, uma vez que o cenário é tão absurdo. Mas, como Lin ressalta, diferentemente de outras tecnologias, o teste de veículos autônomos na via pública pode ter um impacto negativo imediato na sociedade.

Fica complicado

Lin sustenta que, embora os desenvolvedores de tecnologia tipicamente testem novos produtos e recursos com poucas restrições e leis, "fica complicado quando o software interage diretamente com o mundo físico em geral" - nesse caso, ao controlar uma máquina de várias toneladas em público. Lin afirma que, no caso de testes de veículos autônomos em vias públicas, "os produtos não afetam diretamente apenas os usuários, como é o caso da maioria dos outros aparelhos e serviços".

Como exemplo, Lin aponta para o aplicativo de navegação Waze. Está "dando origem a reclamações sobre o comportamento de 'rebanho': enxames de carros enviados por seus algoritmos por bairros tranquilos, não projetados para tráfego pesado", diz ele.

Isso "pode ​​aumentar o risco de as crianças brincarem nessas ruas, diminuir os valores das propriedades se o ruído da estrada for mais alto e criar outras externalidades. Isso significa que os aplicativos de navegação estão tomando decisões de risco que os usuários desconhecem, mas que devem ser."

Carros autônomos da mesma forma "precisarão selecionar suas rotas de forma autônoma… e muitas vezes não há apenas um caminho correto a seguir", acrescenta Lin. Mas ele acredita que o problema maior é determinar quem será responsabilizado pelo impacto negativo no tráfego ou na segurança pública causado por aplicativos de navegação como o Waze - e, por extensão, testando carros autônomos em vias públicas.

"É uma tragédia do comum: ninguém está no banco do motorista sobre como os algoritmos de navegação devem ser harmonizados com a sociedade", diz ele. "Portanto, se houver um impacto negativo no tráfego ou na segurança pública, é difícil definir a responsabilidade por esses efeitos".

A questão de quem será o responsável por um acidente automobilístico - a montadora, o desenvolvedor de software, o sensor ou o fabricante de mapas - é um dos problemas que atrasam a ampla adoção da tecnologia, embora as soluções estejam sendo desenvolvidas. Dado que os testes de carro autônomo já estão sendo conduzidos nas vias públicas, Lin acredita que o que ele chama de "pesquisa com seres humanos" talvez deva obter autorização prévia de um conselho de ética.

As cidades começaram a responder designando estradas como zonas "sem tráfego" acessíveis apenas aos residentes e exigindo que o Waze as designasse como fora dos limites para os motoristas que passavam. Alguns moradores zangados e empreendedores estão chegando a usar aplicativos de navegação desonestos e hackers, como o Waze com destroços fantasmas, para desviar o tráfego de seus bairros.

Lin enfatiza que seu objetivo não é criar "um argumento contra a tecnologia, mas apenas refletir seriamente sobre seu crescente poder e implicações, à medida que os casos de teste passam pelos tribunais da lei e da opinião pública" - e mais carros autônomos levar para vias públicas.