Acidente coloca em dúvida a segurança do carro autônomo

Será que acidente com carro autônomo poderia ter sido evitado? Atropelamento de mulher levanta dúvidas sobre controle e fiscalização. Parece que as dificuldades para o carro autônomo estão apenas começando.

Um carro autônomo, que fazia parte do programa de testes da Uber, atropelou e matou uma mulher, na cidade de Tempe, estado do Arizona (EUA). Esse foi um acidente que atingiu em cheio a reputação da tecnologia do carro autônomo, que dispensa a direção do motorista.

Um dos carros autônomos da Uber, que faz parte do programa de testes da empresa, atropelou e matou uma mulher na noite do último domingo (18), na cidade de Tempe, no Arizona (EUA). O acidente marca a primeira fatalidade envolvendo um carro com tecnologia de condução autônoma, que dispensa a necessidade do motorista dirigir.

Um funcionário da Uber estava dentro do veículo, porque, nesse período de testes há um motorista para supervisionar o desempenho do veículo. O carro envolvido na fatalidade era um Volvo, modelo SUV, o XC90. O atropelamento aconteceu quando a vítima atravessava a pista, segurando sua bicicleta. A parte frontal do carro ficou bastante avariada.

Imagem: Folha de São Paulo

A Uber se desculpou publicamente pelo ocorrido e cooperou com a polícia local. A empresa comunicou que irá suspender os testes nos Estados Unidos.Um vídeo foi registrado pela própria câmera do veículo e mostra em mais detalhes o acidente fatal, que foi o primeiro registrado com esse tipo de carro. O veículo transitava no modo autônomo e o vídeo mostra que o operador que estava dentro do veículo, olha para baixo durante cinco segundos e depois voltando a olhar para a estrada, já praticamente no momento em que o carro atinge a mulher. A vítima, que segurava a sua bicicleta e atravessava à pé uma rua pouco iluminada, foi identificada como Elaine Herzberg, de 49 anos. O vídeo mostra que o condutor podia ver os pés da mulher, iluminados pelos faróis do carro. As imagens foram divulgadas pela polícia.

Imagem: Noticiasaominuto

Testes com veículos autônomos foram suspensos

Na semana seguinte ao acidente, a Uber suspendeu os testes com veículos autônomos, ao menos temporariamente. Os testes estavam sendo realizados em Pittsburgh, Toronto e São Francisco.

A polícia declarou que, possivelmente, o erro pelo acidente pode não ser atribuído à Uber, porque a mulher atropelada não estava atravessando a pista na faixa. Talvez, segundo a polícia, o choque não pudesse ser evitado, por ser uma rua escura, mesmo que o carro não fosse autônomo.

Em seguida à suspensão temporária da Uber quanto aos testes que fazia, as autoridades do estado do Arizona (EUA) proibiram os testes da Uber com veículos autônomos no estado. O governador do Arizona, Doug Ducey, considerou as imagens divulgadas do vídeo do acidente como perturbadoras e alarmantes. Segundo ele, dúvidas foram geradas quanto à capacidade da Uber de continuar com seus testes e comunicou a suspensão do programa de carros autônomos no estado.

Carro autônomo da Uber mata mulher nos Estados Unidos

Acidente marca a primeira fatalidade envolvendo um veículo tecnológico

Imagem: Exame

Um novo problema para a tecnologia

Depois de muitos problemas com proibições em algumas cidades, insatisfação de seus motoristas e denúncias de assédio por algumas usuárias, a notícia do acidente com seu carro autônomo em teste abalou ainda mais a imagem da Uber.

Em 2017, a empresa foi acusada de preconceito contra suas funcionárias e sofreu acusações de espionagem industrial contra a Waymo, subsidiária da Alphabet, companhia da Google, por ter supostamente roubado os planos de desenvolvimento de seus carros autônomos.

Os problemas legislativos aconteceram em vários países, inclusive no Brasil. O antigo presidente era o polêmico Travis Kalanick, que foi substituído por Dara Khosrowshahi. A crise de imagem da empresa passou a ser gerenciada por Bozoma Saint John, que era chefe de marketing do iTunes e Apple Music. As notícias sobre suas finanças deram conta de prejuízos, com um crescimento de 61% em 2017, em relação a 2016.

Quem é o culpado pelo acidente

O acidente no Arizona aconteceu duas semanas depois do governador Doug Ducey assinar uma ordem executiva que oficializou a operação dos carros completamente autônomos nas vias públicas desse estado. O acidente coloca o governo no alvo da avaliação pública de sua decisão.

A ordem do governador estabeleceu que os carros autônomos deveriam obedecer as leis de trânsito e todas as regras existentes. Segundo o governo, o avanço da tecnologia obriga que as políticas e prioridades se adaptem para que se permanece competitivo na economia. O estado do Arizona é um centro de operações para veículos autônomos e ali já existem 600 carros em operação, da Intel, Waymo, GM e Uber.

Fonte: Oficinadanet

O Arizona e a California aprovaram carros sem motoristas, mesmo sem supervisores no volante. Os testes com veículos 100% autônomos começariam em abril. As legislações estão se adaptando às inovações tecnológicas, mas legalmente fica a pergunta: quem é o culpado em um acidente em que a inteligência artificial mata?

Sobre esse assunto, o professor John Kingston, da Universidade de Brighton (UK) publicou um artigo científico no final de fevereiro, sugerindo a possibilidade o carro autônomo matar alguém, o que efetivamente se concretizou. Segundo o professor, que usou como referência o trabalho do pesquisador em Direito Penal e Inteligência Artificial Gabriel Hallevy, da Universidade ONO, de Israel, a determinação da culpa de um crime requer a ação e intenção, necessariamente.

Imagem: Rota42

Partindo dessa afirmação, um crime cometido por um sistema de inteligência artificial poderia ocorrer em três hipóteses:

1 – Os culpados poderiam ser o programador da inteligência artificial ou quem o usa. É o tipo de crime “perpetrado por outrem”.

2 – O evento poderia ser de consequência provável natural, que acontece quando o programa executa ações de maneira inapropriada, o que é a razão do crime. Como exemplo, um robô pode considerar que uma pessoa humana está atrapalhando a realização de sua tarefa e assim pode agredir a pessoa. Essa ação poderia ser considerada como “natural” para esse tipo de inteligência artificial.

3 – O crime é cometido por culpa direta, o que exigiria uma intenção e ação da inteligência artificial, algo como uma decisão autônoma de agredir e matar, o que já assistimos em filmes de ficção científica. No caso do carro, que excede os limites de velocidade, a culpa poderia ser atribuída ao programa e os programadores ou usuários poderiam ser isentos.

No caso do acidente com o carro autônomo do Uber, parece que haverá um problema legal difícil de ser resolvido. Havia um motorista ao volante e seu papel era assumir a direção em caso de perigo. Quem será responsabilizado agora, perante a família da vítima e o Estado? Parece que o acidente vai levantar maiores reflexões sobre a produção, fiscalização e operação desse tipo de tecnologia.