Na esquina da Iris Ave com a Folsom em North Boulder, meu Tesla Model 3 estava dirigindo sozinho quando apareceu dois motoristas humanos na faixa bem na nossa frente. Nós três estávamos virando à esquerda — dois motoristas de carne e osso e meu robô — quando os dois humanos violaram uma regra básica de trânsito ao desviar e virar na faixa da direita.
O Tesla abraçou a faixa interna, como o manual do motorista indica ser a regra apropriada da estrada. Eu queria que meu filho adolescente estivesse assistindo.
Milo tem 15 anos, com uma licença de aprendiz. Minha fantasia é que quando ele tirar a licença, ele desenvolverá a memória, comportamentos rotineiros e hábitos mundanos que se mostraram possíveis na curta vida útil dos carros autônomos. Por outro lado, é menos provável que meu filho desative repentinamente e pare de dirigir completamente (exigindo que eu assuma).
A máquina e o adolescente têm cérebros ainda em desenvolvimento, uma mente humana governada por milhões de anos de biologia evolutiva e algoritmos moldados por décadas de engenheiros. Visto através das lentes da cognição e da neurociência, o contraste diz muito sobre a próxima geração de motoristas.
Até agora, apenas o Tesla (não meu filho) se envolveu em acidentes. O governo federal informou em abril que a tecnologia Autopilot da Tesla esteve envolvida em 956 acidentes entre janeiro de 2018 e agosto de 2023, incluindo 29 fatalidades. O relatório da National Highway Traffic Safety Administration descobriu que, “os controles do sistema do Autopilot podem ser insuficientes para um sistema de assistência ao motorista que requer supervisão constante por um motorista humano.”
Também recentemente, Elon Musk concluiu conversas em Pequim para abrir caminho com reguladores para levar o Autopilot às estradas chinesas. Muitas outras empresas estão desenvolvendo suas próprias versões — General Motors, BMW, Mercedes, Lincoln, Kia e outras — a maioria que assume algum controle em situações limitadas, como na rodovia.
Em suma, não duvide que esses carros estarão nas ruas em breve, tão certo quanto meu filho terá sua carteira de motorista dentro de um ano. Ele herda uma tarefa assustadora; estatisticamente falando, dirigir é a atividade regular mais perigosa que a maioria de nós fará em nossas vidas.
Após anos de reportagens sobre segurança do motorista, posso dizer com certeza por que enfrentamos tal risco: uma incompatibilidade entre a capacidade do cérebro humano e a complexidade da estrada. Ela apresenta um ataque de estímulos, entradas e riscos em rápida mudança. Carros, pedestres e ciclistas entram e saem do nosso quadro, nossos cérebros se cansam, se distraem, perdem uma entrada; somos humanos, com atenção e cognição biologicamente limitadas, pilotando um carro que é um míssil em velocidades de rodovia.
Dessa perspectiva, observo meu filho aprendendo em nosso Toyota Highlander. Para manter o foco, ele prefere o rádio desligado e o volume baixo nos comentários dos pais. Sua tarefa solene é mostrada em seu aperto firme no volante, a inclinação para frente de seu corpo como se quisesse se conectar um pouco mais com o que está acontecendo do lado de fora do para-brisa. Quando ele entra no ritmo, peço que identifique as várias entradas ao seu redor, o carro em seu ponto cego, o ciclista virando à direita sem sinalizar, o pedestre olhando para um telefone. Ele se cansa. Dirigir com segurança exige esforço. Por todo o controle e glória adolescente que vem com assumir o volante, às vezes, ele preferiria não fazê-lo.
Quando se trata de supervisionar nosso Tesla alugado, há um único aspecto da tecnologia que, para mim, destaca o estudo em contrastes: na tela, onde o mapa é exibido, uma animação mostra as entradas ao redor que o Tesla capta com suas múltiplas câmeras e sensores. Carros se materializam ao nosso redor, cruzamentos aparecem conforme nos aproximamos, pontilhados com a presença de ciclistas ou pedestres. Ele aparentemente vê tudo, em todos os lugares, tudo de uma vez, processando múltiplos fluxos de informações em paralelo. Por exemplo, quando o Tesla “vê” algo à direita, ele não o faz às custas de ver algo à esquerda; meu filho só consegue olhar para um lado de cada vez.
O algoritmo dirige à noite e na chuva. Ele é extremamente orientado por regras. Na verdade, sua adesão estrita causou frustração a outros motoristas — e meus passageiros adolescentes — por seguirem rigorosamente o limite de velocidade. Um passageiro adolescente me disse: “É sus”, significando suspeito, “porque ele só vai a 20 milhas por hora”. Estávamos em uma zona escolar.
“Embora os veículos automatizados não sejam perfeitos, eles funcionam surpreendentemente bem e estão melhorando o tempo todo”, me disse David Strayer, um neurocientista cognitivo da Universidade de Utah e um dos maiores especialistas do mundo em distração do motorista. “Realmente precisamos nos concentrar no risco relativo”, ele acrescentou, o que significa que os computadores podem salvar muito mais vidas do que arriscam tirar, em grande parte por causa de sua vantagem cognitiva.
“Eles não se distraem. Eles não ficam fatigados. Eles não ficam bêbados ou chapados. Eles aceleram somente se o motorista mandar.”
Eles falham, no entanto. Ocasionalmente, nos últimos meses desde que comecei a testar a tecnologia, o software do Tesla desligou repentinamente, exigindo que eu assumisse o controle imediatamente. Sinto-me como um atendente em um brinquedo de alta velocidade da Disney que inexplicavelmente sai dos trilhos e vai para o Burger Hut. É chocante. Assuma o controle! Salve a todos nós!
Para ser justo, o sistema me avisa constantemente para manter minhas mãos no volante e estar preparado para assumir o controle. Às vezes, a direção automática desliga porque eu puxo o volante com muita força, sugerindo que estou inclinado a assumir o controle. Outras vezes, quando ele dá problema, quem sabe o que aconteceu dentro daquele algoritmo misterioso? Um e zero foram cruzados?
No último relatório do governo federal sobre a atividade de acidentes da Tesla, ele disse que o carro continua a depender muito da supervisão humana e, também, os humanos nem sempre estão no trabalho. Os resultados dos acidentes podem ser graves “quando um motorista é desligado do veículo Tesla operando no piloto automático e o veículo encontra uma circunstância fora das capacidades de resposta de detecção de objetos ou eventos do piloto automático”
Que afirmação poderosa: o carro e o ser humano devem prestar atenção quando nenhum dos seus cérebros está totalmente preparado para a tarefa.
Ainda assim, por enquanto, eu confiaria no meu filho para me levar para casa antes de confiar no Tesla; só não sei quando o carro vai dar conta do recado, nem por quê, e o que eu poderia fazer para desencorajar essa falha.
Em breve, os humanos abrirão mão dos controles. Quando isso acontecer, não tenho certeza se será porque os robôs têm cognição virtualmente ilimitada e nos manterão mais seguros, embora isso possa ser verdade. A verdadeira razão pela qual os robôs assumirão o volante é porque os humanos têm coisas melhores para fazer do que dirigir. Assistir a um programa, esticar as pernas, tirar uma soneca. Nesse ponto, quando as máquinas dominarem a estrada, posso dizer ao meu filho adolescente para ir em frente e assistir ao TikTok ao volante, embora eu ache que, nesse ponto, não me importaria com o desenvolvimento da mídia social de autovigilância.