Cómo Elon Musk arruinó el sueño de la ‘autoconducción total’

Algunos ingenieros de Tesla estaban horrorizados, dijeron ex empleados con conocimiento de su reacción, hablando bajo condición de anonimato por temor a represalias. Se pusieron en contacto con un exejecutivo de confianza para pedirle consejo sobre cómo disuadir a Musk, en un retroceso no informado anteriormente. Sin radar, los Tesla serían susceptibles a errores básicos de percepción si las cámaras estuvieran oscurecidas por las gotas de lluvia o incluso por la luz del sol, problemas que podrían provocar accidentes.

Musk no estaba convencido y anuló a sus ingenieros. En mayo de 2021, Tesla anunció que eliminaría el radar en los autos nuevos. Poco tiempo después, la empresa comenzó deshabilitar radar en los coches que ya están en la carretera. El resultado, según entrevistas con casi una docena de exempleados y conductores de pruebas, funcionarios de seguridad y otros expertos, fue un aumento en los accidentes, cuasi accidentes y otros errores vergonzosos por parte de vehículos Tesla privados repentinamente de un sensor crítico.

Musk ha descrito la tecnología de “conducción autónoma total” de Tesla como “la diferencia entre que Tesla vale mucho dinero y vale básicamente cero”, pero su sueño de autos autónomos se encuentra con obstáculos.

En las últimas semanas, Tesla retiró y suspendió el lanzamiento de la tecnología a los vehículos elegibles en medio de preocupaciones de que sus autos podrían desobedecer el límite de velocidad y atravesar las señales de alto, según funcionarios federales. Las quejas de los clientes se han ido acumulando, incluida una demanda presentada en un tribunal federal el mes pasado que afirma que Musk ha exagerado las capacidades de la tecnología. Y los reguladores y funcionarios gubernamentales están examinando el sistema de Tesla y sus afirmaciones anteriores a medida que aumenta la evidencia de problemas de seguridad, según documentos de la compañía.

En entrevistas, los exempleados de Tesla que trabajaron en el software de asistencia al conductor de Tesla atribuyeron los problemas de la compañía al rápido ritmo de desarrollo, las medidas de reducción de costos como la decisión de Musk de eliminar el radar, que se desvió de la práctica de la industria, y otros problemas exclusivos de Tesla.

Dijeron que el estilo de liderazgo errático de Musk también influyó, obligándolos a trabajar a un ritmo vertiginoso para desarrollar la tecnología y presentarla al público antes de que estuviera lista. Algunos dijeron que les preocupa que, incluso hoy, el software no sea seguro para usarse en la vía pública. La mayoría habló bajo condición de anonimato por temor a represalias.

“El sistema solo avanzaba muy lentamente internamente”, pero “el público quería un producto en sus manos”, dijo John Bernal, un ex operador de pruebas de Tesla que trabajaba en su departamento de piloto automático. Fue despedido en febrero de 2022 cuando la empresa alegó un uso indebido de la tecnología después de que publicara videos de conducción autónoma total en acción.

“Elon sigue tuiteando, ‘Oh, ya casi llegamos, ya casi llegamos’”, dijo Bernal. Pero “internamente, no estamos cerca, así que ahora tenemos que trabajar más y más y más”. El equipo también ha sangrado miembros en los últimos meses, incluidos altos ejecutivos.

Mientras tanto, Musk llevó a docenas de ingenieros de Tesla a trabajar con código en Twitter, la plataforma de redes sociales en apuros que Musk compró con bombos y platillos el otoño pasado, según personas familiarizadas con el asunto, que hablaron bajo condición de anonimato por temor a represalias, y los documentos revisados. por The Washington Post. A principios de este mes, después de que Tesla no anunciara un gran producto nuevo el día del inversor, las acciones de la empresa se hundieron un 6 por ciento.

Musk ha defendido las acciones de la compañía como apuestas a largo plazo, con la perspectiva de desbloquear un valor tremendo, y Tesla ha dicho que los vehículos en conducción autónoma completa chocan a un ritmo al menos cinco veces menor que los vehículos que conducen normalmente. Musk y Tesla no respondieron a las repetidas solicitudes de comentarios.

Pero la historia de Full Self-Driving ofrece un vívido ejemplo de cómo la persona más rica del mundo ha complicado una de sus mayores apuestas a través de una toma de decisiones precipitada, una obstinada insistencia en hacer las cosas de manera diferente y una confianza inquebrantable en una visión que aún no se ha concretado. probado.

“Nadie me creyó que trabajar para Elon era así hasta que vieron cómo operaba Twitter”, dijo Bernal, llamando a Twitter “solo la punta del iceberg sobre cómo opera Tesla”.

El auge de la ‘conducción totalmente autónoma’

En abril de 2019, en una exhibición denominada “Día del inversor en autonomía”, Musk hizo quizás su predicción más audaz como director ejecutivo de Tesla. “A mediados del próximo año, tendremos más de un millón de autos Tesla en la carretera con hardware de autoconducción completo”, dijo Musk en una sala llena de inversores. El software se actualiza automáticamente por aire, y Full Self-Driving sería tan confiable, dijo, que el conductor “podría irse a dormir”.

Los inversores fueron vendidos. Al año siguiente, el precio de las acciones de Tesla se disparó, convirtiéndolo en el fabricante de automóviles más valioso y ayudando a Musk a convertirse en la persona más rica del mundo. La conducción autónoma completa siguió al piloto automático, que se lanzó en 2014 y permitió que los automóviles navegaran por las carreteras, desde la dirección y el cambio de carril hasta el ajuste de la velocidad. La conducción autónoma total tenía como objetivo llevar esas capacidades a las calles urbanas y residenciales, una tarea mucho más difícil.

Los autos dependen de una combinación de hardware y software para hacerlo. Ocho cámaras capturan imágenes en tiempo real de la actividad que rodea al automóvil, lo que permite que el automóvil evalúe peligros como peatones o ciclistas y maniobre en consecuencia.

Para cumplir su promesa, Musk reunió a un equipo estrella de ingenieros dispuestos a trabajar muchas horas y resolver problemas hasta altas horas de la noche. Musk probaría lo último software en su propio automóvil, luego él y otros ejecutivos compilarían solicitudes de “reparación” para sus ingenieros.

Esos arreglos de retazos dieron la ilusión de un progreso implacable, pero enmascararon la falta de una estrategia de desarrollo coherente, dijeron los ex empleados. Mientras que los competidores como Waymo, propiedad de Alphabet, adoptaron protocolos de prueba estrictos que limitaban dónde podía funcionar el software de conducción autónoma, Tesla finalmente llevó la conducción autónoma completa a 360 000 propietarios, que pagaron hasta $15 000 para ser elegibles para las funciones, y les permitieron activarlas. ello a su propia discreción.

La filosofía de Tesla es simple: cuantos más datos (en este caso, la conducción) esté expuesta la inteligencia artificial que guía el automóvil, más rápido aprenderá. Pero ese modelo crudo también significa que hay una red de seguridad más ligera. Tesla ha optado por permitir que el software aprenda por sí solo, desarrollando sensibilidades similares a las de un cerebro a través de una tecnología denominada “redes neuronales” con menos reglas, dijeron los exempleados. Si bien esto tiene el potencial de acelerar el proceso, se reduce esencialmente a un método de entrenamiento de prueba y error.

Los rivales de Waymo y Apple adoptan un enfoque diferente de la autonomía, al establecer reglas y abordar cualquier incumplimiento si se violan esas restricciones, según expertos de Silicon Valley con conocimiento de las prácticas de la empresa, que hablaron bajo condición de anonimato porque no estaban autorizados a hablar. en público. Las empresas que desarrollan la conducción autónoma también suelen utilizar sofisticados sistemas de radar y lidar que ayudan al software a trazar un mapa de su entorno en detalle.

La portavoz de Waymo, Julia Ilina, dijo que existen diferencias evidentes entre los enfoques de las empresas, lo que apunta al objetivo de Waymo de autonomía total y énfasis en el aprendizaje automático. Apple se negó a comentar para esta historia.

El método de Tesla a veces ha resultado problemático. Hace unos dos años, un YouTuber popular capturó imágenes del software que lucha por navegar por la famosa y serpenteante Lombard Street de San Francisco en un video que obtuvo decenas de miles de visitas. Entonces, los ingenieros de Tesla incorporaron barreras invisibles en el software, similares a los parachoques en una bolera, para ayudar a que los autos se mantuvieran en la carretera, dijo Bernal. Los videos posteriores de YouTube los mostraron funcionando sin problemas.

Eso hizo que Bernal se detuviera. Como probador interno que condujo ese tramo de carretera como parte de su trabajo, estaba claro que estaba lejos de la experiencia típica en las calles públicas de otros lugares.

El radar originalmente desempeñó un papel importante en el diseño de los vehículos y el software de Tesla, complementando las cámaras al ofrecer una verificación de la realidad de lo que había alrededor, especialmente si la visión podría estar oscurecida. Tesla también usó sensores ultrasónicos, dispositivos de menor alcance que detectan obstrucciones a pulgadas del automóvil. (La empresa Anunciado el año pasado también los eliminó).

Incluso con radar, los Tesla eran menos sofisticados que los autos de la competencia equipados con lidar y radar.

“Una de las ventajas clave de lidar es que nunca dejará de ver un tren o un camión, incluso si no sabe qué es”, dijo Brad Templeton, consultor y desarrollador de automóviles autónomos desde hace mucho tiempo que trabajó en Google. coche sin conductor. “Sabe que hay un objeto delante y el vehículo puede detenerse sin saber más que eso”.

Las cámaras deben comprender lo que ven para ser efectivas, confiando en los trabajadores de Tesla que etiquetan las imágenes que registran los vehículos, incluidas cosas como señales de alto y trenes, para ayudar al software a comprender cómo reaccionar.

Hacia fines de 2020, los empleados de Autopilot encendieron sus computadoras para encontrar un software interno de monitoreo del lugar de trabajo instalado, dijeron exempleados. Supervisó las pulsaciones de teclas y los clics del mouse, y realizó un seguimiento del etiquetado de sus imágenes. Si el mouse no se movía durante un período de tiempo, se iniciaba un temporizador, y los empleados podían ser reprendidos, hasta ser despedidos, por períodos de inactividad, dijeron los exempleados.

Después de que un grupo que presionaba para sindicalizar la fábrica de Tesla en Buffalo expresó su preocupación por el monitoreo de su lugar de trabajo el mes pasado, Tesla respondió en una publicación de blog. “La razón por la que existe un control del tiempo para el etiquetado de imágenes es mejorar la facilidad de uso de nuestro software de etiquetado”, dichoagregando “su propósito es calcular cuánto tiempo se tarda en etiquetar una imagen”.

Musk había defendido el enfoque de “solo visión” como más simple, económico e intuitivo. “El sistema vial está diseñado para cámaras (ojos) y redes neuronales (cerebros)”, dijo. tuiteó en febrero de 2022.

Algunas de las personas que hablaron con The Post dijeron que ese enfoque ha introducido riesgos. “Sabía que poner ese software en las calles no sería seguro”, dijo un ex ingeniero de Tesla Autopilot que habló bajo condición de anonimato por temor a represalias. “No se puede predecir lo que va a hacer el auto”.

Un aumento en los choques de vehículos

Después de que Tesla anunciara que retiraría el radar en mayo de 2021, los problemas se notaron casi de inmediato, dijeron los exempleados. Ese período coincidió con la expansión del programa de pruebas de conducción autónoma completa de miles a decenas de miles de conductores. De repente, los autos supuestamente se detenían por peligros imaginarios, malinterpretaban los letreros de las calles y no detectaban obstáculos como los vehículos de emergencia, según las denuncias presentadas ante los reguladores.

Algunas de las personas que hablaron con The Post atribuyeron el aumento repentino de Tesla en los informes de “frenado fantasma”, donde los autos reducen la velocidad agresivamente desde altas velocidades, a la falta de radar. El Post analizó datos de la Administración Nacional de Seguridad del Tráfico en Carreteras para mostrar que las incidencias aumentaron el año pasado, lo que provocó una investigación regulatoria federal.

Los datos mostraron que los informes de “frenado fantasma” aumentaron a 107 quejas en tres meses, en comparación con solo 34 en los 22 meses anteriores. Después de que The Post destacó el problema en un informe de noticias, la NHTSA recibió alrededor de 250 quejas sobre el problema en un período de dos semanas. La agencia abrió una investigación luego de que, dijo, recibió 354 quejas del problema durante un período de nueve meses.

Meses antes, la NHTSA había abierto una investigación sobre el piloto automático por aproximadamente una docena de informes de Teslas chocando contra vehículos de emergencia estacionados. El último ejemplo salió a la luz este mes cuando la agencia confirmó que estaba investigando un accidente fatal en febrero que involucró a un Tesla y un camión de bomberos. Los expertos dicen que el radar ha servido como una forma de verificar dos veces lo que ven las cámaras, que son susceptibles de ser borradas por la luz brillante.

“No es la única razón por la que están teniendo [trouble] pero es una gran parte de eso”, dijo Missy Cummings, ex asesora principal de seguridad de la NHTSA, quien criticó el enfoque de la compañía y se recusó en asuntos relacionados con Tesla. “El radar ayudó a detectar objetos en el campo delantero. [For] la visión por computadora, que está plagada de errores, sirve como una forma de fusión de sensores para verificar si hay un problema”.

Musk, como jefe de pruebas, también solicitó correcciones frecuentes de errores en el software, lo que requirió que los ingenieros ingresaran y ajustaran el código. “A nadie se le ocurre una buena idea mientras lo persigue un tigre”, recordó un ex alto ejecutivo que le dijo un ingeniero del proyecto.

La resistencia de Musk a las sugerencias condujo a una cultura de deferencia, dijeron exempleados. Tesla despidió a los empleados que rechazaron su enfoque. La compañía también estaba lanzando tantas actualizaciones de su software que, a fines de 2021, la NHTSA amonestó públicamente a Tesla por emitir correcciones sin un aviso formal de retiro.

El año pasado, Musk decidió comprar Twitter, algo que se convirtió en una distracción para el director ejecutivo de Tesla, dijeron exempleados de ambas empresas. Después de tomar el timón en octubre, desvió a docenas de ingenieros, incluso en piloto automático y conducción autónoma completa, para trabajar allí con él, lo que retrasó aún más a Tesla, según ex empleados y documentos revisados ​​​​por The Post. Las actualizaciones de software que de otro modo se emitían cada dos semanas se espaciaron repentinamente durante períodos de meses, mientras Tesla solucionaba errores y perseguía objetivos más ambiciosos.

Algunos lamentan la participación de Musk en Twitter y dicen que necesita volver a concentrarse en Tesla para terminar lo que comenzó. Ross Gerber, un inversionista de Tesla que se postula para un asiento en el directorio de la compañía debido a las preocupaciones sobre su inacción percibida en el papel de duelo de Musk como jefe de Twitter, dijo que la conducción autónoma total presagia un futuro brillante para Tesla.

“Amamos a Elon. Es el innovador de nuestro tiempo”, dijo. “Todo lo que queremos verlo es que vuelva a trabajar a tiempo completo en Tesla”.

Los ingenieros de Tesla se han estado quemando, renunciando y buscando oportunidades en otros lugares. Andrej Karpathy, director de inteligencia artificial de Tesla, se tomó un mes sabático el año pasado antes de dejar Tesla y ocupar un puesto este año en OpenAI, la compañía detrás del software de modelado de lenguaje ChatGPT.

“Desde que Andrej estaba escribiendo todo el código por sí mismo, naturalmente, las cosas se han detenido por completo”, dijo Musk en un ganancias llamada el año pasado, notando que estaba hablando en broma.

Ashok Elluswamy, director de Autopilot de Tesla, comenzó a trabajar en la otra compañía de Musk, Twitter, según empleados y documentos revisados ​​por The Post.

Uno de los ex empleados dijo que se fue a Waymo. “Realmente no se preguntaban si su automóvil se pasaría la señal de alto”, dijo el ingeniero. “Simplemente se están enfocando en hacer que todo sea factible a largo plazo, en lugar de apresurarlo”.

El Departamento de Justicia ha solicitado documentos relacionados con la conducción autónoma total como parte de una investigación en curso, y la Comisión de Bolsa y Valores está investigando el papel de Musk en impulsar las afirmaciones de conducción autónoma de Tesla, como parte de una investigación más amplia. de acuerdo a a las noticias de Bloomberg.

La demanda presentada en febrero alega que Tesla hizo declaraciones “falsas y engañosas”, argumentando que Tesla “exageró significativamente” la seguridad y el rendimiento del piloto automático y la conducción autónoma total.

Eso se suma a las dos investigaciones de la NHTSA sobre el piloto automático, una de las cuales es la observación de los vehículos de emergencia. Esa investigación se ha actualizado a una etapa más avanzada: un análisis de ingeniería. El otro, en los informes de “frenado fantasma”, está en curso.

En una exhibición para inversores este mes, Musk apareció junto a más de una docena de empleados de Tesla en el escenario, promocionando la amplia gama de experiencia de la compañía. Pero la compañía no ofreció ningún desarrollo importante sobre la conducción autónoma total, a pesar de un segmento sobre la tecnología.

Y algunos de los clientes más leales de Musk han perdido la esperanza de que su promesa inicial se haga realidad. Charles Cook, un piloto comercial e ingeniero de Jacksonville, Fla., posee un Tesla Model Y que con frecuencia conduce en modo de conducción autónoma total.

Si bien está asombrado de lo que puede hacer la tecnología, está sorprendido tanto por la lentitud del progreso como por el estado de las promesas de Musk. “Alguien podría haber comprado Full Self-Driving pensando que ya tendría un robotaxi y gastar el dinero que tanto le costó ganar en eso”, dijo.

“Es posible que sus ingenieros se hayan reído de eso”, pero “un cliente puede haber gastado $ 15,000 pensando que lo tendrá el próximo año”. Esos clientes, dijo, perdieron.

“No creo que pueda eliminar el controlador en este conjunto de hardware, nunca”, dijo.