Si la IA no funciona, ¿cómo podría matarnos? – Enlace

robot 916284 960 720

Forbes informa que “la mayoría de los proyectos de IA fallan”; República Tecnológica pone el número en 85%. ¿Cómo reconciliamos esta realidad con las afirmaciones de que la IA representa una «amenaza existencial» como las de Elon Musk y futurismo.com? A menudo llamado AGI (Artificial General Intelligence), la idea es una inteligencia humana de propósito general como Hal de 2001 o Terminator.

Esto es lo que está pasando.

En primer lugar, toda tecnología nueva, por su naturaleza, es disruptiva, y la IA actual no es una excepción. La desmotadora de algodón, el teléfono y, ciertamente, Internet y las computadoras personales crearon cambios masivos en el empleo y el comercio. Los gobiernos sabios se adaptan y se vuelven a capacitar para tratar de minimizar el impacto en los trabajadores. A veces esto va bien, a veces no tanto, pero eso no es de lo que la mayoría habla con AGI, que va al siguiente nivel.

En segundo lugar, exclusivo de AGI es su capacidad para capturar la imaginación, como gran forraje para Hollywood y más: impulsando todo un género postapocalíptico. Las historias de AGI se han vuelto tan poderosas que algunos afirman que han alcanzado el nivel de propaganda mundial. Nunca vimos grandes éxitos de Hollywood de «telefonía disruptiva»; Las historias de AGI son únicas en este sentido.

En tercer lugar, la IA ha tenido un verdadero éxito en los últimos años. Cuando se combina con nuestra capacidad para enviar, almacenar y analizar datos, la IA ha impulsado grandes mejoras en el procesamiento del lenguaje natural (los gustos de Alexa y Siri son los representantes más familiares aquí) y en el marketing y la publicidad (piense en los anuncios de Google y Facebook, más recomendaciones de Amazon).

Patrones de verano/invierno de IA causados ​​por «sobreimpulso» e ignorar problemas no resueltos

Pero aquí es donde nos desviamos: es natural simplemente extrapolar el crecimiento de los éxitos recientes y suponer que no hay grandes barreras en el camino de AI a AGI.

Este es un error que AI ha cometido dos veces antes: primero, con exceso de entusiasmo en el 1956 taller de dartmouth donde se acuñó el término «Inteligencia artificial», y por segunda vez durante la década de 1980, cuando las naciones de todo el mundo invirtieron fuertemente en IA, como $ 750 millones en Iniciativa de quinta generación de Japón. Ambas oleadas fueron exageradas y finalmente quebraron, lo que llevó a dos subsiguientes «Inviernos AI».

El patrón se repite hoy. Cada «Verano» de IA del pasado se caracterizó por algún avance que condujo a nuevas capacidades que nos parecieron más «inteligentes» que los sistemas anteriores. Y eso es legítimamente emocionante. Cada AI Winter, por el contrario, es creado por nuestra incapacidad para ver las paredes de ladrillo de las capacidades de bloqueo para pasar al siguiente nivel y extrapolar alegremente el éxito de hoy pasado y a través de problemas sin resolver. Se parece a esto:

image
Los inviernos y veranos de la IA son una serie de ciclos exagerados, en los que superamos las capacidades en cada etapa

Esta imagen muestra una serie de «ciclos de exageración» (he escrito antes sobre la dinámica que los causa). En cada uno, una combinación de la capacidad única de la IA para capturar nuestra imaginación con la complejidad innata de la tecnología de la IA conduce a un «exceso»: un pensador descuidado (y un medio incentivado por el clickbait) simplemente extrapola el éxito visto en los últimos años al futuro. éxito. Sin embargo, en cada «golpe» de éxito hay su propia pared de ladrillos de limitación: una para la IA simbólica y la otra para la subsimbólica. Por ejemplo, una creencia muy difundida es que la primera ola murió debido a las limitaciones de Perceptrones de una sola capay la segunda ola murió por las limitaciones de la lógica para capturar inteligencia más la falta de algoritmos para el aprendizaje profundo.

la próxima ola

Hoy estamos en el final de la tercera ola (aprendizaje profundo/PNL). Está fundamentalmente limitado por un enfoque en los datos como la única fuente de inteligencia; ignora la necesidad de que la IA adopte cómo las acciones conducen a los resultados, trata los casos de uso de humanos en el circuito como ciudadanos de segunda clase a los completamente autónomos, ignora en gran medida la interfaz entre la interfaz de usuario y los expertos en la materia, y prioriza los nuevos algoritmos por delante de IA aplicada. La buena noticia es que, como ocurre con todos los cambios de paradigma, el pensamiento actual se está desmoronando y está surgiendo un nuevo y valioso paradigma para ocupar su lugar.

Pero aquí está la cosa: no podemos permitirnos otro invierno de IA. Tenemos que ir directamente al próximo verano porque el clima no puede esperar. La pandemia tampoco. Tampoco pueden hacerlo los miles de casos de uso en el cuidado de la salud, las finanzas, las telecomunicaciones y más en los que la IA puede conducir a un mundo mejor, si tan solo dejara de fallar.

Y ese, mis amigos, es el peligro de AGI. Es una distracción de estas nobles actividades. Pero no tiene por qué ser así: AGI está al menos a un cambio de paradigma, por ahora. Y necesitamos el poder de la IA para alejarse del marketing y trabajar mano a mano con nosotros para resolver los problemas invisibles, exponenciales, de múltiples enlaces y multidisciplinarios realmente difíciles y urgentes que enfrentamos.

El próximo verano de IA se trata de IA Human-in-the-Loop, interfaz de usuario, contexto y efectos colaterales

Particularmente exclusivo de esta próxima ola es la necesidad de considerar más seriamente la interfaz de usuario de nuestra IA, que incluye una mejor manera de comprender el contexto al que sirve un sistema de IA dentro de una organización y sus consecuencias dentro y fuera de esa organización. Lo sé, es tentador como tecnólogos evitar los lados de personas y procesos del gente/proceso/tecnología stoo de tres patasyo Pero ninguna tecnología tiene éxito sin un tratamiento serio de cómo interactúan estos tres elementos; pensar lo contrario es ver a la IA, incorrectamente, como una “bala de plata”. Dicho esto, todavía necesitamos IA, porque sabe cómo dar sentido a los datos. Los datos importan; son solo chispas de chocolate, no pastel de chocolate.

Amigos investigadores de IA: en lugar de nuevos algoritmos, necesitamos métodos de propósito general que ayuden a los humanos a trabajar junto con la IA para resolver los grandes problemas. Pobreza, conflicto, democracia, clima, desigualdad: estos son, en esencia, problemas de sistemas: a menudo complejo y dinámico, y masivamente interdisciplinario. Para resolver el Covid-19, por ejemplo, necesitamos vacunas, pero también conocimiento del comportamiento, partículas en aerosol, políticas gubernamentales, formas de edificios, sistemas de aire acondicionado, patrones de movimiento humano y mucho más. Para hacerlo, se requiere un nuevo método de mapeo y simulación para comprender cómo las decisiones que tomamos y las acciones que tomamos en un dominio se reflejan en todos los demás.

Porque así es como se forma el mundo; a diferencia de nuestras disciplinas hoy, no coloca barreras artificiales entre mi aliento, tu movimiento, el aire en la habitación que compartimos y mi opinión sobre el mandato de una máscara. Estos elementos están interconectados; su separación es un artefacto.

Para entender cómo se conectan, necesitamos conocimiento humano sobre cómo funcionan estos sistemas, y vamos a necesitar llevar ese conocimiento a la IA (el conocimiento de sistemas es no, en general, contenida en los datos). Esto es lo que el inventor del ratón Doug Englebart llamó el amplificación de inteligencia pregunta, y es, nuevamente, un desafío de interfaz de usuario, no uno que requiera un nuevo algoritmo de IA. La buena noticia es que las personas inteligentes de IA ven este futuro y están cambiando en esta dirección; por ejemplo aqui esta el anuncio de hoy de Peter Norvig moviéndose al grupo de IA centrado en el ser humano de Stanford.

Así que puede estar seguro de que estamos muy lejos de AGI. Y, mejor aún, la IA, bien administrada, puede hacernos mucho bien. Vayamos directamente al próximo verano, por favor. Así es cómo.

Fuente del artículo

Deja un comentario