Avanzar en IA y ML confiables e identificar las mejores prácticas para escalar la IA

Por John P. Desmond, editor de tendencias de IA

El avance de la IA confiable y el aprendizaje automático para mitigar el riesgo de las agencias es una prioridad para el Departamento de Energía de EE. UU. (DOE), y la identificación de las mejores prácticas para implementar IA a escala es una prioridad para la Administración de Servicios Generales (GSA) de EE. UU.

Eso es lo que los asistentes aprendieron en dos sesiones en el Gobierno mundial de IA evento en vivo y virtual realizado en Alexandria, Virginia la semana pasada.

Pamela Isom, Directora de la Oficina de IA y Tecnología, DOE

Pamela Isom, directora de la Oficina de Tecnología e IA del DOE, quien habló sobre el avance de técnicas confiables de IA y ML para mitigar los riesgos de la agencia, ha estado involucrada en la proliferación del uso de IA en toda la agencia durante varios años. Con énfasis en IA aplicada y ciencia de datos, supervisa las políticas y estándares de mitigación de riesgos y ha estado involucrada en la aplicación de IA para salvar vidas, combatir el fraude y fortalecer la infraestructura de seguridad cibernética.

Hizo hincapié en la necesidad de que el esfuerzo del proyecto de IA sea parte de una cartera estratégica. “Mi oficina está allí para impulsar una visión holística de la IA y mitigar el riesgo al unirnos para abordar los desafíos”, dijo. El esfuerzo cuenta con la asistencia de la Oficina de Tecnología e IA del DOE, que se centra en transformar el DOE en una empresa de IA líder en el mundo acelerando la investigación, el desarrollo, la entrega y la adopción de la IA.

“Le digo a mi organización que tenga en cuenta el hecho de que puede tener toneladas y toneladas de datos, pero puede que no sean representativos”, dijo. Su equipo analiza ejemplos de socios internacionales, la industria, la academia y otras agencias para obtener resultados «en los que podemos confiar» de los sistemas que incorporan IA.

“Sabemos que la IA es disruptiva, al tratar de hacer lo que hacen los humanos y hacerlo mejor”, dijo. “Está más allá de la capacidad humana; va más allá de los datos en hojas de cálculo; puede decirme lo que voy a hacer a continuación antes de que yo mismo lo contemple. Es así de poderoso”, dijo.

Como resultado, se debe prestar mucha atención a las fuentes de datos. “La IA es vital para la economía y nuestra seguridad nacional. Necesitamos precisión; necesitamos algoritmos en los que podamos confiar; necesitamos precisión. No necesitamos sesgos”, dijo Isom, y agregó: “Y no olvide que debe monitorear la salida de los modelos mucho después de que se hayan implementado”.

Guía de órdenes ejecutivas Trabajo de IA de GSA

La Orden Ejecutiva 14028, un conjunto detallado de acciones para abordar la seguridad cibernética de las agencias gubernamentales, emitida en mayo de este año, y la Orden Ejecutiva 13960, que promueve el uso de IA confiable en el gobierno federal, emitida en diciembre de 2020, brindan guías valiosas para ella. trabajar.

Para ayudar a gestionar el riesgo del desarrollo y la implementación de IA, Isom ha producido el Manual de gestión de riesgos de IA, que proporciona orientación sobre las características del sistema y las técnicas de mitigación. También tiene un filtro de principios éticos y confiables que se consideran a lo largo de las etapas del ciclo de vida de la IA y los tipos de riesgo. Además, el libro de jugadas se relaciona con las órdenes ejecutivas relevantes.

Y proporciona ejemplos, como que sus resultados llegaron con un 80 % de precisión, pero usted quería un 90 %. “Algo está mal allí”, dijo Isom, y agregó: “El libro de jugadas lo ayuda a analizar este tipo de problemas y lo que puede hacer para mitigar el riesgo, y qué factores debe sopesar al diseñar y construir su proyecto”.

Si bien actualmente es interno del DOE, la agencia está analizando los próximos pasos para una versión externa. “Lo compartiremos con otras agencias federales pronto”, dijo.

Se describen las prácticas recomendadas de GSA para escalar proyectos de IA

Anil Chaudhry, Director de Implementaciones Federales de IA, Centro de Excelencia (CoE) de IA, GSA

Anil Chaudhry, Director de Implementaciones Federales de IA para el Centro de Excelencia (CoE) de IA de GSA, quien habló sobre las mejores prácticas para implementar IA a escala, tiene más de 20 años de experiencia en entrega de tecnología, operaciones y gestión de programas en defensa, sectores de inteligencia y seguridad nacional.

La misión del CoE es acelerar la modernización de la tecnología en todo el gobierno, mejorar la experiencia pública y aumentar la eficiencia operativa. “Nuestro modelo de negocio es asociarnos con expertos en la materia de la industria para resolver problemas”, dijo Chaudhry, y agregó: “No estamos en el negocio de recrear soluciones de la industria y duplicarlas”.

El CoE brinda recomendaciones a las agencias asociadas y trabaja con ellas para implementar sistemas de IA a medida que el gobierno federal participa activamente en el desarrollo de la IA. “Para AI, el panorama del gobierno es enorme. Cada agencia federal tiene algún tipo de proyecto de IA en marcha en este momento”, dijo, y la madurez de la experiencia de IA varía ampliamente entre las agencias.

Los casos de uso típicos que está viendo incluyen que la IA se centre en aumentar la velocidad y la eficiencia, en el ahorro y la evitación de costos, en mejorar el tiempo de respuesta y aumentar la calidad y el cumplimiento. Como una mejor práctica, recomendó a las agencias examinar su experiencia comercial con los grandes conjuntos de datos que encontrarán en el gobierno.

“Estamos hablando de petabytes y exabytes aquí, de datos estructurados y no estructurados”, dijo Chaudhry. [Ed. Note: A petabyte is 1,000 terabytes.] “Pregunte también a los socios de la industria sobre sus estrategias y procesos, sobre cómo realizan análisis de tendencias macro y micro, y cuál ha sido su experiencia en la implementación de bots, como en la Automatización robótica de procesos, y cómo demuestran la sostenibilidad como resultado de la deriva de datos. .”

También pide a los socios potenciales de la industria que describir el talento de IA en su equipo o a qué talento pueden acceder. Si la empresa es débil en talento de IA, Chaudhry preguntaría: «Si compras algo, ¿cómo sabrás que obtuviste lo que querías cuando no tienes forma de evaluarlo?»

Agregó: “Una mejor práctica en la implementación de IA es definir cómo capacita a su fuerza laboral para aprovechar las herramientas, técnicas y prácticas de IA, y definir cómo crece y madura su fuerza laboral. El acceso al talento conduce al éxito o al fracaso en los proyectos de IA, especialmente cuando se trata de escalar un piloto a un sistema completamente implementado”.

En otra mejor práctica, Chaudhry recomendó examinar el socio de la industria acceso a capital financiero. “La IA es un campo en el que el flujo de capital es muy volátil. “No puede predecir o proyectar que gastará X cantidad de dólares este año para llegar a donde quiere estar”, dijo, porque un equipo de desarrollo de IA puede necesitar explorar otra hipótesis o limpiar algunos datos que pueden no ser transparentes. o es potencialmente parcial. “Si no tiene acceso a financiamiento, existe el riesgo de que su proyecto fracase”, dijo.

Otra buena práctica es acceso a capital logístico, como los datos que recopilan los sensores para un sistema AI IoT. “La IA requiere una enorme cantidad de datos fidedignos y oportunos. El acceso directo a esos datos es fundamental”, dijo Chaudhry. Recomendó que se establezcan acuerdos de intercambio de datos con organizaciones relevantes para el sistema de IA. “Es posible que no lo necesite de inmediato, pero tener acceso a los datos, de modo que pueda usarlos de inmediato y haber pensado en los problemas de privacidad antes de necesitar los datos, es una buena práctica para escalar los programas de IA”, dijo.

Una mejor práctica final es la planificación de infraestructura física, como el espacio del centro de datos. “Cuando está en un piloto, necesita saber cuánta capacidad necesita reservar en su centro de datos y cuántos puntos finales necesita administrar” cuando la aplicación se amplía, dijo Chaudhry, y agregó: “Todo esto se vincula para acceder al capital y todas las demás mejores prácticas.“

Obtenga más información en Gobierno mundial de IA.

Fuente del artículo

Deja un comentario