La UE considera regulaciones significativas para la IA

Un fondo azul con amarillos dispuestos en círculo, como la bandera de la UE

El 21 de abril de 2021, la Comisión Europea publicó un muy esperado propuesta de reglamento que regula la inteligencia artificial (AI). La propuesta ha sido redactada por la Comisión y sus asesores, y desempeña un papel central en el ambicioso proyecto de la Comisión Estrategia Europea de Datos.

Si bien la regulación tiene un largo camino antes de ser finalizada, las empresas deben estar preparadas para una regulación significativa en este espacio. A través de esta Alerta, Foley Hoag tiene la intención de brindarle los conceptos básicos de la propuesta, incluidos los pasos que su empresa puede tomar ahora para prepararse para los tipos de cambios que requerirá esta regulación.

¿Quién se ve afectado por la regulación?

Tal como están escritas, las reglas propuestas cubrirán:

  1. proveedores que comercialicen o pongan en servicio sistemas de IA, independientemente de que dichos proveedores estén establecidos en la Unión Europea o en un tercer país;
  2. usuarios de sistemas de IA en la UE; y
  3. proveedores y usuarios de sistemas de IA que se encuentran en un tercer país donde la salida producida por el sistema se utiliza en la UE.

¿Cómo define la Comisión la IA?

El término «sistema de IA» tiene una definición amplia: «software que… puede, para un conjunto dado de objetivos definidos por humanos, generar resultados como contenido, predicciones, recomendaciones o decisiones que influyen en los entornos con los que interactúan».

¿Hay algún tipo de acciones prohibidas por la propuesta?

Sí, la propuesta enumera una serie de prácticas de IA que están prohibidas:

  • Colocar en el mercado, poner en servicio o usar un sistema de inteligencia artificial que implemente técnicas subliminales más allá de la conciencia de una persona para distorsionar materialmente el comportamiento de una persona de una manera que cause daño físico o psicológico a esa persona o a otra persona.
  • La comercialización, puesta en servicio o uso de un sistema de IA por parte de las autoridades públicas o en su nombre para la evaluación o clasificación de la confiabilidad de las personas físicas con la puntuación social que conduce a un trato perjudicial o desfavorable que no guarda relación con los contextos en los que los datos fueron generados originalmente o no justificados o desproporcionados.
  • Uso de sistemas de identificación biométrica remota “en tiempo real” en espacios de acceso público para fines de aplicación de la ley. Esta prohibición admite amplias exenciones sujetas a requisitos específicos, incluida la autorización judicial o administrativa previa para cada uso individual.

¿El reconocimiento facial está cubierto por la propuesta?

Sí, ciertos usos policiales de sistemas de reconocimiento facial destinados a espacios públicos están cubiertos por prácticas prohibidas de IA.

¿Qué áreas son el foco principal de la propuesta?

La propuesta se centra en áreas de “alto riesgo” para la IA. Esto incluye:

  • Legislación sobre seguridad de productos, como la legislación de la UE sobre maquinaria, juguetes, equipos a presión o dispositivos médicos.
  • Sistemas de IA utilizados para la identificación y categorización biométrica de personas físicas, gestión y operación de infraestructura crítica, educación y formación profesional, empleo, cumplimiento de la ley, migración, asilo y control de fronteras, y administración de justicia y procesos democráticos.

¿Cómo deberían abordar las empresas la autorregulación de la IA?

El proyecto de reglamento adopta un enfoque de “desarrollo a través del despliegue”. Esto significa que los sistemas de IA de alto riesgo están sujetos a escrutinio antes de que se comercialicen o se pongan en servicio, así como a lo largo de su ciclo de vida.

¿Qué protocolos o sistemas deben considerar las empresas para que su gobierno de IA cumpla con los puntos de referencia regulatorios?

Las empresas pueden comenzar a implementar procesos de gobierno interno ahora. De acuerdo con el borrador del reglamento, las empresas deben considerar establecer un sistema obligatorio de gestión de riesgos, requisitos estrictos de uso y gobierno de datos, documentación técnica y requisitos de mantenimiento de registros, y requisitos de seguimiento e informe de incidentes posteriores a la comercialización.

¿Cómo pueden las empresas cumplir con estos requisitos?

Las empresas deben considerar evaluaciones externas para el cumplimiento de la IA. El proyecto de reglamento recomienda una evaluación de la conformidad realizada por un tercero o por el propio proveedor. Las obligaciones de cumplimiento de la propuesta pueden afectar a todas las partes involucradas: proveedor, importador, distribuidor y usuario de la IA.

¿Qué pasa con la transparencia?

Los sistemas de IA deben diseñarse y desarrollarse de tal manera que se garantice la supervisión humana.

Además, existen disposiciones especiales en la regulación relacionadas con la transparencia para garantizar que las personas sepan que están tratando con un sistema de IA, en lugar de procesos de toma de decisiones centrados en el ser humano.

¿Quién es responsable de la aplicación?

La regulación preexistente relacionada con la IA, como los estatutos de reconocimiento facial de Francia, deberá armonizarse con la regulación de la UE cuando se adopte.

Si se adopta, el reglamento será aplicado por los estados miembros de la UE. Pero en el futuro, la propuesta prevé el establecimiento de un Consejo Europeo de IA que será responsable de: asistir a las autoridades nacionales de supervisión ya la Comisión para garantizar la aplicación coherente del reglamento; emitir opiniones y recomendaciones; y recopilar y compartir las mejores prácticas entre los estados miembros.

El reglamento, una vez adoptado, entrará en vigor a los 20 días de su publicación en el Diario Oficial. Las disposiciones entrarán en vigor 24 meses después de esa fecha, creando un largo período de gracia para dar cuenta de la innovación que pueda ocurrir entre la redacción y la adopción.

¿Qué pasa después?

Es probable que el proyecto de reglamento no se adopte durante algún tiempo, dada la complejidad de la IA y la cantidad de naciones y partes interesadas involucradas. El Parlamento Europeo y el Consejo participarán en una mayor consideración y debate, y considerarán las enmiendas.

Sin embargo, es probable que este proyecto de reglamento establezca el punto de referencia para la IA ética. Debe ser considerado cuidadosamente por las empresas en ausencia de otra orientación, para proporcionar una indicación de hacia dónde se mueve la legislación nacional y el consenso internacional sobre cuestiones relacionadas con la IA.

__

Este artículo se publicó originalmente en el boletín Foley Hoag. Suscribir aquí.

Fuente del artículo

¿Que te ha parecido?

Deja un comentario