Regulación de China de los sistemas de recomendación de Internet: lo que las empresas estadounidenses deben saber

Las nuevas regulaciones del sistema de recomendación de Internet de China entran en vigencia hoy, 1 de marzo de 2022. Las empresas estadounidenses que emplean recomendaciones y algoritmos de decisión de contenido similares en sus aplicaciones y sitios web utilizados en China ya deberían estar en cumplimiento. Para aquellos que todavía están evaluando sus políticas y prácticas y quieren saber más sobre las nuevas regulaciones y si se aplican, el siguiente resumen de elementos clave puede ser útil. Al igual que con cualquier determinación de aplicabilidad regulatoria, las empresas deben consultar a su asesor legal para obtener orientación.

¿Cómo se llaman las regulaciones de China?

Según un Traducción en inglés de la regla disponible en The DigiChina Project de Stanford, las regulaciones de China se identifican como las «Disposiciones de gestión de recomendaciones algorítmicas del servicio de información de Internet».

¿Qué cubre la normativa?

El artículo 2 establece que las reglamentaciones se aplican al uso de «tecnología de recomendación algorítmica» que se utiliza para proporcionar «servicios de información de Internet» dentro del territorio continental de la República Popular China. Específicamente, las reglas cubren las siguientes tecnologías y técnicas (discutidas a continuación): “el uso de tipo generativo o sintético, tipo de recomendación personalizada, tipo de clasificación y selección, tipo de filtro de búsqueda, tipo de despacho y toma de decisiones, y otras tecnologías algorítmicas similares para proporcionar información a los usuarios”.

¿Qué son los sistemas de recomendación algorítmica?

El significado de «tecnología de recomendación» podría interpretarse de manera bastante amplia para referirse a cualquier algoritmo que determine qué contenido (es decir, «objeto») se muestra en una plataforma, como una aplicación o un sitio web. Un resumen de la tecnología de recomendación de objetos puede resultar útil.

En la recomendación de objetos, se empareja a un usuario con productos que le pueden gustar, incluidos objetos físicos como ropa u objetos virtuales como películas u otro contenido. Hacer estas conexiones requiere datos sobre los usuarios, incluida la información y los comentarios personales del usuario. En el caso de Amazon y Netflix, por ejemplo, los comentarios de los usuarios pueden ser calificaciones y reseñas escritas. En el caso de las recomendaciones de música, se pueden usar las preferencias proporcionadas por el usuario (por ejemplo, un género musical favorito seleccionado obtenido de un perfil de usuario). Una técnica de aprendizaje automático llamada filtrado colaborativo se basa en la retroalimentación más el comportamiento en línea (por ejemplo, lo que alguien vio o leyó realmente, los enlaces en los que hizo clic, etc.) para tomar decisiones de recomendación futuras y mostrárselas a los usuarios. Esto se hace comparando comentarios, entradas y datos de comportamiento en línea con los mismos tipos de datos de otros usuarios para calcular una puntuación de similitud con respecto a un objeto en particular. En esencia, esto permite que otros «voten» sobre lo que a un usuario le gustaría leer, ver o comprar en función de sus intereses y actividades en línea propios y compartidos. Se pueden usar otros datos sobre los usuarios para clasificar o filtrar los objetos seleccionados y, por lo tanto, reducir una lista de objetos recomendados a los que tienen más probabilidades de ser de interés para los usuarios y otros. Los defensores de los sistemas de recomendación argumentan que sin las entradas de los usuarios y los datos de comportamiento, el contenido de una persona sería menos atractivo e interesante para ellos (y, por lo tanto, no sería tan valioso para la empresa que hace las recomendaciones, al menos desde una perspectiva de generación de ingresos publicitarios).

Dado que las reglamentaciones de China están dirigidas a los «servicios de información de Internet», los objetos que deben regularse parecen ser artículos de texto, comentarios de usuarios, videos y contenido similar que se muestra en los medios (incluidas las redes sociales), búsquedas y posiblemente sitios de comercio electrónico. . Las empresas que no estén seguras de si pueden estar sujetas a las regulaciones deben buscar el asesoramiento de su asesor legal.

¿Por qué se están regulando los sistemas de recomendación?

Si bien solo podemos especular sobre las razones detrás de las regulaciones de China, el Artículo 4 establece que “la provisión de servicios de recomendación algorítmica deberá cumplir con las leyes y regulaciones, observar la moral social y la ética, acatar la ética comercial y la ética profesional, y respetar los principios de equidad y justicia, apertura y transparencia, ciencia y razón, y sinceridad y confiabilidad”. Presuntamente, las autoridades chinas consideran que las tecnologías de recomendación de contenido afectan al menos algunos de esos problemas (que también son preocupaciones planteadas por los legisladores y las partes interesadas en los Estados Unidos, Europa y otros lugares sobre el recomendador y otras tecnologías de inteligencia artificial). El artículo 12 es revelador: establece que los sistemas deben “evitar crear una influencia dañina en los usuarios y prevenir o reducir las controversias o disputas”, que, como se ve, pueden conducir a la división social, la interrupción y otros problemas. De hecho, algunos investigadores sociales consideran que los sistemas de recomendación y otros sistemas de decisión de contenido socavan la privacidad individual, ya que las técnicas se basan en la recopilación y el procesamiento de información personal privada sobre los usuarios. Pero también se considera que los sistemas de recomendación afectan la autonomía personal y socavan potencialmente los intereses públicos, incluida la seguridad nacional. Por ejemplo, las técnicas de recomendación aplicadas podrían usarse para guiar a los usuarios (y a los grupos con los que se identifican) a leer y ver cierto contenido, lo que podría influir en su comportamiento o acciones de manera predecible.

¿Qué actividades prohíben las regulaciones de China?

El artículo 6 dice que los proveedores de servicios de recomendación algorítmica no pueden utilizar los servicios de recomendación algorítmica “para participar en actividades que perjudiquen la seguridad nacional y el interés público social, alteren el orden económico y el orden social, infrinjan los derechos e intereses legítimos de otras personas y otros actos similares. prohibido por las leyes y reglamentos administrativos. No podrán utilizar servicios de recomendación algorítmica para difundir información prohibida por leyes y reglamentos administrativos y tomarán medidas para prevenir y frenar la difusión de información perjudicial.” Esto parece ser una respuesta directa a algunas de las preocupaciones mencionadas anteriormente.

¿Qué exige la normativa?

Los artículos 7 a 12 describen los pasos afirmativos que deben tomar las entidades reguladas para cumplir, incluidas cosas como la incorporación de procesos de diseño ético (también conocidos como «IA ética») en el diseño y desarrollo de algoritmos y sistemas, sistemas de monitoreo después de que se implementan , y hacer informes a las autoridades.

El artículo 13 crea un programa nacional de permisos para la inteligencia artificial, el primero de su tipo. (Ningún otro país hasta la fecha, como se entiende mejor, tiene un marco nacional de permisos para tecnologías de inteligencia artificial similares). permiso de servicio de los reguladores. En los Estados Unidos, los permisos son autorizaciones por escrito para realizar alguna actividad específica identificada en el permiso. Pueden contener condiciones operativas específicas, requisitos de mantenimiento de registros e informes, requisitos de declaración de certificación del operador e identificar sanciones por casos de incumplimiento. En el caso de las regulaciones de China, los permisos requerirán que las empresas reguladas “estandaricen su despliegue de servicios de recopilación, edición y difusión de información de noticias en Internet, servicios de intercambio y servicios de plataforma de transmisión. No podrán generar o sintetizar información noticiosa falsa y no podrán difundir información noticiosa no publicada por las unidades de trabajo en el ámbito que determine el Estado.” Las regulaciones no parecen excluir a las entidades pequeñas o aquellas con relativamente pocos usuarios activos mensuales.

En particular, una versión anterior del Artículo 10 prohibió el uso de «etiquetas de usuario discriminatorias o sesgadas» en los sistemas de recomendación algorítmica, lo que no está en la versión final de las regulaciones.

¿Qué protecciones tienen los usuarios bajo las regulaciones?

Los artículos 16 al 22 pretenden otorgar a los usuarios nuevos derechos, incluida la protección de menores y ancianos. Estos incluyen el derecho a recibir un aviso, la capacidad de optar por no participar, eliminar los datos del usuario y estar libre de «tratamiento diferenciado». Los derechos de notificación, exclusión voluntaria y control de los datos del usuario también están contemplados en las leyes de privacidad de datos, como el Reglamento General de Protección de Datos («GDPR») de la Unión Europea («UE») y la Ley de Privacidad del Consumidor de California («CCPA»). , entre otros.

¿Existen mecanismos de cumplimiento y supervisión regulatoria?

Los artículos 23 a 30 prevén la administración de los reglamentos. Por razones de brevedad, estas disposiciones no se resumirán aquí.

¿A qué responsabilidades se enfrentan las empresas si infringen la normativa?

El artículo 31 establece que las autoridades pueden emitir, según la gravedad, una advertencia, un “informe de crítica” o una “orden de rectificación” a los infractores. Se puede suspender a los infractores y se pueden imponer multas de entre 10 000 y 100 000 yuanes (actualmente $1580 y $15 800 USD). Los delitos pueden alcanzar el nivel de criminalidad y pueden ser procesados. La interpretación de las regulaciones recae en las autoridades de la Administración del Ciberespacio de China, con la ayuda de el Ministerio de Industria y Tecnologías de la Información, el Ministerio de Seguridad Pública y la Administración Estatal de Regulación del Mercado.

¿Otros países tienen regulaciones similares?

China está a punto de vencer a Estados Unidos y la UE en la emisión de regulaciones dirigidas directamente a los sistemas de recomendación de contenido. Estados Unidos no tiene leyes ni reglamentos que afecten directamente a los sistemas de recomendación, aunque la Ley FTC faculta a la Comisión Federal de Comercio («FTC») para regular las prácticas engañosas e injustas. La FTC ha utilizado esta autoridad en la regulación de actividades que involucran la recopilación, el procesamiento y la venta de datos de usuarios, que, como se describió anteriormente, es clave para cualquier sistema de recomendación. De manera similar, la UE regula indirectamente los sistemas de recomendación a través de su reglamento “sobre la protección de las personas físicas en lo que respecta al procesamiento de datos personales y sobre la libre circulación de dichos datos” (2016). La Ley de Inteligencia Artificial de la UE, presentada en abril de 2021 pero aún no efectiva, define los «sistemas de inteligencia artificial» regulados como software que «… para un conjunto dado de objetivos definidos por humanos, genera resultados como contenido, predicciones, recomendaciones o decisiones que influyen los entornos con los que interactúan”. Por lo tanto, dependiendo de la interpretación de la Ley de la UE, incluido lo que constituye un sistema de IA de «alto riesgo», la Ley de la UE podría, al menos indirectamente, regular los sistemas de recomendación debido a su posible impacto de alto riesgo en los derechos personales y los intereses públicos.

Fuente del artículo

¿Que te ha parecido?

Deja un comentario