El sesgo de datos se está convirtiendo en un problema cada vez más apremiante para las empresas que aprovechan la inteligencia artificial y el aprendizaje automático, pero muchas organizaciones luchan por abordarlo de manera efectiva.
Dos tercios de los ejecutivos piensan que actualmente hay sesgo de datos en sus organizaciones, según un estudio global patrocinado por Progress y realizado por Insight Avenue.
El sesgo de datos se ha convertido en una preocupación más importante para las empresas que utilizan inteligencia artificial (IA) y aprendizaje automático (ML) para analizar y dar sentido a sus datos. Con todo volviéndose digital, las empresas ahora tienen acceso a una gran cantidad de información; en la mayoría de los casos, demasiada información para saber por dónde empezar.
AI y ML pueden extraer información procesable de big data, ayudando a las empresas a tomar mejores decisiones comerciales.
No es de extrañar, entonces, que más empresas hayan comenzado a usar y confiar en la IA: el estudio mostró que el 66 % de las organizaciones anticipan volverse más dependientes de la IA y/o el ML para la toma de decisiones.
Si bien la intención es hacer que las empresas sean más inteligentes y eficientes, el uso de la IA también ha tenido algunas consecuencias involuntarias: el sesgo de datos es uno de los principales.
Las decisiones tomadas con datos sesgados pueden tener un impacto negativo en finanzas, TI, digital, operaciones, ventas y estrategia. Peor aún, el sesgo de datos puede generar malas experiencias para los clientes, dañar la reputación de las empresas y retrasar los esfuerzos de inclusión y diversidad.
“Todos los días, el sesgo puede afectar negativamente las operaciones comerciales y la toma de decisiones, desde la gobernanza y la pérdida de confianza del cliente hasta las implicaciones financieras y la posible exposición legal y ética”, dijo John Ainsworth, vicepresidente ejecutivo y gerente general de Plataforma de datos y aplicaciones de Progress.
“Ponemos a nuestros clientes en el centro de todo lo que hacemos y mientras exploramos todo lo que AI/ML puede hacer, queremos asegurarnos de que nuestros clientes cuenten con la información correcta para tomar las mejores decisiones para impulsar su negocio”, agregó. .
En Progress, queríamos tener una idea de cuán generalizado es el sesgo de datos, las acciones que las empresas están tomando para prevenir y abordar el sesgo, las barreras para abordarlo y las implicaciones del sesgo no controlado. En asociación con Insight Avenue, con sede en el Reino Unido, encargamos una encuesta mundial de 640 líderes empresariales y de TI que usan datos para tomar decisiones o planean usar IA o ML para respaldar la toma de decisiones. Todos los ejecutivos lideraron empresas con más de 500 empleados.
El estudio reveló que, si bien el 78 % cree que el sesgo de datos se convertirá en un problema mayor a medida que aumente el uso de IA/ML, solo el 13 % está abordando actualmente el sesgo de datos y tiene un proceso de evaluación continuo para eliminarlo. Además, más de la mitad de los encuestados considera que la falta de conocimiento de los sesgos potenciales es una barrera para abordar el sesgo de datos.
Lea más aspectos destacados del estudio a continuación o descargar una copia del estudio para obtener una imagen completa del estado del sesgo de datos en los negocios.
Reconocer la amenaza del sesgo de datos
Si bien las empresas varían en sus estrategias para abordar el posible sesgo de datos, las empresas son conscientes del riesgo y las consecuencias que puede traer el sesgo de datos.
El 77 % de los encuestados reconoce que debe hacer más para comprender y abordar el sesgo en su organización, y el 76 % dice que hay implicaciones sociales más amplias si las empresas no abordan adecuadamente el problema del sesgo de datos.
La mayoría de los líderes (78 %) son conscientes de que, a medida que la IA se utilice más ampliamente, el problema se intensificará. Con eso en mente, el 67 % de los ejecutivos cree que su organización evaluó la tecnología para abordar el sesgo de datos, y el 40 % dijo que el sesgo de datos era una consideración al evaluar a los proveedores de IA/ML.
Es probable que se requiera una combinación de personas, herramientas, capacitación y políticas para evitar el sesgo de datos: el 76 % reconoce que el sesgo de datos se aborda mejor de manera centralizada en toda la organización en lugar de que los departamentos aislados manejen el problema.
Donde las organizaciones pueden mejorar
Cuando se trata de combatir el sesgo de datos, las organizaciones tienen varios obstáculos que superar antes de poder avanzar. Las principales barreras para abordar el sesgo de datos incluyen la falta de conocimiento de posibles sesgos (51 %), la falta de comprensión sobre cómo identificar el sesgo (43 %) y la falta de recursos expertos (31 %).
Solo el 9% de los encuestados dijo que no ve el sesgo de datos como un problema, lo que indica que la inacción se puede atribuir a problemas con la planificación y la ejecución, en lugar de no reconocer la amenaza del sesgo de datos.
El 77% de los encuestados dijo que sus organizaciones aún necesitan hacer más para comprender el sesgo de datos. Los ejecutivos creen que las medidas más efectivas serán la tecnología y las herramientas (65 %), más capacitación (59 %) y ajustar su estrategia y visión (49 %).
Cómo las empresas pueden abordar y evitar el sesgo de datos
A medida que más organizaciones comienzan a confiar en AI y ML, la necesidad de abordar el posible sesgo de datos se vuelve más urgente. Las empresas deberán contar con planes y procesos para identificar y prevenir el sesgo de datos, y las entidades deberán reconocer cómo puede amenazar todos los aspectos de un negocio.
Las organizaciones deberán analizar todas las partes de un proyecto, desde la contratación y la diversidad del equipo hasta la capacitación y la tecnología. El sesgo de datos puede afectar las decisiones del día a día en cualquier empresa y puede tener un efecto perjudicial en sus víctimas. Quienes lideren los esfuerzos de tecnología y capacitación deberán asegurarse de que su trabajo promueva la equidad y la justicia en el lugar de trabajo.
Relacionado:
Promesas y peligros de usar IA para la contratación: protéjase contra el sesgo de datos
Dos ejecutivos del criptoimperio de Sam Bankman-Fried se declaran culpables de fraude
Los estadounidenses están listos para probar embriones para futuras oportunidades universitarias, muestra una encuesta
