Las herramientas que utilizan inteligencia artificial, como ChatGPT, avanzan a una velocidad extraordinaria y se ha generado mucho entusiasmo con aplicaciones para agilizar la toma de decisiones en las empresas, como decisiones en una planificación de la demanda o un proceso de selección de proveedores. Sin embargo, ante varias oportunidades para mejorar dichos procesos, es fundamental tener en cuenta sus limitaciones y riesgos.
como aprendimos en este texto de Leonardo JulianelliLos seres humanos, incluso en entornos empresariales, recurren a decisiones heurísticas (reglas de simplificación) para hacer frente a la complejidad y las limitaciones de tiempo y costes impuestas. A menudo, estas heurísticas acaban contaminadas por una serie de sesgos cognitivos, como el sesgo de disponibilidad o el sesgo de supervivencia, por ejemplo, que perjudican la calidad del análisis y, por tanto, generan decisiones no optimizadas.
Del mismo modo, la IA también puede ser víctima de sesgos similares si sus algoritmos reciben datos históricos que contienen dichos sesgos. Por ejemplo, en la planificación de la demanda, la heurística de disponibilidad puede conducir a niveles de inventario excesivos después de una promoción exitosa, ya que la promoción se vuelve más "disponible" en la memoria y, por lo tanto, puede parecer más probable para los modelos que vuelvan a ocurrir ventas altas, sin que esto sea necesariamente verdadero.
Se dentro de un proceso de selección, un modelo de IA está entrenado en datos anterior que reflejan una preferencia por proveedores específicos debido a sesgos humanos, el modelo puede continuar favoreciendo a estos proveedores incluso cuando otros pueden ser más eficientes o rentables. Esto podría conducir a un ciclo de auto refuerzo onde es sesgo algorítmico, una vez incorporado, se vuelve cada vez más difícil de identificar y corregir.
Para mitigar estos problemas en el proceso de toma de decisiones, es crucial emplear una combinación de enfoques, donde la IA actúa como soporte para acelerar el proceso y observar su comportamiento, identificando oportunidades para mejorar su entrenamiento para una aplicación cada vez más autónoma.
Fernando Chalreo
Lleva 5 años trabajando en proyectos de consultoría en Logística y Supply Chain, con experiencia en empresas de los sectores de consumo masivo, retail y alimentos y bebidas. Tipos de proyectos ya realizados: Planificación de Ventas y Operaciones, Gestión de Inventarios, Planificación de Redes, Revisión de Procesos de Negocio, Indicadores Logísticos y Gestión de Transporte
