Entendiendo el uso de algoritmos

uso de algoritmo, algoritmos imprecisos, aversión al algoritmo

Aunque los algoritmos tienden a mejorar la toma de decisiones debido a sus capacidades predictivas no es trivial la integración de estas herramientas en las organizaciones. Lee sobre algoritmos imprecisos y la aversión al algoritmo.

Se ha demostrado que los algoritmos hacen mejores predicciones que los humanos en una amplia gama de tareas. No solo en juegos como el ajedrez (1997: IBM Deep Blue derrota al gran maestro Gary Kasparov) o GO (2016: Deepmind AlphaGo derrota al 18 veces campeón del mundo Lee Sedol) los algoritmos superan a las personas.

También vemos a los algoritmos hoy en día presentes con excelentes rendimientos en diversas materias como detección de cáncer de piel (ej: SkinVision), inversiones financieras (ej: Wealthfront), e incluso para encontrar pareja (ej: OkCupid).

A pesar de esta superioridad de los algoritmos en predicción, se ha visto que las personas usan los algoritmos menos de lo que deberían. A este fenómeno se le conoce como aversión a los algoritmos y puede tener 2 interpretaciones. La primera es la reticencia a preferir y utilizar los consejos de algoritmos cuando la gente experimenta errores de los mismos, y la segunda es una resistencia general a su uso.

Uso de algoritmos en las organizaciones

Aunque los algoritmos tienden a mejorar la toma de decisiones producto de sus capacidades predictivas, la integración de herramientas algorítmicas en los entornos organizacionales no es trivial.

Desde el punto de vista de la administración, los empleados pueden resistirse a la supervisión y el control algorítmicos e incluso desarrollar tácticas contra ellos, lo que Kellogg et al. (2020) han denominado algoactivismo.

Por ello, gestionar el momento adecuado del lanzamiento de una nueva herramienta algorítmica, después de que haya sido suficientemente probada y evaluada, puede marcar una importante diferencia entre el éxito de la implementación o el fracaso.

Ejemplo de uso de algoritmo: ORION de UPS

Un buen ejemplo de esta situación es la experiencia de empresa de logística mundial UPS. En el proyecto ORION de UPS, mediante una aplicación de optimización de rutas se asesoraba a los conductores en los despachos diarios que debían hacer.

ORION estuvo a punto de ser cancelado, ya que en sus inicios era impreciso. Sin embargo, gracias a la mejora del rendimiento y al uso generalizado del algoritmo, ORION mejoró y en 2016 llegó a ahorrar cerca de 500 millones de dólares anuales en costos de combustible y mano de obra a UPS (Davenport & Harris, 2017).

Entonces, comprender cómo evoluciona el proceso de adopción de algoritmos se convierte en algo crucial si las organizaciones y personas queremos aprovechar los beneficios asociados a su correcta implementación.

Investigación: La naturaleza dinámica del uso de los algoritmos

Aunque varios estudios han analizado el grado de uso de los algoritmos por parte de las personas, hay algunas consideraciones que han sido ignoradas. En particular, prácticamente no existían estudios que analizara el uso de recomendaciones algorítmicas en el entorno habitual de los tomadores de decisión, durante varios días.

En una investigación realizada por los autores de este artículo y el profesor Edgar E. Kausel (con el apoyo de Fondecyt N° 1211367) recientemente publicada en el Journal of Behavioral Decision Making (Chacon et al., 2022), analizamos la naturaleza dinámica del uso de los algoritmos.

Así, vimos cómo las personas experimentan y adoptan recomendaciones algorítmicas en comparación con recomendaciones humanas. En dos estudios longitudinales, 401 participantes realizaron tareas predictivas financieras (predicción de tipo de cambio y de valor de acciones).

¿Qué pasa cuando hay recomendaciones algorítmicas imprecisas y precisas?

Nuestro principal hallazgo fue que la adopción de recomendaciones disminuyó con el tiempo para las recomendaciones algorítmicas imprecisas.

Además, el cambio en la adopción de las recomendaciones imprecisas fue sustancial durante las primeras interacciones y posteriormente disminuyó (relación de forma logarítmica).

Para el caso de las recomendaciones precisas no se vieron los mismos efectos. En la figura siguiente de nuestro segundo estudio se aprecia gráficamente el porcentaje de uso de los algoritmos a lo largo del tiempo.

uso de algoritmo

La principal implicancia de estos resultados es que gerentes y responsables de implantación de nuevas herramientas algorítmicas deben estar conscientes de que el uso de algoritmos puede cambiar en el tiempo.

En particular, se debe considerar la desconfianza que pueden generar en el tiempo entre los usuarios cuando los algoritmos son inexactos.

Nuestros resultados también destacan la importancia de las primeras impresiones y la formación de la reputación en el desarrollo de la confianza. Así, vemos que las personas son especialmente sensibles a los algoritmos que fallan y tienden a perder fácilmente su confianza en ellos.

Referencias:
Chacon, A., Kausel, E. E., & Reyes, T. (2022). A longitudinal approach for understanding algorithm use. Journal of Behavioral Decision Making, 1–15.
Davenport, T., & Harris, J. (2017). Competing on analytics: The new science of winning. Harvard Business Press.
Kellogg, K., Valentine, M., & Christin, A. (2020). Algorithms at work: The new contested terrain of control. Academy of Management Annals, 14(1), 366–410.

 

Lee el artículo anterior, de los mismos autores: Aversión al algoritmo: ¿qué es y cómo solucionarla?

 

Actualízate con el curso sobre inteligencia artificial en los negocios (online) de Clase Ejecutiva UC.





¿Te gustó? Inscríbete a nuestro newsletter

Artículos más recientes del autor