Hace unos años, una institución financiera establecida nos pidió que realizáramos un análisis de causa raíz para ayudarlos a descubrir por qué algunos miembros de su equipo senior se habían "deshonrado" y se habían comportado de una manera que contradecía directamente los valores de la empresa y la amplia orientación y apoyo que les habían brindado. La empresa estaba ansiosa por descubrir las lagunas en su capacitación que permitieron que ocurriera un comportamiento tan dañino. Una vez finalizada la investigación, las conclusiones de la RCA los conmocionaron. El problema no era para lo que no se había capacitado a su personal, era lo que se había capacitado para hacer.
En su destacado libro de 2016 Algorithms to Live By: The Computer Science of Human Decisions, Brian Christian y Tom Griffiths exploran el efecto del "sobreajuste", una de las principales causas del bajo rendimiento en el aprendizaje automático. En el lugar de trabajo, muchos gerentes ya estarán familiarizados con el sobreajuste por naturaleza, si no por el nombre. Un ejemplo ocupacional típico sería el personal que enfoca su comportamiento únicamente en los KPI establecidos, estructuras de incentivos o análisis en tiempo real sobre los que se miden, perdiendo por completo de vista las razones subyacentes por las que existen las medidas en primer lugar, y los objetivos generales de la empresa. en la práctica, una forma de idolatría de los datos.
Los ejemplos populares que podríamos compartir en el entorno de capacitación podrían ser los agentes de policía que seleccionan casos fáciles en lugar de importantes a fin de mes, para alcanzar los objetivos de cierre de casos. O jefes de fábrica obsesionados con las métricas de producción e ignorando los problemas de mantenimiento, almacenando así fallas catastróficas para el futuro. Además, con este tipo de enfoque estrecho, se vuelve cada vez más difícil saber quiénes son los actores estrella en cualquier negocio, en comparación con alguien que es realmente bueno para hacer coincidir su actividad con los KPI departamentales. La verdad es que es mucho más difícil crear incentivos que no tengan algún tipo de alter ego negativo de lo que casi cualquier organización reconoce.
Como dijo Steve Jobs, “las estructuras de incentivos funcionan. Por lo tanto, debe tener mucho cuidado con lo que incentiva a las personas a hacer, porque varias estructuras de incentivos crean todo tipo de consecuencias que realmente no puede anticipar ”.
Este exceso de adherencia a incentivos, reglas o capacitación puede, en algunas circunstancias, resultar en mucho más que un simple daño a las cifras de desempeño o al balance. En algunos casos, es la diferencia entre la vida y la muerte. En su libro, Christian y Griffiths usan el ejemplo de los ejercicios de "Línea de fuego" de la policía y el ejército como una ilustración aleccionadora de lo que puede suceder cuando las líneas entre los modelos y la vida real se vuelven demasiado borrosas;
“Hay historias de agentes de policía que se encuentran, por ejemplo, tomando un tiempo durante un tiroteo para guardarse los casquillos gastados en los bolsillos: buena etiqueta en un campo de tiro. Como escribe Dave Grossman, un guardabosques del ejército retirado y profesor de psicología de West Point: “Después de que el humo se asentara en muchos tiroteos reales, los oficiales se sorprendieron al encontrar latón vacío en sus bolsillos sin recordar cómo llegó allí. En varias ocasiones, se encontraron policías muertos con bronce en la mano, muriendo en medio de un procedimiento administrativo que les habían inculcado ”.
De manera similar, el libro informa que el FBI tuvo que cambiar su entrenamiento después de que se vio a los agentes disparando reflexivamente solo dos tiros y luego enfundando sus armas, porque esa era la acción estándar enseñada en su entrenamiento, independientemente de si sus disparos realmente habían dado en los objetivos y si todavía existía una amenaza. Conocidas como “cicatrices de entrenamiento”, son muy difíciles de superar, especialmente en períodos de mucho estrés. Un caso dramático relata la historia de un agente que quita instintivamente un arma de fuego de las manos de un agresor antes de devolver instintivamente el arma. Tal como lo había hecho con su entrenador en innumerables ocasiones antes en la práctica.
Entonces, ¿qué hay de nuestra institución financiera y sus traders deshonestos? La investigación de Sologic RCA reveló que también habían entrenado a su equipo para que se metieran latón en los bolsillos; pero en este caso "latón" como el término argot para el dinero. Durante casi una década, la empresa había refinado cuidadosamente su política de contratación, sus incentivos y sus KPI para recompensar el comportamiento cada vez más egocéntrico y despiadado. Incremento tras incremento, las actividades que se midieron y recompensaron se alejaron, inadvertidas, de los valores más amplios de la empresa. A medida que la empresa creció, el impacto oculto y la influencia de este comportamiento finalmente se reveló y casi destruyó a la empresa en el proceso. ¡Recompensado y animado en cada paso del camino!
Podemos dejar las últimas palabras de advertencia al empresario tecnológico estadounidense Sam Altman, cuando nos lo diga; “Realmente es cierto, la empresa construirá lo que el CEO decida medir”.