La inmoralidad de la máquina

[Español 71.112]

Recojo una entrevista que publicó hace algunos días El Confidencial a Daniel Beunza, profesor de economía, acerca de un reciente libro que ha publicado titulado Taking the Floor, donde analiza la realidad de los mercados financieros dominados por modelos automáticos de previsión y tecnologías de comercio caracterizados por el desentendimiento moral en beneficio del lucro económico.

 

Cita

"La avaricia no es el problema; la moralidad está en la máquina"

Daniel Beunza, un español que ha estudiado Wall Street durante años, avisa en su nuevo libro acerca del peligro de un sector de inversión dominado por los modelos

Daniel Beunza. (YouTube)

Autor

Esteban Hernández

Tiempo de lectura9 min

13/10/2019 05:00

La idea de fondo es la sustitución de la mano de obra humana, falible y llena de sesgos (también la experta), por sistemas automatizados y mejorados gracias a las enormes cantidades de datos que pueden recogerse, al conocimiento acumulado que producen y a su análisis y tratamiento con nuevas posibilidades tecnológicas. Con ese nuevo sistema obtendremos respuestas más ajustadas a los problemas que se nos plantean o, al menos, esa es la esperanza. Se trata de una visión de futuro en la que late el deseo de un mundo cristalino, previsible y continuo, en el que la medición, la auditoría y el control, establecido a través de la sistematización, nos conducirán a un mundo más científico y, en consecuencia, mucho mejor.

Un buen escenario para comprobar los efectos reales de esta aspiración es el financiero. Experiencias como las del 'high frequency trading', donde la velocidad es esencial y los ordenadores operan por sí mismos, ofrecen pistas sólidas respecto de las ventajas que procura esta nueva manera de trabajar. Y no se trata únicamente de un subsector de la inversión, porque esta perspectiva es parte de un tipo de gestión global en la que, como bien explica Daniel Beunza, los modelos se han convertido en la nueva norma del sector.

Un ejemplo clásico

Portada del último libro de Daniel Beunza

 

Beunza, profesor en la Cass Business School, y ex de la London School of Economics, conoce bien el sector de la inversión, que ya analizó en su anterior libro y del que describe las transformaciones acaecidas en 'Taking the Floor: Models, Morals, and Management in a Wall Street Trading Room' (Princeton University Press), su nuevo texto. Beunza describe cómo los modelos se han impuesto como la forma operativa y de control por excelencia y analiza cómo su utilización masiva está provocando tensiones y disfunciones en un ámbito al que venían a hacer más previsible. Un modelo no es otra cosa que "la representación teórica de un proceso económico" que sirve "para simplificar el fenómeno y predecir el futuro. Un ejemplo clásico es la ecuación de Black-Scholes, que simplificó enormemente el problema de valorar una opción financiera".

 

 

'Taking the Floor' se presentó el pasado 11 de octubre en la LSE con una conversación entre el autor y Michael Power.

PREGUNTA. La lucha entre las posibilidades de la automatización y la validez de la acción humana aparece en muchos trabajos. En el sector financiero, esta tensión es muy clara. Por una parte, se han ido reduciendo el número de 'traders' y automatizando cada vez más los procesos. Hay resistencias, porque hay quienes entienden que los procesos automatizados no pueden ser eficientes sin los seres humanos, que las máquinas necesitan supervisión. Por otra parte, desde el nivel de la gestión, automatizar los procesos reducía costes porque permitía prescindir de 'traders' y al mismo tiempo, prometía mejores resultados. Esta última postura va ganando. ¿El ser humano ha perdido la partida? ¿Cuál es el estado de la cuestión?

RESPUESTA. Efectivamente, vivimos en la era de la automatización del trabajo de oficina, y en cierta medida eso se puede ver cómo una batalla entre los hombres y las máquinas. Tras una década de optimismo tecnológico ciego, auge de los medios sociales, big data, etc., los recientes escándalos de hace dos años (desde Uber hasta Facebook) han marcado un giro del péndulo, y ahora lo que interesa a la sociedad es entender el lado oscuro de la tecnología. Por ejemplo, sustituir la figura del gerente por un algoritmo puede tener consecuencias funestas, al generar sentimientos de injusticia entre los empleados. En el libro abundo en esa dirección intentando no caer en el rechazo fácil ni el ludismo.

Cuando los empleados regresan a su día a día, se enfrentan a las presiones y rutinas de siempre, y esos valores de honestidad y transparencia quedan como retóricos o cínicos

P. Afirma que "la avaricia no es la principal razón del presente embrollo financiero, sino los instrumentos que utilizan los 'traders'. La moralidad está en la máquina". ¿Cuáles son esas herramientas y cuáles los riesgos que comportan?

R. Todos somos testigos a diario de bancos que montan seminarios tratando de inculcar a sus empleados ciertos valores. En los años posteriores a la crisis no era difícil encontrar en Canary Wharf carteles y esculturas con los valores que los bancos anunciaban al visitante y a si mismos "honestidad", "transparencia", etc. Pero esas medidas no funcionaron. El problema era que una vez los empleados regresaban a su día a día, se enfrentaban a las presiones y rutinas de siempre, y esos valores quedaban como puramente retóricos, cuando no cínicos. Hay que plantear una alternativa al reduccionismo de equiparar la ética a los valores. Eso es lo que trato de hacer en el texto, porque han de cambiar las prácticas, los modelos y los algoritmos para evitar una repetición de los problemas morales que llevaron a la crisis en Wall Street.

P. Las supervisiones en las empresas financieras ya no se realizan por jefes directos, sino a través de indicadores, presentaciones en Power Point y demás. ¿Cuál es el gran problema que causa este tipo de supervisión?

R. Efectivamente, las métricas y modelos han desplazado la tarea de gestión. Pues bien, cuando el uso de modelos imperfectos en el control de gestión —y recordemos que todos los modelos son imperfectos— llevan al banco a restringir innecesariamente la toma de riesgo de los 'traders', se genera una percepción de injusticia organizativa.

Para la sociedad en su conjunto, el desentendimiento moral de los 'traders' genera un peligro de colapso financiero

P. Insiste en el libro en la importancia del desentendimiento moral. ¿En qué consiste y cómo opera en estos contextos?

R. Lo que los psicólogos como Albert Bandura llaman desentendimiento moral es el proceso por el que los humanos dejan de experimentar una reacción negativa al contravenir sus propias normas morales. Se da frecuentemente a resultas de una percepción de injusticia: cuando alguien se siente injustamente tratado por la empresa, justifica más fácilmente comportamientos como el maltrato a otros, bien sea subordinados o clientes.

P. ¿Cuáles son sus efectos para los clientes? ¿Y para la sociedad?

R. Cuando alguien es cliente de un 'trader' moralmente desentendido, corre un mayor riesgo de sufrir pérdidas, ya que se enfrenta a alguien que persigue sus intereses sin las restricciones morales que otros humanos normalmente tienen. Para la sociedad en su conjunto, el desentendimiento moral de los 'traders' genera un peligro de colapso financiero, ya que dicho desentendimiento puede llevar a los 'traders' a hacer operaciones ruinosas para el banco, como ya pasó en el 2008.

Las mismas primas generan comportamientos muy distintos en los 'traders': no se puede reducir el comportamiento a los incentivos monetarios

P. ¿Cómo ha cambiado el mundo financiero desde la crisis y en qué ha afectado la utilización de modelos financieros?

R. El mundo financiero ha cambiado, pero menos de lo que cabría esperar. La introducción de la Ley Dodd-Frank y la regla de Volcker en EEUU han limitado la capacidad de los bancos de usar modelos en los que arriesgan su propio capital, que es lo que acabó por arruinar a muchos en el 2008. Dicho cambio, si bien es positivo, no es una solución completa al abuso de los modelos económicos. Si bien es difícil para los 'traders' hundir su propio banco, aún pueden usar modelos excesivamente complejos para arruinar a sus clientes.

P. En un mundo como el de las finanzas, los aspectos culturales son una parte esencial. Es lógico pensar que más allá de las prácticas, las interacciones y las ideas asumidas forman parte de las acciones de los 'traders' y de las empresas para las que trabajan. ¿Cuál es la importancia de la cultura en el mundo financiero?

R. La cultura es clave. A muchos 'traders' les gusta presentarse a sí mismos como personajes exclusivamente racionales y movidos por primas millonarias. Pero la realidad es que las mismas primas generan comportamientos muy distintos en distintos 'traders', con lo cual no se puede reducir el comportamiento a los incentivos monetarios. En el fondo, la idea misma de que las primas son lo único que importa en la vida es de por sí una idea asumida, es decir, parte de la cultura en Wall Street.

El secreto no reside en tener bancos pequeños, sino en lograr las ventajas que posee lo pequeño con un tamaño grande

La reforma cultural es la nueva estrategia de la Reserva Federal de Nueva York. La idea era sencilla: paliar las limitaciones de la Ley Dodd-Frank con seminarios y reuniones periódicas con consejeros delegados de los grandes bancos para debatir la cultura y los valores bancarios. Si bien esto ha sido un buen comienzo, no hay duda de que es muy difícil para un regulador cambiar la cultura de los bancos en Wall Street.

P. Una de las distorsiones que con más frecuencia se ha encontrado es la resonancia. ¿En qué consiste cuáles son sus efectos? ¿Por qué los modelos dan estabilidad en ocasiones, pero en otras conducen a errores desastrosos?

R. La resonancia sucede cuando las acciones de los 'traders' se retroalimentan con el uso de modelos económicos. En caso que presento en el libro, los modelos permiten a cada 'trader' cuantificar la probabilidad que el mercado asigna a un evento, y el 'trader' puede así cuestionar sus propias estimaciones. Pero si todos los 'traders' hacen ese mismo ejercicio, corren el riesgo de convencerse equivocadamente de que están en lo cierto.

P. ¿Cómo es posible corregir estas disfunciones? ¿Por qué afirma que las 'startup' y las 'fintech' son una oportunidad para trabajar de otra manera?

R. Las 'startup' y el sector 'fintech' presentan un tamaño empresarial más reducido y permiten un control humano en vez de algorítmico, evitando así el desentendimiento moral. De hecho, históricamente, el sector financiero ha estado siempre dominado por empresas pequeñas, típicamente gestionadas por socios con responsabilidad personal ilimitada. Los grandes bancos solo han dominado Wall Street en los últimos treinta años, y no está claro que el cambio haya sido para mejor.

Ahora bien, no hay que pensar que un tamaño reducido sea la panacea o una solución universal. Los fondos de cobertura suelen ser pequeños pero típicamente adolecen de serios problemas como una asombrosa falta de diversidad. El secreto, como ya escribía E. F. Schumacher en 'Lo pequeño es bello', no reside en tener bancos pequeños, sino en lograr las ventajas de lo pequeño con un tamaño grande.