Inteligencia artificial crea verdaderos dilemas estratégicos

"¿Cuándo y por qué debería mi compañía desviarse de su marco estratégico?", preguntó un miembro del foro Financial Times 125, el cual sirvió de anfitrión a la sesión. Otro participante señaló que la estrategia es "el arte de tomar decisiones difíciles". Puede que sea un arte, pero la ciencia está jugando un creciente papel en la selección.

Ya han pasado más de tres años desde que el sistema informático AlphaGo de DeepMind aprendió cómo derrotar al mejor jugador humano del planeta de Go, un juego puramente estratégico. Los fondos de cobertura han estado buscando durante mucho tiempo expresar exitosas estrategias bursátiles y de inversión en el código de las computadoras, "para superar nuestros apegos emocionales a nuestras propias conclusiones", en las palabras del fundador de Bridgewater, Ray Dalio.

Los algoritmos basados en la inteligencia artificial (IA) son "superportadores” de tomas de decisiones al estilo de Dalio, según un provocativo nuevo ensayo de Dirk Lindebaum, Mikko Vesa y Frank den Hond. Sin control, un resultado extremo sería una especie de singularidad de estrategia, en la cual la servil deferencia ante el algoritmo destruye la capacidad de los gerentes para evaluar los planes en lo más mínimo.

El ensayo se inspira en el distópico cuento "La máquina se para" de E. M. Forster, publicado en 1909. Forster imaginó un mundo en el que las debilitadas personas viven bajo tierra en habitaciones como panales de abeja, parte de un sistema totalitario dependiente de la tecnología. Ellas dependen de la "Máquina" para la comunicación, para el entretenimiento, y para el sustento espiritual y físico. La capacidad de toma de decisiones de la mayoría de los humanos se ha atrofiado. Los que se rebelan son exiliados a la superficie de la tierra.

Cuando la Máquina sufre una falla cataclísmica, la sociedad subterránea colapsa con ella. En un rayo de esperanza, un humano condenado a la destrucción sugiere que "la humanidad ha aprendido su lección".

La ciencia ficción eduardiana puede parecer una mediocre guía para los estrategas del presente. Pero el Prof. Lindebaum me dijo que él y sus coautores, sin demonizar la tecnología, querían usar el relato de Forster para informar a los gerentes en ejercicio de sus funciones de los límites y riesgos de la IA. Él alerta a los gerentes para que no "terminen en un estado de indefensión aprendida, por falta de experiencia directa". Si le delegan demasiadas decisiones a la máquina, también perderán la capacidad de innovar y asumir los riesgos creativos de los que depende el progreso.

De hecho, los defensores del aprendizaje automático a menudo se encuentran entre los primeros en señalar estos límites.

La más reciente iniciativa de David Yang es Yva, un motor de inteligencia artificial que utiliza datos corporativos para predecir, entre otras cosas, si es probable que el personal clave renuncie. Medido por la cantidad de neuronas, incluso la más sofisticada IA es apenas tan brillante como una abeja, él me comentó. No es de extrañar que él les recomiende a los ejecutivos que traten los consejos impulsados por la AI como una "segunda opinión médica", en lugar de confiar en ellos para decidir la dirección estratégica.

Andrew McAfee y Erik Brynjolfsson escribieron en su último libro "Machine, Platform, Crowd" (Máquina, plataforma, multitud) sobre el peligro de la toma de decisiones "Hippo", basadas en la "opinión de la persona mejor pagada". En teoría, la computadora ofrece un antídoto algorítmico; en la práctica, también puede reproducir el sesgo de sus programadores o de los datos que utilizan, como lo confirman numerosos ejemplos y como ellos lo confirman. Incluso en su nivel más optimista con respecto a la tecnología, los Sres. McAfee y Brynjolfsson aún recomiendan incorporar "inteligencia humana en el circuito, inteligentemente", aunque sólo sea para introducir sentido común en las recomendaciones basadas en algoritmos.

El anticuado plan estratégico análogo puede fomentar una dependencia similar. En 1994, el profesor de administración Henry Mintzberg escribió sobre los escollos y las falacias de la planificación estratégica, en los comienzos del análisis de datos: "Los sistemas formales ciertamente podían procesar más información que los humanos, al menos información difícil; podían consolidarla, agregarla, moverla constantemente. Pero nunca pudieron internalizarla, comprenderla, sintetizarla".

Yo le pregunté al profesor Mintzberg si él había cambiado de opinión en los últimos 25 años. En lo absoluto, me respondió. Los complejos dilemas estratégicos -los cuales él llama "desconcertantes rompecabezas"- actualmente están sujetos a soluciones programadas demasiado meticulosas.

En otras palabras, aún se requiere al estratega humano, precisamente para decidir cuándo y por qué desviarse del marco estratégico, ya sea que ese marco haya sido construido por un comité de personas o por una máquina altamente inteligente.

El profesor Lindebaum y sus coautores sugieren que la sentencia de muerte para la toma de decisiones humanas se pronunciará la primera vez que un tribunal dictamine que un médico ha ocasionado la muerte de un paciente al ignorar las recomendaciones de una herramienta de diagnóstico basada en la IA. Por extensión, hay que cuidarse de la primera demanda de los accionistas en contra de una junta directiva que ignore el plan estratégico de la Máquina.