El jueves pasado a la noche, una jueza federal de California llamada Rita Lin firmó un fallo que cierra, al menos por un tiempo, la historia que vengo contando en esta columna desde mayo. Dictaminó que el Departamento de Defensa de Estados Unidos actuó de manera ilegal cuando le colgó a Anthropic la etiqueta de "riesgo en la cadena de suministro", un sello que hasta ese momento se había usado casi únicamente contra empresas vinculadas a países adversarios, y ordenó sacarla. Según la jueza, la medida fue una represalia ilegal contra la libertad de expresión de la empresa, a la que además le negaron el debido proceso antes de castigarla, y la evidencia que presentó el gobierno para justificar el supuesto peligro resultó, con sus propias palabras, escasa.
Para entender el tamaño de la cosa hay que volver a febrero, cuando el Pentágono y Anthropic negociaban un contrato para usar Claude, el modelo de la empresa, en tareas militares. La empresa puso dos condiciones, que su tecnología no sirviera para armas totalmente autónomas ni para vigilar masivamente a ciudadanos estadounidenses. El gobierno pedía acceso sin restricciones para cualquier propósito legal, la negociación se fue al tacho, y en marzo el secretario de Defensa Pete Hegseth los declaró riesgo para la seguridad nacional mientras Trump ordenaba a todas las agencias federales cortar cualquier relación con ellos. Anthropic quedó como la primera empresa estadounidense en recibir una etiqueta pensada para espías de otros países.
De ahí en adelante pasaron cosas que ya conté acá, todas encadenadas. En mayo el cofundador Chris Olah se sentó al lado del Papa en el Vaticano a presentar una encíclica sobre IA. En junio el gobierno le apagó a la empresa sus modelos más avanzados para cualquier extranjero, con una carta y sin aviso, y millones de personas de este lado del mundo nos quedamos mirando una pantalla en blanco. Esa misma semana Anthropic denunció a Alibaba por haberle robado 28 millones de conversaciones para copiarle la tecnología, y días después pidió su salida a bolsa con una valuación de un billón de dólares. Ahora una jueza dice que el castigo original fue ilegal y que el gobierno lo aplicó, cito el fallo, con el deseo de hacer un escarmiento público de la empresa por su arrogancia al criticarlo.
La jueza Lin escribió algo que me parece de lo más importante que se dijo este año sobre tecnología y poder, y es que invocar la seguridad nacional sin fundamentos no le da al gobierno un cheque en blanco para castigar a quienes lo critican. Encontró además una contradicción que desarma el argumento oficial de raíz, porque el mismo Hegseth que presentaba a la empresa como una amenaza había amenazado meses antes con usar la Ley de Producción de Defensa para obligarla a trabajar con el Estado, y esa herramienta se aplica únicamente a compañías consideradas esenciales para el país. Mientras el Pentágono la trataba de peligrosa, otras oficinas del mismo gobierno seguían reuniéndose con ella y contratándola como si nada.
La pregunta que deja el fallo va bastante más allá de una empresa y un ministerio, porque lo que se discutió en ese tribunal fue quién decide hasta dónde llega la IA en la guerra, si el que la compra o el que la construye. Durante décadas la relación entre el Estado y sus proveedores militares funcionó con una regla simple, la de que el que paga manda, y Anthropic la desafió sosteniendo que un fabricante puede fijar condiciones sobre el uso de su producto aunque el cliente sea el ejército más poderoso del planeta. Por primera vez un tribunal le dio la razón a esa idea, con la salvedad de que el gobierno puede apelar, de que la disputa podría llegar hasta la Corte Suprema y de que hay una segunda demanda pendiente en Washington, así que el precedente existe aunque todavía tenga las patas cortas.
Todo esto cae el mismo fin de semana en que arranca en Ginebra la sesión de Naciones Unidas sobre armas autónomas letales, de la que escribí hace unos días. Los diplomáticos llevan más de una década tratando de acordar qué significa mantener el control humano sobre una máquina que decide, sin conseguir un tratado, y mientras ese proceso avanza a paso de tortuga la decisión más concreta que existe hoy sobre límites al uso militar de la IA la tomó una empresa privada negándose a firmar un contrato, con una jueza de San Francisco atrás bancándola. El mercado y los tribunales están llegando antes que la diplomacia a un lugar que la diplomacia lleva años sin poder alcanzar.
Desde el Río de la Plata la noticia se lee de dos maneras a la vez, y las dos valen. Por un lado tranquiliza, porque las barreras de seguridad que las empresas le ponen a sus modelos son la única protección real que tenemos los que usamos estas herramientas sin haber participado en su diseño, y el fallo muestra que esas barreras pueden aguantar el apriete de un Estado. Por otro lado incomoda, porque nada de esto nos incluye. La etiqueta que le pusieron a Anthropic estaba pensada para extranjeros, el apagón de junio nos alcanzó justamente por extranjeros, y ninguna jueza de California va a revisar si a un usuario de Montevideo o de Buenos Aires le cortaron el acceso con debido proceso. Lo que protegió la Justicia estadounidense fue a una empresa de su propio gobierno, y esa protección, hasta donde se sabe, no cruza ninguna frontera.
Vuelvo a lo que pidió Olah en el Vaticano hace tres meses, cuando habló de voces morales que los incentivos no pudieran torcer, porque esta semana esa voz apareció con toga y firmó un fallo. Lo que nadie sabe todavía es si el sistema que produjo esa sentencia, con sus tribunales independientes, sus enmiendas y sus contrapesos, va a alcanzar para contener una tecnología que corre más rápido que cualquier expediente, o si esto fue apenas el primer round de una pelea larga entre los que fabrican la inteligencia y los que quieren usarla sin preguntar. Mientras tanto, el jueves quedó escrito en un papel oficial de Estados Unidos que decir que no también es una opción, y ese papel, con todo lo frágil que pueda ser, hace una semana no existía.