A lo desconocido
En el área de
inteligencia artificial, los técnicos examinan las últimas investigaciones en ciencia cognitiva, traducen eso en un algoritmo y lo añaden a un sistema existente. Se trabaja con la inteligencia artificial sin entender primero a la inteligencia o la cognición. Sistemas como Watson, de IBM, y AlphaGo, de Google, usan redes neuronales artificiales con enorme poder de computación y logran hazañas impresionantes. Pero si estas máquinas cometen errores, no cambian el mundo. Claro que a medida que los diseños se vuelvan más complejos y los procesadores más rápidos, mejorarán sus habilidades. Eso les dará más responsabilidad y aumentará el riesgo de consecuencias imprevistas. Como se dice, "errar es humano" y es imposible crear un sistema verdaderamente seguro.
Al mal uso
En última instancia, se espera crear inteligencia artificial al mismo nivel que la humana. Una posibilidad es que se use su evolución para influir en la ética de los sistemas de inteligencia artificial. Es probable que la ética y la moralidad, como la confianza y el altruismo, sean el resultado de la evolución humana. Podríamos establecer ventajas evolutivas a las máquinas que demuestran bondad, honestidad y empatía, lo que podría ser una manera de asegurar servidores más obedientes y confiables y menos
robots despiadados. Si bien la neuroevolución puede reducir la probabilidad de consecuencias no deseadas, no evita el uso indebido. Esa es una cuestión moral.
A las prioridades sociales erróneas
Como sociedad, todavía no hemos llegado a tener una idea clara de lo que queremos que haga la inteligencia artificial. Por supuesto, esto es porque todavía no sabemos de qué es capaz. Los robots ya están haciendo trabajos físicos como soldar piezas de vehículos. Un día, también podrán hacer tareas cognitivas que una vez pensamos que eran exclusivamente humanas. En la sociedad actual, la automatización empuja a la gente fuera de los puestos de trabajo, haciendo que las personas que poseen las máquinas sean más ricas y todos los demás, más pobres. Esto es un problema socioeconómico. La sociedad debe ser capaz de crear inteligencia artificial beneficiosa en lugar de aumentar la discrepancia.
A un escenario de pesadillas
Hay un último temor, encarnado por HAL 9000, Terminator y cualquier otras de las superinteligencias ficticias: si continúa mejorando hasta superar a la humana, ¿podremos evitar ser borrados de la faz de la Tierra por las máquinas que ayudamos a crear? La pregunta clave en este escenario es: ¿por qué una superinteligencia debe mantenernos? Afortunadamente, todavía no necesitamos justificar nuestra existencia. Tenemos cierto tiempo: entre 50 y 250 años, dependiendo de cómo avance la
tecnología. Todos, individualmente y como sociedad, necesitamos prepararnos para ese escenario, usando el tiempo que nos queda para demostrar por qué debemos seguir existiendo. Independientemente de las amenazas físicas, una superinteligencia también representa un peligro político y económico.
