¿Qué peligros se esconden detrás del mercado de los asistentes virtuales?

Han pasado casi dos décadas desde que Google comenzó a dominar el sector de las búsquedas en Internet de la misma manera en que Microsoft había dominado el software para las computadoras personales una generación antes. Ahora los especialistas en computación en la Universidad de Stanford están advirtiendo sobre las consecuencias de una carrera para controlar lo que creen que será el siguiente mercado clave en torno a la tecnología de consumo: los asistentes virtuales como Alexa de Amazon y Google Assistant.

El grupo en Stanford, dirigido por Monica Lam, una diseñadora de sistemas de cómputo, el mes pasado recibió un subsidio de tres millones de dólares de la Fundación Nacional de la Ciencia. El subsidio es para un servicio de Internet que esperan que haga las veces de Suiza para los sistemas que usan el lenguaje humano para controlar las computadoras, los teléfonos inteligentes y los dispositivos de Internet en los hogares y las oficinas.

La preocupación más grande de los investigadores es que los asistentes virtuales, como están diseñados actualmente, podrían tener un impacto mucho más grande en la información del consumidor que las aplicaciones y los sitios web actuales. Poner esa información en manos de una gran empresa o un pequeño séquito, dicen, podría borrar lo que queda de la privacidad en línea.

Más acceso a los datos

“Una plataforma monopólica de asistentes tiene acceso a los datos de todas nuestras distintas cuentas. Sabrán más que Amazon, Facebook y Google en conjunto”, dijo Lam en una entrevista. Los asistentes virtuales tienen acceso a un rango más amplio y más personal de datos que un motor de búsqueda, por ejemplo. Un asistente virtual puede ser como una secretaria personal, con acceso a muchos de los detalles más íntimos de tu vida. Lam está colaborando con un grupo de miembros del profesorado y estudiantes de Stanford para construir un asistente virtual que permita que los individuos y las empresas eviten entregar información personal y retengan cierto nivel de independencia respecto de las empresas gigantes de la tecnología.

El sistema del grupo de Lam se llama Almond. En un artículo reciente, argumentaron a favor de un enfoque en el que el software de los asistentes virtuales se descentralice y se conecte mediante estándares de programación que volverán imposible que los usuarios elijan dónde se almacena su información y cómo se comparte. Una primera versión del servicio se lanzó el año pasado, y los investigadores de Stanford ahora están tratando de establecer una alianza con empresas tecnológicas y de consumo más grandes.

El mercado de los asistentes virtuales, que llevan a cabo tareas tan variadas como seleccionar música o encender y apagar termostatos y luces, está en su apogeo. A principios de este año, Google dijo que estaba a punto de instalar su servicio de asistente en mil millones de dispositivos, incluyendo los celulares con sistema Android. Amazon señaló que había vendido más de cien millones de dispositivos Echo y otros relacionados. Los asistentes virtuales no han atraído un escrutinio importante por parte de los reguladores del gobierno porque el mercado aún es pequeño. Sin embargo, un puñado de empresas —Amazon, Google, Apple y Microsoft— ya lo están dominando.

Los investigadores de Stanford esperan obtener apoyo haciendo que su software esté disponible sin costo para los usuarios de celulares, computadoras y aparatos de consumo. Están animando a los fabricantes de productos de consumo a conectar sus dispositivos con el asistente virtual Almond mediante un servicio parecido a Wikipedia llamado Thingpedia. Se trata de una base de datos compartida en la que cualquier fabricante o servicio de Internet podría especificar cómo interactuaría su producto o servicio con el asistente virtual Almond. También esperan que Almond pueda superar a los sistemas de asistentes virtuales actuales en su capacidad de entender lenguaje complejo.

Los asistentes virtuales están logrando entender mejor qué dicen los humanos, pero han tenido mucho menos progreso al comprender qué significan esas palabras. Es difícil que una máquina entienda el contexto y los matices. Aunque los asistentes de las computadoras ahora manejan frases sencillas como “¿Cuál es la temperatura?” o “Toca una canción de los Beatles”, las interacciones humanas de rutina que requieren entender un contexto o depender de algo que se habló previamente son mucho más desafiantes.

Los servicios ahora funcionan mejor con temas específicos, como todas las preguntas que podrías hacer sobre controlar tu cuenta de Spotify.
Tomó años de trabajo llegar a ese punto. Hace tres décadas, Apple encargó a un grupo dirigido por el especialista en computación Alan Kay crear un video que muestre cómo en el futuro los humanos podrían interactuar con computadoras usando la lengua hablada. El video, conocido como Knowledge Navigator, mostraba a un profesor distraído que hablaba con un sistema informático para llevar a cabo tareas e investigaciones académicas.

La demostración inspiró a algunos desarrolladores, incluidos los investigadores en materia de inteligencia artificial Adam Cheyer y Tom Gruber, que comenzaron a investigar sobre los asistentes virtuales mientras aún estaban en SRI International, un laboratorio de investigaciones independiente en Menlo Park, California. En 2010, Apple adquirió la empresa emergente y después lanzó su tecnología para el iPhone al año siguiente. Desde entonces, Siri se enfrenta con una fuerte competencia. El año pasado, Amazon dijo que tenía 10.000 empleados trabajando en el servicio de Alexa, muchos de ellos enfocándose en mejorar la capacidad de comprender órdenes complejas.

Los investigadores de Stanford desarrollaron un sistema llamado Genie que simplifica la tarea de entrenar una llamada red neuronal. Están mejorando la precisión de su servicio creando datos de prueba, algunos de ellos generados por humanos y el resto por oraciones creadas por programas especiales de prueba.

Al borde de la precisión

Aunque la precisión de las máquinas al entender las palabras habladas ahora supera de manera rutinaria el 90%, la precisión al entender el lenguaje natural complejo es sustancialmente más baja. Un artículo reciente de los investigadores de Stanford, que describió un avance importante en el entendimiento del lenguaje, aún alcanzaba tan solo el 62% de precisión en “aportaciones realistas del usuario”, declaraciones reales escritas por personas que participan en las pruebas.

Gruber, que hace poco se fue de Apple tras dirigir su área de desarrollo avanzado, sigue mostrándose escéptico respecto de cualquier avance técnico a corto plazo que haga posible que los asistentes virtuales tengan un entendimiento parecido al humano. “Cuando tienes una pregunta y no sabes a qué materia pertenece, entonces tienes un problema muy complicado de ambigüedad masiva”, comentó.

Lam dijo que la amenaza a la privacidad no es una exageración. Señaló, por ejemplo, que Wynn Resorts en Las Vegas el año pasado instaló dispositivos Amazon Echo en las habitaciones. “Alguna vez se dijo que lo que pasa en Las Vegas se queda ahí”, comentó. “Ahora eso ya no es necesariamente cierto. Podría terminar en Seattle”.