Bots de ventas de inteligencia artificial quieren tu dinero

Levanta la mano si recientemente miraste el estado de cuenta de tu tarjeta de crédito y viste un cargo por una suscripción a la que habías olvidado haberte suscrito.

No eres el único. El número de nuevas suscripciones por consumidor estadounidense alcanzó su punto máximo el año pasado, y las cancelaciones ahora superan a las nuevas suscripciones. Pero, para muchos servicios, darte de baja puede ser mucho más complicado que darte de alta, como lo descubrí yo cuando intenté eliminar mi pago mensual a Audible, la suscripción de libros grabados de Amazon.

Si la cancelaba, me advirtió la aplicación, perdería los tres créditos de libros que ya había pagado pero que no había usado. En su lugar, me ‘ofrecía’ un botón de "pausa" que aplazaría el siguiente pago durante tres meses. Como no quería perder ese dinero, diligentemente obedecí y programé un recordatorio en el calendario para cancelarla en octubre.

La Autoridad de Conducta Financiera (FCA, por sus siglas en inglés) del Reino Unido lleva casi una década preocupada por las abusivas técnicas de venta por Internet. En 2015, la FCA alertó por primera vez acerca del hecho de obligar a los clientes a desmarcar casillas o a "optar por no participar" para evitar el pago de seguros adicionales y, desde entonces, ha ampliado sus esfuerzos.

Ahora, los reguladores han intensificado su guerra contra lo que denominan "patrones oscuros": menú tras menú de confusas opciones destinadas a maximizar el gasto y disuadir las cancelaciones. Esa guerra es necesaria conforme las compañías utilizan la minería de datos, los algoritmos y una sofisticada inteligencia artificial (IA) para atraer a los clientes y fidelizarlos.

La Comisión Federal de Comercio (FTC, por sus siglas en inglés) de EEUU demandó a Amazon la semana pasada, alegando que había "engañado y atrapado a personas en suscripciones recurrentes" a su servicio Prime. Esta semana, la Comisión puso en la mira a Publishers Clearing House, obligándola a devolver US$18.5 millones a clientes que habían sido inducidos a realizar compras y pagar tarifas mientras participaban en sus sorteos.

"Realmente estamos intentando enviar el mensaje de que este tipo de prácticas han llamado nuestra atención y no serán toleradas", me dijo un alto funcionario de la FTC.

En la Unión Europea (UE), la presión de Bruselas llevó a Amazon a empezar a permitirles a los clientes poner fin a su suscripción Prime con sólo dos clics utilizando un botón de "cancelar" claramente etiquetado. Amazon también cambió sus políticas en el Reino Unido alrededor de esa época, pero no modificó las cancelaciones en EEUU sino hasta este año, antes de la demanda de la FTC. La compañía, la cual tiene previsto pelear el caso, insiste en que sus procedimientos de cancelación son "claros y sencillos… intencionalmente".

Incluso mientras los organismos reguladores toman enérgicas medidas contra los procesos de los sitios web de patrones oscuros, las compañías están recurriendo a la inteligencia artificial para que sus métodos de venta sean más sofisticados y, potencialmente, explotadores.

Las empresas pronto podrán predecir — si es que ya no pueden hacerlo — no sólo qué ofrecer, sino también a qué hora del día es más probable que se produzca una compra. La tecnología de detección de emociones en tiempo real pudiera utilizarse para ejercer presión con ofertas en momentos vulnerables.

Del mismo modo que el autocompletado predictivo inserta errores en los textos, una IA generativa sofisticada pudiera buscar y precompletar la información de compra de maneras que beneficien a los vendedores en lugar de ofrecerles a los compradores una gama completa de opciones.

Imagínate que le pidieras a la IA que buscara información sobre una aspiradora robot. Si la información de vuelta fuera la página de registro para una suscripción de un año a un sitio web de consumo con los detalles completados, algunas personas simplemente harían clic en ‘sí’. En ese caso, pudieran perderse una suscripción de prueba gratuita.

"Cuanto más versátil sea la IA, más necesaria será la regulación para garantizar que no nos manipula y que no nos explota", afirma Matthias Holweg, de la Escuela de Negocios Saïd de Oxford.

Los reguladores deben establecer principios y procedimientos ahora que faciliten la represión de las prácticas de venta abusivas a medida que vayan surgiendo. Existen al menos tres enfoques diferentes que ameritan consideración.

El nuevo Deber al Consumidor de la FCA, el cual entrará en vigor el mes que viene, específicamente les desaconseja a las compañías el intentar "explotar los sesgos de comportamiento de los consumidores para crear una demanda".

El Parlamento Europeo está trabajando en una nueva legislación para ponerle límites al uso de tecnologías de IA como la categorización biométrica, el reconocimiento de emociones y los sistemas generativos. Hasta ahora, gran parte de la atención se ha centrado en el empleo y en el cumplimiento de la ley. Pero los principios se extienden a las ventas.

La FTC está exigiéndoles a las compañías que llegan a acuerdos en casos de engaño que mantengan registros de las investigaciones psicológicas y conductuales que realizan, incluyendo las pruebas A/B. Esto debería ampliarse. A medida que más empresas utilicen la IA para impulsar las ventas, debieran anticipar enfrentarse al escrutinio.

Una cosa es tentar a los clientes con ofertas personalizadas. Otra muy distinta es explotar sus debilidades para hacer que paguen por servicios que no necesitan.