Kieran O’Connor, business journalist de Payment Expert y Insider Sport de SBC, analizó la implicancia de la inteligencia artificial (IA) en los procesos de pago del juego online y las apuestas deportivas.
A medida que los agentes de inteligencia artificial (IA) empiezan a gastar dinero en nuestro nombre, las reglas de pago diseñadas para la toma de decisiones humanas exponen a los consumidores a una brecha de responsabilidad.
No sé si es solo la época del año, donde todos empezamos a reflexionar sobre lo que han traído los últimos 12 meses, pero siento que he entrado sin darme cuenta en un mundo donde los agentes de IA pueden comparar productos, hacer reservas, completar formularios de pago y mover dinero real.
Sinceramente, ¿cómo hemos llegado hasta aquí con la IA?
De repente, nos encontramos en una era en la que todas las empresas de pagos están entrando en el “comercio agentic”, que es básicamente una forma de decir que tu compañero digital pronto pulsará el botón de compra en tu nombre.
Sí, suena conveniente. Pero quizá sea porque siento que me acosté una noche sin saber mucho al respecto y me desperté a la mañana siguiente con todas las empresas lanzando un agente de IA, que no puedo evitar preguntarme si realmente estamos preparados.
Porque ahora mismo, las reglas no se crearon para esto.
El nuevo sistema de reembolso del Reino Unido para víctimas de estafas, la Regulación E de Estados Unidos y la PSD2 de Europa presuponen que la decisión la toma una persona. La ley imagina a una persona sentada, con tarjeta en mano, eligiendo conscientemente enviar 800 libras a alguien que dice ser del “Departamento de Reembolsos de Royal Mail”. No imagina a un bot haciéndolo porque un correo electrónico de phishing se ha colado en sus filtros.
No digo que no se estén creando normas para este nuevo mundo de la IA, ya que se han producido avances. Visa, por ejemplo, está implementando su programa de Agentes de Confianza, que ofrece a los agentes de IA una forma de verificación para que puedan operar dentro del ecosistema de pagos. No niego que esto ayuda desde el punto de vista de la seguridad.
Sin embargo, una insignia no soluciona el incómodo momento en que el bot se equivoca. Es decir, ¿de verdad creemos que nunca cometerán un error?
Actualmente, todo el mundo finge que el culpable del error es el cliente. Si autorizaste a la IA a actuar en tu nombre, su error se convierte en tu error. Así lo entiende, en líneas generales, la legislación del Reino Unido, y los bancos se sienten más que cómodos con este acuerdo. Es el equivalente digital a prestarle las llaves del coche a tu primo. Si tiene un accidente, las aseguradoras suelen encogerse de hombros y decir que sí se las diste.
El problema es que no se trata de tu primo. Es un sistema que la mayoría de los consumidores no comprende del todo, y que toma decisiones que no aprobaron explícitamente. Y, a diferencia de tu primo, no se disculpará.
Lo cierto es que la brecha de responsabilidad aquí es una crisis de protección al consumidor a punto de estallar. A medida que la IA se integra en el comercio, millones de personas se verán expuestas a riesgos que ni siquiera saben que existen.
A menos que los reguladores se anticipen a esto, veremos que se repite el mismo patrón. La innovación avanza a toda velocidad. Se les dice a los consumidores que estén atentos. Y cuando algo sale mal, de repente es su culpa por confiar en las mismas herramientas que se les animó a usar.
Entonces, ¿qué debería suceder en su lugar?
Necesitamos un modelo de responsabilidad compartida, que reconozca que los desarrolladores de IA, los bancos, los comercios y los reguladores tienen un rol particular. Si un sistema de IA es lo suficientemente confiable como para mover mi dinero, quienes lo desarrollaron, lo aprobaron y se benefician de él deberían compartir la responsabilidad cuando algo salga mal.
Seamos honestos. Nadie quiere otro juego de culpas entre los proveedores de pagos y las grandes tecnológicas como el que ya existe en torno al fraude de pagos push autorizados. Esta es la oportunidad de establecer las reglas correctas desde el principio.
