Los organismos de control de la IA: dentro del complejo mundo de la detección del fraude

Son las dos de la madrugada en el centro de mando de ciberseguridad de Western Union, y Maya Patel no ha pestañeado en lo que parecen horas. El sistema de detección de fraudes con inteligencia artificial de la compañía acaba de detectar tres patrones de transacciones inusuales. Una oleada de transferencias de dinero desde cuentas en Nebraska a Ucrania, todas justo por debajo del umbral de notificación. Demasiado similares para ser coincidencia, demasiado perfectos para ser aleatorios.
"Esta es la tercera vez esta semana", murmura Maya, tecleando con precisión. Tras ella, enormes pantallas muestran visualizaciones a color de los flujos de transacciones globales. Su asistente de inteligencia artificial ya ha elaborado un informe, resaltando los patrones sospechosos en rojo. Hace años, un equipo de analistas habría tardado días en detectarlo. Ahora ocurre en segundos.

Estamos presenciando una guerra silenciosa, que no se libra con armas ni bombas, sino con algoritmos y datos. A medida que las transacciones digitales se han convertido en la columna vertebral de nuestra economía, el fraude financiero ha evolucionado de estafas burdas a sofisticados ataques orquestados por organizaciones criminales internacionales y hackers patrocinados por estados.

Solo en 2023, el fraude le costó a la economía mundial más de 5,5 billones de dólares. El campo de batalla está en todas partes: transacciones con tarjetas de crédito, solicitudes de préstamos, reclamaciones de seguros y, cada vez más, intercambios de criptomonedas.

"La mayoría de las personas no se dan cuenta de que están protegidas por IA cada vez que pasan su tarjeta", afirma el Dr. Raj Sharma, director científico de datos de Mastercard. "Los sistemas que hemos desarrollado analizan más de 75 000 millones de transacciones al año, tomando decisiones instantáneas sobre si aprobar o rechazar. Y son cada día más inteligentes".

Estoy en el Centro Tecnológico de Mastercard en Nueva York, donde el Dr. Sharma me muestra visualizaciones de sus redes neuronales en funcionamiento. Las pantallas me recuerdan a las constelaciones, con nodos brillantes que se iluminan a medida que los patrones emergen del mar de datos.

La detección tradicional de fraudes se basaba en reglas rígidas: si una transacción cumplía ciertos criterios, se marcaba para su revisión. Pero los estafadores sofisticados aprendieron rápidamente a manipular estos sistemas.
"Las reglas son como cerraduras", explica Sarah Chen, ex especialista en ciberdelincuencia del FBI que ahora dirige su propia consultoría de seguridad. "Una vez que alguien descubre cómo funcionan, puede abrirlas. Lo que necesitábamos era una cerradura que cambiara constantemente su mecanismo".
Aparece el aprendizaje automático. En lugar de seguir reglas explícitas, los sistemas modernos de IA aprenden de patrones históricos, identificando correlaciones sutiles que los analistas humanos podrían pasar por alto.

En la sede de Stripe, el procesador de pagos, en San Francisco, me muestran una demostración de su sistema de detección de fraudes. El equipo le envía una serie de transacciones, algunas legítimas, otras fraudulentas. La IA no solo detecta señales de alerta obvias, sino que también observa que las transacciones fraudulentas a menudo provienen de cuentas creadas los fines de semana o que tienden a tener patrones de escritura ligeramente diferentes al introducir la información.

"Los humanos somos animales de hábitos", afirma Miguel González, Director de Riesgos de Stripe. Incluso los estafadores más cuidadosos dejan patrones. Nuestros sistemas pueden detectar el ritmo de las pulsaciones de teclas, los movimientos del ratón e incluso la forma en que alguien navega por un sitio web. Estos datos biométricos del comportamiento son casi imposibles de imitar a la perfección.

A pesar de la maravilla tecnológica, la experiencia humana sigue siendo crucial. En el centro de gestión de riesgos de PayPal en Omaha, los analistas revisan los casos detectados por los sistemas de IA y proporcionan información que ayuda a mejorar los algoritmos.
"La IA es nuestra primera línea de defensa, pero no es infalible", afirma Jennifer Wu, analista sénior de fraude. "A veces, las transacciones legítimas parecen sospechosas, y en ocasiones el fraude es tan novedoso que el sistema no ha visto nada parecido antes. Necesitamos el criterio humano para tomar la decisión final en esos casos extremos".
Este enfoque híbrido, que combina la capacidad de procesamiento de la IA con la intuición humana, ha demostrado ser notablemente eficaz. Visa informa que su sistema de detección de fraude basado en IA ha ayudado a prevenir aproximadamente 25 000 millones de dólares en intentos de fraude solo el año pasado.

A medida que los sistemas de detección se vuelven más sofisticados, también lo hacen los ataques. Los estafadores ahora utilizan la IA, creando deepfakes para eludir los sistemas de autenticación de voz o generando identidades sintéticas que superan las comprobaciones de verificación.

"Es una carrera armamentística", suspira la Dra. Emily Rosenberg, investigadora de ciberseguridad del MIT. "Cada vez que desarrollamos mejores defensas, ellos desarrollan mejores ataques. La ventaja es que la IA defensiva puede aprender de millones de transacciones legítimas, mientras que los estafadores tienen datos limitados con los que trabajar".

Observo cómo demuestra un nuevo tipo de ataque: una red generativa antagónica (GAN) que crea patrones de uso de tarjetas de crédito ficticios pero creíbles. El sistema es inquietantemente eficaz, pero aún así activa ciertas alarmas en los sistemas de detección modernos.

Las técnicas pioneras en la detección del fraude financiero se están aplicando ahora en todos los sectores. Las compañías de seguros utilizan sistemas de IA similares para detectar reclamaciones sospechosas. Las plataformas de comercio electrónico los emplean para detectar reseñas falsas y productos falsificados. Las agencias gubernamentales los utilizan para identificar la evasión fiscal y el fraude de prestaciones.
En la aseguradora médica Anthem, los sistemas de IA analizan millones de reclamaciones a diario, buscando patrones que puedan indicar prácticas de facturación fraudulentas por parte de los proveedores de atención médica.
"El fraude sanitario cuesta a los contribuyentes estadounidenses unos 300 000 millones de dólares al año", me cuenta el Dr. Marcus Johnson, director de análisis de Anthem. "Nuestros sistemas han ayudado a identificar varias redes de fraude organizadas que operan en varios estados. En un caso, encontramos una red de clínicas que facturaban procedimientos que nunca se realizaron, lo que potencialmente permitió ahorrar cientos de millones en reclamaciones fraudulentas".

La eficacia de estos sistemas conlleva cuestiones espinosas sobre la privacidad. Más datos implican una mejor detección del fraude, pero también mayor potencial de uso indebido.

"Siempre existe una tensión entre la seguridad y la privacidad", admite Elena Vasiliev, defensora de la privacidad que trabajó anteriormente en sistemas de detección de fraude en American Express. "Las mismas técnicas que permiten detectar el fraude también pueden utilizarse para la vigilancia. Debemos ser cuidadosos con la cantidad de información que recopilamos y cómo la utilizamos".

Algunas empresas están explorando técnicas como el aprendizaje federado, que permite entrenar modelos de IA en múltiples fuentes de datos sin centralizar la información confidencial. Otras están invirtiendo en cifrado homomórfico, que permite analizar datos cifrados sin descifrarlos primero.

Al salir del centro de mando de Western Union al amanecer, Maya Patel ha bloqueado con éxito las transacciones sospechosas y ha presentado un informe a la unidad de ciberdelincuencia del FBI. El sistema ya ha actualizado sus modelos para reconocer este patrón de fraude en particular.
La próxima frontera en la detección del fraude implica la computación cuántica y la IA explicable: sistemas que no solo pueden detectar el fraude, sino también explicar claramente por qué marcaron una transacción en particular. Esta transparencia será crucial a medida que se endurezcan las regulaciones en torno a la toma de decisiones mediante IA.
"Hace diez años, estábamos intentando ponernos al día", me dice Maya mientras caminamos hacia el ascensor. "Ahora, estamos empezando a adelantarnos a los estafadores. Pero no es una batalla que vayamos a ganar por completo. Mientras haya dinero de por medio, la gente intentará manipular el sistema".
Hace una pausa antes de añadir: "La buena noticia es que nuestras herramientas mejoran cada día. Y a diferencia de los estafadores, podemos compartir información con toda la industria. Cada ataque nos fortalece a todos". A medida que las transacciones digitales siguen creciendo en volumen y complejidad, este escudo invisible de protección de IA cobrará cada vez mayor importancia. La próxima vez que la compañía de su tarjeta de crédito le envíe un mensaje de texto para verificar una compra inusual, recuerde: es solo la punta visible de un iceberg tecnológico que protege silenciosamente su vida financiera las 24 horas.
¿Convertirán los sistemas de detección de fraude de IA en algo del pasado? ¿O estaremos siempre atrapados en este juego digital del gato y el ratón, con ataques y defensas cada vez más sofisticados? Una cosa es segura: el futuro de la seguridad financiera estará determinado tanto por las líneas de código como por quienes las escriben.