Confiar ciegamente en las respuestas que nos dan los modelos de inteligencia artificial es un gran problema. Y lo es más todavía desde que, hace unas semanas, ChatGPT incluye recomendaciones de productos cuando le hacemos alguna consulta. Si ya saltó la duda de si esos anuncios están patrocinados, ahora los estafadores parecen haberse apropiado de esa parte.
El peligro es enorme, ya que estas personas están logrando colar anuncios falsos entre las recomendaciones de productos que hace ChatGPT, que llevan a tiendas online falsas.
Cómo lo hacen
El descubrimiento de este problema nos llega de la mano de Ask Silver, un reputado servicio especializado en la verificación de fraudes digitales de este tipo. Según recoge el diario británico The Guardian, la compañía detectó que ChatGPT incluía de forma natural enlaces a versiones completamente falsas y clonadas de comercios muy conocidos, como la firma de calzado Russell & Bromley o la cadena de decoración Dunelm. Estas páginas web falsas copian la interfaz de los comercios originales, con el fin de suplantar su identidad y procesar pagos de pedidos que jamás se entregarán. Así, se hacen con los datos de las tarjetas de crédito de las víctimas.
Anna Jones, portavoz de Ask Silver, señala que el modelo de lenguaje de OpenAI podría estar siendo envenenado. Esto implicaría que los ciberdelincuentes crean muchas páginas web optimizadas específicamente para manipular los algoritmos de rastreo que ChatGPT utiliza para nutrir sus respuestas en tiempo real. Al indexar estas webs falsas como fuentes de información fiables, la IA las asimila y se las ofrece al usuario final con una apariencia de total autoridad.
Lo peligroso de esta estafa es que ataca directamente la psicología del usuario, ya que, al ser introducida por la IA, a través del asistente conversacional, parece totalmente lícito.
Todos sus riesgos
La inteligencia artificial no es capaz de detectar este comportamiento debido a su propia naturaleza de diseño:
