La inteligencia artificial ayuda a los compradores a encontrar artículos y comparar precios, pero también crea nuevos riesgos. Según Experian, la mayor amenaza de fraude este año son los agentes de inteligencia artificial y su potencial para alterar el cambiante panorama minorista.
En el pasado, los comerciantes y las instituciones financieras dependían de defensas integrales para identificar y neutralizar cualquier actividad originada por robots. A medida que el comercio proxy ha evolucionado este año, este enfoque ya no es suficiente, lo que dificulta que las organizaciones puedan diferenciar entre el tráfico de bots maliciosos y los servidores proxy legítimos de IA.
Experian señaló que el problema está alcanzando un nivel de crisis y requiere una respuesta proactiva, lo que llevó a las organizaciones y reguladores a examinar las obligaciones de responsabilidad y el marco regulatorio que rige el comercio de las agencias.
amenaza creciente
Incluso sin una actividad generalizada de los agentes, el fraude se está acelerando. Los delincuentes ahora pueden elaborar mensajes muy específicos y las redes sociales se han convertido en un caldo de cultivo para las estafas.
Estos mensajes fraudulentos son cada vez más difíciles de detectar ya que los ciberdelincuentes utilizan inteligencia artificial para generar comunicaciones auténticas. Los malos actores también están utilizando la IA para crear deepfakes con el fin de engañar a los empleadores para que ofrezcan oportunidades de trabajo remoto o a los consumidores para que envíen fondos. Esta característica convierte a los deepfakes en la segunda tendencia de fraude más impactante este año, según Experian.
“Los consumidores siempre serán el eslabón más débil”, dijo Tracy Goldberg, directora de ciberseguridad de Javelin Strategy & Research. “Los esquemas de ingeniería social, ya sean impulsados por IA o no, seguirán engañando a los consumidores para que hagan clic en enlaces maliciosos, se hagan amigos de actores maliciosos que no conocen y revelen información de identificación personal sobre ellos mismos. La IA sólo hará que el riesgo de ataques de ingeniería social sea más específico y personalizado, lo cual es una preocupación real para los clientes y empleados de las empresas”.
“Mejorar la seguridad del correo electrónico y del firewall es cada vez más importante para mantener seguros a los propios empleados, y más empresas, especialmente las instituciones de servicios financieros, deberían considerar ofrecer a los clientes servicios de seguridad auxiliares, como protección contra el robo de identidad, incluidas configuraciones de firewall, redes privadas virtuales y filtrado de spam para mensajes de texto y correos electrónicos”.
Dinámico pero nuevo
No es coincidencia que estas amenazas exploten una de las tecnologías más poderosas de nuestro tiempo: la inteligencia artificial. Desafortunadamente, los malos actores pueden explotar las capacidades de la IA más rápido que muchas organizaciones, que a menudo están limitadas por consideraciones regulatorias, de clientes e internas.
Sin embargo, algunas organizaciones ya están tomando medidas defensivas. Amazon ha bloqueado la interacción de bots de terceros, incluidos agentes de inteligencia artificial, con su plataforma. El gigante del comercio electrónico incluso ha emprendido acciones legales contra la plataforma de inteligencia artificial Perplexity en un intento de evitar que sus agentes de inteligencia artificial compren de forma autónoma en Amazon.
Si bien esto puede proporcionar una solución a corto plazo, los consumidores están cada vez más acostumbrados al uso de inteligencia artificial en entornos minoristas, al menos en algunas situaciones. Por lo tanto, el comercio de agentes está llegando a una encrucijada en la que todas las partes interesadas deben definir las funciones y permisos que se deben otorgar a los agentes de IA.
Estas consideraciones pueden retrasar aún más la adopción total de esta tecnología dinámica pero aún incipiente.
