Los expertos en ciberseguridad ven a los agentes de IA como espada de doble filo
Los agentes de IA se han introducido en algunos de los lanzamientos de productos más interesantes en los últimos tiempos, pero los expertos en ciberseguridad tienen diferentes sentimientos sobre la tecnología.
Los datos de Sailpoint encontraron que el 96% de los profesionales de la tecnología ven a los agentes de IA como una creciente amenaza de seguridad. Sin embargo, casi todos los encuestados dijeron que planean expandir su uso de IA proxy en el próximo año.
Los más interesados expresados por los encuestados fueron el acceso de la agencia a datos protegidos, seguido del riesgo de acciones inesperadas. El tercer informe más importante se refiere a que los agentes de IA pueden compartir datos confidenciales sin permiso.
Datos y privacidad
Todos estos problemas existen en las plataformas de IA generadas, donde los modelos a menudo sacan conclusiones inexactas o incorrectas. Debido a los problemas continuos de la caja negra, los analistas a menudo no pueden determinar por qué la IA toma la decisión incorrecta.
Además, la privacidad siempre ha sido una preocupación constante para los modelos de IA que requieren muchos datos. Si bien la mayoría de las plataformas de Gen Gen de IA, como ChatGPT, construyen construcciones diseñadas para proteger datos confidenciales, los agentes de IA a menudo necesitan acceso a información privada para realizar sus tareas, incluidos los detalles financieros.
Según esto, un hallazgo inquietante en el estudio de investigación de navegación es que menos de una cuarta parte de los encuestados informaron que sus agentes de IA fueron manipulados para certificados de acceso a fugas.
Además, el 80% de los encuestados dijo que descubrieron que los agentes de IA de su empresa realizaron acciones inesperadas, como acceder a sistemas sin permiso, difundir datos protegidos y recuperar contenido inapropiado.
Era del agente
A pesar de estas preocupaciones, la era de los agentes aún está evolucionando. Visa y MasterCard presentan una plataforma diseñada para convertir a los agentes de IA en compradores individuales, lo que les permite buscar artículos y realizar compras con una mínima interacción del usuario.
PayPal siguió rápidamente estos lanzamientos confundiendo que estaba integrando sus pagos directamente en los chats en la plataforma AI.
Dado el fuerte potencial de los agentes de IA, pueden surgir más planes en múltiples industrias, incluida la ciberseguridad. Sin embargo, las organizaciones deben priorizar continuamente la privacidad y la seguridad en estas iniciativas.
Este sentimiento fue respondido en el estudio de Sailpoint, con el 92% de los encuestados diciendo que administrar agentes de IA es crucial para la seguridad empresarial.
