La inteligencia artificial avanza a pasos agigantados en el ámbito de la seguridad informática, pero su adopción masiva también abre una puerta peligrosa: los mismos sistemas diseñados para proteger pueden ser vulnerados, manipulados o utilizados en contra de quienes confían en ellos.
En los últimos meses, diferentes organismos internacionales han alertado sobre el incremento de ataques que utilizan herramientas de IA para burlar sistemas de detección. Desde deepfakes ultrarealistas utilizados en fraudes corporativos hasta algoritmos de reconocimiento facial que pueden ser engañados con patrones impresos en una camiseta, las vulnerabilidades son cada vez más sofisticadas.
“La IA no es inherentemente segura. Depende de cómo se implemente, quién la controle y con qué datos se entrene”, advirtió Margaret Chen, especialista en ciberseguridad del Instituto Tecnológico de Massachusetts (MIT), durante la reciente Conferencia Global de Seguridad Digital en Ginebra.
Uno de los puntos más críticos es la seguridad en los modelos de lenguaje extensos (LLM), como los que alimentan asistentes virtuales y sistemas de atención al cliente. Investigadores han demostrado que es posible inyectar instrucciones ocultas en prompts aparentemente inofensivos para que el modelo ejecute acciones no autorizadas, como extraer datos sensibles o generar código malicioso.
El problema no es nuevo, pero la velocidad de adopción de la IA supera ampliamente la capacidad de las empresas y gobiernos para establecer marcos de seguridad robustos. Según un informe de la Agencia de Seguridad de Infraestructura y Ciberseguridad de Estados Unidos (CISA), más del 60 por ciento de las organizaciones que incorporaron IA en sus sistemas de seguridad en 2025 reportaron incidentes relacionados con la propia tecnología que implementaron.
Frente a este panorama, algunos países comienzan a mover fichas. La Unión Europea avanza con su reglamento de IA, que incluye requisitos de transparencia y auditoría obligatoria para sistemas considerados de alto riesgo. China, por su parte, ya exige que todos los algoritmos de IA utilizados en seguridad pública sean certificados por organismos estatales.
Sin embargo, los expertos coinciden en que la regulación por sí sola no alcanza. “Necesitamos una cultura de seguridad desde el diseño. La IA debe ser auditada, testeada y monitoreada como cualquier otro componente crítico de infraestructura”, concluyó Chen.
Mientras tanto, la carrera entre la seguridad y la vulnerabilidad continúa. Y en este tablero global, la pregunta ya no es si la IA es segura, sino si estamos haciendo lo suficiente para que lo sea.