Una herramienta Model Context Protocol (MCP) puede afirmar que hace un buen trabajo al «verificar direcciones de correo electrónico», pero si la herramienta se ve comprometida, se puede redirigir para lograr un motivo oculto, como volcar toda su libreta de direcciones a un servidor externo. Los escáneres de seguridad tradicionales pueden detectar llamadas de red sospechosas o funciones inseguras, y la detección basada en patrones puede identificar amenazas conocidas, pero ninguna de estas capacidades puede salvar inconsistencias semánticas o de comportamiento. afirmar hacer (verificación por correo electrónico) y qué hace (exportación de datos).
Security Analysis presenta escáneres de códigos de comportamiento compatibles con IA
Cerrar esta brecha requiere repensar cómo funciona el análisis de seguridad. A lo largo de los años, las herramientas de pruebas de seguridad de aplicaciones estáticas (SAST) han sido excelentes para encontrar patrones, rastrear flujos de datos e identificar firmas de amenazas conocidas, pero siempre han tenido problemas con el contexto. «¿La llamada de red es maliciosa o está pendiente?» respondiendo preguntas como «¿Acceder a este archivo es una amenaza o una característica?» Requiere una comprensión semántica que los sistemas basados en reglas no pueden proporcionar. Los modelos de lenguajes grandes (LLM) aportan potentes capacidades de razonamiento, pero carecen de la precisión del análisis formal de programas. Esto significa que pueden perder de vista los delicados flujos de datos, tener problemas con estructuras de control complejas y conexiones fantasma que no existen en el código.
La solución es una combinación de ambos: capacidades rigurosas de análisis estático que proporcionan análisis semántico en LLM. Proporciona tanto la precisión del seguimiento de las rutas de datos como la inferencia contextual para evaluar si esas rutas representan un comportamiento legítimo o amenazas ocultas. Lo hemos incorporado a nuestro escáner MCP de código abierto para nuestras capacidades de escaneo de códigos de comportamiento.
El análisis estático profundo está armado con capas de suavizado
Nuestra capacidad para escanear códigos de comportamiento se basa en un análisis riguroso de programas con reconocimiento del lenguaje. Dividimos el código del servidor MCP en sus componentes estructurales y utilizamos análisis de flujo de datos interprocedimientos para rastrear cómo fluyen los datos entre funciones y módulos. Suponiendo que todos los parámetros de la herramienta no son de confianza, mapeamos los flujos directos e inversos de entradas aparentemente inocuas para detectar operaciones vulnerables, como llamadas de redes externas. El seguimiento de la dependencia de archivos crea un gráfico de llamadas completo para descubrir cadenas de comportamiento de varias capas, descubriendo rutas ocultas e indirectas que pueden permitir actividades maliciosas.
A diferencia del SAST tradicional, nuestro enfoque utiliza inteligencia artificial para comparar la intención documentada del instrumento con su comportamiento real. Después de extraer señales de comportamiento detalladas del código, el modelo busca discrepancias y observa casos en los que las operaciones (como llamadas de red o flujos de datos) no se ajustan a lo especificado en la documentación. En lugar de simplemente identificar una característica peligrosa, pregunta si la implementación cumple con su intención declarada, si existe un comportamiento no documentado, si los flujos de datos no son transparentes y si las acciones relacionadas con la seguridad están ocultas. Al combinar un análisis estático detallado con el razonamiento de IA, podemos rastrear rutas de datos sutiles y evaluar si esas rutas violan la intención declarada de la herramienta.
Fortalezca su arsenal defensivo: lo que revelan los escáneres de comportamiento
Nuestra herramienta avanzada de escaneo MCP puede detectar varios tipos de amenazas que las herramientas tradicionales pasan por alto:
- Acciones ocultas: llamadas de red, escrituras de archivos o comandos del sistema no documentados que entran en conflicto con el propósito previsto de la utilidad. Por ejemplo, una herramienta para enviar en secreto todos tus correos electrónicos a un servidor externo. De hecho, este compromiso se produjo y nuestro escaneo de código de comportamiento lo detectará.
- Exfiltración de datos: Herramientas que desempeñan correctamente su función prevista mientras copian silenciosamente datos confidenciales a puntos finales externos. Cuando el usuario recibe el resultado esperado; Los atacantes también obtienen una copia de esta información.
- Ataque de inyección: Maneje de forma segura la entrada del usuario que permite la entrada de comandos, la ejecución de código o vulnerabilidades similares. Esto incluye utilidades que pasan parámetros directamente a los comandos o evaluadores del shell sin una desinfección adecuada.
- Abuso de privilegio: Herramientas que actúan fuera de su alcance especificado al acceder a recursos confidenciales, cambiar la configuración del sistema o realizar acciones privilegiadas de forma abierta o sin permiso.
- Afirmaciones de seguridad engañosas: Herramientas que crean afirmaciones falsas, inseguras y peligrosas que afirman ser «seguras», «desinfectadas» o «verificadas».
- Fraude transfronterizo: Herramientas que parecen limpias, pero que conmutan por error a funciones auxiliares en caso de comportamiento malicioso. Sin un análisis transversal de los procedimientos, estas cuestiones escaparán al escrutinio superficial.
Por qué es importante para la IA empresarial: el panorama de amenazas está creciendo
Si está implementando (o planea implementar) agentes de IA en producción, considere escenarios de amenazas para informar su estrategia de seguridad y la implementación de agentes.
Decisiones de confianza automatizadas: Cuando un agente selecciona una herramienta basándose en su descripción, es una decisión de confianza del software, no humana. Los agentes pueden ser manipulados si los comentarios son engañosos o maliciosos.
Escala de radio de explosión en el momento de la adopción: Una herramienta MCP rota no afecta una sola tarea, afecta a cada llamada de agente que la utiliza. Dependiendo de la herramienta, esto puede afectar a todos los sistemas de su organización.
El riesgo de la cadena de suministro continúa creciendo: Los registros comunitarios de MCP continúan creciendo y los equipos de desarrollo utilizarán herramientas tan fácilmente como paquetes sin tener que auditar cada aplicación.
Un proceso de inspección manual no detecta violaciones de valores: La inspección del código revela problemas específicos, pero es difícil distinguir a escala entre usos legítimos y maliciosos de las capacidades.
Integración e implementación
Escaneamos código de comportamiento para integrarnos perfectamente en los flujos de trabajo de seguridad existentes. Ya sea que esté evaluando una sola aplicación o escaneando un directorio completo de servidores MCP, el proceso es simple e intuitivo.
Canalización de CI/CD: Ejecute el escáner como parte del proceso de compilación. Los niveles de gravedad brindan soporte para la toma de decisiones y los resultados estructurados permiten la integración del programa.
Múltiples formatos de salida: seleccione resúmenes concisos para CI/CD, informes detallados de evaluación de seguridad o JSON estructurado para uso de aplicaciones.
Cobertura de caja negra y caja blanca: En ausencia de código fuente, los usuarios pueden confiar en motores existentes como YARA, análisis basado en LLM o escaneo API. Cuando el código fuente está disponible, el escaneo del comportamiento permite un análisis más profundo basado en evidencia.
Soporte flexible del ecosistema de IA: Compatible con las principales plataformas LLM para que pueda utilizarlas de acuerdo con sus requisitos de seguridad y cumplimiento.
Parte del compromiso de Cisco con la seguridad de la IA
El escaneo de códigos de comportamiento refuerza el enfoque integral de seguridad de IA de Cisco. Como parte de la herramienta MCP Scanner, complementa las funciones existentes y al mismo tiempo elimina las amenazas semánticas que se esconden a simple vista. Proteger a los agentes de IA requiere el soporte de herramientas diseñadas específicamente para los desafíos únicos de los sistemas de agentes.
Combinado con Cisco AI Defense, las organizaciones obtienen protección de extremo a extremo para sus aplicaciones de IA, desde la validación de la cadena de suministro y la formación de equipos algorítmicos hasta el vallado de seguridad en tiempo de ejecución y el monitoreo continuo. El escaneo de código de comportamiento agrega una importante capa de validación previa a la implementación que detecta amenazas antes de que lleguen a producción.
El escaneo de códigos de comportamiento está disponible hoy en MCP Scanner, la herramienta de seguridad de código abierto de Cisco para servidores MCP, brindando a las organizaciones una forma práctica de verificar las herramientas que utilizan sus agentes.
Para obtener más información sobre el enfoque integral de Cisco para la seguridad de la IA, incluida la protección del tiempo de ejecución y los equipos rojos algorítmicos, visite cisco.com/ai-defense.
