- Los informes de incidentes generados por la IA de Cisco suelen ser inexactos, inconsistentes y vulnerables a la pérdida de datos debido a las limitaciones de LLM.
- Para mejorar la confiabilidad, la compañía recomienda documentos fuente granulares, de una sola tarea y consistentes, y reglas de formato estrictas.
- La contaminación cruzada entre informes sigue siendo un desafío y los investigadores recomiendan una nueva sesión para cada nuevo informe de caso para evitar errores.
Cualquier empresa que desee utilizar herramientas de IA para generar informes de seguridad puede querer leer el nuevo informe de Cisco sobre su experiencia en el uso de informes de incidentes generados por IA.
Debido a la naturaleza probabilística del modelo de lenguaje grande (LLM), la compañía advirtió que quienes utilicen IA para crear contenido técnico de formato largo deberían esperar «errores masivos, inferencias inusuales y estilos de escritura inconsistentes».
«Estos modelos generan resultados prediciendo el siguiente token, generalmente una palabra o una subpalabra en secuencia, basándose en los pesos del modelo y los datos de entrenamiento», dice Cisco, o como dice The Register, «son básicamente increíbles sistemas de autocompletado que hacen conjeturas fundamentadas».
Qué funciona y qué no
Dado que la IA esencialmente predice la siguiente palabra, según Cisco, esto crea cuatro problemas principales.
- Los LLM utilizan datos diferentes para cada nueva consulta, lo que hace que la coherencia y la estandarización sean un desafío
- Incluso si se comparten los mismos datos, los resultados siempre serán ligeramente diferentes
- Cada nuevo documento tendrá una estructura y formato diferente, lo que supone otro desafío para la estandarización.
- La IA a menudo descarta datos valiosos y altera los resultados
- Esto no quiere decir que la IA no pueda utilizarse para informes técnicos a largo plazo, sino todo lo contrario. Esto puede ahorrar a las empresas una gran cantidad de datos, pero la herramienta debe configurarse y optimizarse correctamente.
Según Cisco, un buen enfoque es darle a la IA «instrucciones de tarea única para que se concentre en una pequeña parte específica del informe».
La compañía también dijo que la IA no debería tener libertad para elegir sus fuentes de informes, sino que debería recibir documentos específicos. Finalmente, la IA debe tener pautas claras de formato y estilo.
«Durante nuestro proceso de control de calidad, la revisión ciega de informes de muestra no mostró una disminución significativa en la calidad general de la redacción», dijo Cisco.
«Los revisores de operaciones, los editores profesionales y los revisores de gestión comentaron el informe sin saber que fue generado por IA. La incidencia de errores ortográficos y gramaticales es mucho menor que el informe promedio», comentó el revisor.
Cisco identificó además otro desafío: al pedirle a AI que editara múltiples informes de muestra en una sola sesión, el contenido del material fuente de un informe se contaminaría con otro informe, «incluso si las notas utilizadas para crear el primer informe se eliminaran del documento de referencia del proyecto».
Para solucionar este problema, los investigadores recomiendan iniciar una nueva sesión y volver a ingresar el mensaje para cada nuevo informe de caso.
El mejor antivirus para cada presupuesto
Siga TechRadar en Google News y Por favor agréguenos como recurso preferido Recibe noticias, reseñas y opiniones de nuestros expertos en tu feed.
