Por: Phillip Misner y el Red Team de IA de Microsoft.

Los sistemas de IA forman ahora parte del trabajo diario. Los investigadores necesitan una manera coherente de reconstruir lo que ocurrió en su interior.

Los equipos de seguridad ya investigan actividades relacionadas con Microsoft 365 Copilot y los servicios de IA de Azure, desde intentos de inyección rápida hasta accesos inesperados a datos. Esas señales son observables. Sin estructura, no forman una explicación coherente de lo ocurrido.

Las interacciones de IA generan telemetría en Microsoft Purview, Defender y Sentinel. Esa telemetría captura quién inició una interacción, cuándo ocurrió y qué recursos estuvieron involucrados. Proporciona la base para reconstruir la actividad de IA en entornos empresariales. Convierte esas señales en una investigación.

Para ayudar a abordar ese desafío, hemos publicado un nuevo manual de investigación para Microsoft 365 Copilot y los servicios de IA de Azure. El manual proporciona un enfoque estructurado para investigar actividades relacionadas con la IA por medio de la telemetría ya disponible en los productos de seguridad de Microsoft. 

La metodología sigue una secuencia de alcance–contexto–señal. Las investigaciones comienzan con la identificación de quién interactuó con los sistemas de IA, cuándo ocurrió la actividad y qué servicios participaron. A partir de ahí, los investigadores amplían el contexto de los recursos: a qué accedió el sistema, qué datos pudieron haber sido expuestos y cómo esa actividad se alinea con el comportamiento esperado. Las señales de detección, incluidos los intentos de inyección rápida, patrones de uso anómalos o alertas de exposición de credenciales, se evalúan dentro de esa cadena de actividad más amplia.

La telemetría de IA se construye primero con metadatos, al brindar identidad, tiempo y contexto de recursos a través de las interacciones. Esa estructura es lo que traslada las investigaciones de señales aisladas a un relato coherente de lo ocurrido. Cuando se analizan en conjunto, estos elementos permiten a los investigadores establecer lo ocurrido, comprender el impacto y determinar si la actividad refleja un uso normal, violaciones de políticas o indicadores de compromiso.

El manual de estrategia operacionaliza este enfoque en los servicios de IA de Microsoft 365 Copilot y Azure. Reúne la configuración, consultas y patrones de detección necesarios en un único modelo funcional — que cubre referencias de esquemas, consultas KQL y lógica de detección — lo que permite a los investigadores seguir la actividad de la IA a través de herramientas con menos pivotes ad hoc. También extiende ese modelo a sistemas basados en agentes, donde la imagen investigativa se amplía: qué agentes se despliegan, cómo están configurados, a qué datos están autorizados a acceder y si esa autorización se utilizó como se esperaba. 

El resultado es práctico. Los equipos de respuesta pueden pasar de señales aisladas a una reconstrucción de la actividad observada: analizar el uso de la IA, entender qué datos se accedieron durante las interacciones y evaluar si el comportamiento observado es coherente con el uso normal, violaciones de políticas o indicadores de condiciones de amenaza activas en los servicios de seguridad de Microsoft.

A medida que la IA se convierte en parte de los flujos de trabajo cotidianos de los negocios, los equipos de respuesta necesitan el mismo rigor investigativo que aplican a endpoints, identidades e infraestructura de nube. La capacidad de determinar qué ocurrió, qué datos estuvieron involucrados y si la actividad fue autorizada se convierte con rapidez en una capacidad central de respuesta a incidentes.

El manual les da las herramientas para responderla. Descárguenlo aquí: https://aka.ms/AIIRplaybook