Habilita Model Armor en Gemini Enterprise

En este documento, se describe cómo habilitar Model Armor para Gemini Enterprise. Model Armor es un Google Cloud servicio que mejora la seguridad de tus aplicaciones de IA analizando de forma proactiva las instrucciones y respuestas que proporciona el asistente de Gemini Enterprise. Esto ayuda a proteger contra diversos riesgos y garantiza prácticas de IA responsable. Model Armor es compatible con todas las ediciones de Gemini Enterprise sin costo adicional.

Model Armor no quita ni altera la información de identificación personal (PII) ni enmascara los datos sensibles. Sin embargo, Gemini Enterprise bloquea cualquier respuesta del asistente de Gemini Enterprise que active los detectores de Sensitive Data Protection.

La respuesta de Model Armor a posibles problemas en las consultas o respuestas de los usuarios del asistente de Gemini Enterprise se rige por el tipo de aplicación de la plantilla. Para obtener más información, consulta Cómo definir el tipo de aplicación de la política.

• Si el tipo de aplicación de la política es Inspeccionar y bloquear, Gemini Enterprise bloqueará la solicitud y mostrará un mensaje de error. Este es el tipo de aplicación predeterminado cuando creas una plantilla de Model Armor con la consola.

• Si el tipo de aplicación de la política es Solo inspección, Gemini Enterprise no bloquea las solicitudes ni las respuestas.

Cuando el servicio de detección de Model Armor no está disponible, puedes configurar Gemini Enterprise para que se comporte de una de las siguientes maneras:

Antes de comenzar

• Asegúrate de tener asignados los roles necesarios a ti y a la cuenta de servicio:

  • Para habilitar Model Armor en Gemini Enterprise, necesitas el rol de administrador de Gemini Enterprise (roles/discoveryengine.agentspaceAdmin).

  • Para crear las plantillas de Model Armor, necesitas el rol de administrador de Model Armor (roles/modelarmor.admin).

  • Para llamar a las APIs de Model Armor, necesitas el rol de Usuario de Model Armor (roles/modelarmor.user).

  • Si tu plantilla de Model Armor se encuentra en un proyecto diferente al de tu app de Gemini Enterprise, el proyecto de la plantilla debe otorgar el rol de Usuario de Model Armor (roles/modelarmor.user) a la cuenta de servicio de la app de Gemini Enterprise. El ID de la cuenta de servicio es service-PROJECT_NUMBER@gcp-sa-discoveryengine.iam.gserviceaccount.com, donde PROJECT_NUMBER es el número del proyecto de tu app de Gemini Enterprise.

• Asegúrate de haber creado una app de Gemini Enterprise. Para crear una, consulta Crea una app.

Crea una plantilla de Model Armor

Puedes crear y usar la misma plantilla de Model Armor para las instrucciones del usuario y las respuestas del asistente, o bien puedes crear dos plantillas de Model Armor separadas. Para obtener más información, consulta Crea una plantilla de Model Armor.

Cuando crees una plantilla de Model Armor para las apps de Gemini Enterprise, ten en cuenta estos parámetros de configuración:

• Puedes crear plantillas de Model Armor de forma centralizada en un proyecto y reutilizarlas en diferentes proyectos. Si usas una plantilla entre proyectos, asegúrate de que los permisos entre proyectos estén configurados como se describe en Antes de comenzar.

• Selecciona Multirregional en el campo Regiones. En la siguiente tabla, se muestra cómo asignar las regiones de las plantillas de Model Armor a las regiones de las apps de Gemini Enterprise:

  Multi-región de la app de Gemini Enterprise	Model Armor multirregión
  Global	US (multiple regions in United States) UE (varias regiones en la Unión Europea)
  US (multiple regions in United States)	US (multiple regions in United States)
  UE (varias regiones en la Unión Europea)	UE (varias regiones en la Unión Europea)

• Google no recomienda configurar el registro en la nube en la plantilla de Model Armor para las apps de Gemini Enterprise. Esta configuración puede exponer datos sensibles a los usuarios con el rol de IAM de Visualizador de registros privados (roles/logging.privateLogViewer). En su lugar, considera las siguientes opciones:

  • Si necesitas registrar los datos que pasan por la plantilla de Model Armor, puedes redireccionar los registros a un almacenamiento seguro, como BigQuery, que ofrece controles de acceso más estrictos. Para obtener más información, consulta Enruta registros a destinos compatibles.

  • Puedes configurar los registros de auditoría de acceso a los datos para analizar y generar informes sobre los veredictos de detección de solicitudes y respuestas que genera Model Armor. Para obtener más información, consulta Configura los registros de auditoría.

Configura la app de Gemini Enterprise con las plantillas de Model Armor

En los siguientes pasos, se describe cómo agregar las plantillas de Model Armor a tu app de Gemini Enterprise.

curl -X PATCH \
-H "Authorization: Bearer $(gcloud auth print-access-token)" \
-H "Content-Type: application/json" \
-H "X-Goog-User-Project: PROJECT_ID" \
"https://ENDPOINT_LOCATION-discoveryengine.googleapis.com/v1/projects/PROJECT_ID/locations/LOCATION/collections/default_collection/engines/APP_ID/assistants/default_assistant?update_mask=customerPolicy" \
-d '{
  "customerPolicy": {
    "modelArmorConfig": {
      "userPromptTemplate": "QUERY_PROMPT_TEMPLATE",
      "responseTemplate": "RESPONSE_PROMPT_TEMPLATE",
      "failureMode": "FAIL_MODE"
    }
  }
}'

curl -X PATCH \
-H "Authorization: Bearer $(gcloud auth print-access-token)" \
-H "Content-Type: application/json" \
-H "X-Goog-User-Project: my-project-123" \
"https://discoveryengine.googleapis.com/v1/projects/my-project-123/locations/global/collections/default_collection/engines/my-app/assistants/default_assistant?update_mask=customerPolicy" \
-d '{
  "customerPolicy": {
    "modelArmorConfig": {
      "userPromptTemplate": "projects/my-project-123/locations/global/templates/123456789",
      "responseTemplate": "projects/my-project-123/locations/global/templates/123456789",
      "failureMode": "FAIL_OPEN"
    }
  }
}'

{
  "name": "projects/my-project-123/locations/global/collections/default_collection/engines/my-app/assistants/default_assistant",
  "displayName": "Default Assistant",
  "webGroundingType": "WEB_GROUNDING_TYPE_GOOGLE_SEARCH",
  "googleSearchGroundingEnabled": true,
  "customerPolicy": {
    "modelArmorConfig": {
      "userPromptTemplate": "projects/my-project-123/locations/global/templates/123456789",
      "responseTemplate": "projects/my-project-123/locations/global/templates/123456789",
      "failureMode": "FAIL_OPEN"
    }
  }
}

Prueba si la plantilla de Model Armor está habilitada

Después de configurar la plantilla de Model Armor, prueba si tu app de Gemini Enterprise analiza y bloquea de forma proactiva las instrucciones y respuestas de los usuarios del asistente de Gemini Enterprise, según los niveles de confianza establecidos en los filtros de Model Armor.

Cuando la plantilla de Model Armor está configurada para inspeccionar y bloquear las solicitudes que incumplen la política, se muestra el siguiente mensaje de incumplimiento de política:

Console

Por ejemplo, verás el siguiente mensaje de incumplimiento de política:

REST

Es una respuesta JSON que incluye lo siguiente:

answer.state = SKIPPED
answer.assist_skipped_reasons: [CUSTOMER_POLICY_VIOLATION]

Cómo quitar las plantillas de Model Armor de una app de Gemini Enterprise

Para quitar las plantillas de Model Armor de una app de Gemini Enterprise, usa la consola de Google Cloud o la API de REST.

curl -X PATCH \
-H "Authorization: Bearer $(gcloud auth print-access-token)" \
-H "Content-Type: application/json" \
-H "X-Goog-User-Project: PROJECT_ID" \
"https://ENDPOINT_LOCATION-discoveryengine.googleapis.com/v1/projects/PROJECT_ID/locations/LOCATION/collections/default_collection/engines/APP_ID/assistants/default_assistant?update_mask=customerPolicy" \
-d '{
  "customerPolicy": {
    "modelArmorConfig": {
    }
  }
}'

curl -X PATCH \
-H "Authorization: Bearer $(gcloud auth print-access-token)" \
-H "Content-Type: application/json" \
-H "X-Goog-User-Project: my-project-123" \
"https://discoveryengine.googleapis.com/v1/projects/my-project-123/locations/global/collections/default_collection/engines/my-app/assistants/default_assistant?update_mask=customerPolicy" \
-d '{
  "customerPolicy": {
    "modelArmorConfig": {
    }
  }
}'

{
  "name": "projects/my-project-123/locations/global/collections/default_collection/engines/my-app/assistants/default_assistant",
  "displayName": "Default Assistant",
  "webGroundingType": "WEB_GROUNDING_TYPE_GOOGLE_SEARCH",
  "googleSearchGroundingEnabled": true,
  "customerPolicy": {
    "modelArmorConfig": {}
  },
  "generationConfig": {
    "systemInstruction": {}
  }
}

Configura registros de auditoría

Model Armor puede escribir registros de auditoría de acceso a los datos, que puedes usar para analizar y generar informes sobre los veredictos de filtrado de solicitudes y respuestas que genera Model Armor. Estos registros no contienen las búsquedas de los usuarios ni las respuestas del asistente de Gemini Enterprise, por lo que son seguros para los informes y las estadísticas. Para obtener más información, consulta Registro de auditoría de Model Armor.

Para acceder a estos registros, debes tener el rol de IAM de Visualizador de registros privados (roles/logging.privateLogViewer).

Habilita los registros de auditoría de acceso a los datos

Para habilitar los registros de auditoría de acceso a los datos, sigue estos pasos:

1. En la consola de Google Cloud , ve a IAM y administración > Registros de auditoría.

2. Selecciona la API de Model Armor.

3. En la sección Tipo de permiso, selecciona el tipo de permiso Lectura de datos.

4. Haz clic en Guardar.

Examina los registros de auditoría de acceso a los datos

Para examinar los registros de auditoría de acceso a los datos, sigue estos pasos:

1. En la consola de Google Cloud , accede al Explorador de registros.

2. Busca los siguientes nombres de métodos en los registros:

   • methodName: "google.cloud.modelarmor.v1.ModelArmor.SanitizeUserPrompt" para ver las solicitudes de los usuarios que se filtraron.

   • google.cloud.modelarmor.v1.ModelArmor.SanitizeModelResponse para ver las respuestas que se filtraron.

Consideraciones para usar Model Armor

Cuando uses Model Armor con Gemini Enterprise, ten en cuenta lo siguiente:

¿Qué sigue?

• Correlaciona los registros de Model Armor con los registros de Gemini Enterprise