Cotas e limites do sistema

Neste documento, listamos as cotas e os limites do sistema que se aplicam ao Model Armor.

  • As cotas têm valores definidos por padrão, mas geralmente é possível solicitar ajustes.
  • Os limites do sistema são valores fixos que não podem ser alterados.

OGoogle Cloud usa cotas para garantir a distribuição justa e reduzir sobrecargas no uso e na disponibilidade dos recursos. Uma cota restringe a alocação de um recurso doGoogle Cloud para uso do seu projeto do Google Cloud . As cotas se aplicam a vários tipos de recursos, incluindo hardware, software e componentes de rede. Por exemplo, elas podem restringir o número de chamadas de API para um serviço, o número de balanceadores de carga usados simultaneamente pelo projeto ou o número de projetos que podem ser criados. As cotas protegem a comunidade de usuários doGoogle Cloud , impedindo a sobrecarga de serviços. Elas também ajudam você a gerenciar seus próprios recursos do Google Cloud .

O sistema de cotas do Cloud faz o seguinte:

Na maioria dos casos, quando você tenta consumir mais de um recurso do que a cota permite, o sistema bloqueia o acesso ao recurso, e a tarefa que você está tentando executar falha.

As cotas geralmente se aplicam ao nível do projeto do Google Cloud . O uso de um recurso em um projeto não afeta a cota disponível em outro. Em um projeto do Google Cloud , as cotas são compartilhadas entre todos os aplicativos e endereços IP.

Saiba mais em Visão geral das cotas do Cloud.

Cotas da API Model Armor

A tabela a seguir especifica as cotas da API Model Armor.

Cota Valor
Consultas de API 1.200 consultas por minuto (QPM) por projeto
Solicitações para ExternalProcessor 600 QPM por projeto 1

É possível aplicar um valor entre 0 e 1.200 QPM por projeto. Para solicitar um ajuste, consulte Solicitar um ajuste de cota. Se você precisar de mais do que a cota padrão, entre em contato com o Cloud Customer Care.

Para informações sobre cotas relacionadas a integrações do Model Armor com outros serviços, consulte Gerenciar cota.

1 Relevante se você integrar o Model Armor a outros serviços do Google Cloud .

Limite do sistema de tamanho de arquivo

A tabela a seguir especifica o limite do sistema para o tamanho de arquivos e imagens de entrada. Se um arquivo ou imagem exceder esse limite, a Model Armor vai pular a verificação.

Limite do sistema Valor
Todos os arquivos e imagens compatíveis 4 MB

Limites do sistema de tokens

O Model Armor tem limites de sistema variáveis em tokens dependendo do filtro específico. Esses limites se aplicam ao texto direto em comandos e respostas, bem como ao texto extraído de arquivos compatíveis. O Model Armor examina textos de até 65.536 tokens (aproximadamente 262.144 caracteres) para detectar injeção de comandos e jailbreak, IA responsável e filtros de material de abuso sexual infantil (CSAM). Um token equivale a cerca de quatro caracteres. Para mais informações sobre como os tokens são contados, consulte o guia de tokens da API Gemini.

Os limites do sistema de tokens não se aplicam à detecção de URLs maliciosos. Em vez disso, o Model Armor impõe um limite no número de URLs verificados. O Model Armor extrai URLs até atingir 256 URLs ou o fim da carga útil e verifica apenas os primeiros 256 URLs encontrados em comandos e respostas.

Filtro Limite do sistema
Detecção de jailbreak e injeção de comando 65.536
IA responsável 65.536
Material de abuso sexual infantil 65.536
Proteção de dados sensíveis 130.000

Se um filtro detectar uma correspondência, ele vai retornar MATCH_FOUND. Se um filtro não detectar uma correspondência, o valor retornado vai depender de se o comando ou a resposta exceder o limite de tokens do filtro:

  • Se a solicitação ou resposta estiver dentro do limite de tokens do filtro, ele vai retornar NO_MATCH_FOUND.
  • Se o comando ou a resposta exceder o limite de token do filtro, ele vai retornar EXECUTION_SKIPPED.

Tokens ilimitados para o modo de streaming em tempo real

Quando você limpa o texto de streaming no modo em tempo real, o Model Armor é compatível com tokens ilimitados. Por outro lado, o modo de streaming com buffer está sujeito aos limites de token listados na tabela anterior.

Receber nomes de métricas de cota e limite do sistema

As cotas e os limites do sistema têm dois tipos de nomes: nomes de exibição e nomes de métricas. Os nomes de exibição têm espaços e letras maiúsculas que facilitam a leitura para humanos. Os nomes de métricas geralmente são minúsculos e delimitados por sublinhados em vez de espaços. O formato exato depende do serviço.

As instruções a seguir mostram como receber nomes de métricas para cotas e limites do sistema usando o Google Cloud console ou a CLI gcloud.

Console

  1. No console do Google Cloud , acesse a página IAM e administrador > Cotas e limites do sistema:

    Acesse "Cotas e limites do sistema

    A tabela nesta página mostra cotas e limites do sistema que têm uso ou valores ajustados, além de uma entrada de referência para outras cotas. A entrada de referência tem a palavra "default" entre parênteses no final da lista na coluna Nome. Por exemplo, SetIAMPolicy requests per minute per region (default) é a entrada de referência para a cota SetIamPolicyRequestsPerMinutePerProject.

  2. Se a coluna Métrica não aparecer, siga estas etapas.

    1. Clique em Opções de exibição de colunas.
    2. Selecione Métrica.
    3. Clique em OK. A coluna Métrica aparece na tabela.

A coluna Métrica mostra os nomes das métricas. Para filtrar os resultados, insira um nome ou valor de propriedade no campo ao lado de Filtro.

gcloud

Para receber os nomes das métricas de um serviço Google Cloud usando a CLI gcloud, execute o comando quotas info list. Para pular linhas que não listam nomes de métricas, transmita a saída para um comando como grep com metric: como o termo de pesquisa ou use a flag --format da CLI gcloud:

gcloud beta quotas info list --project=PROJECT_ID_OR_NUMBER \
    --service=SERVICE_NAME --format="value(metric)"

Substitua:

  • PROJECT_ID_OR_NUMBER: o ID ou o número do projeto.
  • SERVICE_NAME: o nome do serviço com as métricas de cota que você quer ver. Por exemplo, o nome do serviço do Compute Engine é compute.googleapis.com. Inclua a parte googleapis.com do nome do serviço.