Questo documento fornisce una panoramica e un confronto tra le policy di posizionamento compatto e le policy del carico di lavoro. Entrambe le policy consentono di configurare il posizionamento delle istanze Compute Engine per ridurre al minimo la latenza di rete.
Per impostazione predefinita, gestisci la posizione delle istanze di computing specificando solo le relative zone. Per creare istanze di computing più vicine tra loro, puoi utilizzare le seguenti opzioni. Per saperne di più, vedi anche Colocation delle risorse dell'infrastruttura AI.
Le seguenti risorse sono già densamente collocate tra loro:
- Risorse che utilizzano la stessa prenotazione futura per i blocchi di capacità.
- Risorse che utilizzano la stessa prenotazione futura in modalità calendario.
- Risorse create insieme tramite una richiesta di ridimensionamento di un gruppo di istanze gestite (MIG).
Le risorse che crei insieme quando specifichi l'opzione di consumo con avvio flessibile potrebbero essere collocate in modo denso in base alla disponibilità con il massimo impegno. Se invece hai bisogno di risorse collocate in modo denso, applica una policy di posizionamento compatto che specifichi una distanza massima o una policy del workload che specifichi una distanza massima.
In caso contrario, per posizionare le risorse vicine tra loro, applica una policy di posizionamento compatto o una policy del workload.
- Quando richiedi risorse collocate in modo denso, specifica una distanza massima nella policy.
- Se vuoi risorse collocate in modo denso in base alla disponibilità best effort, non specificare una distanza massima nella policy.
Per saperne di più su quando utilizzare una policy di posizionamento compatto rispetto a una policy del workload, consulta Confronto tra policy di posizionamento compatto e policy del workload in questo documento.
Confronto tra la policy di posizionamento compatto e la policy del workload
La seguente tabella riassume le differenze tra le policy di posizionamento compatto e le policy dei workload:
| Policy di posizionamento compatto | Policy del workload | |
|---|---|---|
| Utilizzo delle norme |
|
MIG con GPU in cluster |
| Tipi di macchine supportati | A4X Max, A4X, A4, A3 Ultra, A3 Mega, A3 High, A3 Edge, A2, G4 e G2 |
|
| Semantica del raggruppamento | Compute Engine posiziona le istanze che utilizzano la stessa policy di posizionamento compatto più vicine tra loro. Ti consigliamo di utilizzare una policy di posizionamento diversa per ogni workload. Il riutilizzo di una policy di posizionamento in istanze che eseguono workload diversi fa sì che tutte queste istanze vengano posizionate insieme. Questa collocazione può rendere difficile la creazione di istanze vicine tra loro quando fai lo scale out di un workload specifico. |
Compute Engine posiziona le istanze in un MIG che utilizza una policy del workload più vicine tra loro. Il riutilizzo di una policy del carico di lavoro in più MIG che eseguono carichi di lavoro diversi raggruppa le istanze in singoli MIG. Il riutilizzo è ideale per i modelli di addestramento di grandi dimensioni in cui ogni gruppo di istanze deve essere isolato dagli altri. |
| Configurazione di colocation dell'istanza di computing | Per la collocazione migliore delle istanze di computing, imposta il campo
|
Per la collocazione migliore dell'istanza di computing, imposta il campo
|
| Configurazioni aggiuntive |
|
|
Per maggiori informazioni, consulta le sezioni seguenti:
Policy di posizionamento compatto
Quando applichi criteri di posizionamento compatto a istanze di calcolo autonome o a istanze di calcolo create in blocco, Compute Engine tenta di creare le istanze di calcolo il più vicino possibile l'una all'altra. Se la tua
applicazione richiede una latenza di rete minima, specifica il campo maxDistance (anteprima) quando
crei una policy di posizionamento compatto.
Per saperne di più, consulta Informazioni sulle policy di posizionamento compatto nella documentazione di Compute Engine.
Confronto dei valori di distanza massima per le policy di posizionamento compatto
Un valore di distanza massima inferiore garantisce un posizionamento più vicino delle istanze di computing, ma aumenta anche la probabilità che alcune istanze di computing non vengano create.
La tabella seguente mostra la serie di macchine e il numero di istanze di computing supportate da ogni valore di distanza massima:
maxDistance in una policy di posizionamento compatto |
maxTopologyDistance in una policy del workload |
Descrizione | Serie di macchine supportate | Numero massimo di istanze di Compute |
|---|---|---|---|---|
| Non specificato (non consigliato) | Non specificato (non consigliato) | Compute Engine tenta di posizionare le istanze di calcolo il più vicino possibile l'una all'altra, ma senza una distanza massima tra le istanze di calcolo. | A4X Max, A4X, A4, A3 Ultra, A3 Mega1, A3 High1, A3 Edge1, A2, G4 e G2 | 1500 |
3 |
CLUSTER |
Compute Engine crea istanze di calcolo in blocchi adiacenti. | A4, A3 Mega1, A3 High1, A3 Edge1, A2, G4 e G2 | 1500 |
2 |
BLOCK |
Compute Engine crea istanze di computing nello stesso blocco. | A4, A3 Ultra, A3 Mega1, A3 High1, A3 Edge1, A2, G4 e G2 |
|
1 |
SUBBLOCK |
Compute Engine crea istanze di calcolo nello stesso sottoblocco. | A3 Edge1, A2, G4 e G2 | 22 |
1 Se vuoi applicare una policy di posizionamento compatto a un'istanza A3 Mega, A3 High o A3 Edge creata prima del 1° ottobre 2025, contatta il tuo team dedicato all'account o il team di vendita.
Policy workload
Le policy dei workload consentono di specificare il posizionamento e l'infrastruttura sottostante per le istanze di Compute in un MIG. L'utilizzo di policy di workload con A4X Max, A4X, A4, A3 Ultra, A3 Mega e A3 High (8 GPU) consente di ridurre al minimo la latenza di rete tra le istanze di computing e ottimizzare le prestazioni.
In base ai tipi di macchine utilizzati dalle istanze di Compute nel MIG, le norme relative ai carichi di lavoro sono obbligatorie o facoltative nelle seguenti situazioni:
Per eseguire il deployment di blocchi secondari di istanze A4X Max o A4X, sono necessarie policy del workload.
Per utilizzare le istanze A4, A3 Ultra, A3 Mega o A3 High (8 GPU), le policy del workload sono facoltative.
Il criterio del workload non è supportato per le serie di macchine A3 Edge, A2, G4, G2 e N1. Per i MIG che utilizzano queste serie di macchine, puoi utilizzare la policy di posizionamento compatto per la collocazione delle VM.
Per saperne di più, consulta Informazioni sulle policy dei workload nei MIG nella documentazione di Compute Engine.