GKE-Knotentopologie ansehen

In diesem Dokument wird beschrieben, wie Sie die physische Topologie Ihrer Google Kubernetes Engine-Knoten (GKE) auf A4X Max-, A4X-, A4-, A3 Ultra-, A3 Mega- und A3 High-Compute Engine-Instanzen ansehen. Wenn Sie den physischen Standort Ihrer Knoten kennen, können Sie die Pod-Platzierung für Ihre KI-Arbeitslasten optimieren.

Hinweis

Führen Sie die folgenden Aufgaben aus, bevor Sie beginnen:

  • Aktivieren Sie die Google Kubernetes Engine API.
    • Google Kubernetes Engine API aktivieren
  • Wenn Sie die Google Cloud CLI für diese Aufgabe verwenden möchten, installieren und dann initialisieren Sie die gcloud CLI. Wenn Sie die gcloud CLI bereits installiert haben, rufen Sie die neueste Version mit dem gcloud components update Befehl ab. Ältere Versionen der gcloud CLI unterstützen möglicherweise nicht die Ausführung der Befehle in diesem Dokument.

Mit dem Cluster verbinden

  • Führen Sie den folgenden Befehl aus, um eine Verbindung zum Cluster herzustellen:

    gcloud container clusters get-credentials CLUSTER_NAME

    Ersetzen Sie CLUSTER_NAME durch den Namen Ihres Clusters.

GKE-Knotentopologie

Sie können die physische Topologie von GKE-Knoten auf A4X Max-, A4X-, A4- und A3 Ultra-Compute Engine-Instanzen anhand der folgenden Knotenlabels nachvollziehen:

  • cloud.google.com/gce-topology-block: Die organisationsspezifische ID des reservierten Blocks, in dem sich die VM befindet. Ein Block ist eine Sammlung von Unterblöcken, die durch eine Ebene verteilter Netzwerkstruktur verbunden sind.
  • cloud.google.com/gce-topology-subblock: Die organisationsspezifische ID des Unterblocks, in dem sich die VM sich befindet. Ein Unterblock ist eine Gruppe von Hosts und zugehöriger Konnektivitätshardware:
    • Bei A4- und A3 Ultra-VMs stellen die Hosts eine Verbindung über eine groß angelegte verteilte Jupiter-Netzwerkstruktur her.
    • A4X Max- und A4X-Compute Engine-Instanzen sind in Unterblöcke unterteilt, die jeweils eine NVIDIA NVLink-Domain (NVL72) bilden. Innerhalb jeder NVL72 sind die GPUs über eine dedizierte NVLink-Struktur mit hoher Bandbreite eng miteinander verbunden. Über Unterblöcke hinweg können GPUs über RDMA-NICs mithilfe der RoCE-Struktur verbunden werden. Die Hostkommunikation zwischen Unterblöcken sowie anderer Netzwerkverkehr wie Speicher verwendet die Jupiter-Netzwerkstruktur über schnelle Frontend-Ethernet-NICs.
  • cloud.google.com/gce-topology-host: Die organisationsspezifische ID des Hosts, auf dem sich die VM befindet. Ein Host oder Knoten ist eine einzelne physische Servermaschine in dem Rechenzentrum. Jeder GKE-Knoten wird auf einer VM Instanz bereitgestellt, die auf einem physischen Host bereitgestellt wird.
  • kubernetes.io/hostname: Der Hostname des Kubernetes-Knotens. Dies ist in der Regel auch der GKE-Knotenname.

Physische Topologie Ihrer GKE-Clusterknoten ansehen

Führen Sie den folgenden Befehl aus, um die Knotenlabels für Ihre GKE-Clusterknoten mit einem bestimmten Beschleuniger abzurufen:

kubectl get nodes -l cloud.google.com/gke-accelerator=ACCELERATOR \
    -ocustom-columns='0-NAME:.metadata.name,0-BLOCK:.metadata.labels.cloud\.google\.com/gce-topology-block,0-SUBBLOCK:.metadata.labels.cloud\.google\.com/gce-topology-subblock,0-HOST:.metadata.labels.cloud\.google\.com/gce-topology-host'| sort -k2,4

Ersetzen Sie ACCELERATOR durch den Namen des Beschleunigers, z. B. nvidia-h200-141gb.

Die Ausgabe zeigt den Block, den Unterblock und den Host jedes GKE-Knotens mit dem angegebenen Beschleuniger an.

Weitere Informationen finden Sie unter Topologie einer Reservierung ansehen.

Nächste Schritte