Prima di trasferire i dati da un bucket Azure Storage, devi configurare l'accesso a questo bucket in modo che Storage Transfer Service possa recuperare i relativi oggetti.
Storage Transfer Service supporta i seguenti metodi di autenticazione di Azure:
Token firma di accesso condiviso (SAS). I token SAS possono essere specificati direttamente durante la creazione di un job di trasferimento oppure possono essere archiviati in Secret Manager.
Le chiavi condivise di Azure possono essere archiviate in Secret Manager e il secret viene passato durante la creazione di un job di trasferimento.
Le credenziali federate vengono trasmesse in un oggetto
federatedIdentityConfigdurante la creazione del job di trasferimento.
Questo documento include anche informazioni sull'aggiunta degli indirizzi IP worker di Storage Transfer Service al firewall di Azure Storage per consentire l'accesso. Per maggiori dettagli, consulta la sezione Limitazioni IP.
Aree geografiche supportate
Storage Transfer Service è in grado di trasferire dati dalle seguenti regioni di Microsoft Azure Storage:- Americhe:East US, East US 2, West US, West US 2, West US 3, Central US, North Central US, South Central US, West Central US, Canada Central, Canada East, Brazil South
- Asia-Pacifico: Australia centrale, Australia orientale, Australia sudorientale, India centrale, India meridionale, India occidentale, Asia sudorientale, Asia orientale, Giappone orientale, Giappone occidentale, Corea del Sud, Corea centrale
- Europa, Medio Oriente e Africa (EMEA): Francia centrale, Germania centro-occidentale, Norvegia orientale, Svezia centrale, Svizzera settentrionale, Europa settentrionale, Europa occidentale, Regno Unito meridionale, Regno Unito occidentale, Qatar centrale, Emirati Arabi Uniti settentrionali, Sudafrica settentrionale
Opzione 1: autenticazione mediante un token SAS
Segui questi passaggi per configurare l'accesso a un container di archiviazione Microsoft Azure utilizzando un token SAS. In alternativa, puoi salvare il token SAS in Secret Manager. Per farlo, segui le istruzioni riportate in Autenticarsi utilizzando una chiave condivisa o un token SAS di Azure in Secret Manager.
Crea o utilizza un utente di Microsoft Azure Storage esistente per accedere all'account di archiviazione per il container BLOB di Microsoft Azure Storage.
Crea un token SAS a livello di contenitore. Per istruzioni, vedi Concedere l'accesso limitato alle risorse di Azure Storage utilizzando le firme di accesso condiviso.
I servizi consentiti devono includere Blob.
In Tipi di risorse consentiti, seleziona sia Contenitore che Oggetto.
Le autorizzazioni consentite devono includere Lettura ed Elenco. Se il trasferimento è configurato per eliminare gli oggetti dall'origine, devi anche includere l'autorizzazione Elimina.
Il tempo di scadenza predefinito per i token SAS è di 8 ore. Imposta un periodo di scadenza ragionevole che ti consenta di completare il trasferimento.
Non specificare indirizzi IP nel campo Indirizzi IP consentiti. Storage Transfer Service utilizza vari indirizzi IP e non supporta la limitazione degli indirizzi IP.
I Protocolli consentiti devono essere Solo HTTPS.
Una volta creato il token, prendi nota del valore del token SAS restituito. Questo valore ti servirà per configurare il trasferimento con Storage Transfer Service.
Opzione 2: autenticazione mediante una chiave condivisa di Azure o un token SAS in Secret Manager
Secret Manager è un servizio sicuro che archivia e gestisce dati sensibili come le password. Utilizza una crittografia avanzata, controllo dell'accessoi basato sui ruoli e la registrazione delle attività di audit per proteggere i tuoi secret.
Storage Transfer Service supporta i nomi delle risorse Secret Manager che fanno riferimento alle tue credenziali Azure archiviate in modo sicuro.
Per utilizzare una chiave condivisa di Azure, devi salvarla in Secret Manager. I token SAS possono essere salvati in Secret Manager o trasmessi direttamente.
Quando specifichi una chiave condivisa, Storage Transfer Service la utilizza per generare una SAS del servizio con ambito limitato al contenitore Azure specificato nel job di trasferimento.
Abilita l'API
Abilita l'API Secret Manager, se non è già abilitata.
Ruoli richiesti per abilitare le API
Per abilitare le API, devi disporre dell'autorizzazione serviceusage.services.enable. Se hai creato il progetto, probabilmente disponi già di questa autorizzazione tramite il ruolo Proprietario (roles/owner). In caso contrario, puoi ottenere questa autorizzazione tramite il ruolo Amministratore utilizzo servizi (roles/serviceusage.serviceUsageAdmin). Scopri come concedere i ruoli.
Configurare autorizzazioni aggiuntive
Autorizzazioni utente
L'utente che crea il secret richiede il seguente ruolo:
- Secret Manager Admin (
roles/secretmanager.admin)
Scopri come concedere un ruolo.
Autorizzazioni service agent
Il service agent Storage Transfer Service richiede il seguente ruolo IAM:
- Secret Manager Secret Accessor (
roles/secretmanager.secretAccessor)
Per concedere il ruolo al service agent:
console Cloud
Segui le istruzioni per recuperare l'email del service agent.
Vai alla pagina IAM nella console Google Cloud .
Fai clic su Concedi l'accesso.
Nella casella di testo Nuove entità, inserisci l'email del service agent.
Nel menu a discesa Seleziona un ruolo, cerca e seleziona Secret Manager Secret Accessor.
Fai clic su Salva.
gcloud
Utilizza il comando gcloud projects add-iam-policy-binding per aggiungere il ruolo IAM all'agente di servizio.
Segui le istruzioni per recuperare l'email del service agent.
Dalla riga di comando, inserisci questo comando:
gcloud projects add-iam-policy-binding PROJECT_ID \ --member='serviceAccount:SERVICE_AGENT_EMAIL' \ --role='roles/secretmanager.secretAccessor'
Crea un secret
Crea un secret con Secret Manager:
console Cloud
Vai alla pagina Secret Manager nella console Google Cloud .
Fai clic su Crea secret.
Inserisci un nome.
Nella casella di testo Valore secret, inserisci le tue credenziali in uno dei seguenti formati.
{ "sas_token" : "SAS_TOKEN_VALUE" }Oppure:
{ "access_key" : "ACCESS_KEY" }Fai clic su Crea secret.
Una volta creato il secret, prendi nota del nome completo della risorsa:
Seleziona la scheda Panoramica.
Copia il valore di Nome risorsa. Utilizza il seguente formato:
projects/1234567890/secrets/SECRET_NAME
gcloud
Per creare un nuovo secret utilizzando lo strumento a riga di comando gcloud, trasmetti le credenziali
in formato JSON al comando gcloud secrets create:
printf '{
"sas_token" : "SAS_TOKEN_VALUE"
}' | gcloud secrets create SECRET_NAME --data-file=-
Oppure:
printf '{
"access_key" : "ACCESS_KEY"
}' | gcloud secrets create SECRET_NAME --data-file=-
Recupera il nome completo della risorsa del secret:
gcloud secrets describe SECRET_NAME
Prendi nota del valore di name nella risposta. Utilizza il seguente formato:
projects/1234567890/secrets/SECRET_NAME
Per maggiori dettagli sulla creazione e la gestione dei secret, consulta la documentazione di Secret Manager.
Trasferisci il segreto al comando di creazione del job
L'utilizzo di Secret Manager con Storage Transfer Service richiede l'utilizzo dell'API REST per creare un job di trasferimento.
Trasmetti il nome della risorsa Secret Manager come valore del campo
transferSpec.azureBlobStorageDataSource.credentialsSecret:
POST https://storagetransfer.googleapis.com/v1/transferJobs
{
"description": "Transfer with Secret Manager",
"status": "ENABLED",
"projectId": "PROJECT_ID",
"transferSpec": {
"azureBlobStorageDataSource": {
"storageAccount": "AZURE_STORAGE_ACCOUNT_NAME",
"container": "AZURE_CONTAINER_NAME",
"credentialsSecret": "SECRET_RESOURCE_ID",
},
"gcsDataSink": {
"bucketName": "CLOUD_STORAGE_BUCKET_NAME"
}
}
}
Per tutti i dettagli sulla creazione di un trasferimento, consulta Crea trasferimenti.
Opzione 3: autenticazione mediante identità federata
Storage Transfer Service supporta la federazione delle identità per i carichi di lavoro di Azure con Google Cloud. Storage Transfer Service può inviare richieste ad Azure Storage tramite applicazioni Azure registrate, eliminando la necessità di trasferire le credenziali direttamente a Storage Transfer Service.
Per configurare l'identità federata, segui queste istruzioni.
Configura le credenziali Google Cloud
Per consentire a Storage Transfer Service di creare token ID OpenID Connect (OIDC):
Service agent
Se il job di trasferimento non specifica un serviceAccount (ovvero non delega le autorizzazioni del service agent a un service account gestito dall'utente), concedi il ruolo Creatore token service account (roles/iam.serviceAccountTokenCreator) al service agent:
Recupera l'
accountEmaildel service agent:- Vai alla
pagina di riferimento
googleServiceAccounts.get. - In Parametri della richiesta, inserisci l'ID progetto.
- Fai clic su Esegui. Vengono restituiti
accountEmailesubjectId.
- Vai alla
pagina di riferimento
Concedi il ruolo Creatore token account di servizio (
roles/iam.serviceAccountTokenCreator) al service agent. Segui le istruzioni riportate in Gestire l'accesso agli account di servizio.
Service account gestito dall'utente
Se stai delegando le autorizzazioni del service agent a un service account gestito dall'utente, le tue credenziali Google vengono configurate quando configuri la delega delle autorizzazioni. Non sono necessari ulteriori passaggi.
Configurare le credenziali Microsoft
Innanzitutto, registra un'applicazione e aggiungi una credenziale federata:
- Accedi a https://portal.azure.com.
- Vai alla pagina Registrazioni app.
- Fai clic su Nuova registrazione.
- Inserisci un nome. Ad esempio,
azure-transfer-app. - Seleziona Solo account in questa directory dell'organizzazione.
- Fai clic su Register (Registrati). L'applicazione è stata creata. Prendi nota di
Application (client) IDeDirectory (tenant) ID. Puoi anche recuperarli in un secondo momento dalla pagina Panoramica dell'applicazione. - Fai clic su Certificati e secret e seleziona la scheda Credenziali federate.
- Fai clic su Aggiungi credenziale.
Seleziona Altro emittente come scenario e inserisci le seguenti informazioni:
- Emittente:
https://accounts.google.com Identificatore soggetto: a seconda che tu stia utilizzando l'agente di servizio predefinito o un service account gestito dall'utente, scegli una delle seguenti opzioni:
- Il
subjectIddel tuo service agent, che hai recuperato in Configura le credenziali Google Cloud. - Il
uniqueIddel account di servizio gestito dall'utente. Per i dettagli sul recupero di questo valore, consulta Recuperare l'ID univoco di un account di servizio account.
- Il
Un nome univoco per le credenziali federate.
Il pubblico deve rimanere
api://AzureADTokenExchange.
- Emittente:
Fai clic su Aggiungi.
Successivamente, concedi all'applicazione l'accesso al tuo contenitore Azure Storage:
- Vai alla pagina Account di archiviazione nel tuo account Azure.
- Seleziona il tuo account di archiviazione e poi Container dalla sezione Archiviazione dati.
- Fai clic sul bucket a cui concedere l'accesso.
- Fai clic su Controllo accesso (IAM) nel menu a sinistra e seleziona la scheda Ruoli.
- Fai clic sul menu extra (
...) accanto a un ruolo e seleziona Clona. - Inserisci un nome per questo ruolo personalizzato e seleziona Inizia da zero. Fai clic su Avanti.
- Fai clic su Aggiungi autorizzazioni e cerca
Microsoft.Storage/storageAccounts/blobServices/containers/blobs/read. - Fai clic sulla scheda Microsoft Storage visualizzata.
- Seleziona il pulsante di opzione Azioni sui dati.
- Seleziona Read (Lettura) > Read Blob (Lettura blob).
- Fai clic su Aggiungi.
- Se eliminerai gli oggetti dall'origine dopo il trasferimento, fai di nuovo clic su
Aggiungi autorizzazioni e cerca
Microsoft.Storage/storageAccounts/blobServices/containers/blobs/delete. - Fai clic sulla scheda Microsoft Storage visualizzata, seleziona Azioni sui dati e poi Elimina : elimina blob.
- Fai clic su Aggiungi.
- Fai clic su Rivedi e crea, quindi su Crea. Tornerai alla pagina Controllo dell'accesso (IAM) del bucket.
- Fai clic su Aggiungi e seleziona Aggiungi assegnazione ruolo.
- Dall'elenco dei ruoli, seleziona il tuo ruolo personalizzato e fai clic su Avanti.
- Fai clic su Seleziona membri.
- Nel campo Seleziona, inserisci il nome dell'applicazione che hai
registrato in precedenza. Ad esempio,
azure-transfer-app. - Fai clic sul riquadro dell'applicazione e poi su Seleziona.
- Fai clic su Rivedi e assegna.
Trasferisci gli identificatori dell'applicazione al comando di creazione del job
Gli identificatori dell'applicazione vengono passati al comando di creazione del job utilizzando un
oggetto federatedIdentityConfig. Copia l'ID applicazione (client) e l'ID directory (tenant) che hai salvato durante i passaggi di configurazione delle credenziali Microsoft nei campi client_id e tenant_id.
"federatedIdentityConfig": {
"client_id": "efghe9d8-4810-800b-8f964ed4057f",
"tenant_id": "abcd1234-c8f0-4cb0-b0c5-ae4aded60078"
}
Una richiesta di creazione di un job di esempio ha il seguente aspetto:
POST https://storagetransfer.googleapis.com/v1/transferJobs
{
"description": "Transfer with Azure Federated Identity",
"status": "ENABLED",
"projectId": "PROJECT_ID",
"transferSpec": {
"azureBlobStorageDataSource": {
"storageAccount": "AZURE_STORAGE_ACCOUNT_NAME",
"container": "AZURE_CONTAINER_NAME",
"federatedIdentityConfig": {
"client_id": "AZURE_CLIENT_ID",
"tenant_id": "AZURE_TENANT_ID"
}
},
"gcsDataSink": {
"bucketName": "CLOUD_STORAGE_BUCKET_NAME"
}
}
}
Per tutti i dettagli sulla creazione di un trasferimento, consulta Crea trasferimenti.
Limitazioni IP
Se limiti l'accesso alle tue risorse Azure utilizzando un firewall Azure Storage, devi aggiungere gli intervalli IP utilizzati dai worker di Storage Transfer Service all'elenco degli IP consentiti.
Poiché questi intervalli IP possono cambiare, pubblichiamo i valori attuali come file JSON a un indirizzo permanente:
https://www.gstatic.com/storage-transfer-service/ipranges.json
Quando viene aggiunto un nuovo intervallo al file, attenderemo almeno 7 giorni prima di utilizzare l'intervallo per le richieste di Storage Transfer Service.
Ti consigliamo di estrarre i dati da questo documento almeno una volta alla settimana per mantenere aggiornata la configurazione di sicurezza. Per un esempio di script Python che recupera intervalli IP da un file JSON, consulta questo articolo della documentazione di Virtual Private Cloud.
Per aggiungere questi intervalli come IP consentiti, segui le istruzioni riportate nell'articolo di Microsoft Azure Configurare i firewall e le reti virtuali di Azure Storage.