אתם משתמשים בתבניות של Model Armor כדי להגדיר את הסינון של הנחיות ותשובות באפליקציות ה-AI שלכם. התבניות מספקות מסננים וערכי סף מותאמים אישית למספר קטגוריות של בטיחות ואבטחה. במאמר הזה נסביר איך ליצור ולנהל תבניות של Model Armor. מידע נוסף זמין במאמר בנושא תבניות הגנה מוגברת על המודל.
שימוש בנקודת קצה אזורית או רב-אזורית
כשעובדים עם תבנית הגנה מוגברת על המודל, צריך להשתמש בנקודת קצה אזורית או רב-אזורית (modelarmor.LOCATION.rep.googleapis.com) שתואמת למיקום של התבנית.
נקודת הקצה הגלובלית (modelarmor.googleapis.com) לא תומכת בניהול תבניות של הגנה מוגברת על המודל או בניקוי של הנחיות ותשובות.
לפני שמתחילים
לפני שמתחילים, צריך לבצע את המשימות הבאות.
קבלת ההרשאות הנדרשות
כדי לקבל את ההרשאות שנדרשות לניהול תבניות של Model Armor, צריך לבקש מהאדמין להקצות לכם ב-IAM את התפקיד אדמין של Model Armor (roles/modelarmor.admin) בתבניות של Model Armor.
כדי לקרוא הסבר על מתן תפקידים, ראו איך מנהלים את הגישה ברמת הפרויקט, התיקייה והארגון.
יכול להיות שאפשר לקבל את ההרשאות הנדרשות גם באמצעות תפקידים בהתאמה אישית או תפקידים מוגדרים מראש.
הפעלת ממשקי ה-API
כדי להשתמש בהגנה מוגברת על המודל, צריך להפעיל את Model Armor API.
המסוף
מפעילים את הגנה מוגברת על המודל API, אם הוא עדיין לא מופעל.
תפקידים שנדרשים להפעלת ממשקי API
כדי להפעיל ממשקי API, נדרשת ההרשאה
serviceusage.services.enable. אם יצרתם את הפרויקט, סביר להניח שכבר יש לכם את ההרשאה הזו דרך התפקיד 'בעלים' (roles/owner). אחרת, תוכלו לקבל את ההרשאה הזו דרך התפקיד 'אדמין בממשק Service Usage' (roles/serviceusage.serviceUsageAdmin). איך מקצים תפקידיםבוחרים את הפרויקט שבו רוצים להפעיל את הגנה מוגברת על המודל.
gcloud
לפני שמתחילים, מבצעים את השלבים הבאים באמצעות Google Cloud CLI עם Model Armor API:
במסוף Google Cloud , מפעילים את Cloud Shell.
בחלק התחתון של Google Cloud המסוף יתחיל סשן של Cloud Shell ותופיע הודעה של שורת הפקודה. Cloud Shell היא סביבת מעטפת שבה ה-CLI של Google Cloud מותקן ומוגדרים ערכים לפרויקט הקיים. הסשן יופעל תוך כמה שניות.
הגדרת שינוי מברירת המחדל של נקודת קצה ל-API באמצעות ה-CLI של gcloud
הגדרת שינוי מברירת המחדל של נקודת קצה ל-API באמצעות ה-CLI של gcloud
השלב הזה נחוץ רק אם משתמשים ב-CLI של gcloud עם הגנה מוגברת על המודל ורוצים להשתמש באזור או במספר אזורים שונים מאזור ברירת המחדל us. כדי לוודא שה-CLI של gcloud מנתב את הבקשות לשירות Model Armor בצורה נכונה, צריך להגדיר ידנית את החלפת נקודת הקצה של ה-API.
מריצים את הפקודה הבאה כדי להגדיר את נקודת קצה ל-API לשירות הגנה מוגברת על המודל.
gcloud config set api_endpoint_overrides/modelarmor "https://modelarmor.LOCATION.rep.googleapis.com/"
מחליפים את LOCATION באזור או במספר אזורים שבהם רוצים להשתמש בהגנה מוגברת על המודל.
יצירת תבנית של הגנה מוגברת על המודל
תבניות של Model Armor מגדירות את המסננים והסף הספציפיים שבהם Model Armor משתמש כדי לסרוק הנחיות ותשובות ולזהות סיכוני בטיחות ואבטחה. כדי ליצור תבנית הגנה מוגברת על המודל:
המסוף
נכנסים לדף הגנה מוגברת על המודל במסוף Google Cloud .
מוודאים שאתם צופים בפרויקט שבו הפעלתם את הגנה מוגברת על המודל.
בדף Model Armor (הגנה על מודלים), לוחצים על Create Template (יצירת תבנית). מוצג הדף Create Template (יצירת תבנית).
מציינים את מזהה התבנית. מזהה התבנית יכול להכיל אותיות, ספרות, קווים תחתונים או מקפים. הוא לא יכול להכיל יותר מ-63 תווים, לכלול רווחים או להתחיל במקף.
בקטע Location type, בוחרים אזור או מספר אזורים שבהם יפעלו הפעולות של הגנה מוגברת על המודל. אי אפשר לשנות את המיקום בהמשך.
אופציונלי: בקטע תאימות לדרישות של מיקום אחסון הנתונים, בוחרים אם להפעיל את האכיפה של מיקום אחסון הנתונים. כברירת מחדל, כל תכונה של הגנה מוגברת על המודל שלא מתארחת באופן מקומי במיקום שבחרתם מושבתת כדי למנוע העברת נתונים לתחומי שיפוט אחרים. התכונות המושבתות מפורטות בקטע הזה.
כדי להפעיל את התכונות שמוגבלות בגלל אכיפה של מיקום אחסון הנתונים, צריך להשבית את האפשרות אכיפה של מיקום אחסון הנתונים. הפעולה הזו מאפשרת ניתוב של הנתונים שלכם בין תחומים שונים.
אופציונלי: בקטע תוויות, מוסיפים צמדי מפתח/ערך שרוצים להשתמש בהם כדי לקבץ תבניות קשורות.
בקטע Filter version, בוחרים את מספר גרסת המסנן או את הכינוי של גרסת המסנן.
בחירת אופן הפעולה כדי לציין אם רוצים להקרין טקסט, תמונות או את שניהם.
בקטע זיהויים, מגדירים את הגדרות הזיהוי.
אופציונלי: אם בוחרים באפשרות Sensitive Data Protection detection (זיהוי Sensitive Data Protection), צריך להגדיר את ההגדרות של Sensitive Data Protection.
בקטע אתיקה של בינה מלאכותית, מגדירים את רמת הסמך לכל מסנן תוכן.
אופציונלי: מרחיבים את הקטע הגדרות נוספות (אופציונלי) ומגדירים את ההגדרות הבאות:
- בקטע Configure logging (הגדרת רישום ביומן), בוחרים את הפעולות שרוצים להגדיר עבורן רישום ביומן.
- בקטע תמיכה בכמה שפות, בוחרים באפשרות הפעלת תמיכה בכמה שפות כדי להשתמש בזיהוי של כמה שפות.
- בקטע Enforcement mode, בוחרים סוג אכיפה.
לוחצים על יצירה.
gcloud
מריצים את הפקודה הבאה:
gcloud model-armor templates create TEMPLATE_ID --project=PROJECT_ID --location=LOCATION \
--rai-settings-filters='[{ "filterType": "HATE_SPEECH", "confidenceLevel": "MEDIUM_AND_ABOVE" },{ "filterType": "HARASSMENT", "confidenceLevel": "MEDIUM_AND_ABOVE" },{ "filterType": "SEXUALLY_EXPLICIT", "confidenceLevel": "MEDIUM_AND_ABOVE" }]' \
--basic-config-filter-enforcement=enabled \
--pi-and-jailbreak-filter-settings-enforcement=enabled \
--pi-and-jailbreak-filter-settings-confidence-level=HIGH \
--malicious-uri-filter-settings-enforcement=enabled \
--template-metadata-custom-llm-response-safety-error-code=798 \
--template-metadata-custom-llm-response-safety-error-message="test template llm response evaluation failed" \
--template-metadata-custom-prompt-safety-error-code=799 \
--template-metadata-custom-prompt-safety-error-message="test template prompt evaluation failed" \
--template-metadata-ignore-partial-invocation-failures \
--template-metadata-log-operations \
--template-metadata-log-sanitize-operations
מחליפים את מה שכתוב בשדות הבאים:
-
LOCATION: המיקום של התבנית. -
TEMPLATE_ID: מזהה התבנית. -
PROJECT_ID: מזהה הפרויקט שאליו שייך התבנית.
REST
כדי ליצור תבנית חדשה של Model Armor, משתמשים בפקודה הבאה.
curl -X POST \
-d "FILTER_CONFIG" \
-H "Content-Type: application/json" \
-H "Authorization: Bearer $(gcloud auth print-access-token)" \
"https://modelarmor.LOCATION.rep.googleapis.com/v1/projects/PROJECT_ID/locations/LOCATION/templates?template_id=TEMPLATE_ID"
מחליפים את מה שכתוב בשדות הבאים:
-
FILTER_CONFIG: הגדרת המסנן לתבנית בפורמט JSON. -
PROJECT_ID: מזהה הפרויקט שאליו שייך התבנית. -
TEMPLATE_ID: המזהה של התבנית שרוצים ליצור. -
LOCATION: המיקום של התבנית.
בדוגמה הבאה מוצגת ההגדרה של מסנן הגנה מוגברת על המודל (FilterConfig), שבה מגדירים את מה שרוצים לזהות. בדוגמה הזו, המסננים של AI אחראי מוגדרים לזיהוי של דברי שטנה, הטרדה, תוכן מסוכן ותוכן מיני בוטה עם רמות שונות של רמת סמך. המסנן prompt injection
and jailbreak detection מופעל ברמת מהימנות של HIGH, כלומר רק תוכן עם סבירות גבוהה יסומן. המסנן malicious
URI מופעל.
export FILTER_CONFIG='{
"filterConfig": {
"raiSettings": {
"raiFilters": [{
"filterType": "HATE_SPEECH",
"confidenceLevel": "MEDIUM_AND_ABOVE"
}, {
"filterType": "HARASSMENT",
"confidenceLevel": "HIGH"
}, {
"filterType": "DANGEROUS",
"confidenceLevel": "MEDIUM_AND_ABOVE"
},{
"filterType": "SEXUALLY_EXPLICIT",
"confidenceLevel": "MEDIUM_AND_ABOVE"
}]
},
"piAndJailbreakFilterSettings": {
"filterEnforcement": "ENABLED",
"confidenceLevel": "HIGH"
},
"maliciousUriFilterSettings": {
"filterEnforcement": "ENABLED"
}
}
}'
curl -X POST \
-d "$FILTER_CONFIG" \
-H "Content-Type: application/json" \
-H "Authorization: Bearer $(gcloud auth print-access-token)" \
"https://modelarmor.LOCATION.rep.googleapis.com/v1/projects/PROJECT_ID/locations/LOCATION/templates?template_id=TEMPLATE_ID"
כדי להגדיר איך הגנה מוגברת על המודל מטפל בפעולות, בשגיאות וביומנים, צריך להגדיר את המטא-נתונים של התבנית (TemplateMetadata) בפקודה. המטא-נתונים של התבנית כוללים הגדרות לזיהוי שפה, לאופנים ולתאימות למיקום אחסון הנתונים.
בדוגמה הבאה נוצרת הגדרת תבנית של Model Armor עם זיהוי של כמה שפות וקטגוריות (תמונה וטקסט).
export TEMPLATE_CONFIG='{
"filterConfig": {
"raiSettings": {
"raiFilters": [{
"filterType": "HATE_SPEECH",
"confidenceLevel": "MEDIUM_AND_ABOVE"
}, {
"filterType": "HARASSMENT",
"confidenceLevel": "HIGH"
}, {
"filterType": "DANGEROUS",
"confidenceLevel": "MEDIUM_AND_ABOVE"
},{
"filterType": "SEXUALLY_EXPLICIT",
"confidenceLevel": "MEDIUM_AND_ABOVE"
}]
},
"piAndJailbreakFilterSettings": {
"filterEnforcement": "ENABLED",
"confidenceLevel": "HIGH"
},
"maliciousUriFilterSettings": {
"filterEnforcement": "ENABLED"
}
},
"templateMetadata": {
"multiLanguageDetection": {
"enableMultiLanguageDetection": true
},
"modalities": ["MODALITY_IMAGE", "MODALITY_TEXT"]
}
}'
curl -X POST \
-d "$TEMPLATE_CONFIG" \
-H "Content-Type: application/json" \
-H "Authorization: Bearer $(gcloud auth print-access-token)" \
"https://modelarmor.LOCATION.rep.googleapis.com/v1/projects/PROJECT_ID/locations/LOCATION/templates?template_id=TEMPLATE_ID"
C#
כדי להריץ את הקוד הזה, קודם צריך להגדיר סביבת פיתוח בשפת C# ולהתקין את Model Armor C# SDK.
המשך
כדי להריץ את הקוד הזה, קודם צריך להגדיר סביבת פיתוח של Go ולהתקין את Model Armor Go SDK.
Java
כדי להריץ את הקוד הזה, קודם צריך להגדיר סביבת פיתוח בשפת Java ולהתקין את Model Armor Java SDK.
Node.js
כדי להריץ את הקוד הזה, קודם צריך להגדיר סביבת פיתוח של Node.js ולהתקין את Model Armor Node.js SDK.
PHP
כדי להריץ את הקוד הזה, קודם צריך להגדיר סביבת פיתוח של PHP ולהתקין את Model Armor PHP SDK.
Python
כדי להריץ את הקוד הזה, קודם צריך להגדיר סביבת פיתוח של Python ולהתקין את Model Armor Python SDK.
הגדרת תאימות למיקום אחסון הנתונים
כברירת מחדל, כל תבנית שתיצרו תאכוף באופן מחמיר את התאימות לדרישות בנושא שמירת נתונים. כלומר, כל תכונה של הגנה מוגברת על המודל שלא מתארחת בסמכות השיפוט שחלה על האזור של התבנית מושבתת. האכיפה של תאימות למיקום הנתונים מונעת את העברת הנתונים שלכם מחוץ לתחום השיפוט שלהם.
בתבניות שבהן יש עדיפות לסינון אבטחה מקיף על פני מיקום אחסון הנתונים מחמיר, אפשר להשבית את האכיפה של מיקום אחסון הנתונים לגבי נתונים בשימוש ונתונים בהעברה. כדי לעשות זאת, משביתים את האפשרות החלת דרישות בנוגע למיקום הנתונים דרך מסוףGoogle Cloud , או מגדירים את data_residency_compliant לערך false דרך Model Armor API. הנתונים שלכם באחסון ממשיכים לעמוד בדרישות של שמירת נתונים במדינה מסוימת, ללא קשר למצב של האפשרות הזו.
כשמשביתים את התאימות למיקום אחסון הנתונים בתבנית, מאפשרים ניתוב של הנתונים בין סמכויות שיפוט שונות. כלומר, יכול להיות ש-Model Armor ינתב בקשות לסמכויות שיפוט אחרות אם תכונות ספציפיות לא זמינות באופן מקומי בסמכות השיפוט של התבנית.
השבתת מיקום אחסון הנתונים מאפשרת להשתמש בכל התכונות של הגנה מוגברת על המודל, חוץ מהמודליות של התמונות, שעדיין מוגבלת למספר אזורים ב-us וב-eu.
בחירת גרסת מסנן
גרסאות המסננים של הגנה מוגברת על המודל מספקות איזון בין יציבות לעומסי עבודה בסביבת הייצור לבין גישה למודלים המעודכנים לזיהוי איומים. מגדירים את גרסת המסנן ברמת התבנית. גרסת המסנן חלה על כל המסננים בתבנית, למעט אלה שמפורטים בקטע מסננים שלא משתמשים בגרסאות מסנן. מידע נוסף זמין במאמר בנושא הגדרת גרסת המסנן לתבנית.
בחירת אופן הפעולה
משתמשים בשיטת ההעברה כדי לציין אם רוצים לסרוק את הפריטים הבאים:
- הכול: סריקת טקסט ותמונות.
- אמצעי תחבורה ספציפיים:
- טקסט: סריקה של מחרוזות טקסט וטקסט שמוטמע בפורמטים נתמכים של קבצים.
- תמונה: סורק תמונות.
מידע נוסף זמין במאמרים בנושא סינון תמונות וניקוי הנחיות שמכילות תמונות.
הגדרת זיהויים
זיהויים הם הבדיקות הספציפיות ש-הגנה מוגברת על המודל מבצע בהנחיות ובתשובות. Model Armor היא מערכת גמישה להגדרת זיהויים, שמאפשרת לכם להתאים את רמת ההגנה של אפליקציות ה-AI שלכם. מגדירים את זיהויים כשיוצרים תבניות. הגנה מוגברת על המודל מבצע את בדיקות הזיהוי הבאות בהנחיות ובתשובות:
זיהוי כתובות URL זדוניות: זיהוי של כתובות אינטרנט (URL) שנועדו לפגוע במשתמשים או במערכות. יכול להיות שכתובות ה-URL האלה יובילו לאתרי פישינג, להורדות של תוכנות זדוניות או למתקפות סייבר אחרות. מידע נוסף זמין במאמר בנושא זיהוי של כתובות URL זדוניות.
זיהוי של החדרת פרומפטים ופריצה: זיהוי של תוכן זדוני וניסיונות פריצה בפרומפט. מומלץ להגדיר את רמת הסמך לגבוהה כדי למזער את התוצאות החיוביות הכוזבות ולהבטיח התנהגות עקבית של זיהוי. גם אם מגדירים את רמת הסמך לגבוהה, עדיין יכול להיות שתראו תוצאות חיוביות כוזבות במקרים נדירים. מידע נוסף זמין במאמר זיהוי של החדרה פרומפטים ופריצה.
Sensitive Data Protection: מזהה מידע אישי רגיש ועוזר למנוע חשיפה מקרית שלו כתוצאה ממתקפות כמו החדרת פרומפטים. מידע נוסף זמין במאמר בנושא Sensitive Data Protection.
הגדרת Sensitive Data Protection
הגנה מוגברת על המודל משתמש ב-Sensitive Data Protection כדי לזהות מידע רגיש באינטראקציות עם מודלים של LLM ולמנוע את החשיפה שלו. מידע נוסף זמין במאמר בנושא הגנה על נתונים רגישים.
ב-Model Armor יש שני מצבים להגדרת Sensitive Data Protection:
בסיסי: גישה פשוטה יותר שמשתמשת ב-infoType מוגדר מראש כדי לזהות נתונים רגישים. מידע נוסף על סוגי המידע המוגדרים מראש זמין במאמר בנושא הגדרה בסיסית של Sensitive Data Protection.
מתקדם: אפשרות עם יותר הגדרות, שמשתמשת בתבנית בדיקה שמוגדרת בשירות Sensitive Data Protection כמקור יחיד לסוגי מידע (infoTypes) של נתונים רגישים.
אם בוחרים במצב מתקדם, צריך לציין את הפרמטרים הבאים:
תבנית לבדיקה: תבניות לשמירת פרטי ההגדרה של סריקות לבדיקה, כולל גלאים מוגדרים מראש או גלאים בהתאמה אישית לשימוש. מזינים את שם התבנית בפורמט הבא:
projects/projectId/locations/locationId/inspectTemplates/templateNameאופציונלי: תבנית להסרת פרטים מזהים: תבניות לשמירת פרטי הגדרה של משימות להסרת פרטים מזהים, כולל infoType וטרנספורמציות של מערכי נתונים מובנים. מזינים מזהה לתבנית של הסרת פרטים מזהים בפורמט הבא:
projects/projectId/locations/locationId/deidentifyTemplates/templateName
מוודאים שקיימות תבנית הבדיקה ותבנית הסרת פרטי הזיהוי ב-Sensitive Data Protection. אם התבנית נמצאת בפרויקט אחר, צריך להעניק לסוכן השירות של הגנה מוגברת על המודל את התפקיד 'משתמש DLP' (roles/dlp.user) ואת התפקיד 'קורא DLP' (roles/dlp.reader) בפרויקט הזה.
הגדרת רמת הסמך
רמת הסמך מייצגת את הסבירות להתאמה בין הממצאים לסוג של מסנן תוכן. אפשר להגדיר את רמת הסמך לכל מסנן תוכן. הערכים האפשריים הם:
- ללא: לא זוהה תוכן.
- נמוכה ומעלה: התוכן מזוהה ברמת סמך נמוכה, בינונית או גבוהה.
- בינוני ומעלה: התוכן מזוהה ברמת מהימנות בינונית או גבוהה.
- גבוהה: התוכן מזוהה ברמת אמינות גבוהה.
כדי להקשיח את האכיפה, מגדירים את רמת הסמך לנמוכה ומעלה כדי לזהות את רוב התוכן שמשתייך לסוג של מסנן תוכן.
כדי להפעיל רישום מקיף ביומן בתבנית, אפשר לעיין במאמר הגנה מוגברת על המודל: רישום ביומן של ביקורת ושל הפלטפורמה.
הגדרת סוג האכיפה של תבניות
כדי להגדיר איך הגנה מוגברת על המודל מטפל בזיהויים, צריך להגדיר את סוג האכיפה.
בשדה template_metadata בהגדרת התבנית, מגדירים את enforcement_type לערך INSPECT_ONLY או INSPECT_AND_BLOCK.
export TEMPLATE_CONFIG='{
"filter_config": {
"rai_settings": {
"rai_filters": [{
"filter_type": "HATE_SPEECH",
"confidence_level": "MEDIUM_AND_ABOVE"
}, {
"filter_type": "HARASSMENT",
"confidence_level": "MEDIUM_AND_ABOVE"
}, {
"filter_type": "DANGEROUS",
"confidence_level": "MEDIUM_AND_ABOVE"
},{
"filter_type": "SEXUALLY_EXPLICIT",
"confidence_level": "MEDIUM_AND_ABOVE"
}]
},
"pi_and_jailbreak_filter_settings": {
"filter_enforcement": "ENABLED",
"confidence_level": "HIGH"
},
"malicious_uri_filter_settings": {
"filter_enforcement": "ENABLED"
}
},
"template_metadata": {
"enforcement_type": "INSPECT_ONLY",
"multi_language_detection": {
"enable_multi_language_detection": true
}
}
}'
curl -X POST \
-d "$TEMPLATE_CONFIG" \
-H "Content-Type: application/json" \
-H "Authorization: Bearer $(gcloud auth print-access-token)" \
"https://modelarmor.LOCATION.rep.googleapis.com/v1/projects/PROJECT_ID/locations/LOCATION/templates?template_id=TEMPLATE_ID"
מחליפים את מה שכתוב בשדות הבאים:
-
PROJECT_ID: מזהה הפרויקט שאליו שייך התבנית. -
TEMPLATE_ID: המזהה של התבנית שרוצים ליצור. -
LOCATION: המיקום של התבנית.
הצגת תבנית של Model Armor
אתם יכולים לעיין בתבניות קיימות כדי להבין אילו הגדרות זמינות, וכדי לפתור בעיות שקשורות להנחיות ולתשובות של סינון.
המסוף
נכנסים לדף הגנה מוגברת על המודל במסוף Google Cloud .
מוודאים שאתם צופים בפרויקט שבו הפעלתם את הגנה מוגברת על המודל. מוצג הדף Model Armor עם רשימת התבניות שנוצרו לפרויקט.
לוחצים על תבנית כלשהי מהרשימה כדי לראות את הפרטים שלה.
gcloud
מריצים את הפקודה הבאה:
gcloud model-armor templates describe TEMPLATE_ID --project=PROJECT_ID --location=LOCATION
מחליפים את מה שכתוב בשדות הבאים:
-
LOCATION: המיקום של התבנית. -
TEMPLATE_ID: מזהה התבנית. -
PROJECT_ID: מזהה הפרויקט שאליו שייך התבנית.
REST
מריצים את הפקודה הבאה:
curl -X GET \ -H "Authorization: Bearer $(gcloud auth print-access-token)" \ "https://modelarmor.LOCATION.rep.googleapis.com/v1/projects/PROJECT_ID/locations/LOCATION/templates/TEMPLATE_ID"
מחליפים את מה שכתוב בשדות הבאים:
-
PROJECT_ID: מזהה הפרויקט שאליו שייך התבנית. -
TEMPLATE_ID: המזהה של התבנית שרוצים להציג. -
LOCATION: המיקום של התבנית.
C#
כדי להריץ את הקוד הזה, קודם צריך להגדיר סביבת פיתוח בשפת C# ולהתקין את Model Armor C# SDK.
המשך
כדי להריץ את הקוד הזה, קודם צריך להגדיר סביבת פיתוח של Go ולהתקין את Model Armor Go SDK.
Java
כדי להריץ את הקוד הזה, קודם צריך להגדיר סביבת פיתוח בשפת Java ולהתקין את Model Armor Java SDK.
Node.js
כדי להריץ את הקוד הזה, קודם צריך להגדיר סביבת פיתוח של Node.js ולהתקין את Model Armor Node.js SDK.
PHP
כדי להריץ את הקוד הזה, קודם צריך להגדיר סביבת פיתוח של PHP ולהתקין את Model Armor PHP SDK.
Python
כדי להריץ את הקוד הזה, קודם צריך להגדיר סביבת פיתוח של Python ולהתקין את Model Armor Python SDK.
עדכון תבנית של Model Armor
חשוב לעדכן את התבניות באופן קבוע כדי לשמור על מצב אבטחה חזק ויעיל של אפליקציות ה-AI.
המסוף
נכנסים לדף הגנה מוגברת על המודל במסוף Google Cloud .
מוודאים שאתם צופים בפרויקט שבו הפעלתם את הגנה מוגברת על המודל. מוצג הדף Model Armor (הגנה על מודלים) עם רשימה של התבניות שנוצרו לארגון שלכם.
לוחצים על התבנית שרוצים לעדכן ברשימה. יוצג הדף Template details.
לוחצים על Edit.
מעדכנים את הפרמטרים הנדרשים ולוחצים על שמירה.
gcloud
כדי לעדכן תבנית, מריצים את הפקודה gcloud model-armor templates update וכוללים את הדגלים של ההגדרות שרוצים לשנות.
לדוגמה, הפקודה הבאה מעדכנת את הגדרות המסנן ואת המטא-נתונים של תבנית:
gcloud model-armor templates update TEMPLATE_ID \
--project=PROJECT_ID \
--location=LOCATION \
--rai-settings-filters='[{ "filterType": "HATE_SPEECH", "confidenceLevel": "MEDIUM_AND_ABOVE" },{ "filterType": "HARASSMENT", "confidenceLevel": "MEDIUM_AND_ABOVE" },{ "filterType": "DANGEROUS", "confidenceLevel": "MEDIUM_AND_ABOVE" },{ "filterType": "SEXUALLY_EXPLICIT", "confidenceLevel": "MEDIUM_AND_ABOVE" }]' \
--basic-config-filter-enforcement=enabled \
--pi-and-jailbreak-filter-settings-enforcement=enabled \
--pi-and-jailbreak-filter-settings-confidence-level=HIGH \
--malicious-uri-filter-settings-enforcement=enabled \
--template-metadata-custom-llm-response-safety-error-code=798 \
--template-metadata-custom-llm-response-safety-error-message="test template llm response evaluation failed" \
--template-metadata-custom-prompt-safety-error-code=799 \
--template-metadata-custom-prompt-safety-error-message="test template prompt evaluation failed" \
--template-metadata-ignore-partial-invocation-failures \
--template-metadata-log-operations \
--template-metadata-log-sanitize-operations
מחליפים את מה שכתוב בשדות הבאים:
-
TEMPLATE_ID: מזהה התבנית. -
PROJECT_ID: מזהה הפרויקט שאליו שייך התבנית. -
LOCATION: המיקום של התבנית.
REST
מריצים את הפקודה הבאה:
curl -X PATCH \ -H "Authorization: Bearer $(gcloud auth print-access-token)" \ -H "Content-Type: application/json" \ -d "$FILTER_CONFIG" \ "https://modelarmor.LOCATION.rep.googleapis.com/v1/projects/PROJECT_ID/locations/LOCATION/templates/TEMPLATE_ID?updateMask=UPDATE_MASK"
מחליפים את מה שכתוב בשדות הבאים:
-
PROJECT_ID: מזהה הפרויקט שאליו שייך התבנית. -
LOCATION: המיקום של התבנית. -
TEMPLATE_ID: מזהה התבנית. -
UPDATE_MASK: השדות שרוצים לעדכן, כמוfilterConfigו-filterConfig.piAndJailbreakFilterSettings. אם משאירים את השדה הזה ריק, כל הגדרות המסנן מתעדכנות.
כל שאר השדות הם קבועים. ניסיונות לעדכן שדות אחרים (לדוגמה, ניסיונות לעדכן את שם התבנית) יגרמו לשגיאה.
C#
כדי להריץ את הקוד הזה, קודם צריך להגדיר סביבת פיתוח בשפת C# ולהתקין את Model Armor C# SDK.
המשך
כדי להריץ את הקוד הזה, קודם צריך להגדיר סביבת פיתוח של Go ולהתקין את Model Armor Go SDK.
Java
כדי להריץ את הקוד הזה, קודם צריך להגדיר סביבת פיתוח בשפת Java ולהתקין את Model Armor Java SDK.
Node.js
כדי להריץ את הקוד הזה, קודם צריך להגדיר סביבת פיתוח של Node.js ולהתקין את Model Armor Node.js SDK.
PHP
כדי להריץ את הקוד הזה, קודם צריך להגדיר סביבת פיתוח של PHP ולהתקין את Model Armor PHP SDK.
Python
כדי להריץ את הקוד הזה, קודם צריך להגדיר סביבת פיתוח של Python ולהתקין את Model Armor Python SDK.
מחיקת תבנית של Model Armor
מוחקים תבנית כשכבר לא משתמשים בה, כשהיא מוחלפת בתבנית חדשה או כשמדיניות האבטחה משתנה.
המסוף
נכנסים לדף הגנה מוגברת על המודל במסוף Google Cloud .
מוודאים שאתם צופים בפרויקט שבו הפעלתם את הגנה מוגברת על המודל. מוצג הדף Model Armor (הגנה על מודלים) עם רשימה של התבניות שנוצרו לארגון שלכם.
לוחצים על התבנית שרוצים למחוק מהרשימה. יוצג הדף Template details.
לוחצים על Delete. מוצגת תיבת דו-שיח לאישור.
מזינים את שם התבנית כדי לאשר את המחיקה ולוחצים על מחיקה.
gcloud
מריצים את הפקודה הבאה:
gcloud model-armor templates delete TEMPLATE_ID --project=PROJECT_ID --location=LOCATION
מחליפים את מה שכתוב בשדות הבאים:
-
LOCATION: המיקום של התבנית. -
TEMPLATE_ID: מזהה התבנית. -
PROJECT_ID: מזהה הפרויקט שאליו שייך התבנית.
REST
מריצים את הפקודה הבאה:
curl -X DELETE \ -H "Authorization: Bearer $(gcloud auth print-access-token)" \ "https://modelarmor.LOCATION.rep.googleapis.com/v1/projects/PROJECT_ID/locations/LOCATION/templates/TEMPLATE_ID"
מחליפים את מה שכתוב בשדות הבאים:
-
PROJECT_ID: מזהה הפרויקט שאליו שייך התבנית. -
LOCATION: המיקום של התבנית. -
TEMPLATE_ID: מזהה התבנית.
C#
כדי להריץ את הקוד הזה, קודם צריך להגדיר סביבת פיתוח בשפת C# ולהתקין את Model Armor C# SDK.
המשך
כדי להריץ את הקוד הזה, קודם צריך להגדיר סביבת פיתוח של Go ולהתקין את Model Armor Go SDK.
Java
כדי להריץ את הקוד הזה, קודם צריך להגדיר סביבת פיתוח בשפת Java ולהתקין את Model Armor Java SDK.
Node.js
כדי להריץ את הקוד הזה, קודם צריך להגדיר סביבת פיתוח של Node.js ולהתקין את Model Armor Node.js SDK.
PHP
כדי להריץ את הקוד הזה, קודם צריך להגדיר סביבת פיתוח של PHP ולהתקין את Model Armor PHP SDK.
Python
כדי להריץ את הקוד הזה, קודם צריך להגדיר סביבת פיתוח של Python ולהתקין את Model Armor Python SDK.
מטא-נתונים של תבנית
מטא-נתונים של תבנית הגנה מוגברת על המודל עוזרים לכם להגדיר את ההתנהגות של הגנה מוגברת על המודל, כולל טיפול בבדיקות בטיחות ואבטחה, טיפול בשגיאות והתנהגות רישום ביומן.
המטא-נתונים של התבנית עבור Model Armor כוללים את השדות הבאים:
| מטא-נתונים | סוג | ערך ברירת המחדל | תיאור |
|---|---|---|---|
| enforcement_type | ספירה | INSPECT_AND_BLOCK |
הגדרה של סוג האכיפה. אפשר להשתמש באחד מהערכים הבאים:
|
| log_template_operations | בוליאני | לא נכון | ההגדרה הזו מאפשרת רישום ביומן של פעולות שקשורות לתבניות. |
| log_sanitize_operations | בוליאני | לא נכון | הגדרה שמאפשרת רישום ביומן של פעולות ניקוי. |
| multiLanguageDetection | בוליאני | לא נכון | ההגדרה הזו מאפשרת זיהוי של כמה שפות. |
| אמצעי תחבורה (תצוגה מקדימה) | ספירה | ריק | קובע אם לסרוק טקסט, תמונות או את שניהם. אם משאירים את השדה הזה ריק, המערכת סורקת רק טקסט.
אפשר להשתמש באחד מהערכים הבאים:
|
| data_residency_compliant | בוליאני | True |
מציין אם התבנית כפופה לתאימות קפדנית למיקום אחסון הנתונים (עיבוד בתחום השיפוט).
מידע נוסף על השדה הזה מופיע בקטע הגדרת תאימות למיקום אחסון הנתונים במאמר הזה. מידע נוסף על מיקום אחסון הנתונים בתבניות זמין במאמר אכיפה של מיקום אחסון הנתונים בתבניות. |
המאמרים הבאים
- מידע ולמידה על הגנה מוגברת על המודל
- מידע נוסף על הגדרות הסף של Model Armor
- ניקוי פרומפטים ותשובות.
- פתרון בעיות ב-Model Armor