הדף הזה רלוונטי ל-Apigee ול-Apigee Hybrid.
לעיון במסמכי התיעוד של
Apigee Edge
כדי שהסוכנים יוכלו להיות יעילים, הם צריכים גישה לכלים איכותיים, כמו ממשקי API ארגוניים. בנוסף ליכולות ניהול ה-API המסורתיות, Apigee מספק תכונות שקשורות לשער AI כדי לנהל ולבצע אופטימיזציה של תנועת ה-AI, תוך המרה של שירותים קיימים לכלים שסוכנים יכולים לגלות.
Apigee יכולה לאבטח, לנהל ולהרחיב את ממשקי ה-API שלכם למערכות מבוססות-סוכנים:
- אופטימיזציה של התנועה וניהול שלה: אכיפת אמצעי בקרה של AI Gateway כדי לאבטח את התנועה ואת הכלים מפני פגיעויות, תוך אכיפת מדיניות התאימות. לוודא שתעבורת הנתונים של מודל שפה גדול (LLM) עוברת אופטימיזציה כדי להפעיל אותו ביעילות ובצורה חסכונית.
- תרגום ממשקי API לכלים: אפשר להפוך ממשקי API קיימים לכלים שעברו אופטימיזציה לסוכנים בלי לכתוב קוד חדש, כדי שהסוכנים יוכלו לגלות את ממשקי ה-API של הארגון ולקיים איתם אינטראקציה בצורה מאובטחת.
- הפעלת שילובים: מוודאים שאפשר לגלות את ממשקי ה-API והכלים שלכם דרך פלטפורמות אחרות שמבוססות על סוכנים.
ניהול ואבטחה
Model Armor
במאמר הזה מוסבר איך להגן על המערכת מפני החדרת פרומפטים ולסנן תוכן בלתי הולם לפני שהוא מגיע למשתמשים או למודל.
מדיניות אבטחה של MCP
מוסיפים מדיניות אבטחה של OAuth V2 כדי לוודא שכל הבקשות לשרת ה-MCP פרוקסי מאומתות ומאושרות.
מדיניות JSON-RPC
אפשר להשתמש בתמיכה של Apigee ב-JSON-RPC עבור MCP כדי לאכוף מדיניות בצורה מפורטת יותר.
אופטימיזציה והפחתת עלויות
ניתוב דינמי של מודלים
אפשר לנתב בקשות למודלים שונים לתרחישי שימוש שונים באמצעות כללי ניתוב גמישים שמבוססים על מדיניות.
מדיניות בנושא שמירת נתונים במטמון סמנטי
כדי להפחית את העלויות ולשפר את זמן האחזור של התגובות, המערכת מציגה תגובות ששמורות במטמון לשאילתות שהן דומות מבחינה סמנטית.
המדיניות בנושא מגבלת טוקנים של LLM
כדי לוודא שהאפליקציות לא חורגות ממכסות הטוקנים ולשמור על יציבות הפלטפורמה, צריך להגדיר מכסות ומגבלות קצב.
תרגום ממשקי API לכלים
Specification Boost
יצירה אוטומטית של תיאורים מפורטים, סכימות ותיעוד לממשקי ה-API כדי להפוך אותם לנגישים יותר למפתחים, לצרכני API ולסוכנים.
חשיפת ממשקי API ככלים של MCP
איך מאפשרים לעוזרים אישיים מבוססי-AI ולסוכנים לגלות ולהפעיל את ממשקי ה-API שלכם ככלים בצורה מאובטחת.
ניהול שרתי MCP וכלים במרכז ה-API
אפשר לייבא, לרשום ולנהל ממשקי API של MCP ואת הכלים שמשויכים אליהם ישירות במרכז ה-API.
הפצת יכולות של סוכנים באמצעות API hub
ארגון וניהול של יכולות מבוססות-סוכן באמצעות API Hub, כדי להבטיח שאפשר יהיה לגלות אותן בקלות ולעשות בהן שימוש חוזר בסוכנים שונים.
הפעלת שילובים
Register MCPs in Agent Registry
סנכרון אוטומטי של כלים ומטא-נתונים של שרתים עם Agent Registry.
שילוב עם Dialogflow
ניהול האינטראקציות בין Dialogflow לבין שירותי ה-Backend שלכם ב-Contact Center AI.
חיפוש סמנטי ב-API Hub באמצעות MCP
חיפוש במרכז ה-API באמצעות שפה טבעית. סוכנים יכולים גם להשתמש בחיפוש סמנטי כדי למצוא את ממשקי ה-API שלכם במרכז ממשקי ה-API.
מדיניות מעבד התוספים
החלת מדיניות Apigee על תנועה שלא מועברת דרך שרת proxy של Apigee, כולל מודל של סוכן AI וקריאות לכלים של MCP.
המאמרים הבאים
- אפשר לנסות דוגמאות לתרחישי שימוש ב-AI Gateway ממאגר AI Gateway Labs ב-GitHub.
- בשיחות הטכניות של קהילת Apigee אפשר לקבל מידע נוסף על היכולות של Apigee AI gateway.