חילוץ מותאם אישית באמצעות AI גנרטיבי

האפשרות 'אימון ומיצוי של AI גנרטיבי' מאפשרת לכם:

• שימוש בטכנולוגיית zero-shot ו-few-shot כדי לקבל מודל עם ביצועים גבוהים עם מעט נתוני אימון או ללא נתוני אימון, באמצעות המודל הבסיסי.
• ככל שתספקו יותר נתוני אימון, תוכלו להשתמש בכוונון עדין כדי לשפר עוד יותר את הדיוק.

שיטות לאימון AI גנרטיבי

שיטת האימון שתבחרו תלויה במספר המסמכים שזמינים לכם ובמידת המאמץ שאתם מוכנים להשקיע באימון המודל. יש שלוש דרכים לאמן מודל של AI גנרטיבי:

גרסאות של מודלים של חילוץ מותאם אישית

המודלים הבאים זמינים לחילוץ מותאם אישית. כדי לשנות את גרסאות המודלים, אפשר לעיין במאמר בנושא ניהול גרסאות המעבד.

גרסאות 1.4, ‏ 1.5 ו-1.5 Pro תומכות בציוני מהימנות.

כדי לשנות את גרסת המעבד בפרויקט, אפשר לעיין במאמר בנושא ניהול גרסאות של מעבד.

כדי לשלוח בקשה להגדלת המכסה (QIR) של מעבדים שמוגדרת כברירת מחדל, פועלים לפי השלבים לבקשת שינוי במכסות.

הגדרה ראשונית

אם עדיין לא עשיתם זאת, מפעילים את החיוב ואת ממשקי ה-API של Document AI.

יצירה והערכה של מודל AI גנרטיבי

1. יוצרים מעבד ומגדירים שדות שרוצים לחלץ לפי השיטות המומלצות. זה חשוב כי זה משפיע על איכות החילוץ.

   • עוברים אל סביבת עבודה > כלי חילוץ בהתאמה אישית > יצירת מעבד > הקצאת שם.

   

   • עוברים אל שנתחיל? > יצירת שדה חדש.

   

2. ייבוא מסמכים

   • ייבוא מסמכים עם תיוג אוטומטי והקצאת מסמכים למערך האימון ולקבוצת נתונים לבדיקה.
   • במקרה של סיווג ללא דוגמאות, נדרש רק הסכימה. כדי להעריך את רמת הדיוק של המודל, צריך רק קבוצת בדיקה.
   • לפרומפט עם כמה דוגמאות (few-shot), מומלץ להשתמש בחמישה מסמכי אימון.
   • מספר מסמכי הבדיקה הנדרש תלוי בתרחיש לדוגמה. בדרך כלל, ככל שיש יותר מסמכי בדיקה, כך התוצאות טובות יותר.
   • מאשרים או עורכים את התוויות במסמך.

3. אימון מודל:

   • בוחרים באפשרות Build (בנייה) ואז באפשרות Create new version (יצירת גרסה חדשה).
   • מזינים שם ולוחצים על יצירה.

   

1. הערכה:

   • עוברים אל הערכה ובדיקה, בוחרים את הגרסה שאומנה זה עתה ולוחצים על הצגת ההערכה המלאה.

   

   • עכשיו מוצגים מדדים כמו f1, דיוק ורגישות לכל המסמך ולכל שדה.
   • בודקים אם הביצועים עומדים ביעדי הייצור. אם לא, מעריכים מחדש את קבוצות האימון והבדיקה.

2. כדי להגדיר גרסה חדשה כברירת מחדל:

   • עוברים אל ניהול גרסאות.
   • לוחצים על האפשרות כדי להרחיב אותה, ואז לוחצים על הגדרה כברירת מחדל.

   

   המודל שלך פרוס עכשיו. מסמכים שנשלחים למעבד הזה משתמשים בגרסה המותאמת אישית שלכם. אפשר לבדוק את הביצועים של המודל כדי לראות אם הוא צריך אימון נוסף.

הפניה להערכה

מנוע ההערכה יכול לבצע התאמה מדויקת או התאמה משוערת. כדי שתהיה התאמה מדויקת, הערך שחולץ צריך להיות זהה לערך האמיתי, אחרת הוא ייחשב כטעות.

חילוצים של התאמה משוערת עם הבדלים קלים כמו הבדלים באותיות רישיות עדיין נחשבים להתאמה. אפשר לשנות את זה במסך Evaluation.

כוונון עדין

בשיטת הכוונון העדין, משתמשים במאות או באלפי מסמכים לאימון.

1. יוצרים מעבד ומגדירים את השדות שרוצים לחלץ בהתאם לשיטות המומלצות. זה חשוב כי זה משפיע על איכות החילוץ.

2. ייבוא מסמכים עם תיוג אוטומטי והקצאת מסמכים למערך האימון ולקבוצת נתונים לבדיקה.

3. מאשרים או עורכים את התוויות במסמך.

4. אימון המודל.

   • לוחצים על הכרטיסייה Build (בנייה) ואז על Create New Version (יצירת גרסה חדשה) בתיבה Fine-tuning (התאמה עדינה).

   

   • כדאי לנסות את פרמטרי ההדרכה או הערכים שסופקו כברירת מחדל. אם התוצאות לא מספקות, אפשר לנסות את האפשרויות המתקדמות הבאות:

   • שלבי ההכשרה (בין 100 ל-400): קובעים באיזו תדירות המשקלים עוברים אופטימיזציה באצווה של נתונים במהלך ההתאמה.

     • אם הערך נמוך מדי, יש סיכון שהאימון יסתיים לפני ההתכנסות (התאמה חסרה).
     • אם הערך גבוה מדי, יכול להיות שהמודל יראה את אותה קבוצת נתונים כמה פעמים במהלך האימון, מה שעלול להוביל להתאמת יתר.
     • פחות שלבים מובילים לזמן אימון מהיר יותר. מספרים גבוהים יותר יכולים לעזור במסמכים עם מעט וריאציות בתבנית (ומספרים נמוכים יותר במסמכים עם יותר וריאציות).

   • מכפיל קצב הלמידה (בין 0.1 ל-10): קובע את מהירות האופטימיזציה של פרמטרים של המודל על נתוני האימון. הוא תואם בערך לגודל של כל שלב אימון.

     • שיעורים נמוכים מצביעים על שינויים קטנים במשקלים של המודל בכל שלב אימון. אם הערך נמוך מדי, יכול להיות שהמודל לא יתכנס לפתרון יציב.
     • שיעורים גבוהים מצביעים על שינויים גדולים, ושיעורים גבוהים מדי יכולים להצביע על כך שהמודל מדלג על הפתרון האופטימלי ומתכנס במקום זאת לפתרון לא אופטימלי.
     • זמן האימון לא מושפע מבחירת קצב הלמידה.

   • נותנים שם, בוחרים את הגרסה הנדרשת של מעבד הבסיס ולוחצים על יצירה.

   

5. הערכה: עוברים אל הערכה ובדיקה, בוחרים את הגרסה שאומנה זה עתה ולוחצים על הצגת ההערכה המלאה.

   

   • עכשיו מוצגים מדדים כמו f1, דיוק ורגישות למסמך כולו ולכל שדה.
   • בודקים אם הביצועים עומדים ביעדי הייצור. אם לא, יכול להיות שיהיה צורך במסמכי הדרכה נוספים.

6. הגדרת גרסה חדשה כברירת מחדל:

   • עוברים אל ניהול גרסאות.
   • לוחצים על האפשרות כדי להרחיב אותה, ואז לוחצים על הגדרה כברירת מחדל.

   

   המודל שלך פרוס עכשיו, ומסמכים שנשלחים למעבד הזה משתמשים עכשיו בגרסה המותאמת אישית שלך. אתם רוצים להעריך את ביצועי המודל כדי לבדוק אם הוא צריך אימון נוסף.

סימון אוטומטי בתוויות באמצעות מודל הבסיס

מודל הבסיס יכול לחלץ שדות בצורה מדויקת ממגוון סוגי מסמכים, אבל אפשר גם לספק נתוני אימון נוספים כדי לשפר את הדיוק של המודל עבור מבנים ספציפיים של מסמכים.

‫Document AI משתמש בשמות התוויות שאתם מגדירים ובאנוטציות קודמות כדי לתייג מסמכים בקנה מידה גדול בצורה מהירה וקלה יותר באמצעות תיוג אוטומטי.

1. אחרי שיוצרים מודל עיבוד מותאם אישית, עוברים לכרטיסייה תחילת העבודה.
2. בוחרים באפשרות יצירת שדה חדש.

3. נותנים לתווית שם תיאורי וייחודי. בוחרים באפשרות שליפה כדי לשלוף ערכים ישירות מהמסמך, או באפשרות הסקה כדי שהמערכת תסיק את הערכים. כך משפרים את הדיוק והביצועים של מודל הבסיס.

   

4. כדי לשפר את הדיוק והביצועים של החילוץ, מוסיפים תיאור (למשל הקשר נוסף, תובנות וידע קודם לגבי כל ישות) לסוגי הישויות שהמודל צריך לזהות.

   

5. עוברים לכרטיסייה Build (יצירה) ובוחרים באפשרות Import Documents (ייבוא מסמכים).

   

6. בוחרים את הנתיב של המסמכים ואת הקבוצה שאליה רוצים לייבא את המסמכים. מסמנים את האפשרות של תיוג אוטומטי ובוחרים את מודל הבסיס.

7. בכרטיסייה יצירה, לוחצים על ניהול מערך הנתונים.

8. כשרואים את המסמכים המיובאים, בוחרים אחד מהם.

   

החיזויים מהמודל מוצגים עכשיו בהדגשה בצבע סגול.

1. בודקים כל תווית שהמודל חוזה ומוודאים שהיא נכונה.

2. אם יש שדות חסרים, מוסיפים גם אותם.

   

3. אחרי שבודקים את המסמך, לוחצים על סימון כפריט שסומן בתווית. המסמך מוכן עכשיו לשימוש על ידי המודל.

4. מוודאים שהמסמך נמצא בקבוצת הבדיקה או בקבוצת נתונים לאימון.

קינון בשלוש רמות

עכשיו יש בחילוץ המותאם אישית שלוש רמות של סידור פנימי. התכונה הזו מאפשרת חילוץ טוב יותר של טבלאות מורכבות.

אפשר לקבוע את סוג המודל באמצעות קריאות ה-API הבאות:

• processors.get
• processorVersions.get

התשובה של הפעולות האלה היא ProcessorVersion, שמכילה את השדה modelType בגרסת טרום-השקה v1beta3.

תהליך ודוגמה

אנחנו משתמשים בדוגמה הזו:

1. לוחצים על שנתחיל? ויוצרים שדה:

   • יוצרים את הרמה העליונה.
   • בדוגמה הזו נעשה שימוש ב-officer_appointments.
   • בוחרים באפשרות זו תווית הורה.
   • בוחרים באפשרות מופע: Optional multiple.

   

2. לוחצים על הוספת שדה צאצא. עכשיו אפשר ליצור את התווית ברמה השנייה:

   • יוצרים officer לתווית הרמה הזו.
   • בוחרים באפשרות זו תווית הורה.
   • בוחרים באפשרות מופע: Optional multiple.

   

3. בוחרים באפשרות הוספת שדה צאצא מהרמה השנייה officer. יוצרים תוויות צאצא לרמה השלישית של הקינון.

4. אחרי שמגדירים את הסכימה, אפשר לקבל תחזיות ממסמכים עם שלוש רמות של קינון באמצעות תיוג אוטומטי.

   

הוספת תוויות לישויות מוטמעות שמופיעות בכמה דפים

מעבד pretrained-foundation-model-v1.5-2025-05-05 תומך בסידור פנימי של שלוש רמות בדפים.

1. מתייגים ישות כרגיל בדף. הערה: הישות המסומנת תהיה גלויה רק בדף שבו היא מסומנת, וסרגל הניווט ישתנה מדף לדף. אם מצמידים את ישות האם, סרגל הניווט הזה נשאר.

   

2. כדי להוסיף תווית לישות אם עם ישויות צאצא בכמה דפים, צריך להצמיד את ישות האם.

   

3. עוברים לדף עם הישות או הישויות המשניות שרוצים להוסיף להן תווית.

הגדרת מערך נתונים

מערך נתונים לאימון

• כדי לבצע התאמה עדינה, צריך לאמן מודל חדש עם גרסה pretrained-foundation-model-v1.5-2025-05-05 באמצעות מינימום של 50 מסמכי אימון ו-50 מסמכי בדיקה.
• עבור פרומפט עם כמה דוגמאות (few-shot), מומלץ להשתמש בחמישה מסמכים.
• במקרה של zero-shot, נדרשת רק סכימה.

קבוצת נתונים לבדיקה

חילוץ מותאם אישית עם תיאורי מאפיינים

תיאורי נכסים מאפשרים לאמן מודל על ידי תיאור של השדות המסומנים. אתם יכולים לספק הקשר ותובנות נוספים לכל ישות. כך המודל יכול להתאמן על ידי התאמת שדות שמתאימים לתיאור שסיפקתם ולשפר את הדיוק של החילוץ. אפשר לציין תיאורי נכסים גם לישויות ראשיות וגם לישויות משניות.

דוגמאות טובות לתיאורי נכסים כוללות מידע על מיקום ודפוסי טקסט של ערכי הנכס, שעוזרים להבחין בין מקורות פוטנציאליים לבלבול במסמך. תיאורים ברורים ומדויקים של מאפיינים מנחים את המודל באמצעות כללים שמקדמים חילוצים אמינים ועקביים יותר, ללא קשר למבנה המסמך הספציפי או לשינויים בתוכן.

עדכון סכימת המסמכים של מעבד

הוראות להגדרת תיאורי הנכסים מופיעות במאמר עדכון סכימת המסמך.

שליחת בקשת עיבוד עם תיאורי נכסים

אם כבר הוגדרו תיאורים בסכימת המסמך, אפשר לשלוח בקשת עיבוד לפי ההוראות שבקטע שליחת בקשת עיבוד.

שיפור המעבד באמצעות תיאורי נכסים

לפני שמשתמשים בנתוני הבקשה, צריך להחליף את הנתונים הבאים:

• ‫LOCATION: המיקום של המעבד, לדוגמה:
  • us - ארצות הברית
  • eu - האיחוד האירופי
• ‫PROJECT_ID: מזהה הפרויקט ב- Google Cloud .
• ‫PROCESSOR_ID: המזהה של המעבד בהתאמה אישית.
• ‫DISPLAY_NAME: השם המוצג של המעבד.
• ‫PRETRAINED_PROCESSOR_VERSION: מזהה גרסת המעבד. מידע נוסף זמין במאמר בנושא בחירת גרסת מעבד. לדוגמה:
  • pretrained-TYPE-vX.X-YYYY-MM-DD
  • stable
  • rc
• ‫TRAIN_STEPS: שלבי אימון לשיפור המודל.
• ‫LEARN_RATE_MULTIPLIER: מכפיל קצב הלמידה לצורך כוונון עדין של המודל.
• DOCUMENT_SCHEMA: סכימה של המעבד. מידע נוסף מופיע במאמר בנושא ייצוג של DocumentSchema.

POST https://LOCATION-documentai.googleapis.com/v1beta3/projects/PROJECT_ID/locations/LOCATION/processors/PROCESSOR_ID/processorVersions/PROCESSOR_VERSION:process

{
  "rawDocument": {
      "parent": "projects/PROJECT_ID/locations/LOCATION/processors/PROCESSOR_ID",
         "processor_version": {
             "name": "projects/PROJECT_ID/locations/LOCATION/processors/PROCESSOR_ID/processorVersions/DISPLAY_NAME",
             "display_name": "DISPLAY_NAME",
             "model_type": "MODEL_TYPE_GENERATIVE",
         },
         "base_processor_version": "projects/PROJECT_ID/locations/us/processors/PROCESSOR_ID/processorVersions/PRETRAINED_PROCESSOR_VERSION",
         "foundation_model_tuning_options": {
             "train_steps": TRAIN_STEPS,
             "learning_rate_multiplier": LEARN_RATE_MULTIPLIER,
         }
         "document_schema": DOCUMENT_SCHEMA
      }
}

curl -X POST \
     -H "Authorization: Bearer $(gcloud auth print-access-token)" \
     -H "Content-Type: application/json; charset=utf-8" \
     -d @request.json \
     "https://LOCATION-documentai.googleapis.com/v1beta3/projects/PROJECT_ID/locations/LOCATION/processors/PROCESSOR_ID/processorVersions/PROCESSOR_VERSION:process"

$cred = gcloud auth print-access-token
$headers = @{ "Authorization" = "Bearer $cred" }

Invoke-WebRequest `
    -Method POST `
    -Headers $headers `
    -ContentType: "application/json; charset=utf-8" `
    -InFile request.json `
    -Uri "https://LOCATION-documentai.googleapis.com/v1beta3/projects/PROJECT_ID/locations/LOCATION/processors/PROCESSOR_ID/processorVersions/PROCESSOR_VERSION:process" | Select-Object -Expand Content

חילוץ מותאם אישית עם זיהוי חתימות

(Public preview) חילוץ מותאם אישית תומך בזיהוי חתימות. התכונה הזו מאפשרת לזהות את הנוכחות של חתימות במסמכים. זיהוי חתימות זמין רק באמצעות סוג ה-method‏ derived. אפשר לציין סכימה עם סוג הישות signature עבור ישויות כאלה. הישויות של החתימה נגזרות באמצעות רמזים ויזואליים מהמסמך.

לדוגמאות ולהוראות הגדרה, לוחצים על Custom extractor with derived field and signature detection (כלי חילוץ מותאם אישית עם שדה נגזר וזיהוי חתימה).

חילוץ מותאם אישית עם שדות נגזרים

הכלי לחילוץ מותאם אישית תומך בשדות נגזרים. הוא מאפשר לכם להגדיר שדה שיאוכלס באמצעות הסקה או יצירה חכמה על סמך ההקשר של המסמך, במקום חילוץ טקסט ישיר. אפשר להשתמש בזה בתרחישי שימוש כמו הסקת המדינה מכתובת, סיכום מסמך, ספירת פריטים בטבלה או זיהוי אם תעודה מזהה היא אותנטית, בלי שהערך יופיע באופן מפורש בטקסט.

לדוגמאות ולהוראות הגדרה, לוחצים על Custom extractor with derived field and signature detection (כלי חילוץ מותאם אישית עם שדה נגזר וזיהוי חתימה).

המאמרים הבאים

מידע נוסף על כלי חילוץ מותאם אישית עם שדה נגזר וזיהוי חתימה