מתחילים ממשימה מוגדרת שאפשר לבדוק את איכותה: סיכום מסמך, סיווג פנייה או חיפוש במידע מורשה. מגדירים מקורות, הרשאות ומדדי הצלחה, ואז מחברים את התוצאה לתהליך עם בקרה אנושית בנקודות שבהן טעות עלולה להשפיע על לקוח או על החלטה עסקית.
בחרו שימוש ממוקד שאפשר למדוד
״להוסיף AI״ אינה דרישה מספקת. תארו מי המשתמש, איזה מידע הוא מספק ואיזו תוצאה תעזור לו לפעול. למשל, נציג שירות צריך תקציר של הפנייה והפניה למסמכים הרלוונטיים לפני ניסוח תשובה. יש הבדל בין הצעת טיוטה לבין שליחת תשובה אוטומטית ללקוח.
הכינו אוסף מקרים מייצג לפני בניית הפתרון. כללו מסמכים ארוכים, פניות עמומות, טעויות כתיב, מידע חסר ומקרים שבהם התשובה צריכה להיות ״אין מספיק מידע״. כך ניתן להשוות בין גרסאות ולא להסתמך על דמו מוצלח אחד.
שלושה תהליכים שאפשר לבחון בפיילוט
| שימוש | תוצאה מוגדרת | בדיקה נדרשת |
|---|---|---|
| חילוץ מידע ממסמך | שדות מובנים עם ציון המקור במסמך | השוואה לערכים שנבדקו ידנית וטיפול בשדות חסרים |
| סיווג פנייה | הצעת קטגוריה וצוות מטפל | שיעור סיווג נכון ויכולת לתקן לפני ניתוב |
| חיפוש ידע ארגוני | תשובה עם הפניות למסמכים מורשים | דיוק המקורות וכיבוד הרשאות המשתמש |
הטבלה היא מסגרת לבחירת שימוש, ולא התחייבות שכל יכולת זמינה בכל חבילת מוצר. את החיבורים, מקורות המידע והפעולות הזמינות צריך לאמת באפיון.
מקורות מידע והרשאות קודמים לאוטומציה
למשתמש מותר לקבל תשובה רק מתוך מידע שהוא מורשה לראות. סינון ההרשאות צריך להתבצע בזמן שליפת המקורות, ולא רק באמצעות הנחיה למודל להתעלם ממידע רגיש. בדקו גם את מצב המסמך: טיוטה ישנה או מדיניות שפג תוקפה עלולות להטעות גם אם התשובה מנוסחת היטב.
הגדירו איזה מידע נשלח לספק AI, מה נשמר, מי יכול לצפות ברישומים ומתי מוחקים אותם. צמצמו נתונים אישיים ופרטים שאינם דרושים למשימה. החלטות אלה הן חלק מהתכנון הארגוני, ויש להתאים אותן למדיניות ולחובות הרלוונטיות לארגון.
תהליך הפעלה עם בקרה
- קלט מאושר. נבחרים מסמכים ומידע לפי ההרשאות והצורך במשימה.
- הפקת הצעה. המערכת מציעה סיכום, קטגוריה או תשובה, ומציגה מקורות כשיש כאלה.
- בדיקה. עובד מאשר או מתקן תוצאות במקרים שנקבעו לבקרה. חסר במידע מוביל לבקשת השלמה.
- פעולה ותיעוד. פעולה עסקית מתבצעת רק בהרשאה המתאימה, עם רישום שניתן לבדוק בדיעבד.
איך בודקים אם הפיילוט מצליח?
- דיוק: כמה תוצאות עומדות בקריטריונים שנקבעו מראש לכל סוג משימה.
- מקורות: האם ההפניות תומכות בתשובה והאם המשתמש רשאי לפתוח אותן.
- תיקונים: כמה עבודה אנושית נדרשת כדי להפוך את ההצעה לתוצאה שימושית.
- זמן: זמן ביצוע כולל בדיקה ותיקון, בהשוואה לדרך הקודמת.
- גבולות: האם המערכת נמנעת מפעולה כשחסר אישור, מקור או מידע מספק.
בדקו שוב אחרי שינוי במודל, במקורות או בהנחיות. איכות שנמדדה על קבוצת דוגמאות אחת אינה מבטיחה אותה תוצאה בכל מצב.
שאלות נפוצות
האם AI מחליף את כללי ה-Workflow?
לא. מודל יכול להציע פרשנות או לסווג תוכן. כללים כמו הרשאת חתימה, סף תקציב והפרדת תפקידים צריכים להישאר מוגדרים בתהליך העסקי.
האם תשובה עם מקור תמיד נכונה?
לא. יש לבדוק שהמקור מעודכן ושהוא אכן תומך בטענה. נוכחות של קישור לבדה אינה בדיקת אמינות.
מקור מקצועי להעמקה
NIST: מסגרת לבחינה ולניהול סיכוני AI גנרטיבי. המקור מסביר עקרונות כלליים; הוא אינו מתאר את היכולות של NextCode.
להעמקה ולתכנון השלב הבא
ניהול תהליכי עבודה: איך מתכננים Workflow של אישורים · אינטגרציה בין מערכות עם No Code: תכנון חיבור API
רוצים לבדוק התאמה של התהליך שלכם? דברו עם צוות NextCode או הכירו איך בניית אפליקציה ללא קוד עובדת בפועל.