בקצרה: איך בונים מוצר GenAI שמשרת לקוחות קצה יום-יום בארגוני B2C

Startup for Startup, אודיובלוג. איך בונים מוצר ג'ן איי, שמשרת לקוחות קצה יום יום בארגוני ביטוסי. ניב נצר, פרודקטליט בוואן זירו. בינה מלאכותית היא כבר מזמן לא רק טכנולוגיה חדשנית. היא הופכת במהירות לחלק בלתי נפרד מחיינו. מארגונים עסקיים ועד מוסדות פיננסיים, השאלה אינה האם ל ץ איי אלא כיצד לעשות זאת באופן שיביא ערך יתי ללקוחות ולארגון. השנה הקרובה מסתמנת כשנת הפריצה של הבינה המלאכותית, עם מודלים חדשים שמחוללים מהפכה בשירות, בשיווק ובניהול חווית הלקוח. בבנק וואן זירו אנו מפעילים מזה כשנה את אלה, הבנקאית הדיגיטלית האישית המות ת לכל לקוח. אלה היא הרבה יותר מצ'טבוט, היא מבוססת על מודלי שפה גדולים, LLM, ותפקידה לספק מענה מלא הן על מידע כללי ושירותי הבנק והן על נתונים פיננסיים אישיים כמו מעקב הוצאות חודשיות או סטטוס חסכונות. בזכות ההתמה של אלה הצלחנו לצמצם בכ-60% את כמות הפניות שדורשות התערבות בנקאי אנושי, מה ששיפר את חוויית השירות ללקוחות ואת מיקוד הבנקאים בפניות מורכבות יותר. למה מוצרי ג'נאי נתקעים בבטא בארגוני ביטוסים? מרבית הארגונים עדיין בשלב ניסוי זהיר, אז איך אפשר לקפוץ את מעגל הבטא? אנו מ ינים שזה מתחיל ביצירת ערך ממשי ללקוחות, המבוסס על שיטת ון כפול, או בעולם האללם, ון פנימי בארגון ו ון חיצוני מול הלקוחות. ון פנימי בארגון. רבים הארגונים חוששים לחשוף מודלי שפה ישירות ללקוחות מחשש לטעויות, חוסר שקיפות או מידע לא מ ן. אנחנו בחרנו בגישה שונה. להשיק מוקדם, ללמוד מהשטח ולשפר בהתמדה. במקום להמתין למוצר מושלם, אנו מבססים תהליך שיפור מתמשך הנשען על אינטראקציה יומיומית עם לקוחות. ארכיטקטורה. גמישות מודולרית במקום מודל אחד כל יכול. במקום לפתח מודל אחד ענק שמנסה לפתור את הכל, פיצלנו את המשימות לתת רכיבים. כל רכיב ממוקד במשימה יהודית, מה שמאפשר לפתח, למדוד ולהחליף אותו בקלות. למשל, פירוק מרכיב הרטריבל אוגמנטד ג'נריישן משאר חלקי השרשרת מאפשר להבטיח דיוק ומהימנות תוך שמירה על גישה מודולרית. כך, גם כשמשודרגים מודלי בסיס או מתגלים בגים, ניתן לבצע תיקונים בקלות יחסית מבלי לשנות את כל המערכת. שיטה זו, המשלבת בדיקות אוטומטיות לצד מעקב אנושי, מאפשרת להאריץ בדיקות על גרסאות רבות ולמקד את הבדיקות הידניות רק בפתרונות המבטיחים ביותר. כך אנו מנהלים את התהליך תוך שמירה על שליטה ואיכות. מאימוץ גישה דיכוטומית לחשיבת LLM. עבודה עם LLM שונה מגישות מסורתיות של שחור ולבן. התשובות אינן רק נכונות או שגויות, אלא נעות על סקאלה עשירה של הסתברויות וניואנסים. בבנק אתמנו שיטות קיואי חדשות, שמאפשרות למדוד איכות תשובה על פי פרמטרים כמו אורך, ניסוח ודגשים, ולא רק על בסיס דיוק עובדתי. ון ללקוחות. שיפור מתמיד ומעקב רציף. בניית ון אל מול הלקוחות מתבססת על תהליך יומיומי של שיפור, בדיקה והפקת לקחים. מדי יום נבדקות מאות אינטראקציות בין אלה ללקוחות, כדי לוודא שהמענה ברור, שלם ומותאם לצורכי הלקוחות. במקרים בהם נדרשים שיפורים, אנו מוסיפים עברות, מעדכנים תוכן ומשדרגים את מנגנוני הגארד ריילס למניע טעויות חוזרות. תהליך זה, המכונה פידבק לופ, כולל מדידה עקבית של פרמטרים כמו אחוז הפניות שנפטרו אוטומטית ואיכות התשובות. המידע אינו נשאר בגדר תיאוריה, הוא מתורגם לפעולות בזמן ת, המבוססות על משוב מהלקוחות. התוצ מענה אישי ומותאם. מאז שחרור גרסת הבטא של אלה בינואר, שיעור הפידבק השלילי צנח מ-18% ל-1.2% בלבד. מדובר במוצר שמתפתח ומשתפר ללא הפסקה, ומציע ללקוחות חוויה יוצא דופן, בנקאית פרטית שמספקת תשובות מיידיות ומסייעת להבין סוגיות פיננסיות מורכבות. התוצ לעתיד. ארגונים שיעזו לצאת מאזור הניסוי ולספק ללקוחותיהם ערך יתי, יובילו את עידן הג'נאי-איי. כפי שמוכיח המקרה של אלה, גם בסביבה רגישה ומורכבת כמו בנקאות, ניתן להתמיע פתרונות מתקדמים, לשפר את חוויית הלקוח ולחסוך משמעותית במשאבים. זה שינוי מחשבתי, לא רק טכנולוגי, ואלה הארגונים שינצחו בעתיד הדיגיטלי. תודה רבה.

2020