שוק הבינה המלאכותית הגנרטיבית (Generative AI) רותח. פוטנציאל האפשרויות שגלומות בו מצית את הדמיון והרווח הכלכלי שלו צפוי להיות עצום. לפי מחקר חדש של QuantumBlack, זרוע ה-AI של מקינזי, הפוטנציאל הכלכלי של Generative AI מוערך בין 2.6 ל-4.4 טריליון דולר בשנה.

ההשפעה היא נרחבת ומתפרסת על פני יותר מ-60 יוז קייסים שונים. עם זאת, 75% מההשפעה מתמקדת, באופן לא מפתיע, בתחומים של שיווק ומכירות, פיתוח ותוכנה, אופרציה ולקוחות וניהול מוצר. אם המגמה הנוכחית תימשך, 60-70% מהעבודות שאנחנו עושים כיום יהפכו לאוטומטיות דרך בינה מלאכותית גנרטיבית.

החברות הגדולות במשק כבר הסתערו על התחום החדש. מיקרוסופט, גוגל, אדובי, אמזון ואפילו וולמארט החלו לשלב GenAI בפתרונות שלהן. זאת, לצד אימוץ נרחב בקרב האוכלוסייה הכללית של כלים כמו Midjourney, Stable Diffusion, Dall-E 2, ChatGPT, Bard,  וגרסת ה-AI של בינג. הצלע השלישית של מהפיכת ה-  Generative AI הוא תוצר של יותר מ- 140 מודלי LLM שפותחו כקוד פתוח ומאפשרים למפתחים ואנשי דאטה מכל העולם לגשת ולהשתמש ב- LLM כמעט ללא חסמים כלכליים וטכנולוגיים. אין ספק, Generative AI צפוי להשפיע על כולנו, ברמה האישית, הטכנולוגית והביזנסית.

QuantumBlack אבחנו 4 סוגי שימושים עיקריים ב- GenAI:

1. מומחים וירטואליים - שימוש ב- Gen AI כדי לסכם מידע, להפיק תובנות ולתרום לפתרון בעיות. מומחים וירטואליים יכולים לשפר את תהליך קבלות ההחלטות בארגון ולייעל את תהליך הקצאת המשאבים.
2. תקשורת עם לקוחות (Customer Engagement) - שימוש ב- GenAI כדי לתקשר עם לקוחות בצורה יעילה ומותאמת אישית לצרכים שלהם. לדוגמה, צ׳אטבוטים שיכולים לספק מענה 24/7. שימוש זה מאפשר תקשורת עם לקוחות בכל הטאצ׳פוינטים בצורה יעילה, שיוצרת חווית שירות חיובית.
3. פיתוח - סיוע למפתחים ומהנדסים בכתיבת קוד, פרוטוטייפינג, יצירת דוקומנטציה, תרגום בין שפות תכנות וטכנולוגיות ואפילו יצירת דאטה סינתטי. שימוש כזה מאפשר האצה של תהליך הפיתוח, שיפור איכות הקוד ויותר חדשנות במוצרים ושירותים.
4. יצירת תוכן - יצירת מיילים, מסמכים, מצגות, מאמרים ועוד. יצירת התוכן יכולה לשפר תהליכי שיווק ומכירה באמצעות התאמת התוכן לקהל היעד.

3 גישות לאימוץ Generative AI

ארגונים שמאמצים Generative AI יבחרו לרוב באחת משלוש הגישות הבאות:

הראשונה היא גישת ה-Taker. המשמעות היא שימוש ב- API של LLM שפורסם על-ידי חברה מסחרית או בקוד פתוח, או שימוש ב- prompt כדי לתת קונטקסט רלוונטי למודל. העלות והמאמץ הנדרשים בגישה זו הם נמוכים והיא נחשבת לפשוטה לשימוש.

הגישה השנייה היא Shaper. כך למשל ארגונים פועלים לכוונון (fine tuning) של pre-trained LLMs עם מידע נוסף, ויכולים להוסיף את המידע שלהם למודל. העלות והמאמץ הנדרשים בגישה זו הם בינוניים. הגישה השלישית היא  Maker- כלומר יצירה ואימון מודל מאפס, מה שמאפשר לארגונים לשלוט במידע שלהם. העלות והמאמץ הנדרשים בגישה זו הם גבוהים והיא נחשבת למסובכת לשימוש.

איך ארגונים יכולים להטמיע Generative AI?

ניקח כדוגמה את גישת ה- Taker. מה ארגונים, מפתחים ומומחי דאטה צריכים לעשות כדי להטמיע אותו?

שיקולי תשתית ואפליקציה

1. ארכיטקטורת אפליקציות

האפליקציה צריכה לעמוד בעקרונות של פיתוח וארכיטקטורה, כמו הנחיות ה- 12-factor. שיקולים שונים אלו כוללים: Source control, ניהול קונפיגורציות, ושימוש בשירותי גיבוי כמשאבים מצורפים.

2. סביבה

הסביבה צריכה לפעול לפי עקרונות DevOps ו- DevSecOps. זה כולל CI/CD, Infra as code, Shifting left security, Vulnerability scanning, Secret management. וכן, שיקולי תשתית (ענן או מקומית), שיקולי Ops (יכולות ניטור וביקורת, ניסויים במיקבול קריאות API, הגבלות API rates ל-APIs צד שלישי, וניהול מספר גדולל של משמשים או APIים שאינם מגיבים).

3. בחירת המודל: כשארגונים בוחרים מודל, כדאי לקחת בחשבון שיקולים כמו עלות, דיוק, מגבלות Token, מהירות, פרטיות, וקוד מסחרי לעומת קוד פתוח.

4. לצד זאת, ישנם אתגרים שונים של LLMOps: למשל, אורקסטרציה של קריאות API (נדרש לבחור מנגנון שיעשה זאת, בין אם קוד או פלטפורמה), אחסון פרומפטים (ההחלטה איפה לשמור את הפרומפטים, תוך שמירה על version control), ניהול עלויות של קריאות API, להחליט מאיפה הארגון נותן את הקונטקסט המקצועי לפרומפט (זה יכול להגיע ממקורות שונים – כמו דאטה בייסים, data warehouse, ועוד), Prompt drift validation (כלומר לוודא שכל מה שמגיע ל- LLM - מגיע כראוי), הגנה על ה-Prompt משימוש לא ראוי ומתקפות סייבר, קאשינג של שאלות ותשובות כדי לשפר ביצועים ולחסוך בעלויות, וניסוי עם LLMs נוספים.

שלושה מקרי בוחן ל-Generative AI

אז איך מחברים את כל זה ביחד? בואו ניקח שלושה מקרי בוחן של שימוש ב- Generative AI - מומחים וירטואליים, מוקד שירות לקוחות וצ׳אטבוט אינטליגנטי.

• מומחים וירטואליים – כאמור, מומחים וירטואליים מאפשרים שאילת שאלות וקבלת מידע. במקום עבודה, שימוש במומחה וירטואלי הופך למקור ידע שמאפשרת לעובדים לקבל מידע מאפליקציית ה- Generative AI. זאת, במקום לשאול עובדים אחרים, לחכות זמן רב, ואולי לקבל תשובות לא מדויקות. מדובר גם בתהליך שיכול לקצר תהליכי אונבורדינג לעובדים ועובדות חדשים. מקרה הבוחן הזה דורש מהארגון לאמן מודל LLM על כל ההיסטוריה של החברה ותחום העיסוק שלה, כך התשובות שיינתנו יהיו אמינות, מדויקות ומקיפות. ישנה עדיפות לאימון מודל ייעודי ולא להשתמש באפליקציה ציבורית כמו ChatGPT, כיוון שה- LLMים הכלליים לא בהכרח אומנו על כל המידע שרלוונטי לארגון.

• מוקד שירות לקוחות - כיום, מוקדי שירות לקוחות אוגרים קבצי קול רבים מתוך הקלטות של שיחות עם לקוחות. ניתן להמיר את קובץ הקול לטקסט, לסנן החוצה מידע אישי כדי לשמור את פרטיות הלקוחות, ואז לעשות feature extraction. התוצאה היא טבלה מסודרת של פיצ׳רים שאפשר לעשות עליה data analysis. למשל, עם Vector DB אפשר לזהות מילים שחוזרות על עצמן בטונים גבוהים בכל השיחות. עם התובנות הללו ניתן לשפר את שירות הלקוחות, לקבל רעיונות שיווקיים, ועוד תועלות רבות לארגון.

• צ׳אטבוט אינטליגנטי – צ׳אטבוט רגיל יודע להשיב לשאלות, מתוך המידע שאומן עליו. צ׳אטבוט אינטיליגנטי יודע לזהות מה הוא נשאל, להבין מה הצעדים שנדרשים כדי שיוכל לתת תשובה, להוציא את הצעדים לפועל ואז לתת תשובה. לדוגמה, אם שואלים את הצ׳אטבוט האינטליגנטי ״מה יהיה מזג האוויר בעוד יומיים״, הוא צריך להבין שמדובר בבקשת מזג אוויר לזמן עתיד, לגשת לספק צד-שלישי עם נתוני מזג האוויר, לחלץ אותם ולתת תשובה. אם שואלים אותו ״כמה זה 2+2״, הצ׳טבוט צריך להבין שמדובר בשאלה מתמטית, שהשאלה היא 2+2, להעלות שירות מחשבון, להכניס את הנוסחה, ולספק את התשובה.

Generative AI ששם אנשים ואנושיות במרכז

בעוד ש-GenAI משנה בצורה יוצאת דופן את הפרודוקטיביות שלנו, הוא גם מעלה כמה שאלות נוספות ברמה האתית. אנחנו צריכים להבטיח שימוש אחראי בבינה מלאכותית גנרטיבית על מנת למנוע השלכות לא רצויות שעלולות לפגוע באנשים או לשחוק את האמון במידע שהם צורכים.

אחד השלבים הדרושים להפעלת בינה מלאכותית אחראית הוא תכנון ובניית guardrails, אמצעי בטיחות. כדי לעשות זאת, ארגונים צריכים לזכור שבקצה של כל פלט – יש אנשים. המשמעות היא שארגונים צריכים להטמיע לתוך המודל את הצרכים, הערכים והנורמות של משתמשים. אפשר לעשות זאת על ידי המרת דרישות המשתמשים למדדים. אלה יסייעו לנטר את התוצאות הצפויות והתאמתן לדרישות. את דרישות המשתמשים משיגים מתוך ראיונות לקוחות, ראיונות מומחים בתוך הארגון ממחלקות השיווק, שירות לקוחות והייעוץ המשפטי, ומפידבק שנאסף.

לארגונים יש הרבה מה להרוויח על ידי יישום GenAI. הם יכולים להפוך ליעילים ויצרניים, להטמיע טכנולוגיות וחדשנות ולהציע שירותים חדשים. אך עם זאת, חשוב לוודא שאמצעי הבטיחות האתיים מיושמים. זאת הדרך לוודא שהתוצאות יהיו בהתאם לציפיות.