ברוכים הבאים ללונה פארק, תחגרו חגורות בטיחות, הגעתם למאה העשרים ואחת. ככה אני מרגישה בכל פעם כשאני שומעת על מודל חדש או משופר של בינה מלאכותית שנכנס לחיינו, התחושה היא שהכל קורה במהירות מטורפת, ושהשינוים והתנודות, העליות והמורדות, כל אלה מטלטלים ומעוררי התפעלות. או בחילה - תלוי את מי שואלים. 

לפעמים אני שואלת את עצמי האם כשאנחנו מפתחים מודלי שפה אנחנו בעצם חופרים לעצמנו את הבור שישאיר אותנו מובטלים? אני מקווה שלא, אבל מה שכן - נראה שמי שיחליף אותנו הם לא רובוטים, אלא אנשים שיודעים להשתמש ברובוטים. וארגונים שלא יאמצו טכנולוגיות של בינה מלאכותית ולא ישתמשו בכלים הללו, פשוט ישארו מאחור. לכן השימוש בAI הוא קריטי כבר עכשיו לכל מי שרוצה לעמוד בקצב. זה נכון לכל מקצוע, פיתוח תוכנה, הוראת תלמוד או תיקון מזגנים, כולנו נצטרך להסתגל לעולם שבו למודלים סטטיסטיים יש יותר ויותר יכולת לסייע, בשלב ראשון, ולהפוך את העבודה שלנו ליעילה, מהירה ואיכותית יותר. 

בעבודתי כאנליסטית מוצר בחברת AI21Labs יוצא לי להשתמש לא מעט במודלי שפה, ככלי עזר וכמשפר יעילות. המוטיבציה שלי להשתמש בהם גדולה במיוחד מכיון שאנחנו גם מפתחים כאלה בעצמנו, וכדי להבין את המוצר שעליו אני עובדת כאנליסטית, אני גם משתדלת להשתמש בו בעצמי. בשורות הבאות אשמח לשתף אתכם בכמה דרכים פשוטות לנצל את היכולות של מודלי שפה גדולים כבר היום לעבודה היום יומית:

נתחיל בלחם והחמאה של עבודת האנליסט - כתיבת סקריפיטים וקווריז.

אני יודעת שאתם מומחי אס קיו אל, ברור שאתם שולטים בפייתון ואין לי שום צל של ספק שבלילה אתם חולמים על פנדס. גם אני. ועדיין, לפעמים, לפני הקפה של הבוקר, אפשר לבקש מהצ׳אט לחסוך לנו זמן ואנרגיה ופשוט לכתוב לנו את הסקריפט. בחלק מהקונסולות של sql, כמו בביג קוורי למשל, כבר יש אפשרות לכתיבת קוורי באמצעות מודל שפה בתוך הקונסולה עצמה, שמחוברת לדאטה בייס שלכם. וגם אם לא, הצ׳אטים הקיימים מאד נוחים לשימוש. יש להם עדיין פערים, נכון, הם לא תמיד מודעים לרליסים הכי חדשניים, והם לא מחוברים לנו לדאטה בייס. אבל הפערים הולכים ומצטמצמים, הקוורי שהצ׳אט לא ידע לכתוב לפני חודש - תנסו אותו שוב אולי זה השתפר.

היתרונות הברורים של השימוש הזה במודלי שפה הם החיסכון בזמן, והאפשרות לעשות דברים שלא ידענו לעשות קודם, להיחשף לפונקציות מורכבות או חבילות מפתיעות. החיסרון הוא שככל הנראה ככל שנשתמש יותר במודלי השפה נדע פחות טוב לתכנת בעצמנו. בנוסף, הצ׳אט לעיתים טועה, לפעמים ממציא חבילות לא קיימות (במקרה הטוב. במקרה הרע אלה חבילות זדוניות) וחייבים לדבג אותו לפני שמעבירים משהו לפרודקשן. ככל הידוע לי כל החברות המפתחות מודלי שפה מנסות למצוא פתרונות לבעיות הללו, ואני מעריכה שבשבנים הקרובים הטעויות הללו יפחתו ואולי אפילו יעלמו, אבל עד אז - חשוב להיות עם יד על הדופק ולקרוא את התשובות של המודל לפני שמעבירים אותן הלאה. 

שימוש נוסף שאני עושה במודל שפה ביום יום שלי, הוא להתייחס אליו כמו אל קולגה. זה לא שאני לא אוהבת את הקולגות שלי, להפך, אני מאד אוהבת אותם, במיוחד אותך אייל. אבל לפעמים נראה לי שהם פחות אוהבים אותי אחרי שאני מטרידה אותם בשאלות כל הבוקר. במקום לשאול את מי שיושב לידי, או לפנות למישהי בסלאק, ניתן וכדאי לשאול קודם את הצ׳אט, בדרך כלל הוא יתן תשובה לא רעה, נקודות מבט ורעיונות, ויעזור לנו לגבש את הפתרון. 

היתרונות של שימוש בצ׳אט כקולגה הוא שיש פחות צורך לשאול בני אדם ולהפריע להם באמצע יום עבודה. בנוסף, הידע שלו נרחב וכולל כמעט כל כלי שתשתמשו בו, בין אם זה sql או פייתון, אבל גם לוקר, טאבלו, פאוור בי איי, dbt, rivery, amplitude, ואלו הם רק הכלים שניסיתי. החסרונות הם קודם כל שלפעמים הצ׳אט בלתי נסבל בהתנצלויות שלו, כשהוא לא מצליח לענות כמו שצריך הוא נכנס ללופ פולני של שנאה עצמית ולא מתנחם גם כשאני אומרת לו שזה בסדר, כולם טועים! בנוסף, כמעט תמיד יש צורך ביותר מאיטרציה אחת עד שהוא מצליח במשימה (מצד שני, גם לנו), מה שעלול להיות מעייף. ולבסוף, יש יתרון באינטראקציה אנושית. זה נחמד יותר ולפעמים דווקא כדאי לפנות לקולגות, רק בשביל להרגיש בחיים. מצד שני, אולי עדיף קפה. 

עוד דרך להשתמש במודל שפה, היא בניתוח טקסטים. אם יש לכם טקסטים בדאטה בייס, למשל תגובות משתמשים מסקר שערכתם, מודלי שפה הם אלופים בניתוח טקסטים, זה כאילו בשביל זה הם נולדו. תשתמשו בהם לקלאסיפיקציות או מציאת סנטימנטים, חילוץ תובנות מטקסטים או תיוג. אפשר די בקלות לכתוב סקריפט (הצ׳אט יכול גם לכתוב לכם אותו, מן הסתם), שיקטלג או יתייג את הטקסטים. זו פעולה שבעבר יכלו לעשות רק nlpיסטים עם תואר שני לפחות, והיום כל ילד בן 14 יכול (הבן שלי בן 14, והוא יכול!). תוכלו להגיע להישגים מרשימים במאמץ קטן מאד. מצד שני, כמו שכבר ציינתי וכמו שכולכם כבר יודעים, הם לפעמים טועים. אם נדרשת אמינות גבוהה מאד, לא כדאי להשתמש, בינתיים, בשיטה הזו. בנוסף, בכל זאת נדרש כאן מאמץ מסוים, המודלים לפעמים נתקעים וכדאי לעבוד בצ׳אנקים, כמות גדולה מאד של טקסטים תעלה כסף ותהיה איטית, במקרים כאלה לפעמים עדיף להסתפק בחילוץ מילים או טכניקות אחרות, מהירות וזולות יותר. וגם, צריך לדעת שאם הטקסטים מסווגים, לא כדאי ולפעמים אסור לחשוף אותם לצד שלישי.

לבסוף, מעניין לבדוק האם המודלים הללו יכולים לבצע מחקר נתונים end to end ללא התערבות יד אנליסטית? האם ניתן לתת למודל נתונים טבלאיים ולבקש ממנו לחלץ תובנות שיעזרו בשיפור המוצר? האם המודל ידע לשאול את השאלות הנכונות? לבצע את הניתוח המדויק? נראה שבינתיים התשובה היא לא. מכל הנסיונות שעשיתי התשובות של המודל הן גם לא מדויקות וגם לא מספיק מעמיקות. שתי בעיות שאני, כבן אדם אינטליגנטי, מסוגלת לפתור בצורה טובה יותר. ולכן ממשיכים לשלם לי. אבל לא מן הנמנע שבעוד לא הרבה שנים הם כבר ידעו לעשות את זה יותר טוב ממני, האמת שאין סיבה משמעותית שלא. בינתיים, בכל אופן, הם בהחלט יכולים לסייע גם בתחום הזה. נסו אותם, מקסימום תופתעו. הם עשויים לתת לכם רעיונות נוספים לכיווני מחקר, ולעיתים גם להפיק תובנות משמעותיות שלא חשבנו עליהם. אבל, לא לשכוח, מוכרחים לוודא אותם, אי אפשר לסמוך על מה שהם אומרים the basters.

אז בשורה התחתונה, חברים, תחזיקו חזק אנחנו ברכבת הרים ,ולא המעפנה של תל אביב אלא החדשה של הסופרלנד. מודלי השפה הולכים ומשתפרים מיום ליום, מאריכים את חלון הקיבול שלהם (המודל שאנחנו מפתחים כבר היום מסוגל לקלוט 256 אלף טוקנים, לעומת חלון קיבלו של 2048 טוקנים רק לפני שנתיים), משפרים את האמינות ואת הדיוק, ומוצרים שמתפתחים בימים אלה ממש יאפשרו גם הסקה וסיבתיות מורכבת ומנגנוני ביקורת עצמית, בקיצור - יש למה לצפות. 

ומה יהיה התפקיד שלנו, האנליסטים, בהרפתקאה הזו? האם נוכל להמשיך לתת ערך בארגונים שבהם אנחנו עובדים? אני מאמינה שכן, אך לשם כך נצטרך להעמיק את היכולות שאינן רק ניתוח נתונים וכתיבת sql, ולהביא אל השולחן גם יצירתיות, תחכום, תקשורת טובה. נצטרך להתמקד ביכולת לשאול את השאלות הנכונות, לשפוט את איכות התשובות שמקבלים מהמודל, ובאופן כללי לחפש באופן מתמיד אחר המקום שבו יהיה הכי קשה להחליף אותנו. ככה נשאר רלוונטיים בארגון, לפחות לכמה שנים הקרובות.