
ירון סברדלוב
CDIO, monday

קרן קושמן
Head of Applied AI, monday
367: כלכלת טוקנים - על אופטימיזציה של השימוש שלנו ב-AI
איך מאפטמים את ההוצאה על AI ברמה הארגונית? איך אפשר לעזור לעובדים שלנו להשתמש בטוקנים בצורה חכמה? ואיך משיגים את התוצאות הרצויות בפחות טוקנים?
בשנתיים האחרונות, טוקנים הפכו להיות אחת מההוצאות המשמעותיות בארגונים טכנולוגיים, אלא שכרגע עוד לא ממש ברור איך לנהל אותן. כיום חברות מעודדות עובדים לשלב AI בכל תהליך, אבל מתקשות לקבל את התמורה הטובה ביותר עבור ההשקעה שלהן. אז איך מאפטמים את ההוצאה על AI ברמה הארגונית? איך אפשר לעזור לעובדים שלנו להשתמש בטוקנים בצורה חכמה? ואיך משיגים את התוצאות הרצויות בפחות טוקנים?
בפרק השבוע דריה ורטהיים מדברת עם ירון סברדלוב (CDIO) וקרן קושמן (Head of Applied AI) על כלכלת הטוקנים במאנדיי דרך שלוש שכבות של אופטימיזציה - החל ממשא ומתן מול ספקיות ה-LLM, דרך שימוש חכם בטוקנים, ועד לוגיקה שצרובה ממש בהארנס עצמו. הם משתפים במאמצים כמו פיתוח סקילים כגון "Caveman", שמנקה אוטומטית טקסט מיותר מהפרומפט וחוסך כ-60% מעלות האינפוט, ודיוק וצמצום הקונטקסט לרמה אופטימלית כדי לשפר את איכות התשובה. הם מסבירים גם על מנגנוני הראוטינג שבוחרים מאחורי הקלעים את המודל המשתלם ביותר לכל משימה, ואיך פיתחו את מדד ה-monday bench שמאפשר מעקב והשוואה שעוזרים לחתוך את העלויות בעשרות אחוזים עבור אותו תוצר. לצד הפתרונות הטכנולוגיים, הם מראים שחינוך המשתמשים הוא מפתח קריטי להצלחה, ומדגימים כיצד חשיפת נתוני ההוצאות האישיות לכל עובד רתמו את האנשים לקחת אחריות והובילו לירידה דרסטית בצריכה הכוללת בארגון.
תמלול הפרק
התמלול נוצר אוטומטית ועשוי להכיל שגיאות.
היי כולם אני דריה ורתיים ואתם על סטארט-אפ פור סטארט-אפ ויום אנחנו מדברים על כלכלת טוקנים ואיך אנחנו חושבים עליה פה במנדי. אז בשביל זה נמצאים איתי כאן ירון איך אני רת שמשפחה שלך סוורדלוב סוורדלוב סליחה אני כאילו לא הת נתי על זה לפני פתאום קלטתי שזה מסובך קצת. אז אתה גם גם את הייתה שלך מסובך נכון אני היום שבעצם אומר שאני מנהל את הצוות של סי איו של הסיסו. ופה לא צריך להסביר מה זה ביג ברן אז גם הצוות של ביג ברן והדאטה מדווחים אליי אחלה אוקיי. וקרן קושמן את איתנו בפעם השנייה אז נגיד שאת אינטרנל. איי אינוביישן ליד כאן במען דיוק מחליפה את הטייטל ב ת לידו ופלאי דיי אז נזל טוב שום דבר מתאים לא אומר לי משהו קונקרטי אולי אחר פרק הזה יגיד לי איזה מתחבר לפרק מעולה עוד יותר טוב. נתחיל יאללה. ירון אולי נתחיל ממש כזה בבסיס אני חייבת להגיד שנפגשנו כזה להכנה על הפרק הזה ולא ידעתי כמה הנושא הזה. מעניין ומעיף את השכל אז בוא נגיד רגע אנחנו מדברים על כלכלת תוקנים שזה ב ת משהו שהמון אנשים מדברים עליו היום נושא נורא נורא חם. אבל בוא נסביר רגע בכלל למה אנחנו מתכוונים שאנחנו קוראים כלכלת תוקנים. אז בבסיס אנחנו מדברים על העובדה שתוקנים הופך להיות הוצ הולכת וגדלה לרוב החברות הייטק כמונו אבל גם לא רק חברות הייטק. אנחנו אוהבים את האוטומציות אנחנו אוהבים תוצאות של האיג'נטים אבל בסוף אנחנו מחליפים מלשלם עסקורות להתחיל לשלם לחברות האלה להם להיי. ואנחנו רוצים לנהל את זה הרבה יותר קשה לנהל את זה אנחנו נדבר היום על הרבה מאוד אתגרים שיש. בדרך כלל שאנחנו מדברים על פרויקטים של תוכנה או של טכנולוגיה אנחנו מדברים על אירועי. ריתן אונו אינבסטמנט אינבסטמנט אנחנו יודעים זה יבוא בחשבון שיגיע מהאנתרופיק אופן איי או כל אחד אחר מהשחקנים הריתן לפעמים מאוד מאוד מורכב. ובעצם אנחנו רוצים לעשות אופטימיזציה גם לראות איך אנחנו מקבלים את הכי טוב שאנחנו יכולים מההוצ וגם לוודא שההוצ היא הגיונית לגבי מה שאנחנו מקבלים השילוב הזה בעצם מאוד מורכב כי יש הרבה מאוד סוגי שימושים. אני אנחנו כותבים קודים אופן איי ואם יש לך עם אלה למים וזה הכיס הכל מסוג אחד אבל היום גם העוזרת שלי מנהלת ליטאי אומן עם אלה לם. זה סוג אחר של שימוש יש לו הרואי מאוד שונה מה שקרן ואני מנסים לעשות זה לראות איך עושים אופטימיזציות לדברים האלה עוד לפני שאנחנו ממש מדברים על הרווחים שיש לנו פשוט לוודא ששלב ההוצ . אנחנו מדבר בעיקר על העלי בתוך הרוואי על הפסמט איך אנחנו מבדילים שהינבסט שלנו. הוא הכי נמוך בשביל אותה תוצ בשביל אותו אנחנו עדיין רוצים לכתוב את הקוד שאנחנו עדיין רוצים לנהל את האומן. אבל עשות זה פשוט באינבסט יותר נמוך וכשאנחנו מדברים על כלכלת קניון חושבים את עצמנו איך אנחנו מקבלים את המקסימום. אם ושולטים בהוצ כן נגיד שהנושא הזה מעניין במיוחד כי אני חושבת שהוא חדש לכולם כאילו כן נכון כל העולם מנסה בכלל להבין מה זה כלכלת תוקנים מה זה המינוח מה זה תוקן. כאילו זה אולי נגיד גם מה זה תוקן מעולה אז תוקן זה יחידת בסיס שהוא מצ בעידן אל אלמים שבעצם אומרת שאני שולחת משהו לאיזשהו אלם כמו שגפתי אני שולחת איזה משפט איזשהו פרומפט. אז כל טוו הוא פחות או יותר ארבע תביאות תוקן אחד על אין פה תוקן את משלמת ואז יש את מה שהמודל מחזיר עלייך מה שג'ורלט טקסט תמונה וידאו לא משנה. זה אותו תוקן סגר יש לי מחירים שונים יותר קרמה שיוצא משהו מה שנכנס יש מחירים שונים למה שאני מקבלת מול אותם שאני מכניסה לגמרי ויש את כל הסיפור שאין פה תוקן זה מתעולה ומתנפח ככל שאת מדברת יותר ויותר ויותר באותה שיחה באותו קונטקסט כל מה ש רת עד כה כולל כל מה שהוציא. נכנס שוב ושוב ושוב לתוך המודל זה בגדול כל כך המינוח הבסיסי של תוקנים ואיך עובדת השלום שם מעולה ואני חושבת שגם זה מעניין במיוחד גם כי. זה מאוד שונה מה שהכרנו עד עכשיו כי אנחנו מדברים הרבה גם דיברנו עכשיו בפרקים שיוצאנו עם רועי על כל הנושא של ביזנס מודל של חברות ופריסינג ואיך העולם הזה משתנה. זה קצת מתחבר כי אנחנו מדברים הרמון על פרדקטיביליות וכמה זה חשוב לחברות ופתאום. נהיה הרבה יותר קשה לחזות את ההוצאות שלנו נכון ממש הרבה יותר קל לי לחזות כמה אני משלמת למתכנתים בחברה ולאנשי המכירות וכמה אני אכניס בחזרה להשקעה הזאת וכולנו אני מניח נחשפנו לסיפור של אובר נכון באפריל ובאפריל המנכל שלהם בא ו ר סיימנו את התקציב של התוקנים השנתיים.
שלנו באפריל. יותר מעניין היה גם העובדה שהוא ר, אני לא רו בעצם את ההבדל בין הרבעון הראשון בשנה לרבעונים אחרים, זאת אומרת לא רק שהוצאנו את כל התקציב, אני לא בטוח שקיבלתי value, זה דיון אחר, אבל כמו ש רת, אם אני לא יודע, אני רק יודע ששמתי כסף, אני מתכנן להוציא ככה וככה כסף, חברות גדולות כנר מיליונים, מטה הגיעה ל-221 מיליון דולר בחודש. בחודש. בחודש, בחודש, טוב חברה גדולה וזה, אבל אנחנו נדבר גם על למה אנחנו חושבים שזה קרה, אני חושב שנדבר על זה בהמשך הפרק, אבל הרעיון הוא ב ת אתה לא יודע מה אתה הולך להוציא, אתה יכול לשים קונטרול, קשה מאוד לשלוט בזה, כשזה בגישה כזאת של postpaid, אתה משתמש ומקבל חשבון בסוף החודש ואנחנו בחזרה לתקופה של בילשוק, מגיע סוף החודש ואם אתה לא מנהל את זה כמו שצריך, אתה הולך לקבל בילשוק. יש לי רק מילה קטנה להוסיף על זה, הרבה מאוד ארגונים עוד לא נמצאים בנקודה הזאת של הבילשוק כי הם לא ב-consumption base. Consumption base אומר שכל כל טוקן שאת צריכת את משלמת. אז אלויים אם לא. הרבה עדיין נמצאים בסיט-בייס שבו משלמים סתם לדוגמא 20 דולר למנוי כלות קוד ויש אין מקבלה של טוקנים בגדול, יש כל מיני אבל זה. ברגע שעוברים לקונסמפסיון בייס ששם העולמות האלה הם ב ת נמצאים ודוחפים עכשיו את כל התעשייה לקונסמפסיון בייס כי זה מה שהם רוצים, שם השוק מגיע אז את אומרת לגמרי חבר שמאזינים שעדיין לא מבינים את הבעיה לגמרי זה מגיע לכולם אני כן רוצה להגיד לסקארט מקודם את הפודקאסים של רוי אנחנו נעשה להם רפרנסים, בהמשך אבל ב ת אחד הדברים היה על המודלת עם חור, אני חושב שבא מאותו פרק אחר הכי חשוב הוא שהתפקיד שלנו במנדי גם פנימית אבל גם חיצונית ללקוחות שלנו זה לראות איך אתם מקבלים את הכי הרבה שאתם יכולים מהטוקנים, איך זה נעשה תקשיבו לפרק עם רוי זה הוא הסביר את זה אבל אנחנו רוצים לדבר על היום איך אנחנו מצליחים להוציא מכל טוקן הכי הרבה שאפשר מעולה אז אני ב ת חושבת שזה, רלוונטי להמון אנשים שמקשיבים לנו בין אם זה מנכלים ומנכליות של חברות או עובדים שזה תכף גם יגיע לכם כאילו בסוף כל עובדת צריך להבין איך לעשות אופטימיזציה, איך שהוא עובד אנחנו ננסה לדבר פה על כזה השיטה המתודה של איך אנחנו מסתכלים על זה ואיך אנחנו מנסים לעשות אופטימיזציה לכל שלב בתהליך, אז רנו בעצם שנחלק את הפרק הזה נסתכל על כל הנושא הזה של אופטימיזציה של טוקנים מפריזמה של פירמידה, אז ירון לפני שאנחנו צוללים לתוך הפירמידה הזאת בוא נסביר מה זה בכלל הפירמידה הזאת ולמה אנחנו מסתכלים על זה ככה. נהדר אז כשאנחנו מדברים על כלכלה טוקנים אנחנו בעצם רואים אנחנו הולכים לפגוש את היכולת שלנו לשפר את המצב את אותו פונקציה שאומרת מה הvalue פר טוקן שאני מקבל, בכמה רמות ברמה הכי בסיסית זה פשוט מסע ומתן עם הספקים, זה לא רק מסע ומתן ללכת לאנטרופיק וכן כשמנדי מגיע לאנטרופיק כמו הרבה חברות גדולות יש לנו כוח אנחנו יכולים לעשות מסע ומתן סטארט-אפים לפעמים לא יכולים לעשות מסע ומתן הם לא מספיק בדיוק הם לא מספיק גדולים בשביל לעשות את זה היותר קשה, אבל יש אתה יכול לצרוך למים בצורות שונות למשל אתה יכול להשתמש בכלים של אנווידיה שנותנים לך בעצם אתה קונה cpu ומריץ עליו איזה match as you like, כמובן במסגרת כמות שהcpu מסוגל לצאת או gpu שמסוגל להריץ ואתה במודל טיפה שונה יותר זול, גם התוצרות הם לא בהכרח באותה רמה אז אני לא אנסה להגיד שפייבל 5.2 שיצא לנו לפני כמה ימים זה אותה זה אותה רמה שאתה יכול להגיע אם אתה מריץ בסוף על הענן שלך אבל אתה יכול בדיוק וגם לסוג המשימה אנחנו גם כן עוד משהו שנדבר עליו עוד מעט, אז אבל ברמה העקרונית ברמה הכי גבוהה פשוט קומרשל כן צריך אני כבר יעיר רערה קטנה אחד הטריקים שאנחנו רואים לא סטריקים זה כזה אנחנו מבינים את הרעיון אבל כשקופצים ממודל למודל וגם מספק לספק הרבה פעמים אנחנו רואים שהמחיר לתוקן הוא אותו מחיר. כשאנטרופיק יצאו עם פייבל כולנו קיבלנו הודעה חברים יש פייבל אל תדאגו זה עולה כמו אופוס מבחינת מחיר לתוקן. כשהתחלנו להריץ את המודלים התחלנו לגלות זה אותו מחיר לתוקן אבל זה הרבה יותר תוקנים בשביל להבצע את המשימה מה שאומר שבסוף בשביל אותו קופסה שאני רוצה לייצר אני צריך אני בסוף לשלם הרבה יותר כסף אז צריך להיזהר. מי המחיר הפשוט לתוקן. המחיר עצמו לתוכן כאילו לא אפשר לשוות מחיר לתוקן של אופוס לומד וואטאבר כלשהו זה לא לא לבנות על הדבר הזה כשנותנים לי את המחיר הזה להגיד. פה נותנו לי מחיר קצת יותר זול זה בהכרח אומר שהיה לצה שלנו לכולם. תבצעו משימות הרי נורא קל לקנות ב-20 דולר גישה לפה בל וב-20 דולר גישה לאופניי לפני שאתה מתהולך ומתחייב תפעיל משימות תסתכל לראות כמה תוקנים זה צריך עזוב את הכסף כמה תוקנים זה צריך עכשיו שעשית מסע ומתן על אותה משימה כשהרצא אותה.
בכמה מודלים אתה יכול להבין את הפקטור וכמובן שיש מודלים שונים שמתאימים למשימות שונות אז זה תלוי בחברה שאתה עושה במשימה מקודם הזכרתי אנחנו כותבים קוד זה סוג משימה אחד אתה מנהלת את מנהלת יומן זה סוג משימה אחרת מייצר חומרים לשיווק זה סוג משימה שלישי לאו דווקא אותו מודל מתאים לכולם ולכן אנחנו מחפשים את המודלים שיש להם את האופטימיזציה הכי טובה לניצול הטוקנים במחיר הנכון למשימה ספציפית זה יותר מורכב מאשר לבוא ולהגיד הוא נתן לי דולר הוא נתן לי דולר 20 אז הדולר יותר זול אז יכול להיות גם שאנחנו נסגור עם אנטרופיק עסקה מסוימת ובמקביל גם עם אופן איי עסקה אחרת שתשמש אותנו ליוס קייסים אחרים כמעט חובה. אוקיי אז זה נגיד כאילו שב ת שאנחנו כזה מדמיינים פרמידה זה. בסיס אני מסתכלת על זה בבסיס כי זה כאילו כל הפרוביידרים כן אני בואנה אחר כך את כל העבודה שלי קניתי אני פשוט חשבתי לבעלה כי בסוף אתה אני רוצה לראות ככל שאתה רו למטה הבסיס יותר רחב. רמת החיסכון יותר גבוהה כאילו מבחינתי זה אבל זה לא משנה כל אחד יכול לדמיין בראש איך שנוח לא בדיוק אוקיי בוא נעבור לחלק ה צעי בפרמידה אז אנחנו יכולים להסכים שזה ה צע נכון נכון אוקיי מה השלב הבא. בעצם איך אנחנו עושים אופטימיזציות רחביות בתוך הארגון על ידי דברים שאנחנו יודעים שהם אופטימליים להתנהגות משתמש ואיך בעצם ניגשים לכלים האלו רגע אני אגיד להם להרנס. קלוט קוד קודקס וכולי הם כולם הרנסים כלומר יש עטיפה מעבר ללילה של עוד דברים ממורי וקונטקסט וכולי וכולי אז בעצם אנחנו. כיוון שאת משתמשים בכולם אנחנו עוטפים את כולם ביכולות מרכזיות. מה זה אומר למשל נכון דיברנו רגע על מה זה טוקן בעצם את שולחת אין פוטוקן לקבלת אוטו טוקן את נוטה לדבר ללילה עם כבן אדם את יכולה לדבר בוקר טוב שלום ורווחים ואת מדברת איתו כמו בנאדם. אבל שם טוקן מבוזבזים שם הרבה טוקנים שהוא לא צריך עליהם זה פלוג קונטקסט מיותר לא צריך את הבוקר טוב ממני למשל לא משתמשים להגיד שלום כי שהם השתלטו לעולם הזה שהוא נחמדים עליי אבל אז יש שיש סקילים מרכזיים אופן סורסים שיצאו קיימנט זאת דוגמה אחת יש עוד דוגמאות כאילו שיצאו. ואז אנחנו בוחנים איך הם משפיעים בעזרת הסימולציות שיצאנו אנחנו נגיע להם אחר כך זה מנדה בנש. איך זה השפיע על כמות הטוקנים שנצלחת פה בארגון ביוסקיסים שונים מבינים טוב לא טוב איך השפע אם זה מוריד קווייטי או שלא פשוט דיסטריבל אותם לכולם בזמנית. אני כן רוצה להגיד הסקילים הכי חשובים בשכבה צעית היא הסקילים של המשתמשים ולא של התוכנה. קרן הזכירה מה מקודם שבשיחה נכון יש את אינפוטוקינס אני רו ב ת מסה אנדירה של משתמשים שפותחים צ'אט לא משנה כרגע אם זה צ'אט מול קלוט קוד כי הם כותבים עכשיו קוד או צ'אט מול צ'אט ג'יפיטי. מתחילים לכתוב וכל פעם הם נכנסים וממשיכים באותה שיחה ובעצם הקונטקסט ווינדו שם שולח ומעבד כל פעם כל ההיסטוריה של השיחה. את המסמך לפני שלושה ימים כי רצית שהוא יתרגם לך אותו לשפה אחרת הוא יסכם לך אותו שאלת אותו הבוקר תגיד לי מה המצב המנהל הזה הוא עדיין שולח גם את המסמך ששלחת לפני יומיים כי אתה באותה שיחה. אז אפילו הרגלה פשוט כמו מתי לעשות ריפרש מתי להתחיל שיחה אחרת. זה כבר עוזלה משמעותית ללכת נקס טאפ של שימוש לפני שבונים מערכות מתוחכמות. דברים שאנחנו רואים זה שאנשים בהתחלה צריכים לסטאפ את המודול שהם את המודל שהם רוצים להשתמש הרבה אנשים הולכים ישר למודל המתקדם וכן הל כי זה הכי הכי טוב. אני שם שנייה בצד בוא נניח שהוא הכי טוב אני לא מתווכח השאלה היא האם אני יכול לחנך את המשתמש שלי את הבן אדם לא את המערכת כרגע. את הבן אדם שאם הוא עושה פעולות פתחתי שיחה עכשיו והיא שיחה יותר פשוטה של תסכם לי את המסמך תיתן לי את הנקודות המרכזיות. קיבלתי איזה משימה אני רוצה לדעת מה ארג'נט כי קיבלתי עכשיו 20 עמודים ואין לי זמן לקרוא אותם תן לי את הטופלין שמה אני צריך לעשות. אולי לא הכי פשוט אבל לך כנס תשנה את המודל שלך מי מי אופוס לאייקו לסונד כן ותקבל כנר כולנו מסכים שכנר תקבל תוצ לא פחות טובה. ויעלה הרבה פחות זה דורש אני אומר אז השכבה הראשונה דיברה על איך אני עובד מול הסכנה האלה בשכבה שנייה אנחנו מדברים איך אנחנו מחנכים את העובדים שלנו. להשתמש בצורה חכמה ואחראית גם כי בסוף לי כעובדת זה נורא נחמד שיש לי את הכל פתוח.
וזה קצת מרגיש כמו איזה מגרש משחקים כזה נורא כיפי שאני יכולה לעשות בו הכל ואני פחות מרגישה זה לא יורד מהמזכורת שלי כל התוכנים שיוצאים כאילו אז אז אני חושבת שזה ממש ממש אתגר. ואז אני פוגש סמל כלי ארנדי בחברות שאומרים לי אני לא דואג כי המתכנתים שלי מקבלים מגבלה של 100 דולר 200 דולר. לא משנה תלוי כמה כל אחד עם המספר שהוא שם איקס דולרים ואם הוא יגמור את הדולרים אז אני לא אקבל שוק בלשוקי אני רגוע לי את השתמש הרבה דריה תשתמש המון קרן לא תשתמש בכלל זה בעיה שלהם זה לא בעיה. של שלי כמי שהולך לשלם את המחיר ואני אומר חברה אתה מוכן לשים 200 דולר כנר כדאי לך לשים 200 דולר כי המתכנת שלך אפשר להיות סופר פרוגרמר נהדר אבל אין סיבה. שביקום שיהיה לך יותר תוצר שפשוט המנעה של אנטרופיק תעלה עוד יותר נכון או שאחרי חצי חודש הוא חוזר להיות מתכנת רגיל לחלוטין לחלוטין אלא אלה שיעבוד בצורה חכמה ונכונה ויוכל לפתם את העבודה שלו לאורך הזמן אז אני אם אני אתן המלצה פה לחברות זה לבוא ולהגיד תשמעו אל תניחו שהמתכנתים שלכם. אל תניחו שהמתכנתים שלכם מבינים שכאילו שימוש חכם יותר יעזור להם להוציא יותר מהאלה אלא תבנו גיידליינס תבנו כלים שעוזרים להם ככל שתעשו את זה תקלו בסוף על החברה להוציא את המקסימום. אני אתן דוגמה לאיזה כלי שאני השתמשתי בו כעובדת וזה ב ת יש לנו פה איזה. כלי פנימי אוקנה אני לא יודעת איך מבטאים את זה נקרא לזה לצורך הפרק אוקנה כי זה מה שאת רגלתי להגיד זה איזה כלי פנימי שמאפשר לנו ב ת לבנות אייג'נטים על גבי אופן קלו. אייג'נטים חכמים שעושים הרבה יותר ובהתחלה כזה כולנו בנינו והשתמשנו והיו פה אלפים כן אלפים ממש ובאיזשהו שלב התחלתי לקבל אסלק הודעה יומית של כמה זה עולה הנה כמה הייתי של אחותי אתמול בבקשה ופתאום זה גרם לי לשאול שאלות כאילו. גם היו ימים שנגיד לא השתמשתי באג'נט ואני פתאום רו שהוציאים שבע דולר. רסיסטנט אייג'נט זה אומר שהוא חי מה עשית אתמול שאלתי את השבע דולר ועוד יותר ליא מהצוות שלי בא ואומרת לי תקשיבי. ה ת שלי התחילה לעלות ולעלות רוצים 50 דולר אתמול הוא לא עובד לי בכלל כאילו לא עשיתי את הכלום בדיוק אבל זה גרם לנו שנייה לעצור ולהבין כאילו מה זה אחד הדברים המאוד מאוד חשובים. ברגע שאנחנו עושים ויזוליזציה והנגשה של המידע אנחנו מגלים שני דברים הרבה מאוד חברות התחילו לא מספיק אני חושב שהרבה עוד חברות צריכות להגיע לזה לעולם הפינטק שלה שלה של הפינופס שלה של הלמים ושל האיי. והתחילו לעשות ואנחנו גם כן אחד הדברים המאוד מהר שעשינו זה יש לנו דשבורדים שמראים לנו כמה עוצמנו בלמודלים שונים ובאיזה מחלקות והכל וזה הגיע לקרן ואליי שאנחנו מנסים לנהל את התקציב בצורה הוליסטית. נהדר ומה אנחנו עושים זה אנחנו מנסים לשפר לעשות כל מיני אבל אבל אבל המידע יושב אצלנו וככל שהנגשנו אותו יותר ויותר והיום את מקבלת הודעה בסלק. אבל גם הבוס שלך או ראש הצוות בפיתוח רו את מה קורה בפיתוח אבל הכי חשוב יש לנו היום ראינו את זה את הווידג'ט שיושב לכל אחד על המסך שלו במק הוא רו על מה הוציא כסף. כשאגענו מסקנה שצריך את הווידג'ט הזה כי כי רצינו את הנגשה הזאתי. ודרך אבל לא דמיינתי את האימפקט שזה ייתן אבל רק לספר שכשעשינו את הטסט עליו הצוות שפיתח אתכן את זה רק על העשרים מחשבים שכולם פחות או יותר ישבו אצלי באופן אספסט לידי. וכל כמה דקות שמענו מישהו עושה כזה וואו שכחתי שיש לי בכלל איזה אייג'נט שפניתי לפני שבועיים או חודש או זה וזה ממשיך לרוץ ומה שקרה זה שתוך כמה ימים ראינו את ההוצאות מתחילות לרדת. כשעוצרנו את זה לכל החברה זה הפך להיות מאוד משמעותי אנחנו עובדים בסביבה שברוב המקרים לא עובדים מאוד אכפת מהחברה. ולכן אני מ ין שהיא מעובד רק ידע. כמה זה עולה הוא הבן אדם הכי נכון לעשות את הרוואי שאנחנו עומדים בעיה יום באינבסיטמט אבל אבל הוא יודע תאר כי הוא זה שבנה את זה אם היא רה במ חמישים דולר לא קיבלתי ריטרן כי זה לא עבד בכלל אז למה אני משלם 150 דולר. אז היא תוכל להחליט אני עורכת את האג'נט או אני משקיע בעוד זמן בשביל זה ונותנת עוד 100 דולר ואם זה לא עובד אני אפסיק אבל. בתור שלב ראשון צריך להנגיש את זה סלק ווידג'ט דוחות הכל בסדר. יש לנו אג'נט גם שאלות לאנשים אם יש לך אג'נט שהלך לעיבוד ובא לך.
חפור ולבין מה קרה, את יכולה לשאול את בילי, האיג'אנט שלנו. מעולה, לא ידעתי את זה. אם אנחנו חוזרים בסוף, אם אתה לא יודע כמה הוצאת, אם אתה צריך ללחוץ, וזה מה שקורה היום בהרבה מאוד כלים, אם את נכנסת, לא משנה אם את בקודקס או בקלוט קוד, אם אני אשאל אותך בקלוט קוד, אני משתמש כבד, זה נדמה לי עד קרסר, נכון? כן, כל אחד את המורכבים כאילו, זה אחד הדברים היפים במנדי, כל אחד יכול לקחת את מה שהוא רוצה לעבוד, אנחנו נתמוך בהכל, אבל בקלוט קוד וגם בקרסר, בשביל לדעת כמה השתמשת, זה איזה שש קליקים. ואז אנשים לא עושים את זה, לא ב ת בודקים, אבל אם כל פקום שאת נכנסת, אתה תר מול העיניים כמה זה עלה לך, לא במטרה שתפסיקי להוציא, אלא במטרה שעת תאריךי, זה טוב לי או לא טוב לי. כן, ואני אקח אחריות על הדבר הזה. נכון, וזה הדרך, ואנחנו ראינו ברגע שהשקנו, ברמת החברה, לא ברמת האנשים הבודדים, ראינו ירידה מאוד מאוד משמעותית, בצריחה כוללת. שברנו, היה לנו עלייה אקספוננציאלית בכמות הטוקנים, וכמובן בכסף שנצחקו, שרק מהביזוריזציה של הדאטה לכל עובדי החברה, נשברה. וואו. שזה מטורף. מדהים, זה ממש מקומות שאני חושבת שמי שמעזיל לנו יכול לחשוב, איפה כן יש לו שליטה, כאילו יש מקומות שאין לנו שליטה, נכון, גם כמה בסוף כאילו, כמה אנחנו נשלם לאנתרופיקו, אופניי, סבבה, עשינו את המשא והמתן, עכשיו זה כזה, זה בידיים שלהם. אבל יש מקומות שעדיין יש לי שליטה, גם אם אני לא יכולה עכשיו לשבת עם קול עובד ועובדת, ולהגיד להם איך בדיוק לעבוד, אני יכולה להנגיש להם הרבה מידע שיכול. אז דיברנו על השכבה העליונה שהיא קומרסיאלית, שבדיוק על מה ש רת עכשיו. כן. דיברנו על השכבה ה צעית, שהיא בעצם הצורה שאני משתמש בכלי, וכמה אני מחנך את העובדים שלי, וכמה אני מלמד אותם איך להשתמש בצורה נכונה. לא במטרה שלא ישתמשו, אלא במטרה שהם יוציאו את המקסימום. ועכשיו יושבת השכבה, שב ת היא שכבת ההבטחה הגדולה ביותר, ובה אנחנו חיים כבר כמה זמן במנדי, ואנחנו רואים עוד חברות שחיות, אני חושב שהשוק עוד לא מגיע לשם, אבל כמות הסטארטאפים שאנחנו פוגשים היום בעולם תוכן הזה, מלמדת את כולנו שלשם השוק הולך. וזה בעצם איך אנחנו מייצרים ארנס יותר חכם, שיתן תוצרים יותר חכמים, בלי שהמשתמש יצטרך לבחור. לדוגמה, לבוא ולהגיד שנייה אחת, היוזר, רתי מקודם, אם אני עושה סיכום של המסמך בוא נשתמש ב-Ico, אבל אם אני כותב קוד בוא נשתמש ב-Opus, או ב-Feibel. לא, לא, אנחנו, כן. אז בתור משתמשת ב-Ocana, את יודעת, אני מקווה שיש לך שם קונפיגורציה, ואת יכולה להגדיר את זה בצורה הזו, ובעצם למה צריכה להגדיר את זה, למה לא שזה יהיה הגדרה אוטומטית של הארנס, במקרה הזה הארנס שנקרא Ocana, אבל זה יכול להיות כל ארנס אחר. כל קליש אני אבחר להשתמש. כל קליש, כן, לא צריך את הכלים שלנו ספציפיים, אבל הרעיון הוא ב ת לבנות כלים, שבצורה אוטומטית היוזר יכול להיות, פשוט להשתמש, לבוא לקלוט קוד שלו, לקרסר שלו, לקודקס שלו, להקליד מה שהוא רוצה. עכשיו הוא מבקש מסמך דיזיין, אחרותיים הוא מבקש להכין מצגת, עכשיו הוא כותב קוד, והארנס ידע מה הוא צריך לעשות בשביל לעשות את האופטימיזציה. זאת אומרת, אני שולחת משימה לללם, והללם מחליט בעצמו, לפני שהוא ניגש לעשות את המשימה, מה המודל הנכון להשתמש בו. אני רק אתקן קצת קצת, כי את שולחת משימה לאיזשהו הארנס, שבתוכו יש ללם, והארנס לפני שהוא שולח לללם, שזה כבר ממש מודל ספציפי, בוחר, מהו הללם הכי קוסט אפקטיבי למשימה שעת זה, מבלי שאת צריכה לחשוב או לגעת בעניין של האם אני בהייקו או בצ'צ'פי, איפה אני נמצאת, את לא צריכה להתעסק עם זה. אבל זה כמובן דוגמא אחת, זאת אומרת, אני מדברת, זה סוג המשימות שאנחנו יכולים לחנך, לעשות מודל ראוטינג, מודל ראוטינג חכם. אבל יש הרבה דברים אחרים, אחד הדברים המאוד מעניינים, קרן יכולה להרחיב על זה, כי היא עשתה מחקר שב ת אנחנו, מאז שפרסמנו אותו, אני חושב שהוא עושה הרבה גלים, חברות הללם הודיעו, בסך הכל, מטווחות לנו כל פעם שבעצם אתה יכול להעלות את כל הספרייה האולמיות לתוך הללם, כי אנחנו היום גזיליון טוקנים של אינפוט רק תכנית. נכון, מה שפעם אולי נאוטבוק הללם היה יותר ידוע בו, שאפשר לזרוק המון המון טוקן לתוכו. נכון, היום רוב הללם הם יגידו לך, תעמיסי את הכול, תעמיסי כמה שאת רוצה, תשאלי אותי שאלה, עכשיו יש לי את כל הידע העולמי, אני כבר אביא לך את התשובה. וזה גם טוב להם טוקנים, כי זה צורך טוקנים בטירוף, אם יש לי מיליון קונטקסט ווינדו, תביאי, תביאי. תביאי כמה שיותר, אני אסתדר. ולזה נשמע מעולה, אני אומרת, יופי, אני אזרוק לו את הכול, אני צריכה לחשוב. אז אחד הדברים שראינו זה ש… הדבר המעניין הזה, כשאתה חושב על זה, זה נורא מייקסנס, אבל אנחנו רואים שבערך ב-150 אלף טוקניק אינפוט, מעבר לזה, הריזולט, עזבי מחיר, התוצר שנותן האל אליהם הוא פחות טוב. רגע, אז ממש עשית מחקר כאלה? זה מעניין אותי כאילו… ממש, כן, על הסיפור הזה של קונטקסט.
ממורי בעצם בגלל ה ירה שלהם יש לנו 1 מיליון קונטקסט ווינדור בואו תביאו לנו הרבה הרבה דאטה ואל תתעסקו בזה פשוט תביאו את החומרים. זה הגיע לא רק מכוסט אפקטיבה רצינו בעצם להבין איך עושים בליינים ועושים קונטקסט בצורה נכונה ראינו תופעה שגדלת קונטקסט רוט. שבה ואומרת אחרי 150 אלף טוקנים בעצם התשובה פחות טובה ופחות איכותית בעוד משלמת הרבה הרבה הרבה יותר זאת אומרת עשיתם ניסוי נגיד לקחת. זה רק לתוך לתוך הקונטקסט המון המון המון דברים וגם זה רק עשית עוד ניסוי במקביל ששמת נגיד רק עד 150 אלף טוקנים שאלת אותה שאלה והתשובות התוצאות היו טובות יותר בגמרי זה זה חולק לזה קצת יותר מזה כי זה שאלות אם אם קישור בין השאלה לתשובה ובלי וממש רציתי לחקור את הנושא הזה של ממורי בקונטקסט לעומק ופשוט. אני מרגישה שכל הלילה את כל כך כל הזמן רק תביאו קונטנט רק זה תשלחו לנו לילה זה פשוט לא נכון עכשיו בוא ניקח דוגמא מהחיים ואני דווקא לא הולך לפיתוח עליו שזה ממש זה בוער בפיתוח אבל אני רוצה לדבר על דבר יותר רחב. בוא נלך שיש לי עכשיו אייג'נט במנדי אול עשינו את זה יש לנו אייג'נט אחד שיודע לענות אתה יכול לשאול אותו מה שאתה רוצה. כל שאלה באלמנים. אתה יכול לשאול את כל שאלה והוא יתן תשובה אופציה אחת היא להמיס לתוך לתוכו את כל הדאטה הארגוני שלנו כמובן כנר יותר ממ חמישים אלף תוקנים ולשאול אותו שאלות. ואז מה שאנחנו רואים אני נורא בתי במה שקרן כתבה בפתיח למחקר היה על הספרן אני זה מאוד ריזונלית ועד מי שהיה תחשבו על. אל אלם בתור מישהו מאוד חכם שנכנס לספרייה עכשיו יש לך ספרייה בגודל של כל תל אביב מאות אלפי מיליונים של ספרים אני אומר לו עכשיו תגיד לי מה מה היה הפרק השלישי של דריה שהיא הוצי . תשובה נמצאת איפה שהוא עכשיו הוא מתחיל עכשיו יותר חכם פחות חכם בדרך כלל הוא עשה איזשהו קטלוג נכון וזה הוא מתחיל לחפש ייקח לו זמן. אחד הבעיות זה שיכול למצוא רפרנס לתשובה הזאתי באיזשהו מקום. ואז הוא יכול לענות על אחד מהתצטרות או דבר כזה כי הוא לא הוא מצאת תשובה סוף כל סוף הוא פשוט הביא אותה איזה שהיא תשובה שמדברת על סטארטאפ פור סטארטאפ. לעומת זאת כשאני עושה קונטקסט נרו אינג אני בא ואומר לו תשמע אל תלך לקרוא לספרייה ענקית התשובה יושבת על המדף הזה הרבה יותר קל לו לקרוא עכשיו את המדף ולהביא תשובה מדויקת. אז זה קצת הדגמה ומה שאנחנו רואים זה שאוקיי אם אני ברמה. מסוימת יכול לצמצם את הקונטקסט וינדו אני לא רק יוזיל תעלויות אני גם ישפר את התוצרים. שזה איך עושים את זה. זה אחלה של שאלה אז יש חברות שיודעות לעשות את זה כי הם יודעות לעשות כל מיני פתרונות של מציאת החומר לפני שאתה בכלל שולח אני יכול להשתמש בשלב ראשון במציאת המידע בעזרת אסלאם שיושב על מערכת עם כל מיני. גרפים של מידע אני יכול לדבר איתו זה בעיה בברינס הקונספט הזה הוא יחסית חדש הוא נקרא דטרמיניסטיק הרנס הוא בא ואומר לא כל דבר צריך לשלוח ללילן קצת הלכנו הוא הייתו מעט שלוש. למוח מאוד חכם ויקר כל הזמן את אותם את השאלות כל הזמן את אותם דברים וגם לצפים שם ספריות ענקיות. דטרמיניסטיק הרנס במגוון נגיעות שונות שיש לו בא ואומר מה שאני יודע מה שאני צריך הוא דטרמיניסטיק אני בכלל לא צריך לשלוח ללילן זה בגדול אבל זה. אנחנו בתחילת תחילת הימים. אם ניקח שתי צעדים אחורה אני חושב שאחד הדברים המון נחמדים שזה נזכרת את זה מקודם יושב בלער הזה. זה משהו ששקנו אותו לדעתי לפני כבר איזה ארבעה חודשים וזה הקייבן. מה זה נזכרת את זה ממש במילה קודם ורציתי לשאול אותך יותר. למי שלא מכיר לדעתי דיברנו על זה גם בפודקאסט אבל מי שלא יצא לו כזה להקשיב מה זה בכלל קייבן. קייבן זה ספריית אופנסור שב ומאפתמת את מה שאת שולחת ללילן בצורה שתתאים ללילן מוריד את כל הטובים המיותרים בוא ניקח את כל הפלאף כל הבוקר טוב שלנו. לוקח את מה שאני כותבת ואולי הרבה יותר מדי תווים ואומר טוב היא בעצם מתכוונה ל-123 מתקשר כמו איש מהרות לכן זה נקרא קייבן אל תתן לי מידע שאני לא צריך. תצמצם את זה דרך אגב זה לא רק ברמת התקשורת הזאת זה אפילו הולך ומתקן את האם דיפייז שלך ואת כל הדאטה קבוע כל החוקים הזה תתקשר כמו.
מחשב, כשיבוא לתקשר בחזרה אלייך, הוא לא מצפה שדריה תבין קייבמנית, הוא ידבר איתך כמו בן אדם. אבל כל האינטרלופים שהוא עושה, ואנחנו היום כשהכל עם ריזינינג, ואנחנו רואים את כמות האינטרלופים שאת פונה, אנחנו בדרך כלל, נתן פקודה לקלוט קורד, הוא לא חוזר אליי לפחות כשהוא עשה ארבע, חמש, שש לופים. כל הלופים האלה הוא יכול לתקשר בצורה הכי בסיסית שיש, וזה דוגמא אחת, עכשיו כמה היא חסכה, אפשר להתווכח על זה, מדברים היום, חמש אחוז, עשר אחוז, חמש עשר אחוז. אני חושבת שקייבמן א' הוא תלוי, הוא דוגמא אחת ויש עוד ספריות, אבל הוא תלוי בסוג היוסקייס, זה סוג הדברים שאנחנו בודקים על הבנצ'מרק שלנו, אבל הוא טוב יותר לאנשי ביזנס, אוקיי, ופחות לסיטואציות של אינג'יניארס, ובאנשי ביזנס, מה שראינו, זה מוריד בערך 60% מלוא את הטוקן של האינפוט, זה מאוד משמעותי. עכשיו, זה משהו שמותמע אוטומטית בכל הארגון, זאת אומרת, אני כדאי לא צריכה להתעסק אחר. astonishing. אנחנו צורבים את זה לתוח הארנס. במנדי אנחנו מרסקים הרבה ארנסים, אז יש הרבה עבודה. כי בסוף אני אומר לך, את רוצה להשתמש בקיירסור, את רוצה להשתמש בקודקס, את רוצה להשתמש בקלוט קוד אנטפריזann, בקולט לניי צי, אני אתן לך להשתמש, ולכן אני צריך לצרוב את זה לכולם. אבל זה חלק מהעבודה של הצוות שלי. בסוף, הרעיון הוא שקייבן הוא שקוף מבחינתך. לכן אני לא צריך להדריך את היוזרים, אלא זה פשוט קורה. לכן זה בשכבה השלישית. והזכרתם כמה פעמים את המנדי בנץ'. כן, בוא נדבר עליו. בוא נדבר על מנדי בנץ'. אז ראינו תעלויות תעולות אקספוננציאליות, ו רנו לנו, רגע, אנחנו צריכים להפתם. וההיפתום, כמובן, בטח לא פה במנדי, ובאופן קטני, אני לא חושב שזה נכון, זה דרך להגביל אנשים. אנחנו עדיין בעיצומה של ה-AI Transformation, אנחנו עדיין רוצים שכולם יתנסו וילמדו בקומת הלמידה. ולכן ההיפתום חייב להיות ברמת התשתיות. מעבר למה שדיברנו על איך לחנך היוזרים משתמש נכון. ואז רנו לנו, רגע, אבל מה זה להפתם? את חייבת איזשהו קו שמולו את מהפתמת. ובעצם זאת הייתה המחשבה עם ירון, שאת מנדי בנץ' אנחנו ניקח 20 פרומפטים שמתארים יום בחיי מנדי. אוקיי? מכל המחלוקות, מכל הסוגים, אינג'ינירים, נאן אינג'ינירים, ואותם אנחנו נריץ. במודלים השונים, בהרנסים השונים, לראות כמה עולה כל משימה. יש שם ה-LLM as a Judge, זו משימה שהיא מושלמת באיכות שאנחנו מסכימים שהיא איכות טובה. כמה זה עולה בכל הרנס ובכל מודל. עכשיו, מה שרואים שם זה דברים מאוד מאוד מעניינים ברגע שהם מריצים את זה. כמובן צריך להריץ את זה פריודית, כי בסוף זה קו בחול, זה סימולציה, זה לא יכול לתאר ב ת יום בחיי מנדי, כי זה דבר מאוד מורכב, מאוד משתנים. ויש אלף יוסקייסים. ויש אלף יוסקייסים, ולכן הדבר הזה הוא סוג של קו בחול שמריצים אותו פעם ראשונה, מקבעים אותו מול הדפולט שיש לנו כרגע בארגון, סתם מדוגמה, יש לנו שם איזשהו דפולט כזה. כמה מצגות עושים במנדי ביום עם ה-LLM, יש לנו מספר 350. זה המספר שהיה באותו, כשהתחלנו את המנדי בנש נכון, אנחנו לא נשנה אותו כי זה הקו בחול שלנו, אבל יש לנו כאילו, הערכת איזה יוסקייסים קוראים, מה זה אומר שהם קוראים, מה הפרומפטים שלהם, וכמה הם קוראים ברחבי הארגון בהרנסים. החשיבות הכי יפה של הדבר הזה זה בעצם שאנחנו מתחילים לדבר cost for value. כי בעצם, אם אני מחבר את אותם 20 משימות כפול שלוש רמות, זה כבר 60 משימות כפול המשקל שלהם. כמו שקרן רה, אני מקבל יום בחיי חברה, הוא תיאורטי, אין עוד יום כזה, אבל זה בכלל לא משנה. אבל יש לי עכשיו קופסה, ואני יודע שנייצר את הקופסה הזאת נניח עולה 50 אלף דולר. אני יכול להריץ את אותה קופסה בדיוק. במודלים שונים? לפני מודלים שונים, פשוט בוא נריץ את זה עכשיו כל שבוע. אוקיי. ועכשיו כל הפעולות שאנחנו עושים כחברה, השקנו קייבנג מעולה, תכניס פנימה. הכנסת מודל ראוטינג שדיברנו, תכניס פנימה. כל פעם שאנחנו עושים התייעלות אנחנו מכניסים, היום אנחנו משתמשים דרך הארנסים ודרך כל הכלים שכבר הכנסנו anyway, זאת אומרת, אנחנו ממש משתמשים בזה כמו משתמש, או האג'נט שלנו שעושה את זה משתמש כמו משתמש. מה שאנחנו רואים, זה שweek over week, בגלל כל העבודה שאנחנו עושים, העלות של אותה קופסה יורד. היא התחילה 60 אלף דולר, ירדה ל-55, היום היא יושבת באזור ה-37 אלף דולר, אנחנו עוקבים אחרי זה. במילים אחרות, במשך הארבעה החודשים האחרונים, לקחנו משימה גנרית, כללית, שלא ב ת קיימת, אבל יום בחיי חברה שהעלה X, והיום היא עולה 60 אחוז X. ואנחנו, כמובן, מנסים להוריד את זה עוד. זה לא אומר, דרך אגב, שההוצ שלנו כחברה יורדת, כי יש פה שימוש הולך וגדל. כן, יכול להיות שמוצאים על דברים אחרים. אבל אנחנו מבינים שהכסף קונה לי יותר. כן, שאנחנו משתמשים בזה בצורה אופטימלית, יחסית למה שהשתמשנו קודם. וגם, ברגע שהתחלנו, זה היינו מאוד מאוד לא מעופתמים, זה גם עוזר לנו.
סימולציות בכלל מה אנחנו צריכים להפתם ואיפה קייבמן לא קייבמן לשינוי מה בכלל צריך איזה מהרמות בכלל צריך להפתם ואיך זה השפיע. אז זה גם ברמה סימולטיבית שרצנו זה פעם שונה והגענו למסקנה שאנחנו רואים אותה מתממשת בפועל של אותו וואלי הוא נניח כל השימוש ביהי במנדי הוא טוב. וזה לא מצב שיש עוד אנשים מתנשאים והכל הכל סבבה אנחנו בעד הכל אבל נניח כל השימוש במנדי טוב. אותו ערך בדיוק אפשר לקבל ב-60% פחות זה מטורף לדעת ואני חושבת שהבנשמאר כזה פנימי פותר שתי בעיות גדולות ששוב אני חושבת רוב מי שמאזין לנו מתמודד או התמודד איתם בעתיד. 1 זה ב ת העובדה שכרגע אין ב ת דרך למדוד בצורה הרמטית ו יתית את ה-ROI הזה שאנחנו מדברים עליו. בכל הארגון זאת אומרת לדעת ממש לקמת כל משימה כמה היא מחזירה לי בחזרה כי השימוש כל כך רחב כי אפשר ב ת לשלוט בדבר הזה אז זה נותן לי איזשהו איזה שהוא כזה ב ת כמו שאומרים קופסה שמדמה לי את הדבר הזה. חלק מהמשימות שאנחנו עושים בחברה העלות המחיר ולא כל כך הבנו את זה בהתחלה הדוגמה נהדרת היא שלפני כמה חודשים משקנו את הסקיל של הפרזנטציות. כן כן כן של פרזנטציות היה בעצם סקיל שדחפנו אותו לכל הכלים שכל פעם שמישהו מבקש פרזנטציה הייתי צא דמן דיווי נכון זה יהיה לו את הפורמט הנכון את הצבעים הנכונים את הברנדינג הנכון. עובד נהדר אני כבר הפסקתי פעם הייתי פותח היום אני כבר עובד רק עם זה כן זה הכי טוב אבל. רנו הרבה היום הארנסים יותר חכמים כבר אוטו בוקס אז היינו ממש צריכים תוקן פיגרית אבל מה שקרה בהתחלה זה שהיית ב בבוקר כותבת היית נחמדה נכון כי רנו שצריך להיות נחמדים לילדים כותבת בוקר טוב. אם הבוקר טוב. האם די פיילס והסקיל שלך היו נשלחים לאלה כן כי כי כי ככה אנשים פעם עבדו היום גם עובדים טיפה יותר חכם אבל הם עבדו ככה כי הם שלחו את המידע בשביל. אנחנו לא יודעים מה זה הבוקר טוב הילדים ידע מה זה הבוקר טוב אבל הבוקר טוב הזה זה דרישה למשהו זה הילדים ידע אני כהרנס פשוט. אני יודע אני אני עושה אקסטרציה של הדברים שאני צריך לעשות לוקח את האם לפעלת עוקבת סקיל מחברת הכל ביחד שולח. קיבלנו בשביל להגיד בוקר טוב כבר לא להגיד היי יותר פשוט איזה חצי תוקן נכון רת ארבע תביא איזה חצי תוקן. כי אז כאילו זה של המצגות יוספתי את המצגת יש לך. זה נכון שאנחנו צריכים לפתח סקיל סלקטור כזה שבודק לראות ושולחת זה הפתרון אבל החלק הראשון זה שברגע שאני מריץ על אותו. עכשיו אני מריץ את הלא פרויקט הכנת מצגות אלא את הסיכום מסמך ופתאום אני רו שסיכום מסמך היום עולה לי יותר משבוע שעבר בדיוק זה בגלל שהכנסתי. להכנת מצגת שלא קשור בכלל לעניין ונגיד שאם לא הייתם מודדים את הדבר הזה כל הזמן לא הייתה לכם בכלל איך אתם חושבים אוספנו סקיל לחברה מגניב שימושי מאוד. ולא הייתם יודעים להגיד שבגלל הדבר הזה פתאום כל ההוצאות החברה יקרו לגמרי אז אז אני אגיד שזה ב ת בעיה נורא נורא גדולה שזה פותר. ועוד בעיה שאני חושבת שכרגע גם מכך המון זמן עד שזה ייפתר זה שב ת אין דבר כזה כרגע בנצ'מרק נכון בתעשייה. לשימוש בעיה היא כאילו שוב אני אני חוזרת להקבלה של מזכורות שזה נורא קל נכון נורא קל לי לדעת כמה חברות אחרות בישראל בעולם נורא קל גם לבדוק את זה משלמות לאנשי מחירות בלבל כזה וכזה. פה אוקיי אם אתה מוצאים 220 מיליון דולר בחודש טוב או לא טוב טוב או לא טוב חברה אחרת מגבילת המפתחים שלה במ דולר לחודש טוב או לא טוב כאילו אין לנו איך לדעת את זה אז אנחנו יכולים בעיקר כרגע. לעשות בנצ'מרק לעצמנו ולהקביל לשימוש שלנו לפני נגיד חודש שבוע ובסוף זה חוזר בעצם לנקודה שדיברנו עליה בתחילת הפרק שדיברנו איך אני מוודא שאני מקבל הכי הרבה שאני יכול בשביל התוקן. כל הפעולות שדיברנו עליהם מי רמת הקומרשל דרך רמת העובדים המשתמשים אבל בעוד מאוד חשוב רמת הארנס איך בונים ארנס חכם שלוקח את כל הכלים האלה ב ת אפשר לעשות. לא פרק סדרה שלמה על כל הכלים ואנחנו ממשיכים להמציא וללמוד ולקרוא על עוד כלים שיוצאים בשוק זה מאפשר לנו פעם אחת ברמה הפנימית פעם שנייה ברמת הלקוחות שלנו. אפרופו מה שרו ר איך אנחנו מורידים אנחנו רוצים בסוף להוציא את הכי הרבה שאנחנו יכולים לעשות מול כל תוקן ואחר כך לדבר האם הפעולה שביצענו יותר נכון שנעשה אותה אם לא לא תמיד לא הכל צריך אחד הדברים שאנחנו מנסים ב ת לראות היום זה. הרבה מאוד פעולות פשוט לא נכונות בגלל שזה לא מספיק כי הדטרמיניסטיות צריכה לקרות פה כי ב ת אפשר לכתוב את זה כקוד אז להשתמש באלה להם בשביל לייצר את הפלוא הדטרמיניסטי האוטומטי אבל אל תפתן את זה לעשות את זה אלה להם יש לו.
לא תרופה לכל צרה, ואני חושב שבהרבה מאוד מקומות, במיוחד ביוזרים יותר בסיסיים, יותר פחות טכנולוגיים, הם פשוט רו, אוקיי, בצענו פה את האורקל מידלפי שיודע לענות על כל שאלה, הם פשוט משתמשים בזה בצורה לא בורה, ואנחנו, אופה, אנחנו לא רוצים להגביל, אנחנו רוצים לפתוח את המחשבה, אנחנו רוצים ב ת שייצרו את הדברים החדשים, אבל שיעשו את זה חכם ושנר ב ת value for money. לגמרי, נר לי שזה, זה כזה, אם המטרה הזאת יצאנו לפרק, ואני מקווה גם שזה מה שאנשים לקחו. קרן, לך יש כזה עוד מחשבות אחרונות? אני רוצה להגיד שמתחילים להיות יותר ויותר בנשמרקים, out there, הם מאוד מוטים. זאת אחת הסיבות שעשינו משלנו. אפילו אנתרופיק, כשהם הוציאו את אופוס 5, אני חושבת, הם פרסמו את הבנשמרק של קרסול, זה נקרא קרסול בנש, הם פרסמו אותו כדי לבוא ולהראות את הcost effectiveness של המודל שלו. כולם מנסים עכשיו לתפוס את הדבר הזה של how do you benchmark, and how do you bring the value for money. יש לנו גישה early access למודלים ברחבי התעשייה, ואנחנו מרצים אותם על הבנשמרק שלנו, והם טובים למנדי. עכשיו יכול להיות, שהתוצאות שאנחנו מקבלות על הבנשמרק של מנדי, היו, הן לא נכונות לחברות אחרות, כי זה בסוף תלוי באופן שימוש. אז זה עולם מתפתח, כשרק התחיל, פשוט מה שאפשר לקחת מהפרק הזה, זה בכלל את התפיסה, של איך לגשת לעניינים האלה. כן, כל השכבות השונות ב ת שאפשר לעשות בהם אופטימיזציה. זה השלב הבא במצ'וריטי. אנחנו לפני שנה דיברנו איך מייצרים יותר שימוש, כן, איך מלמדים את כולם. אנחנו יושבים, לא דיברנו בכלל, וטוב כי היום דיברנו על כלכלה טוקנים, אבל קרן עובדת קשה על כל נושא של ה-internal adoption. מאוד קל לעשות, מאוד קל, הרבה יותר קל לעשות את זה בעולם הפיתוח, בעולמות הפרודקציה, אנשים טכנולוגיים מראש. אנחנו רוצים, אנחנו מחפשים 100% adoption, זה לא אומר ש-100% מהפעולות של כל עובד צריך להיות ב-AI, אבל 100% מהעובדים של מונדי, הציפייה שלנו זה שהם באים, ומשהו במהלך השבוע הם עושים ב-AI, או ש-90% מהעבודה שלהם, או ש-10%, לא יכול להיות אפס. הרבה חברות היו במקום הזה לפני שנה, חלק מהחברות עדיין נמצאות שם, אני מניח שסטארט-אפים הם-AI נייטיב, הם כבר לא נולדים שם, הם לא צריכים לחנך אף אחד, וה-maturity מתחיל להגיע לזה. חבר'ה, זה לא משהו שאין לו… מידי נגמר כזה. כן, העלויות מתחילות לכאוב. אני זוכר, לפני הרבה שנים הייתה לי סטארט-אפ, וכל שבוע היינו מתחילים בדיון, מי טס השבוע? למה? כי טיסות היו אורגות לנו. ידענו שכל טיסה, הרגשנו איך ימים בחיי חברה שיש עם ה… מתקצרים. עם הכסף שהגייסנו, מתקצרים. היום זה המחשבה של אנשים על-AI. אתם מבינים ש-Rogue Agent שבזבז לך 100 אלף דולר בלילה כי לא שלטת עליו, חתך לך ימים מהאורך החיים, מה-runway שלך, ולכן זה סופר קריטי לנהל את זה, להכיר את זה, אבל בסוף, אני אומר, אם אתם עוד לא מסוגלים לבנות, ואין לכם את הזמן או אתם לא חושבים שאתם מספיק גדולים עדיין, שזה גם פייר לבוא ולהגיד בואו נבנה כלים לתוך הארנס, תתחילו להערב את העובדים שלכם שידעו מה הם הוציאו. זה לא לעקר, זה מאוד פשוט לבנות את אותו ווידג'יט, או את אותו גרף שאנשים יהיה להם קל להגיע אליו, לראות כמה הם הוציאו, ואני סומך, יותר מהכל, אני סומך בסוף על ה-common sense של העובדים שלנו, שרוצים שהחברה תצליח, ולכן אנחנו ראינו את הירידה מגידול אקספוננציאלי לגידול, אבל יותר ליניארי, כן. שגם הרבה יותר רגיוני. אז אני מקווה שב ת עוררנו כזאת ה… לא יודעת, את המחשבה הזאת אצל הרבה מאזינים, בעיניי זה נושא מרתק וגם אולי יהיה מעניין להיפגש כזה עוד כמה חודשים לראות… דברים יכולים להשתנות, דברים זוזים מהר. בדיוק, מה עוד זז, מה עוד השתנה בעולם הזה, ונגיד גם שאני מניחה גם שיהיו הרבה שאלות לחבר'ה שמאזינים, ממש ממש נשמח שתשלחו לנו, זה יכול להיות בפייסבוק שלנו, באתר, בלינקטין, באינסטגרם, אנחנו בכל מקום. אז נביא את קרן וירון לענות על כל מה שיהיה. בכיף. ואם אתם רוצים לדעת כל מה שיוצא, פרק חדש, תעכבו אחרינו בכל אחת מהאפליקציות. אז תודה רבה ירון. תודה רבה. ותודה רבה קרן. תודה רבה. ותודה שעזנתם. תודה רבה.