AI נמצא בשימוש נרחב ביצירת חוויות לקוח יחודיות וחברות רבות משתמשות בטכנולוגיה זו על מנת לשפר את החוויה למיליארדי המשתמשים שלהם. החובה הבסיסית שלהן כלפי הלקוחות היא AI אחראי, דהיינו שהחוויה תהיה הוגנת, שוויונית, ונטולת אפלייה, הטייה ודעות קדומות וכמובן באמצעות שימוש חוקי בלבד בטכנולוגיה. נוסף על כך הן צריכות להבטיח אמינות, דיוק ושקיפות, לרבות הסבר על האופן שבו משתמשים ב AI בשביל לשנות את חווית הלקוח וכן אבטחת נתונים ושמירה על הפרטיות על פי הרגולציה העדכנית ביותר.  

המעבר ל AI אחראי הכולל את המאפיינים הללו היא משימה לא פשוטה שכן כל חברת מסחר אלקטרוני מעבדת מידי יום מיליארדי נתונים באמצעות מודולים של AI המנווטים את מסע הלקוחות ואת המערכות התפעוליות של החברה. עם זאת, ההתמודדות עם האתגר היא כדאית לאור העובדה ש-73% מהצרכנים העידו שהם מתכוונים להרחיב את השימוש באפליקציות מבוססות AI בחיי היום יום שלהם. 

חברות המשתמשות ב AI, בין אם במוצר שלהן או באפליקציות שפותחו על ידי ספקים חיצוניים צריכות לוודא שהן מתמודדות עם מספר סוגיות מרכזיות: 

ציות לרגולציה 

כשבודקים אפשרות להטמעת אפליקציה חדשה מבוססת AI בארגון יש לוודא שהיא מצייתת לרגולציה בינלאומית בתחום הפרטיות כמו GDPR של האיחוד האירופי או חוק פרטיות הצרכן של קליפורניה (CCPA). הרגולציות הללו מבטיחות שהאפליקציה מגנה על פרטיות המשתמש, היא מציעה לו שקיפות בכל הנוגע לאופן השימוש בנתונים הפרטיים שלו ומאפשרת לו להביע את הסכמתו או אי הסכמתו לגבי שימושים שונים בדאטה שלו. הטמעת המרכיבים הללו בתהליך הפיתוח של האפליקציה תגן על הארגון מפני הנזקים הכרוכים באי עמידה ברגולציות הללו. 

מודלים לא מדויקים ולא שקופים

על פי סקר של חברת Conversica שיעור של 77% מהמנהלים חוששים שאפליקציות AI יפיקו מידע שגוי והם גם מביעים דאגה שהמודלים הקיימים לא מדויקים ונבנו בצורה לא שקופה. כשמריצים במודלים הפגומים הללו דאטה הנוגע למיליוני משתמשים עלולות להיווצר בעיות בהיקף רחב כולל נזקים כספיים, בזבוז זמן ושחיקה באמון הלקוחות שעלולים לסבול מאפליה, הטיות שונות ועוד. 

סיכוני אבטחה 

אחד הסיכונים הגדולים הכרוכים בשימוש במודלים של AI הוא מתקפות סייבר מכוונות לאלגוריתמים שנועדו לבצע בהם מניפולציות ולהונות אותם, לגנוב מידע רגיש או להשבית את הפעילות העסקית. על פי סקר של Hidden Layer שיעור של 91% ממנהלי ה-IT סבורים שמודלים של AI הם קריטיים להצלחת העסק אך לפי הדו"ח 77% מהחברות חוו פריצה למאגרי הנתונים דרך מודלים של AI. 

חשש מהונאות 

57% מהצרכנים חוששים מהונאות והדבר מחייב לבדוק היטב שאפליקציית ה-AI שבה הארגון משתמש מציבה פרטיות ואבטחה בראש סדרי העדיפויות שלה כמרכיב של AI אחראי. גישה זו תגביר את נאמנות הלקוחות ואת האמון והמעורבות שלהם עם המותג. 

חדשנות תוך נטרול סיכונים

האימוץ המהיר של AI מניע חברות לחתור לחדשנות בכל מחיר גם על חשבון נטילת סיכונים שונים. על פי דו"ח גרטנר לדעת 66% מהמנהלים בארגונים מזהים בבינה מלאכותית יוצרת (Generative AI) סיכונים שונים כמו הפרה של קניין רוחני, פרטיות ואיומי סייבר. חברות המיישמות אסטרטגיה של אתיקה ב- AI יודעות לאזן בין חדשנות מהירה לבין סיכונים הכרוכים בתהליך. 

לאור כל אלה  וכדי לוודא שאנו בוחרים בפתרונות AI אחראיים, הנה רשימת השאלות שאנו צריכים לשאול את עצמנו בעת פיתוח מוצר מבוסס AI או את ספק אפליקציית ה-AI, כאשר אנו רוצים להטמיע אפליקציה חדשה מבוססת AI בארגון:

מה היא גישת ה-AI instance שלך?  

פלטפורמות של AI אחראי מתבססות תמיד על AI instance פרטי המעבדות את הפרומפטים של הלקוח באזור מאובטח. על ספק הפתרון להסביר גם את סוג מודל ה-AI שבו נעשה שימוש, הדאטה שבו השתמש כדי לאמן את המודל ואת מקורותיו ולהסביר את איכות תהליך ההערכה. 

כיצד אתה מטמיע אתיקה ב- AI בתהליך הפיתוח?  

ארגונים המפתחים אפליקציות AI בגישה אחראית מבצעים במהלך הפיתוח בדיקות לזיהוי הטיות ומיישמים שיטות שמבטיחות שהמודלים מאומנים על דאטה איכותי. ספק הפתרון צריך להציג בשקיפות את הדרך שבה המודל מחליט החלטות ולהסביר כיצד הגיע לתוצאה הסופית לרבות כיצד הוא קורא את הדאטה, מעבד אותו ומגיע להמלצות. 

אילו סוגי נתונים אתה אוסף ומעבד ולמי יש גישה אליהם?

על ספק אפליקציית ה-AI להסביר אילו סוגי דאטה הוא אוסף, כיצד הוא מגן על PII ולא חולק מידע אישי רגיש, מידע התנהגותי ועוד, וכיצד הוא משיג אותו. כמן כן עליו להסביר היכן וכיצד הוא מאחסן את הנתונים, כיצד הוא מצפין אותו ואילו אלגוריתמים משמשים להצפנה. מי ספק הענן שלו והיכן נמצאת חוות הענן שבו מאוחסנים הנתונים? כיצד הוא מגן על הנתונים במהלך האחסון ובמעבר בין מערכות מידע? 

באילו מקרים אתה מוותר על השליטה באפליקציה? 

חברות המיישמות גישה של AI אחראי מיישמות מנגנוני בקרה על האופן שבו הן מעבדות מידע של הלקוח. לדוגמא, חברות המיישמות גישה זו, משתמשות בארכיטקטורה stateless שמבטלת את הצורך באחסון נתונים בין אינטראקציות עם המערכת. 

כיצד אתה מגיב בעת פריצה לבסיס הנתונים או כשל במערכת?    

ספק הפתרון צריך להציג את תוכנית התגובה שלו לאירועי סייבר לרבות התהליכים לגילוי הבעיות ולבידוד מקורותיהן. עליו לחשוף את פרוטוקול התקשורת עם הלקוחות ואת מנגנוני השיקום לפתרון מהיר של בעיות. 

AI אחראי כבר אינו בבחינת מותרות אלא מרכיב קריטי באימוץ מוצלח של AI, הפקת ערך מקסימלי ממנו תוך צמצום סיכונים. על פי הסקר של Conversica, רק 28.4% מהמנהלים העסקיים מכירים מקרוב את מדדי ה-AI האחראי של הספקים שלהם. כדי שיצליחו, עליהם לחקור היטב את הסוגיה וליישם AI אחראי במיוחד בכל הנוגע לנתונים רגישים של הלקוחות והתובנות המופקות מהם.