logo
מאות פודקאסטים, בלוגים ווידאו
מצאו את התוכן שהכי מתאים לכם
Early stage(259) arrow Growth Stage(139) arrow Ideation(29) arrow Pre-seed/seed(273) arrow Scale/IPO(31) arrow AI(41) גיוס כספים(122) arrow דאטה(52) הנפקה(14) הצלחת לקוחות (CS)(27) arrow השראה(132) חרבות ברזל(12) יסודות(92) מוצר(138) arrow מכירות(40) משאבי אנוש(140) arrow משפטי(29) ניהול(36) עיצוב(27) arrow פיננסים(31) arrow פיתוח(45) קו-פאונדרים(15) שותפויות עסקיות(19) arrow שיווק(111) arrow תפעול(11)

פודקאסט

פודקאסט

רוני בן אהרון ...

פרודקטיבי: איך ״הורגים״ פיצ׳ר? (רוני בן אהרון, Craft.io) 

אנחנו מדברים על איך אפשר להסיר פיצ׳ר מהמוצר שלנו בדרך הנכונה

מוצר
Enter Card האזנה לפרק

בלוג

בלוג

6 דק'

תום רוזן

איך להפוך את ה-AI שלכם לאמין ובטוח יותר

ההיסטוריה גדושה בדוגמאות של טכנולוגיות פורצות דרך, שאמנם חוללו מהפכה בחיינו, אך גם הציגו סיכונים חדשים. סיכונים אלה דורשים מאיתנו תהליכים חדשים, בקרות, רגולציה ואת היכולת לנהל את הסיכונים הללו.

למשל, הופעת הרכב. הוא אמנם שינה את התחבורה ואפילו המריץ צמיחה כלכלית, אך גם הציג סיכונים הקשורים לבטיחות, השפעה על הסביבה ותשתיות. זה הוביל לפיתוח חוקי תעבורה, תקני בטיחות ותקנות פליטות\זיהום לניהול סיכונים אלו. באופן דומה, עליית האינטרנט חוללה מהפכה בתקשורת ובמסחר אך גם הביאה לחששות בנוגע לפרטיות נתונים, אבטחת מידע והפצת מידע מוטעה. עם הזמן, חוקקו תקנות ופותחו תקנים בנושאי פרטיות ואבטחת מידע כדי לטפל בבעיות אלו.

 

בינה מלאכותית היא לא רק מילת באז אלא מציאות שמחלחלת לחיי היומיום שלנו. עסקים מאמצים ומפתחים יותר ויותר מערכות ויכולות בינה מלאכותית כדי להניע חדשנות ויעילות. הם גם מתמודדים עם מערך חדש של סיכונים, החל מדאגות אתיות והטיה בקבלת החלטות ועד לפרצות פרטיות ואבטחה. 

המורכבות של מערכות בינה מלאכותית מציבה אתגרים ייחודיים המחייבים ניהול סיכונים בדיוק כמו בהתקדמות הטכנולוגית בעבר. חיוני לעסקים לטפל באופן יזום בסיכונים הללו כדי לרתום את מלוא הפוטנציאל של בינה מלאכותית תוך הבטחת אחריות אתית, משפטית וחברתית.

 

עם כוח גדול באה אחריות גדולה, והצמיחה המהירה של הבינה המלאכותית מביאה איתה שורה של סיכונים ואתגרים.

 

בבלוג הזה נרחיב על החשיבות של רגולציית בינה מלאכותית לעסקים, את הסיכונים העיקריים הקשורים למערכות בינה מלאכותית, ואת האסטרטגיות לניהול יעיל של סיכונים אלו בכדי להנות מהיכולות של מערכות אלה באופן מאובטח ואחראי.

מתוך ההכרה בצורך של חברות ועסקים בכל הגדלים בגישה סטנדרטית מצד אחד לניצול הכוח של מערכות בינה מלאכותית ומצד שני לאחריות, בטיחות ואבטחה הציג לאחרונה ארגון ה-ISO (אותו ארגון שהביא לנו את שובר השורות ISO 27001) את התקן החדש ISO 42001, התקן הראשון בעולם לניהול מערכות בינה מלאכותית.

 

ISO 42001 הוא התקן הראשון מסוגו, שמטרתו לספק גישה מובנית לניהול הסיכונים וההזדמנויות הקשורים לבינה מלאכותית. התקן לא נועד רק עבור ענקיות טכנולוגיה או מפתחי בינה מלאכותית; כל ארגון המשתמש בבינה מלאכותית יכול להפיק תועלת מהתקן הזה. בין אם מדובר בהבטחת הוגנות, קידום שימוש אתי או בניית אמון מול בעלי עניין פינימיים, חיצוניים, לקוחות ועוד.

כמו כל תקני ה – ISO גם תקן זה בניגוד לרגולציה או חוק (כמו ה - EU AI Act), הוא אופציונלי. המשמעות היא שחברות יכולות לבחור לאמץ אותן על סמך הצרכים והמטרות הספציפיות שלהן, במקום להידרש לכך על פי חוק".

התקן רלוונטי במיוחד עבור:

  • חברות אשר משתמשות במערכות וכלי בינה מלאכותית. חברות אלה יכולות להוכיח את מחויבותם לשימוש אחראי בינה מלאכותית ולהשיג יתרון תחרותי בשוק
  • חברות היוצרות טכנולוגיות ומערכות בינה מלאכותית. חברות אלה יכולות להשתמש בתקן כדי להבטיח שהמוצרים שלהן מפותחים באחריות ועומדים בסטנדרטים אתיים

בלב התקן עומד הדגש על ממשל, מדיניות וניהול סיכונים. התקן מעודד ארגונים להגדיר יעדים ברורים, ליישר אותם עם יעדיים עסקיים ולהקים מערך ניהול בינה מלאכותית (AIMS – AI Management System). תהליך זה כרוך ביצירת מדיניות המתייחסת לשיקולים אתיים, זכויות אדם וערכים, כמו גם הגדרת התפקידים והאחריות של מחזיקי עניין המעורבים בפיתוח והשימוש בבינה מלאכותית בארגון.

 

איך ליישם את התקן?

התקן כולל שני מרכיבים עיקריים: סעיפים ובקרות. 

סעיפים מספקים את המסגרת וניהול של מערכות בינה מלאכותית.

בקרות מציעות שיטות עבודה מומלצות לפיתוח ולתפעול שלהן. 

מהם סעיפי המפתח וכיצד לגשת לתהליך הטמעה של התקן והסמכה?

  1. הבינו את התקן: התחילו בהבנה מעמיקה של התקן והדרישות שלו. זה כולל היכרות עם מבנה התקן, סעיפי המפתח והבקרות המתוארים בתקן.
    1. חברות אשר הטמיעו ISO 27001 או 9001 יכירו את המסגרת והתהליכים העיקריים.
  2. העריכו את מצבכם הנוכחי: הערכת שיטות העבודה, הפיתוח של מערכות בינה מלאכותית וה – AIMS הקיים. זיהוי הפערים יעזור לבנות תוכנית עבודה ברורה אשר תקל על תהליך ההטמעה של דרישות התקן.
  3. הבינו את ההקשר: מה הם הגורמים החיצוניים והפנימיים שעשויים להשפיע על מערכת הבינה המלאכותית, כגון דרישות רגולטוריות ומגמות שוק.
  4. הגדירו את ההיקף: הגדירו בבירור את הגבולות של מערכת ניהול הבינה המלאכותית, תוך ציון אילו מחלקות או תהליכים היא תכסה.
  5. מנהיגות הארגון: הבטיחו מחויבות מההנהלה הבכירה שהם משתתפים באופן פעיל בפיתוח והטמעה של מדיניות הבינה המלאכותית בחברה.
  6. פיתוח מדיניות בינה למאכותית: צרו מדיניות מקיפה המשקפת את גישת החברה לבינה מלאכותית תוך התייחסות לשיקולים משפטיים, אתיים, אבטחת מידע, את הערכים, היעדים והדרישות.
  7. הערכת סיכונים והערכת השלכות: 
    1. זהו סיכונים פוטנציאליים הקשורים למערכות הבינה המלאכותית בפיתוח או בשימוש, כמו: הטיה, פרטיות ואבטחה, ופתח אסטרטגיות ובקרות כדי להפחית את סיכונים אלה.
    2. הערכת השלכות (AI Impact Analysis): בצעו תהליך להבנת ההשלכות האפשריות של מערכות הבינה המלאכותית על מחזיקי העניין השונים, כולל השלכות אתיות, חברתיות וסביבתיות.
  8. הגדירו יעדי בינה מלאכותית: הגדרת יעדים ספציפיים ניתנים למדידה אשר מתאימים למדיניות הבינה המלאכותית וליעדים העסקיים הכוללים של החברה.
  9. הקצאת משאבים: ספקו את המשאבים הנדרשים (כוח אדם, טכנולוגיה, תקציב, ועוד) בכדי לאפשר את קיום ה – AIMS.
  10. הטמעת תהליכים: פיתוח, הטמעה וקיום תהליכים המבטיחים שמערכות הבינה המלאכותית פועלת ביעילות ועומדת במדיניות ויעדים שנקבעו.
  11. הערכת ביצועים: עקבו והעריכו באופן קבוע את הביצועים של ה – AIMS, תוך שימוש ביעדים מדדים שהוגדרו מראש. ניתן לממש ע"י ביצוע ביקורות פנימיות, ביקורות אלה יעזרו להעריך את האפקטיביות של ה – AIMS.
  12. שיפור מתמיד: השתמש במשוב והערכות ובנתוני ביצועים כדי לזהות אזורים לשיפור ולבצע התאמות נחוצות ל – AIMS.
  13. סקר הנהלה: ערכו סקרי הנהלה תקופתיים כדי להעריך את הביצועים הכוללים של ה – AIMS. דונו בכל שינוי או שיפורים שעשויים להידרש.