מסגרות ותקנים / גלובלי
ISO/IEC 42001
ISO/IEC 42001 הוא התקן הבינלאומי הראשון הניתן להסמכה למערכת ניהול בינה מלאכותית (AIMS): תהליך הממשל שארגון מפעיל כדי לפתח או להשתמש ב-AI באחריות, וההסמכה היחידה הזמינה כיום להוכיח ממשל AI ללקוח.
מה זה דורש
שפורסם בדצמבר 2023, ISO/IEC 42001 עוקב אחר אותו מבנה מערכת ניהול כמו ISO 27001 (סעיפים 4-10: הקשר, מנהיגות, תכנון, תמיכה, תפעול, הערכת ביצועים, שיפור), כך שארגון עם ISMS פעיל כבר מכיר את צורת המכונה. הדרישות הייחודיות שלו נמצאות בתחום ה-AI: מדיניות AI ותפקידים מוגדרים לממשל AI; זיהוי תפקיד הארגון לאורך מחזור חיי ה-AI (מפתח, ספק, משתמש); הערכת סיכונים וטיפול בסיכוני AI; והערכת השפעה של מערכת AI, השוקלת השלכות ליחידים ולחברה ולא רק לארגון. נספח A מפרט בקרות המכסות תחומים כגון מדיניות AI, ארגון פנימי, משאבים למערכות AI, הערכת השפעה, ניהול מחזור חיי מערכת AI, נתונים למערכות AI, מידע לגורמים מעוניינים, שימוש במערכות AI, ויחסי צד-שלישי וספקים, עם הנחיות יישום בנספח B. הוא ניתן להסמכה על ידי גופי הסמכה מוסמכים במחזור התלת-שנתי המוכר עם ביקורות מעקב. זהו תקן מערכת ניהול, לא מדד בטיחות טכני: הוא אינו אומר לכם באיזה סף דיוק או הטיה המודל שלכם חייב לעמוד; הוא דורש מכם שתחליטו, תתעדו, תצדיקו ותסקרו זאת.
ISO 42001 חל על כל ארגון המפתח, מספק או משתמש במערכות AI, בכל גודל. ההסמכה וולונטרית. הוא נמשך קדימה על ידי שלושה כוחות: לקוחות ארגוניים שהרכש שלהם כולל כעת שאלוני AI ושאין להם הסמכה אחרת לבקש; חוק ה-AI של האיחוד האירופי, היוצר חובות ממשל ותיעוד ש-AIMS מתאים היטב לספק; ודירקטוריונים השואלים מי אחראי על סיכון ה-AI. עבור חברות AI ישראליות המוכרות לארגונים אירופיים או אמריקאיים, הוא הופך במהירות לשווה-ערך ה-AI לבקשת ISO 27001: הדבר שקונה ארגוני מציין כשהוא זקוק להוכחה ולא להבטחות.
הבקרות שאנשים באמת נכשלים בהן
- אין מלאי של מערכות AI בשימוש: כלי LLM פנימיים, ממשקי API של מודלים מוטמעים ותכונות AI של ספקים מאומצים על ידי צוותים ללא רישום מרכזי, כך שה-AIMS מנהל תת-קבוצה של המציאות.
- הערכות השפעה של מערכות AI אינן מבוצעות, או מבוצעות רק עבור מוצר הדגל ולא עבור המודלים המקבלים החלטות בשקט בתוך תהליכי HR, תמיכה או הונאה.
- מקור הנתונים לאימון ולכיוונון עדין אינו מתועד: איש אינו יכול לומר על אילו נתונים המודל אומן, על בסיס חוקי כלשהו, או האם מותר להשתמש בהם מסחרית.
- הארגון אינו יכול לנסח את תפקידו (מפתח, ספק או משתמש) עבור כל מערכת AI, מה שמשאיר את הבקרות והחובות הישימות בלתי מוגדרות.
- פיקוח אנושי מתואר במדיניות אך אינו מיושם: ההחלטה נסקרת באופן נומינלי אך אף אדם לעולם אינו סוקר אותה, ואין ראיות שמישהו יכול היה.
- ספקי AI צד-שלישי וספקי מודלים אינם מוערכים כלל, למרות שהם נושאים את רוב הסיכון בפועל.
- שינויי מודל, אימון מחדש ושינויי prompt עוקפים את ניהול השינויים לחלוטין, כך שהמערכת שהוערכה אינה המערכת בייצור.
מהו ISO 42001 והאם ניתן לקבל הסמכה כנגדו?
ISO/IEC 42001:2023 הוא התקן הבינלאומי המפרט דרישות למערכת ניהול בינה מלאכותית (AIMS): מסגרת הממשל לפיתוח, אספקה או שימוש במערכות AI באחריות. כן, הוא ניתן להסמכה: גופי הסמכה מוסמכים מבקרים כנגדו בביקורת דו-שלבית במחזור תלת-שנתי עם מעקב שנתי, בדיוק כמו ISO 27001. זוהי כיום הסמכת ממשל ה-AI היחידה המוכרת באופן רחב על ידי צד שלישי הזמינה.
האם ISO 42001 הופך אותנו לתואמים לחוק ה-AI של האיחוד האירופי?
לא. ISO 42001 הוא תקן מערכת ניהול וולונטרי; חוק ה-AI של האיחוד האירופי הוא חוק מחייב עם חובות מדורגות-סיכון, והסמכה כנגד ISO 42001 אינה מקנה כשלעצמה חזקת התאמה אליו. מה ש-ISO 42001 עושה הוא לבנות את רוב המנגנון שחוק ה-AI מצפה לו (ניהול סיכוני AI, תיעוד, ממשל נתונים, פיקוח אנושי, בקרת מחזור חיים וניטור לאחר פריסה), כך שארגון מוסמך קרוב באופן מהותי למוכנות לחוק ה-AI ויכול להציג את הממשל שלו ללקוחות היום. התייחסו אליו כאל יסוד חזק והסמכה מסחרית מצוינת, לא כאל קיצור דרך לציות.
כיצד ISO 42001 מתייחס ל-ISO 27001?
הם חולקים את אותה ארכיטקטורת מערכת ניהול (המבנה המתואם, סעיפים 4-10), מה שאומר שארגון עם ISMS פעיל יכול להרחיב אותו במקום להתחיל מחדש: אותה מחויבות מנהיגות, תהליך סיכונים, ביקורת פנימית, סקירת הנהלה ומחזור שיפור עוברים ביניהם, וביקורות יכולות לעיתים קרובות להשתלב. ההבדל הוא במה שהם מנהלים: ISO 27001 מגן על מידע ומנהל סיכון לארגון; ISO 42001 מנהל מערכות AI ודורש מכם להעריך השפעות על יחידים ועל החברה, לא רק על עצמכם.
אנחנו רק משתמשים בספקי AI, איננו בונים מודלים. האם אנחנו עדיין זקוקים לממשל AI?
כן, וזו אי-ההבנה הנפוצה ביותר. ISO 42001 מתייחס במפורש לארגונים המשתמשים או מספקים מערכות AI, לא רק לאלה המפתחים אותן. הסיכונים של מודל שנרכש אינם קטנים יותר, רק פחות נראים. ארגון משתמש עדיין זקוק למלאי של מערכות ה-AI בשימוש, להבנה אילו נתונים זורמים אליהן, הערכות השפעה עבור החלטות שמערכות אלה משפיעות עליהן, פיקוח אנושי היכן שתוצאות משפיעות על אנשים, והערכה של ספקי ה-AI עצמם. ברוב חברות שוק הביניים, ה-AI שנמצא בשימוש בפועל אומץ על ידי צוותים בודדים ומעולם לא נוהל כלל.