מהו תקן ISO/IEC 42001:2023?
מערכת לניהול אחראי ומבוקר של בינה מלאכותית
ISO/IEC 42001:2023 נועד לסייע לארגונים לפתח, לספק ולהשתמש במערכות בינה מלאכותית באופן אחראי, מבוקר ושיטתי.
התקן מגדיר דרישות להקמה, ליישום, לתחזוקה ולשיפור מתמיד של מערכת ניהול בינה מלאכותית – Artificial Intelligence Management System (AIMS).
מטרתו לאפשר לארגון ליהנות מהיתרונות של הבינה המלאכותית, תוך ניהול הסיכונים וההשפעות הקשורים לשימוש בה. התקן עוסק, בין היתר, באחריות ניהולית, שקיפות, איכות נתונים, אבטחת מידע, הגנת הפרטיות, הטיות, בטיחות, פיקוח אנושי ומעקב אחר ביצועי מערכות AI לאורך מחזור חייהן.
ISO/IEC 42001:2023 הוא התקן הבינלאומי הראשון למערכת ניהול בינה מלאכותית.
למי מתאים התקן?
התקן מתאים לארגונים מכל גודל ומכל תחום פעילות אשר:
-
מפתחים מערכות או מודלים של בינה מלאכותית.
-
משלבים בינה מלאכותית במוצרים או בשירותים.
-
משתמשים בבינה מלאכותית לצורך קבלת החלטות או אוטומציה.
-
מספקים שירותי AI ללקוחות.
-
משתמשים במערכות AI המסופקות על ידי גורמים חיצוניים.
-
מפתחים או מפעילים מערכות בינה מלאכותית יוצרת.
-
מספקים נתונים, שירותי ענן, תשתיות או רכיבים למערכות AI.
-
מבקשים להציג ללקוחות ולשותפים ניהול אחראי ומבוקר של בינה מלאכותית.
התקן מתאים לחברות טכנולוגיה, גופים פיננסיים, ארגוני בריאות, חברות תעשייה, מוסדות ציבוריים, חברות שירותים, עמותות וארגונים אחרים המפתחים או משתמשים במערכות AI.
מהי מערכת ניהול בינה מלאכותית?
מערכת ניהול בינה מלאכותית היא מכלול של מדיניות, תהליכים, תפקידים, בקרות ומסמכים המסדירים את האופן שבו הארגון מפתח, רוכש, מפעיל ומנטר מערכות AI.
המערכת נועדה להבטיח כי השימוש בבינה מלאכותית אינו מתבצע באופן בלתי מבוקר, אלא בהתאם למטרות שהוגדרו, לסיכונים, להשפעות האפשריות ולדרישות החלות על הארגון.
מערכת הניהול כוללת את כל מחזור החיים של מערכת הבינה המלאכותית: החל מהגדרת הצורך והמטרה, דרך בחירת הנתונים, הפיתוח, הבדיקות וההטמעה, ועד לניטור, לשינויים ולהפסקת השימוש במערכת.
מדוע ארגונים מיישמים ISO/IEC 42001?
יישום התקן עשוי לסייע לארגון:
-
לקבוע מדיניות ברורה לפיתוח ולשימוש בבינה מלאכותית.
-
להגדיר אחריות וסמכות בנוגע למערכות AI.
-
לזהות ולנהל סיכונים והזדמנויות.
-
לבצע הערכת השפעה של מערכות בינה מלאכותית.
-
לשפר את השקיפות והיכולת להסביר כיצד המערכת משמשת.
-
לנהל את איכות הנתונים המשמשים לפיתוח ולהפעלת המערכת.
-
לזהות ולטפל בהטיות ובתוצאות בלתי רצויות.
-
לקבוע מנגנוני פיקוח ומעורבות אנושית.
-
לנטר את ביצועי המערכת לאחר הפעלתה.
-
לנהל ספקים ומערכות AI המסופקות על ידי צדדים חיצוניים.
-
לטפל באירועים, בתקלות ובאי־התאמות.
-
לחזק את אמון הלקוחות, העובדים והשותפים העסקיים.
-
לתמוך בהיערכות לדרישות משפטיות, רגולטוריות וחוזיות.
-
להציג ניהול אחראי של בינה מלאכותית במסגרת מכרזים ואישורי ספקים.
יישום התקן אינו מבטיח שמערכת הבינה המלאכותית תהיה נקייה לחלוטין משגיאות, מהטיות או מסיכונים. הוא מספק מסגרת ניהולית לזיהוי, להערכה, לבקרה ולשיפור של הסיכונים וההשפעות.
הקשר ל־ISO/IEC 27001 ול־ISO 9001
ISO/IEC 27001:2022 מתמקד בניהול אבטחת מידע, ואילו ISO/IEC 42001 מתמקד בניהול מערכות בינה מלאכותית ובהשפעותיהן.
ISO 9001 מתמקד בניהול איכות, תהליכים ושביעות רצון לקוחות.
ניתן לשלב בין מערכות הניהול וליישם תהליכים משותפים, כגון בקרת מסמכים, ניהול סיכונים, מבדקים פנימיים, סקר הנהלה, טיפול באי־התאמות ושיפור מתמיד.
שלבי ההכנה להתעדה
-
הגדרת היקף מערכת ניהול הבינה המלאכותית.
-
מיפוי מערכות AI, ספקים, נתונים ושימושים.
-
בדיקת פערים מול דרישות התקן.
-
הגדרת בעלי עניין ודרישות רלוונטיות.
-
קביעת מדיניות ומטרות AI.
-
הגדרת תפקידים ותחומי אחריות.
-
ביצוע הערכת סיכונים.
-
ביצוע הערכות השפעה למערכות הרלוונטיות.
-
בחירת בקרות והכנת הצהרת ישימות.
-
כתיבת נהלים, טפסים ורשומות.
-
הטמעת תהליכי ניהול נתונים ומחזור חיים.
-
הדרכת עובדים ובעלי תפקידים.
-
קביעת מדדים ותהליכי ניטור.
-
ביצוע מבדק פנימי.
-
ביצוע סקר הנהלה.
-
טיפול בממצאים וביצוע פעולות מתקנות.
-
הכנת הארגון וליוויו במבדק ההתעדה.
הסמכה לתקן ISO/IEC 42001:2023
ההסמכה ניתנת למערכת ניהול הבינה המלאכותית של הארגון ולא למודל או למוצר מסוים. היא אינה מהווה הבטחה שכל מערכת AI של הארגון מדויקת, בטוחה או עומדת בכל דין.
ISO מפרסם את התקן, אך אינו מנפיק תעודות. מבדק ההתעדה מבוצע על ידי גוף התעדה עצמאי ובהתאם להיקף מערכת הניהול שהוגדר.
רוצים להכין את הארגון ל־ISO/IEC 42001:2023?
אנו מעניקים ליווי מקצועי הכולל בדיקת פערים, מיפוי מערכות AI, הערכת סיכונים והשפעות, כתיבת נהלים, הכנת הצהרת ישימות, ביצוע מבדק פנימי והכנת הארגון למבדק ההתעדה.
