מי אחראי כאשר מערכת בינה מלאכותית גורמת נזק?

האחריות למערכות בינה מלאכותית בהולנד תמיד נופלת על אדם או חברה, לעולם לא על התוכנה. שתי עמדות חשובות בפועל: המשתמש, כלומר האדם או הארגון שפורס את המערכת ומקבל החלטות איתה, והיצרן, כלומר הגורם שפיתח את המערכת, הוציא אותה לשוק או סיפק אותה. מי מבין השניים נושא בנזק תלוי היכן נמצא הכשל, מה ידע כל אחד מהם ומה קובע החוזה ביניהם. מאמר זה עוסק בשתי העמדות; מסגרת המשפט הפלילי עצמה, החל מביצוע פונקציונלי ועד לאחריות תאגידית לפי סעיף 51 לחוק הפלילי, מפורטת במאמר הנלווה שלנו העוסק בשאלה האם אלגוריתם יכול להיות אחראי חלקית.

למה המערכת אף פעם לא הנתבעת

החוק ההולנדי מכיר בשני סוגים של אנשים: אנשים פרטיים ואנשים משפטיים. מערכת בינה מלאכותית אינה אף אחת מהן. היא אינה יכולה להחזיק בזכויות, לא ניתן לזמן אותה, לא ניתן לקנוס אותה ולא ניתן לחייב אותה לשלם פיצויים, משום שאין לה שום דבר ואין לה קיום משפטי נפרד מהחברה שמנהלת אותה. הצעות ליצירת קטגוריה שלישית, המכונה לעתים אישיות אלקטרונית, נידונו ברמה האירופית ולא הובילו לשום מקום, מסיבה מעשית יותר מאשר פילוסופית: רכב אחריות ללא נכסים וללא יכולת לשנות את התנהגותו יעביר את הסיכון הרחק מהצדדים שיכולים בפועל למנוע נזק.

לכן השאלה לעולם אינה האם המכונה אחראית. השאלה היא איזה שחקן אנושי או תאגידי בשרשרת נכשל במילוי חובה, ולשרשרת הזו יש צורה צפויה: הצד שבנה את המודל, הצד שהפך אותו למוצר, הצד שסיפק או שילב אותו, הארגון שפרס אותו, והפרט שלחץ על הכפתור. אחריות עבור מערכות בינה מלאכותית היא תהליך של איתור הכשל בשרשרת זו והתאמתו לבסיס משפטי.

שניים מהבסיסים המשפטיים הללו שולטים. עבור המשתמש, דיני הנזיקין הכלליים וחובת הזהירות שמגיעה עם שימוש בכלי רב עוצמה לטובת מישהו אחר. עבור היצרן, אחריות מוצר, שאינה דורשת כלל אשמה. כל השאר, כולל חשיפה פלילית, מתנוסס על גבי אלה.

מיקום המשתמש

משתמשים ממעיטים בערכם של חשיפותיהם משום שהם חושבים על המערכת כקופסה שחורה שמישהו אחר בנה. בחוק, האדם שבוחר לפרוס כלי, מגדיר אותו, מזין אותו לנתונים ופועל על סמך הפלט שלו, עושה משהו, ועשייה זו נבחנת לגופה.

כאשר המערכת היא בסך הכל כלי של עבירה

המקרים הקלים ביותר הם אלה שבהם נעשה שימוש מכוון במערכת בינה מלאכותית. יצירת חשבונית משכנעת כדי להונות חברה מהווה הונאה לפי סעיף 326 לחוק הפלילי, בין אם המכתב נוסח על ידי אדם או על ידי דוגמן, וזיוף מסמך נותר זיוף לפי סעיף 225 ללא קשר לכלי. שימוש במודל לכתיבת קוד שפורץ למערכת עדיין מהווה חדירה למחשב לפי סעיף 138ab. יצירה והפצה של תמונות מניפולטיביות של אדם אמיתי יכולים להיחשב כהוצאת דיבה, וכאשר החומר הוא בעל אופי מיני, הוא נופל תחת העבירות בחוק עבירות מין שחל מאז 1 ביולי 2024. הטרדה מתמשכת של אדם בסיוע בינה מלאכותית יכולה להיחשב כעקיפה לפי סעיף 285b, אשר מועמדת לדין רק על פי תלונה של הקורבן.

שום דבר מזה אינו חוק חדש. הטכנולוגיה משנה את היקף ההונאה ואת סבירותה, לא את מרכיבי העבירה. מה שהיא כן משנה הוא הראיות: הנחיות, יומני חשבון, פלטי מודל ותזמון יצירת הקובץ הם החומר שקושר את העבירה לאדם, ומשתמשים שמניחים שתוכן שנוצר על ידי בינה מלאכותית אינו ניתן למעקב טועים בדרך כלל.

שימוש רשלני: הסיכון הנפוץ יותר

הרבה יותר ארגונים נקלעים לצרות עקב רשלנות מאשר עקב כוונה. הדפוס מוכר. מערכת נרכשת למטרה אחת ומשמשת לאחרת. התפוקה שלה מתייחסים אליה כאל החלטה ולא כאל איתות. איש אינו בודק את המקרים שבהם היא שגויה, משום שהאנשים המפעילים אותה מעולם לא קיבלו תיעוד של שיעור השגיאות שלה או היכן היא נכשלת. כאשר הנזק מתממש, הארגון מגלה שאין לו תיעוד של אופן קבלת ההחלטה.

במונחים אזרחיים, זוהי עוולה פשוטה: סעיף 6:162 לחוק האזרחי מטיל על אדם אחריות על מעשה בלתי חוקי המיוחס לו וגורם נזק. הפרת חובת זהירות בחברה היא אחת הקטגוריות של אי חוקיות, ותוכנה של חובה זו נקבע על ידי מה שהיה עושה פעיל זהיר באותו תפקיד. מעסיק אחראי בנוסף לתקפות עובדיו לפי סעיף 6:170, וצד המשתמש בעוזר לביצוע התחייבות חוזית אחראי עבור אותו עוזר לפי סעיף 6:76, שהוא הסעיף התופס ארגון המשתמש במודל של ספק כדי לספק שירות משלו.

חובת הזהירות אינה עוד נותרת אך ורק בידי בתי המשפט להמציא. חוק הבינה המלאכותית של האיחוד האירופי מעניק לפורסי מערכות בסיכון גבוה חובות קונקרטיות: להשתמש במערכת בהתאם להוראות, להקצות פיקוח אנושי לאנשים בעלי הסמכות והכשירות לממש אותו, להבטיח שנתוני הקלט שבשליטתם רלוונטיים, לנטר את הפעולה ולהשעות את השימוש במקרה של סיכון, לשמור יומני רישום ולהודיע ​​לעובדים ולנציגיהם לפני פריסת מערכת כזו במקום העבודה. חובות אלו הן רגולטוריות, אך בית משפט הבוחן רשלנות יקרא אותן כתיאור של איך נראית התנהגות זהירה. ארגון שהתעלם מהוראות השימוש אינו רק לא עומד בדרישות; הוא הגיש לתובע את תביעתו.

הטיה של אוטומציה ראויה לאזכור נפרד משום שזה המקום שבו הפיקוח נכשל בשקט. מבקר שמאשר כמעט כל דבר שהמערכת מציעה אינו מפעיל פיקוח, וארגון שמודד את תפוקת הצוות שלו עיצב למעשה את התוצאה הזו. השאלה המשפטית היא האם החלטה אנושית התקבלה באמת, וחותמת גומי אינה עומדת בקריטריונים.

כאשר המשתמש אינו יכול להעביר את הסיכון

שלוש נקודות מפתיעות באופן קבוע ארגונים שהניחו שהספק נושא בסיכון.

ראשית, כלפי הצד השלישי שנפגע, המשתמש הוא הצד הנראה לעין. לקוח שסירב לקבל אשראי, עובד שנדחה על ידי כלי סינון, מטופל שמקבל מיון שגוי: הם מתקשרים בחוזה עם הספק או מטופלים על ידו, והם יתבעו את הספק. האם הספק יכול לקבל פיצויים מהספק שלו היא שאלה נפרדת שתלויה בחוזה ואינה מעכבת את התביעה נגדו.

שנית, כללי הגנת המידע הכלליים חלים באופן בלתי תלוי בכל דבר אחר. אם המערכת מעבדת נתונים אישיים, הפריס הוא בדרך כלל הבקר, האחראי על הבסיס המשפטי, השקיפות, הערכת ההשפעה והאבטחה. החלטה המתקבלת אך ורק באמצעים אוטומטיים אשר יוצרת השלכות משפטיות או משפיעה באופן דומה באופן משמעותי על אדם מוסדרת בנפרד ומעניקה לאדם זה זכות להתערבות אנושית ולערער על התוצאה. הסקירה שלנו של תקנת הגנת המידע הכללית קובעת משטר זה.

שלישית, שינוי משנה את תפקידך. פורס ששמות את שמו על מערכת, משנה את ייעודה המיועדת, או משנה אותה באופן מהותי הופך לספק במסגרת חוק הבינה המלאכותית ויורש את חובות הספק. כוונון עדין של מודל למטרות כלליות לכלי סינון לקבלת החלטה מוסדרת הוא בדיוק סוג הצעד שחוצה את הגבול הזה. ארגונים הבונים על מודל של מישהו אחר צריכים לקבוע באיזה צד שלו הם נמצאים לפני שהם משיקים, לא אחרי תקרית.

עמדתו של המפיק

החשיפה של היצרן עוברת במסלול שונה, והיא מחמירה יותר. אחריות מוצר לפי סעיפים 6:185 ואילך לחוק האזרחי הופכת את היצרן לאחראי לנזק שנגרם מפגם במוצר שלו מבלי שהצד הנפגע יצטרך להוכיח אשמה. מוצר נחשב פגום כאשר הוא אינו מציע את הבטיחות שאדם זכאי לצפות לה, בהתחשב בהצגתו, בשימוש שניתן לצפות בו באופן סביר ובזמן בו הוכנס למחזור. על התובע להוכיח את הנזק, את הפגם ואת הקשר הסיבתי ביניהם, ובמקרה של בינה מלאכותית, זהו הקרב האמיתי.

למשטר יש מגבלות קבועות. יש להגיש תביעות תוך שלוש שנים מהיום שבו הצד הנפגע נודע, או היה עליו להיות מודע, לנזק, לפגם ולזהות היצרן, והזכות פוקעת עשר שנים לאחר שהמוצר הספציפי הוכנס למחזור. אחריות במסגרת משטר זה אינה ניתנת לשלילה או להגבלתה באמצעות חוזה, והיא מכסה מוות, פגיעה גופנית ונזק לרכוש אחר בשימוש פרטי, בכפוף לסף נמוך יותר. ליצרן יש מערך מוגבל של הגנות, כולל הגנת סיכון פיתוח, החלה כאשר מצב הידע המדעי והטכני בזמן ההפצה לא היה יכול לחשוף את הפגם.

הרפורמה שמשנה את מעמדה של תוכנה

תחת המשטר ההולנדי הנוכחי, מוצר הוא דבר נייד, והשאלה האם תוכנה עצמאית עומדת בקריטריונים נידונה במשך שנים. ויכוח זה עומד כעת להסתיים. הוראת אחריות המוצר המתוקנת, הוראת (EU) 2024/2853, נכנסה לתוקף ב-8 בדצמבר 2024 ויש להטמיע אותה בחוק הלאומי עד ה-9 בדצמבר 2026; היא חלה על מוצרים המוצעים לשוק או מוכנסים לשירות לאחר תאריך זה, כך שההוראות הנוכחיות של הקוד האזרחי ממשיכות לשלוט במוצרים המופצים לפניה. ארבעה שינויים חשובים בנוגע לאחריות למערכות בינה מלאכותית.

תוכנה, כולל מערכות בינה מלאכותית וקבצי ייצור דיגיטליים, היא במפורש מוצר. מעגל האחראים מתרחב מעבר ליצרן וכולל את הגורם שמשנה באופן מהותי מוצר שאינו בשליטת היצרן, הנציג המורשה, היבואן, ובנסיבות מוגדרות, את ספק שירותי הביצוע ואת הפלטפורמה המקוונת. נזק בר-השבה מורחב להשמדה או פגיעה של נתונים שאינם בשימוש מקצועי, וזוהי קטגוריה אמיתית של הפסד בכשלים בתוכנה. ומוצר יכול להיות פגום בגלל מה שקורה לאחר שהוא מוצע לשוק: פגם בעדכון תוכנה נדרש, כשל באספקת עדכוני אבטחה, או השפעות של למידה מתמשכת כאשר היצרן שמר עליו שליטה.

הרפורמה תוקפת גם את בעיית הראיות באופן ישיר. בית משפט יכול להורות לנתבע לחשוף ראיות רלוונטיות לבקשת התובע, ואם הנתבע אינו עומד בדרישות, קיימת חזקה של פגם. חזקות ניתנות לסתירה של פגם וקשר סיבתי חלות כאשר התובע נתקל בקושי מוגזם בהוכחתן עקב מורכבות טכנית או מדעית, ובלבד שהתובע מציג את הסבירות הסבירות. עבור תובע המתמודד עם מודל שאיש אינו יכול להסביר במלואו, זהו ההבדל בין מקרה בר ויכוח לבין מקרה בלתי אפשרי.

חוזה, התאמה ומגבלות סעיפי החרגה

בין עסקים, שדה הקרב הראשון הוא בדרך כלל החוזה ולא החוק. ספק של מערכת בינה מלאכותית חייב את מה שהסכים לחייב: המערכת המסופקת חייבת להתאים לחוזה ולהיות בעלת התכונות שהקונה היה זכאי לצפות להן. כאשר ספק הבטיח רמת דיוק, רמת זמינות או עמידה בחוק הבינה המלאכותית, אי אספקתה מהווה הפרת חוזה, והסעדים הרגילים של ביצוע, נזקים ופירוק באים לאחר הודעה מתאימה על הפרה.

ספקים מגיבים באמצעות סעיפי הגבלה והדרה, וסעיפים אלה בדרך כלל בתוקף בין צדדים מסחריים. הם אינם בלתי מוגבלים. ניתן לבטל סעיף כאשר הסתמכות עליו אינה מקובלת על פי סטנדרטים של סבירות והגינות, שהוא המסלול שבו נוקטים בתי המשפט במקרים של פזיזות מכוונת או אשמה חמורה מצד הספק, וכאשר הסעיף הוא באופן כללי, הוא עלול להיכשל אם לצד השני מעולם לא ניתנה הזדמנות אמיתית לשים לב אליו. לא ניתן לבטל את האחריות במסגרת משטר אחריות המוצר כלל כלפי הצד הנפגע. בפועל, המשא ומתן עוסק במגבלות, חריגים בגין פרצות נתונים והפרת קניין רוחני, פיצויים בגין קנסות רגולטוריים וחובת הספק לספק את התיעוד והיומנים הדרושים ללקוח כדי להגן על עצמו. הדף שלנו בנושא תביעות פיצויים מפרט כיצד בנויות תביעות אלה.

מה חוק הבינה המלאכותית עושה ומה לא עושה

חוק הבינה המלאכותית הוא כלי רגולטורי. הוא מורה לספקים ולמפעילים מה לעשות ומעניק למפקחים סמכויות לאכוף אותו; הוא אינו יוצר זכות לפיצוי לאדם שנפגע ממערכת בינה מלאכותית. הוראת האחריות המוצעת בנוגע לבינה מלאכותית, שהייתה מתאימה תביעות אזרחיות ומכניסה גילוי וחזקות באופן גורף, בוטלה. מה שנותר הוא השילוב שתואר לעיל: דיני נזיקין וחוזים לאומיים, בתוספת משטר אחריות המוצרים המתוקן.

זה לא הופך את חוק הבינה המלאכותית ללא רלוונטי לאחריות. הוא חשוב בשלוש דרכים. הוא קובע את רמת הזהירות, כך שאי ציות מהווה ראיה לרשלנות. הוא מייצר מסמכים, משום שהתיעוד הטכני, הוראות השימוש, יומני הרישום וקובץ הניטור לאחר השיווק - כולם קיימים על פי חוק וניתן לדרוש אותם בהליכים. והוא מקצה תפקידים, כך שהשאלה מי הספק ומי המפרס, שבעבר הייתה נושא לוויכוח, מקבלת כעת תשובה משפטית. משרד עורכי הדין שלנו בתחום ה-IT עוסק בשאלות סיווג אלו לפני שהן הופכות לסכסוכים.

המקום בו משתמש ויצרן נפגשים

רוב התקריות האמיתיות אינן נגרמות מכשל יחיד בקצה אחד של השרשרת. הן נגרמות על ידי מודל שאומן על נתונים שלא ייצגו את האוכלוסייה עליה הוא יושם, משולב על ידי ספק שלא בדק אותו בהקשר זה, מופעל על ידי ארגון שהשתמש בו למטרה שההוראות לא כיסו, ומופעל על ידי צוות שמעולם לא נאמר לו מהן מגבלותיו. לחוק ההולנדי אין קושי בכך: מספר צדדים יכולים להיות אחראים לאותו נזק, כל אחד אחראי לכולו כלפי הצד הנפגע, והם מסדירים את החלוקה הפנימית ביניהם לאחר מכן בהתאם לתרומותיהם.

הטבלה שלהלן מפרטת היכן נמצאת בדרך כלל האחריות ועל איזה בסיס.

פרשת קצבאות הטיפול בילדים בהולנד היא נקודת ההתייחסות שאליה חוזר כל דיון הולנדי, והיא ממחישה את הדפוס ולא שלטון חוק: מערכת סיווג סיכונים אטומה, החלטות המתקבלות על התפוקה ללא הערכה אישית אמיתית, והשלכות שנפלו לחלוטין על האנשים שנפגעו. ההשלכות המשפטיות שלה היו אדמיניסטרטיביות ופוליטיות ולא פליליות, ואנו דנים במה שהיא מראה ומה לא מראה בנוגע לאחריות פלילית במאמר שלנו על בינה מלאכותית ומשפט פלילי.

בעיית הראיות, וכיצד היא משתנה

מי שמגיש את התביעה צריך להוכיח אותה, ובמקרים של בינה מלאכותית, ההוכחה היא החלק הקשה. התובע צריך להראות מה המערכת עשתה, מדוע זה היה לא בסדר, ושהטעות גרמה לנזק. המידע הדרוש לשם כך נמצא בידי הנתבע, ובמודל מורכב ייתכן שיהיה קשה באמת לשחזר אותו אפילו באופן פנימי.

שלוש התפתחויות משנות את האיזון הזה. רישום הוא כעת דרישה חוקית עבור מערכות בסיכון גבוה, כך שהרישום שבעבר היה אופציונלי חייב להתקיים. גילוי ראיות בתביעות אחריות מוצר הופך לזמין במסגרת המשטר המתוקן, מגובה בחזקת פגם כאשר הנתבע אינו עומד בדרישות. וההליך האזרחי ההולנדי כבר מאפשר לצד לדרוש הצגת מסמכים מזוהים ספציפיים שיש לו בהם עניין לגיטימי, המשמשים באופן קבוע להשגת דוחות בדיקה, יומני אירועים והערכות סיכונים פנימיות.

עבור נאשם, המסקנה המעשית אינה נוחה אך ברורה: התיעוד שאתם שומרים הוא התיעוד שיוקרא נגדכם, והתיעוד שלא שמרתם יוחזק גם נגדכם. תיעוד מלא, מתוארך וכנה של בדיקות, מגבלות ידועות, אירועים וטיפול בהם הם ההגנה החזקה ביותר הזמינה, משום שהם מראים שהארגון הפעיל שיקול דעת במקום לקוות לטוב ביותר. כאשר לאירוע יש גם ממד פלילי, למשל גישה בלתי מורשית למערכות או מניפולציה של נתונים, המסגרת הפלילית לפשע מחשב ופשעי סייבר בהולנד חלה לצד התביעה האזרחית, וחקירה פלילית תתפוס בדיוק את אותו חומר.

מערכות אוטונומיות בעולם הפיזי

כאשר מערכת בינה מלאכותית מנווטת רכב, מטיסה רחפן או מזיזה זרוע רובוטית, חלה שכבת אחריות נוספת, והיא בדרך כלל מחמירה יותר מכל מה שנדון עד כה. נזק פיזי מושך אחריות סיכון, שאינה שואלת האם מישהו היה רשלני.

עבור כלי רכב מנועים, סעיף 185 לחוק התעבורה משנת 1994 מטיל על בעל הרכב או המחזיק בו אחריות לנזקים שנגרמו להולכי רגל ולרוכבי אופניים, אלא אם כן היה מדובר בכוח עליון, סטנדרט שקשה מאוד לעמוד בו. כלל זה אינו אדיש לשאלה האם מערכת סיוע אנושית או מערכת סיוע לנהג הייתה זו שהגתה: המחזיק עונה ראשון, וכל תביעה נגד יצרן התוכנה תגיע לאחר מכן. בדיקת כלי רכב אוטונומיים באמת בכבישים ציבוריים דורשת היתר במסגרת חקיקת הניסויים ההולנדית הייעודית, והתנאים המצורפים להיתר זה, כולל נוכחותו ותפקידו של מפקח, הופכים לחלק מסטנדרט הזהירות.

כלי טיס בלתי מאוישים כפופים לתקנות האירופיות בנוגע לרחפנים, כאשר רישום מפעילים ודרישות תלויות קטגוריה מנוהלים בהולנד על ידי Rijksinspectie Digitale Infrastructuur. מפעיל שטס מחוץ לקטגוריה שלו, או ללא הכשירות הנדרשת, לא רק מפר את חוקי התעופה; הוא גם חורג מההתנהגות שבית משפט היה מכנה זהירה, מה שפותר את שאלת הרשלנות עוד לפני שהדיון הטכני על הטייס האוטומטי מתחיל.

לצד משטרים אלה עומד הכלל הכללי בנוגע לאובייקטים פגומים. בעל חפץ נייד שאינו עומד בתקנים שניתן לקבוע עבורו, ובכך יוצר סכנה מסוימת, אחראי לנזק שהסכנה גורמת. כלל זה מגיע למכונה הפיזית גם כאשר התקלה הבסיסית היא בתוכנה שלה, וזו אחת הסיבות לכך שבעלים של רובוט תעשייתי או מערכת מחסן אוטומטית אינו יכול פשוט להצביע על הספק. כאשר חל משטר אחריות המוצר, שתי המערכות מקיימות אינטראקציה, והצד הנפגע יפעל בדרך כלל לפי המסלול הקל ביותר להוכחה.

התוצאה המעשית עבור ארגונים המפעילים מכונות עם פונקציות אוטונומיות היא שיש לארגן ביטוח וחוזים סביב האחריות המוחלטת, ולא סביב ניתוח המבוסס על אשמה. כדאי לנקוט בתביעה כנגד הספק, אך היא אינה מונעת מהתביעה להגיע לפתח ביתכם ראשונה.

הפחתת החשיפה משני הצדדים

האמצעים המפחיתים את האחריות על מערכות בינה מלאכותית הם אותם אמצעים שגורמים למערכות לפעול כראוי, ולכן כדאי לנקוט בהם ללא קשר ללוח הזמנים הרגולטורי.

עבור ארגון פריסה, התחילו עם רשימת המלאי: אילו מערכות נמצאות בשימוש, מי סיפק אותן, מה הוא מחליט או משפיע עליהן, ומי מפעיל אותן. קבעו את תפקידכם עבור כל אחת מהן, מכיוון שתפקידי הספק והפרוס שונים. לאחר מכן רשמו את המטרה המיועדת והישארו בתוכה; הסיבה הנפוצה ביותר לאחריות שניתן להימנע ממנה היא שימוש בכלי למשהו שהוא לא אושר עבורו. תנו לאנשים המפעילים את המערכת סמכות אמיתית לעקוף אותה, ומדדו אותם על פי שיקול דעת ולא על פי נפח. שמרו את היומנים, ושמרו אותם מספיק זמן כדי שיהיו שימושיים במחלוקת. תעדו את האירועים, כולל התקריות הכמעט מוחלטות, ותעדו מה נעשה בנידון.

עבור יצרן או ספק, הרשימה המקבילה עוברת לאורך מחזור החיים: ניהול סיכונים מתועד, ניהול נתונים שניתן להסביר לרגולטור, בדיקות מול האוכלוסייה שעליה המערכת תופעל בפועל, הוראות שימוש כנות לגבי מגבלות ושיעורי שגיאות ולא מרגיעות, ערוץ ללקוחות לדיווח על בעיות, ומדיניות עדכונים שקובעת מי אחראי לתיקוני אבטחה ולכמה זמן. משטר אחריות המוצר המתוקן מחדד את הנקודה האחרונה הזו מבעבר: אי אספקת עדכונים שהתחייבתם לספק עלולה בעצמה להפוך את המוצר לפגום.

שני הצדדים צריכים להתייחס לחוזה כאל תרגיל של הקצאת סיכונים ולא כאל פורמליות. הסעיפים החשובים הם תיאור המטרה המיועדת, האחריות לגבי תאימות וביצועים, החובה למסור תיעוד ויומני רישום, חובות דיווח על אירועים בשני הכיוונים, מגבלת האחריות והחריגים שלה, הפיצויים בגין תביעות צד שלישי וקנסות רגולטוריים, והסדרי היציאה הקובעים מה קורה למודל ולנתונים אם הקשר מסתיים. מגבלה שמתוכננת באופן מופשט, ללא התייחסות למה שהמערכת מחליטה בפועל, אינה מגנה על אף אחד.

לבסוף, יש לזכור את החשיפה הפלילית גם כאשר הסיכון המיידי הוא אזרחי. העמדה לדין של חברה בגין כשל בבינה מלאכותית עדיין אינה שגרתית, אך המרכיבים הם רגילים: חובה, הפרה, נזק צפוי וארגון שניתן להוכיח כי קיבל על עצמו את הסיכון. כאשר מערכת משמשת למשהו בלתי חוקי בבירור, או כאשר חברה ממשיכה להפעיל מערכת שהיא יודעת שגורמת נזק, המסלול הפלילי פתוח, והניתוח מפורט במלואו במאמר שלנו על המשפט הפלילי ההולנדי ובמאמר הנלווה על אלגוריתמים ואחריות פלילית.

שאלות נפוצות

Law & More מייעץ לארגונים הבונים מערכות בינה מלאכותית ולארגונים המשתמשים בהן, בנוגע להקצאת סיכונים בחוזים, בנוגע לסיווג וחובות במסגרת חוק הבינה המלאכותית, ובנוגע להגנה או הגשת תביעות כאשר מערכת גרמה להפסד. אם מערכת בינה מלאכותית בארגון שלכם הניבה החלטה שכעת מתמודדת איתה, צרו עמנו קשר כדי שנוכל להעריך את המצב במהירות.