בינה מלאכותית ומשפט פלילי: האם אלגוריתם יכול להיות אחראי חלקית?

על פי החוק ההולנדי והאירופי, אלגוריתם אינו יכול להיות אחראי פלילי. אחריות פלילית דורשת מבצע עבירה שהחוק מכיר כאדם, וסעיף 51 בחוק מרחיב מעמד זה רק לאנשים פרטיים ולאנשים משפטיים. מערכת בינה מלאכותית היא אובייקט, לא חשוד. השאלה החשובה בפועל היא אם כן לא האם האלגוריתם אחראי חלקית, אלא איזה בן אנוש או איזו חברה אחראים באופן מלא למה שעשה.

לשאלה זו כבר יש תשובה מפותחת היטב במשפט הפלילי ההולנדי. דוקטרינות הביצוע התפקודי (functioneel daderschap) והאחריות הפלילית של תאגידים נבנו בדיוק עבור מצב זה: נזק שנגרם באמצעות מכשיר, ארגון או תהליך ולא על ידי הנאשם עצמו. מאמר זה מפרט כיצד דוקטרינות אלו חלות על בינה מלאכותית, כיצד חוק הבינה המלאכותית של האיחוד האירופי משנה את סטנדרט הטיפול, כיצד פלט אלגוריתמי מטופל כראיה, וכיצד צריכות להיראות תוכנית הגנה ותאימות. לשאלה הרחבה יותר של הקצאת אחריות על פני שרשרת אספקה ​​של מפתחים, ספקים ומשתמשים, עיינו במאמר הנלווה שלנו בנושא מי אחראי כאשר מכונה מבצעת פשע.

מדוע אלגוריתם לא יכול להיות חשוד

עבירה פלילית על פי החוק ההולנדי דורשת מעשה או מחדל אנושי העומדים בהגדרה הסטטוטורית של עבירה, שהם בלתי חוקיים, וניתן להאשים את העבריין. כל אחד מהמרכיבים הללו מניח שחקן בעל רצון. אלגוריתם מייצר פלטים על ידי ביצוע קוד על נתונים; אין לו רצון ליצור, אין לו דבר להאשים אותו, ואין דבר שסנקציה פלילית יכולה להגיע אליו. סעיף 51 לחוקי המלחמה פינה מקום לחברה לצד הפרט דווקא משום שחברה פועלת באמצעות אנשים; אין הוראה דומה לגבי תוכנה, ויצירתה תדרוש מהמחוקק להמציא קטגוריה חדשה של ישות משפטית.

וגם לא יפעל לפי כל מטרה שהחוק הפלילי מכיר בה. קיים גזר דין כדי להעניש, להרתיע, ובמידת האפשר, לתקן. אף אחת מהפונקציות הללו לא יכולה להתבצע על מודל. מחיקת המשקלים של רשת נוירונים מענישה את בעליה, לא את הרשת. כל מה שהחוק הפלילי רוצה להשיג כאשר מערכת בינה מלאכותית גורמת נזק, צריך להיות מושג באמצעות האנשים והארגונים שמאחוריה, ולכן הפרקטיקה ההולנדית אינה מתייחסת לכך כאל פער בחוק.

הטבלה שלהלן מציגה את אי ההתאמה בין מרכיבי עבירה פלילית לבין מהי בפועל מערכת בינה מלאכותית.

מי אחראי במקום זאת: ביצוע תפקודי וסעיף 51 סעיף 1

לחוק הפלילי ההולנדי יש שני מנגנונים להטיל אחריות על אדם על התנהגות שלא ביצע פיזית. שניהם פותחו הרבה לפני שהייתה למידת מכונה, ושניהם מתאימים למקרים של בינה מלאכותית ללא שינוי.

ביצוע פונקציונלי

פונקציונל דאדערשאפט (Functioneel daderschap) מאפשר לראות אדם כמבצע עבירה שבוצעה פיזית על ידי מישהו או משהו אחר. הקריטריונים שניסח Hoge Raad בפסק הדין IJzerdraad נותרו המבחן: לנאשם הייתה הסמכות לקבוע האם ההתנהגות התרחשה (beschikken), ועליו לקבל אותה, או לקבל באופן רגיל התנהגות מסוג זה (aanvaarden).

כאשר מיושם על מערכת בינה מלאכותית, הקריטריון הראשון בדרך כלל פשוט והשני מכריע את המקרה. כוח הסילוק מוצג על ידי היכולת להגדיר את המערכת, לקבוע את גבולות הפעולה שלה, לעדכן או לאמן אותה מחדש, ומעל הכל לכבות אותה. מעט מאוד מפעילים יכולים לומר באופן אמין שחסרה להם כוח זה. קבלה היא השאלה הקשה יותר, ולשם הולכות הראיות: מה ידע המפעיל על מצבי הכשל של המערכת, מה דווח בבדיקות או באירועים קודמים, מה אמרה הערכת הסיכונים, ומה נעשה בנידון. קבלה אינה דורשת רצון לתוצאה. די בכך שהמפעיל קיבל ביודעין סיכון ניכר, שהוא התקן ההולנדי הרגיל לכוונה מותנית (voorwaardelijk opzet).

אחריות תאגידית ומנהיגות בפועל

כאשר המפעיל הוא חברה, סעיף 51 Sr חל. ניתן לייחס את העבירה לישות המשפטית שבה התרחשה ההתנהגות בתחומה, כפי שהסביר בית המשפט העליון באמצעות הגורמים המפורטים בפסק הדין Drijfmest: ההתנהגות בוצעה על ידי מישהו שעובד עבור החברה, היא משתלבת במסגרת עסקיה הרגילים, היא הייתה מועילה לחברה, והחברה יכלה לקבוע האם היא התרחשה וקיבלה, או קיבלה, התנהגות כזו באופן קבוע. מערכת בינה מלאכותית המופעלת על ידי חברה לביצוע עבודתה עומדת ברוב התנאים ברשימה זו מעצם הגדרתה.

סעיף 51 Sr מאפשר גם להעמיד לדין את אלו שהזמינו את העבירה ואת אלו שהנהיגו אותה בפועל (feitelijk leidinggeven). זוהי הוראה המגיעה לדירקטורים ולמנהלים בכירים באופן אישי. היא דורשת יותר ממקום בתרשים הארגון: האדם חייב להיות מודע להתנהגות האסורה, לפחות במובן של קבלת סיכון ניכר שהיא מתרחשת, ועליו שלא לנקוט באמצעים שהיה מוסמך ומחויב באופן סביר לנקוט. במקרה של בינה מלאכותית, זה מתורגם ישירות לראיות לגבי מי קיבל את דוח אימות המודל, מי חתם על הפריסה, ומי החליט כי הטיה או שיעור שגיאות ידועים מקובלים.

עבירות רשלנות עושות את רוב העבודה

בפועל, הליכים משפטיים הקשורים למערכות אוטומטיות נוטים הרבה יותר להתבסס על רשלנות מאשר על כוונה. כאשר רכב, מכונה או מכשיר רפואי המונעים על ידי בינה מלאכותית גורמים למוות, העבירה הרלוונטית היא גרימת מוות ברשלנות לפי סעיף 307 Sr; כאשר הם גורמים לפגיעה חמורה, סעיף 308 Sr. Culpa במשפט הפלילי ההולנדי פירושו רשלנות משמעותית, בהתחשב במה שמפעיל סביר באותו מצב היה צריך לעשות. זהו בדיוק הבסיס שעליו יתנהל תיק בינה מלאכותית, משום שסטנדרט הזהירות לפריסת מערכת אוטומטית נכתב יותר ויותר: בחוק הבינה המלאכותית, בתקנות הענף, בתקנים טכניים ובנהלים של המפעיל עצמו. סטייה מתועדת מסטנדרט שהמפעיל עצמו אימץ היא העדות החזקה ביותר לרשלנות שקיימת.

אפליה היא הקטגוריה השנייה החוזרת על עצמה. אפליה במילוי עסק או מקצוע היא עבירה פלילית על פי Wetboek van Strafrecht, וקיימים גם גרסאות מכוונות וגם גרסאות רשלניות. לכן, מודל שפוגע באופן שיטתי בקבוצה מוגנת אינו רק בעיה מנהלית על פי חוק הגנת המידע ושוויון היחס; במקרה חמור, מדובר בבעיה פלילית. המדריך שלנו להליך פלילי בהולנד מסביר כיצד מקרה כזה יתנהל משלב החקירה ועד לשלב השיפוט.

חוק הבינה המלאכותית קובע את סטנדרט הטיפול, לא את הסנקציה

חוק הבינה המלאכותית של האיחוד האירופי הוא תקנה מנהלית. הוא אינו יוצר עבירות פליליות ואינו הופך אף אחד לחשוד. חשיבותו לאחריות פלילית היא עקיפה ומשמעותית: הוא קובע, במונחים מחייבים, מה מצופה מספק או פריס זהיר של מערכת בינה מלאכותית לעשות. לאחר שסטנדרט זהירות מגובש, סטייה ממנו מהווה עדות לרשלנות, ועמידה בו מהווה עדות לזהירות.

החוק ממיין מערכות לפי סיכון. מספר קטן של פרקטיקות אסורות לחלוטין, כולל ניקוד חברתי על ידי רשויות ציבוריות, גירוד לא ממוקד של תמונות פנים לבניית מאגרי מידע לזיהוי, זיהוי רגשות במקום העבודה ובחינוך, ובכפוף לחריגים צרים, זיהוי ביומטרי מרחוק בזמן אמת במרחבים ציבוריים עבור רשויות אכיפת החוק. קבוצה גדולה יותר מסווגת כבעלת סיכון גבוה, הכוללת רכיבי בטיחות של מוצרים מוסדרים והשימושים המפורטים בנספח לחוק, ביניהם גיוס, ניקוד אשראי ויישומים באכיפת החוק, הגירה וניהול משפט. מערכות המקיימות אינטראקציה עם אנשים או מייצרות תוכן סינתטי נושאות בחובות שקיפות. השאר אינו מוסדר במהותו.

ספק או פורס: התפקידים קובעים את החובות

החוק מחלק חובות לפי תפקידים, וטעויות בבחינת התפקיד הן אחת משגיאות הציות הנפוצות ביותר. ספק מפתח מערכת או מפתח אותה ומוציא אותה לשוק תחת שמו; פורס משתמש במערכת תחת סמכותו במהלך פעילותו. ספקים נושאים בחובות התכנון הכבדות, פורסים נושאים בחובות של שימוש נכון, פיקוח אנושי וניטור. המלכודת היא שפורס הופך לספק, עם כל החובות הנלוות לכך, אם הוא שם את שמו על המערכת, משנה אותה באופן מהותי, או משנה את ייעודה המיועד באופן שמביא אותה לקטגוריות הסיכון הגבוה. כוונון עדין של מודל שנרכש על סמך הנתונים שלך, ולאחר מכן שימוש בו למטרה שהספק מעולם לא שקל, יכול להעביר ארגון בשקט מעבר לגבול זה. בחקירה פלילית, אותה הבחנה מופיעה שוב בשאלה למי הייתה סמכות הסילוק, ולכן יש לתעד את התפקידים בכתב ולהשתקף בחוזה.

מה שחל כעת

לוח הזמנים השתנה, וכדאי לדייק את מצבו. האיסורים על פרקטיקות בעלות סיכון בלתי מקובל והחובה להבטיח אוריינות בינה מלאכותית כבר חלים. הכללים למודלים כלליים של בינה מלאכותית כבר חלים. חובות השקיפות של סעיף 50, כולל החובה להבהיר שתוכן נוצר או עובר מניפולציה באופן מלאכותי, כבר חלות. מה שנדחה על ידי חבילת האומניבוס הדיגיטלי הוא משטר הסיכון הגבוה: החובות עבור המערכות המפורטות בנספח III מתחילות כעת ב-2 בדצמבר 2027, ואלו עבור המערכות המכוסות בנספח I ב-2 באוגוסט 2028. בנפרד, הוראת האחריות המוצעת לבינה מלאכותית בוטלה, כך שאחריות אזרחית לנזקי בינה מלאכותית נותרה עניין של החוק הלאומי, שמשמעותו בהולנד הכללים הרגילים של נזיקין ואחריות מוצר.

העונשים במסגרת החוק הם מנהליים ונקבעים על עד שלושים וחמישה מיליון יורו או שבעה אחוזים מסך המחזור השנתי העולמי, הגבוה מביניהם, בגין עיסוק בפרקטיקה אסורה, עם תקרות נמוכות יותר עבור הפרות אחרות. הפיקוח בהולנד מאורגן סביב הרגולטורים הקיימים, כאשר ה-Autoriteit Persoonsgegevens וה-Rijksinspectie Digitale Infrastructuur ממלאים תפקיד מתאם. המאמרים שלנו על פרקטיקות בינה מלאכותית אסורות ועל מערכות בינה מלאכותית בסיכון גבוה במסגרת חוק הבינה המלאכותית מפרטים את החובות בפירוט, והסקירה שלנו על חוק הבינה המלאכותית של האיחוד האירופי מכסה את המסגרת כולה.

כיצד התובע ישתמש בזה

קחו לדוגמה חברה שמפעילה כלי סינון מבלי לבדוק את נתוני האימון לאיתור הטיה, ללא הסדר הפיקוח האנושי שהחוק דורש, וללא התיעוד שהוא דורש. אם כלי זה תורם לתוצאה פלילית, התובע אינו צריך לטעון מעקרונות ראשוניים לגבי הטיפול הנדרש. החובות כתובות, ההפרה מתועדת, ואלמנט הקבלה של ביצוע פונקציונלי נובע מההחלטה לפרוס בכל מקרה. ההפך הוא הנכון באותה מידה, וזו הנקודה שמפספסים לרוב על ידי דירקטוריונים: חברה שיכולה להפיק את הערכת הסיכונים שלה, את תוצאות האימות שלה, את פרוטוקול הפיקוח שלה ואת יומן האירועים שלה, בנתה את ליבת ההגנה שלה לפני שמשהו השתבש.

פלט אלגוריתמי כראיה

הדרך השנייה שבה בינה מלאכותית נכנסת לאולם בית משפט פלילי אינה כגורם נזק אלא כמקור הוכחה. התאמות זיהוי פנים, זיהוי אוטומטי של לוחיות רישוי, ניתוח רשת של נתוני תקשורת, מודלים של סיכוני הונאה, השוואת קולות ומיון אוטומטי יותר ויותר של נתונים שנתפסו - כל אלה מייצרים חומר שהתביעה רוצה להסתמך עליו. ההליך הפלילי ההולנדי פועל עם מערכת סגורה של קטגוריות של ראיות, ופלט אלגוריתמי אינו מהווה קטגוריה בפני עצמו. הוא מגיע לבית המשפט כחלק מדו"ח רשמי או באמצעות חוות דעת של מומחה, והוא כפוף לאותה בדיקה כמו כל ראיה אחרת.

בדיקה זו היא המקום שבו מתמקדת עבודת ההגנה. שלוש שאלות קובעות את המשקל שהחומר יכול לשאת. האם השיטה מאומתת, ועל ידי מי? באילו תנאים היא נכשלת, והאם תנאים אלה התקיימו? והאם ההגנה יכולה לבחון אותה, כלומר גישה למידע מספיק על המערכת, נתוני האימון שלה, שיעורי השגיאה שלה והתצורה שלה כדי להעלות אתגר משמעותי. התאמה המוצגת כעובדה, ללא שיעור שגיאות וללא אפשרות לאימות, אינה ראיה שבית משפט צריך להרשיע עליה, ואמירה זו היא הגנה לגיטימית ולעתים קרובות יעילה.

לעדות מומחה יש מסגרת משלה. בית המשפט יכול למנות מומחה, ההגנה יכולה לבקש מומחה, ומרשם מומחי בית המשפט קיים כדי לספק סף איכות לתחומים שהוא מכסה. כאשר שיטת בינה מלאכותית נופלת מחוץ לתחום מוכר כלשהו, ​​זהו כשלעצמו טיעון לגבי מהימנות התוצאה. כמו כן, ראוי לציין כי ה-Wetboek van Strafbeoordeling החדש, שאומץ על ידי הבית הראשון ב-24 בפברואר 2026 ופורסם ב-Staatsblad במרץ 2026, ייכנס לתוקף ספר אחר ספר בצו מלכותי; עד שיעשה זאת, ההוראות הנוכחיות ומספרי הסעיפים שלהן ימשיכו לחול.

זווית הגנת המידע

כאשר החלטה המשפיעה על אדם מתקבלת באמצעים אוטומטיים בלבד, ה-GDPR מעניק לאדם זה את הזכות לא להיות כפוף לה, יחד עם הזכות למידע משמעותי על ההיגיון המעורב. באכיפה פלילית חלים הכללים המקבילים של החוק המיישם את הוראת נתוני המשטרה. יש לכך משמעות בשני כיוונים. עבור חשוד, זוהי דרך למידע על מערכת שהרשויות עשויות להעדיף לא להסביר. עבור חברה, פריסת קבלת החלטות אוטומטית ללא בסיס חוקי וללא אמצעי ההגנה מהווה הפרה רגולטורית שתיקרא לצד כל האשמה פלילית.

הגנה על תיק בו מעורבת בינה מלאכותית

ההגנה האינסטינקטיבית, שהמערכת הייתה קופסה שחורה ואף אחד לא יכול היה לדעת מה היא תעשה, חלשה יותר ממה שהיא נראית. היא עונה על השאלה הלא נכונה. המשפט הפלילי ההולנדי אינו שואל האם הנאשם צפה את התוצר המדויק; הוא שואל האם לנאשם הייתה הסמכות לקבוע האם ההתנהגות התרחשה וקיבל על עצמו את הסיכון שהיא תתרחש. אטימות יכולה לפגוע בנאשם: פריסת מערכת שהתנהגותה אינה ניתנת להסבר, במסגרת שבה היא עלולה לגרום נזק חמור, היא כשלעצמה החלטה שבית משפט עשוי לראות בה כקבלת הסיכון.

ההגנות שעובדות הן צרות יותר וראייתיות. הראשונה היא היעדר שליטה אמיתי: המערכת נרכשה כמוצר מוגמר, הוגדרה ותוחזקה על ידי הספק, ולנתבע לא היה המידע ולא היכולת הטכנית להתערב. טיעון זה מעביר את תשומת הלב במעלה השרשרת אל הספק, והוא עומד או נופל על החוזה ועל מה שדווח בפועל לפורס. השנייה היא שהמפעיל עשה את מה שמפעיל זהיר עושה: הערכת סיכונים מתועדת, אימות לפני הפריסה, פיקוח אנושי מוגדר עם אדם בעל הסמכות והיכולת לעקוף, ניטור לאחר הפריסה ופעולה מהירה בתקריות. השלישית היא סיבתיות, שלעתים קרובות אינה מנוצלת מספיק. בשרשרת הנעה מנתוני אימון דרך מודל להחלטה אנושית לתוצאה, התביעה צריכה להראות שהתנהגותו של נתבע זה גרמה לתוצאה, ושרשראות מורכבות נשברות.

שתי נקודות מעשיות עוקבות אחר כך. יש לשמור הכל מוקדם: יומני רישום, גרסאות מודל, תצורה, דוחות אירועים והתכתבויות סביב החלטות פריסה הן הראיות משני הצדדים, והן נכתבות באופן שגרתי. וזכרו כי אמצעי ההגנה הרגילים של סדר הדין הפלילי חלים במלואם על מקרים מורכבים מבחינה טכנית, כולל זכותו של חשוד לא לומר דבר; המאמר שלנו על זכות השתיקה בעניינים פליליים מסביר כיצד זה עובד בחקירה הולנדית. כאשר הטענה היא של הונאה שבוצעה באמצעות כלים אוטומטיים, המדריך שלנו להונאה ופשיעה פיננסית בהולנד מכסה את העבירות הכרוכות בכך.

מה פרשת קצבאות הטיפול בילדים מראה בפועל

פרשת הטבות הטיפול בילדים בהולנד היא המקרה שאליו חוזרים כל דיונים על אחריות אלגוריתמית בהולנד, ובדרך כלל היא מצוטטת מהסיבה הלא נכונה. הלקח ממנה אינו שאלגוריתם עשה משהו פלילי. אלא שמערכת של בחירת סיכונים אוטומטית, בשילוב עם חוסר רצון מוסדי להטיל ספק בתפוקתה, גרמה לשנים של נזק חמור לעשרות אלפי משפחות מבלי שאף אחד יישא באחריות פלילית.

מינהל המסים השתמש בסיווג סיכונים כדי לבחור תביעות גמלאות לחקירה. אינדיקטורים שמעולם לא היו צריכים להיות בשימוש, כולל לאום, מצאו את דרכם לבחירה, ואי סדר מנהלי קל עלול לגרום לממצא של הונאה מכוונת עם חובה להחזיר את מלוא הגמלה. משפחות לא יכלו להבין מדוע נבחרו, פקידים התייחסו לסיווג כמסקנה ולא כאות, ונטל הפרכת האשמה שאיש לא הסכים להסביר נפל על הנאשמים. רשות הגנת המידע ההולנדית קבעה כי עיבוד נתוני הלאום אינו חוקי והטילה קנס, והממשלה התפטרה בינואר 2021.

מה שלא קרה הוא מאלף. אף אדם לא הועמד לדין פלילי. האחריות פוזרה על פני ארגון, מדיניות, תוכנה ומסגרת משפטית שהתייחסה לקבלת הטבות כעניין מנהלי. פיזור זה הוא בדיוק הסיכון שהביצוע התפקודי וסעיף 51 לחוקה נועדו להתמודד איתו, והוא מסביר מדוע חוק הבינה המלאכותית מתעקש על פיקוח אנושי מזוהה ועל תיעוד. אחריות דורשת אדם שיכול היה לעצור זאת ותיעוד של מה שידע.

שלושה כשלים ראויים לציון שם משום שהם מתורגמים ישירות לחשיפה משפטית עבור כל ארגון. החלטות לא היו ניתנות להסבר, ולכן לא ניתן היה לערער עליהן. פיקוח אנושי היה קיים על הנייר אך לא בפועל, משום שלאנשים המעורבים לא היה הסמכות ולא המידע לעקוף את המערכת. וההשפעה של דגל הייתה להפוך את נטל ההוכחה למעשה, אם לא בחוק. כל פריסה של בינה מלאכותית שמשחזרת את שלושת המאפיינים הללו היא בעיה משפטית הממתינה להבשלה, תהיה אשר תהיה הטכנולוגיה העומדת מאחוריה. תגובת הממשלה, כולל הנחיות בנושא אי-אפליה מכוונת ועל רישומי אלגוריתמים עבור גופים ציבוריים, מכוונת ישירות לשלוש נקודות אלה.

תוכנית תאימות שמתפקדת גם כהגנה

כל דבר שחברה עושה כדי לעמוד בחוק הבינה המלאכותית גם מייצר את הראיות שהיא תצטרך אם משהו ישתבש. מטרה כפולה זו היא הטיעון בעד ביצוע הפעולה כראוי ולא באופן מינימלי, והיא הופכת את הצעדים הבאים לשווים את המאמץ.

התחילו עם מלאי. אינכם יכולים לסווג את מה שלא ציינתם, ורוב הארגונים מגלים שבינה מלאכותית נכנסה לתחום דרך רכש ולא דרך פרויקט: תכונת סינון בפלטפורמת גיוס, מודול ניקוד בבקשת אשראי, פונקציית ניטור בתוכנת אבטחה. סווגו כל מערכת תחת החוק, רשמו את ההנמקה ובקרו בה מחדש כאשר מערכת משתנה באופן מהותי, מכיוון ששינוי ייעוד יכול להעביר מערכת לקטגוריה אחרת.

לאחר מכן, יש להקצות את האחריות לאנשים ששמם נקוב ולא למחלקות. ביצוע פונקציונלי ומנהיגות בפועל, שתיהן תלויות במי שיכול היה לקבוע האם ההתנהגות התרחשה. ארגון שבו לא ניתן לזהות אף אחד כאחראי אינו מתחמק מאחריות; הוא פשוט חושף את מי שיושב בראש הטבלה. אמור למי הבעלים של כל מערכת, מי רשאי לאשר פריסה, מי מבצע פיקוח ומי רשאי לכבות אותה, וודא שלאדם ששמו נקוב יש את הסמכות והיכולת הטכנית לעשות זאת.

הפכו את הפיקוח האנושי למציאותי. הדרישה אינה אדם בלולאה, אלא אדם שיכול להבין את הפלט, בעל מעמד לדחות אותו, ושלא נמדד על תפוקה באופן שהופך את הדחייה לבלתי מעשית. רשמו עקיפות, כי יומן המראה שפונקציית הפיקוח נמצאת בשימוש בפועל שווה יותר מכל מסמך מדיניות.

תעד את המיקום הטכני: מהיכן הגיעו נתוני האימון וכיצד הם נבדקו, אילו בדיקות בוצעו ומה הן הראו, מהם שיעורי השגיאה ותנאי הכשל הידועים, ומה הוחלט לגביהם. כאשר נדרשת הערכה של ההשפעה על הגנת המידע או על זכויות יסוד, יש לבצע אותה לפני הפריסה ולשמור על עדכניותה. יש לנטר לאחר הפריסה, לתעד אירועים ולפעול על פיהם באופן שיהיה גלוי ברשומה.

לבסוף, יש לבנות את החוזים בצורה נכונה. כאשר מערכת נרכשת ולא נבנית, חלוקת האחריות בין הספק למפרש קובעת מי נושא בסיכון. בקשו את התיעוד הטכני הנדרש על פי חוק, את הוראות השימוש, מידע על מגבלות ידועות ואת הזכות לקבל הודעה על תקריות ושינויים מהותיים. צוות דיני ה-IT שלנו מטפל בהסדרים אלה.

כאשר בינה מלאכותית היא הכלי של העבריין ולא כישלון של עסק

עד כה עסק מאמר זה בנזק שנגרם על ידי מערכת בינה מלאכותית שחברה פרסה למטרה לגיטימית. החצי השני של התמונה הוא בינה מלאכותית המשמשת במכוון לביצוע עבירה, וכאן התשובה פשוטה יותר: העבירה היא העבירה, והטכנולוגיה היא פרט מחמיר ולא בעיה משפטית. החוק הפלילי ההולנדי מנוסח במונחים של תוצאות והתנהגות, ולא במונחים של מכשירים, ולכן נדרשו מעט מאוד הוראות חדשות.

הונאה המבוצעת באמצעות קול משוכפל או סרטון סינתטי של במאי המורה על תשלום מהווה הונאה לפי סעיף 326 לחוקה, בדיוק כפי שהייתה מדומה עם מכתב מזויף. מסמך שנוצר על ידי מודל לתמיכה בטענה כוזבת מהווה זיוף לפי סעיף 225 לחוקה. שימוש באדם המזהה מידע אישי כדי להתחזות אליו מהווה עבירה בפני עצמה לפי סעיף 231b לחוקה. הפצת תמונות בעלות אופי מיני מפורש של אדם ללא הסכמתו היא עבירה, וחוק הפלילי "Wet seksuele misdrijven", בתוקף מאז 1 ביולי 2024, מודרניזציה את החלק הזה של החוק הפלילי; תמונה סינתטית אינה נופלת מחוץ לו משום שהיא נוצרה ולא תועדה. הטרדה מתמשכת באמצעות חשבונות אוטומטיים יכולה להיחשב כהטרדה לפי סעיף 285b לחוקה, אשר ניתנת לדין רק על פי תלונה של הקורבן.

מה שבינה מלאכותית משנה הוא קנה המידה, האמינות וקושי ההוכחה. קול סינתטי משכנע מסיר את החיכוך שבעבר הגן מפני הונאות תשלומים, ולא ניתן עוד להניח ראיות לכך שהקלטה אותנטית. שתי השלכות מעשיות נובעות מכך. עבור קורבנות ועבור חברות, הליכי אימות שאינם תלויים בזיהוי קול או פנים הם כעת בקרה בסיסית ולא חידוד. עבור ההליך הפלילי, האותנטיות של חומרי אודיו ווידאו הפכה לשאלה שיש להוכיח ולא להניח, וההגנה רשאית לבחון אותה.

הרגולציה מתחילה לעזור. חובות השקיפות של סעיף 50 לחוק הבינה המלאכותית, שכבר חלות, מחייבות ספקים לסמן תוכן סינתטי באופן קריא על ידי מכונה ומחייבות את המפיצים לחשוף כי תמונה, אודיו או וידאו נוצרו או עברו מניפולציה באופן מלאכותי כאשר הם מתארים אנשים או אירועים אמיתיים. ציות לתקנות אינו עוצרת עבריין נחוש, אך הוא מחזק את מעמדם של כל האחרים: הוא הופך תוכן סינתטי שלא נחשף להפרה רגולטורית בפני עצמה, והוא נותן לחוקרים ולבתי המשפט איתות לחפש. המאמר שלנו על הוכחת הטעיה דיגיטלית בהולנד עוסק בצד הראייתי של מקרים אלה.

שאלות נפוצות על בינה מלאכותית ואחריות פלילית

איך Law and More יכול לעזור

Law and More מייעץ לחברות, דירקטורים ויחידים בנוגע לאחריות פלילית הנובעת ממערכות אוטומטיות. אנו מעריכים חשיפה תחת סעיף 51 לחוק התקנות ודוקטרינת הביצוע הפונקציונלי, בונים ובודקים ניהול בינה מלאכותית שיעמוד כראיה לזהירות, יאתגר ראיות אלגוריתמיות בהליכים פליליים, ויגן על חברות ונושאי המשרה שלהן בחקירות של התביעה הציבורית ושל הרגולטורים. אם הארגון שלכם משתמש בבינה מלאכותית בסביבה שבה לטעויות יש השלכות, צרו קשר עם משרדנו לפני שאירוע יכריח אתכם לשאול.