ניהול אלגוריתמי: האם אלגוריתם יכול להעריך את הביצועים שלך?

ניהול אלגוריתמי, השימוש במערכות בינה מלאכותית לניטור, ניקוד והכוונת עובדים, מותר בהולנד אך רק במסגרת מגבלות החברה. אלגוריתם עשוי לתמוך בהערכת ביצועים; ייתכן שהוא לא יהיה הבסיס היחיד להחלטה בעלת השפעה משמעותית עליך, כגון פיטורים, הורדה בדרגה או סירוב לבונוס, מכיוון שסעיף 22 של ה-GDPR שומר את ההחלטות הללו לאדם שבודק אותן ברצינות. בנוסף לכך, חוק הבינה המלאכותית של האיחוד האירופי מסווג מערכות המשמשות לניטור והערכת עובדים כבעלות סיכון גבוה, והוא אוסר לחלוטין על שימוש בבינה מלאכותית כדי להסיק את רגשותיהם של עובדים במקום העבודה.

מהו בעצם ניהול אלגוריתמי

ניהול אלגוריתמי הוא מצב שבו תוכנה, ולא מפקח, מבצעת את התצפית, המדידה ולעתים קרובות גם את השיפוט. ניהול אלגוריתמי מופיע במחסנים ובמרכזי הפצה, במרכזי קשר עם לקוחות, בעבודה בפלטפורמות, ויותר ויותר בתפקידי משרד רגילים שבהם כלי פרודוקטיביות מובנים במערכות בהן אנשים כבר משתמשים. המעסיק אינו צריך לקנות מוצר שנקרא מנהל בינה מלאכותית כדי ששאלות משפטיות יעלו; מספיק לוח מחוונים שמדרג את העובדים על נתונים שנאספים באופן אוטומטי.

מה שמערכת כזו עושה טוב זה לספור. היא רושמת משימות שהושלמו, זמני טיפול, זמני תגובה, עמידה בסקריפט, שעות שנרשמו באפליקציה. מה שהיא לא יכולה לעשות זה להבין מדוע מספר מסוים עבר מקום. עובדת שהתפוקה שלה יורדת משום שהיא בילתה שלושה שבועות בהכשרת עמית חדש, משום שהוא טיפל בלקוח היחיד שאף אחד אחר לא יכול היה לנהל, או משום שהעבודה באותה תקופה הייתה מורכבת בצורה יוצאת דופן, נראית בנתונים אותו דבר כמו עובדת שפשוט עשתה פחות. הפער הזה בין מדידה למשמעות הוא מקור כמעט לכל מחלוקת משפטית בתחום זה.

הנקודה אינה שמדידת ביצועים אינה חוקית. מעסיקים זכאים לדעת כיצד מתקדמת העבודה, וניטור סביר הוא חלק נורמלי מניהול עסק. הנקודה היא שהחוק ההולנדי והאירופי מציב תנאים לאופן שבו המדידה מתבצעת, ומעל הכל, לאופן שבו נעשה שימוש בתפוקתה.

כיצד מערכות אלו מדרגות את הביצועים שלך

הבנת המכניקה חשובה, משום שזכויותיך קשורות לשלבים ספציפיים בתהליך. באופן כללי, שלושה דברים קורים: נתונים נאספים, מודל הופך את הנתונים הללו לשיפוט, ומישהו או משהו פועל על פיהם.

מה המערכת אוספת

איסוף נתונים הוא בדרך כלל בלתי נראה ורציף. בסביבת קשר עם לקוחות, המערכת עשויה לרשום את מספר אנשי הקשר שטופלו, זמן הטיפול הממוצע, פתרון השיחות בפעם הראשונה, זמן המתנה בין שיחות ועמידה בתסריט שנקבע. היא עשויה ללכת רחוק יותר ולנתח תוכן: עיבוד שפה טבעית המופעל על תמלילי דוא"ל ושיחות, זיהוי מילות מפתח וניקוד סנטימנטים של צד הלקוח בשיחה. בלוגיסטיקה מדובר בקצבי סריקה ומהירות איסוף; בעבודה משרדית, פעילות בכלי שיתוף פעולה.

כל אחת מנקודות הנתונים הללו היא מידע אישי אודותיך, וכל אחת מהן חייבת להיות מוצדקת. על פי ה-GDPR, מעסיק אינו רשאי לאסוף את כל מה שמערכת במקרה מסוגלת לאסוף; העיבוד חייב להיות נחוץ למטרה מוגדרת ולהיות פרופורציונלי אליה. קשה מאוד להגן על מערכת שמקליטה הקשות מקלדת או מצלמת צילומי מסך תקופתיים כדי לקבוע מי עובד קשה כמידע פרופורציונלי, וה-Autoriteit Persoonsgegevens (רשות הגנת המידע ההולנדית) מתחה ביקורת עקבית על סוג זה של ניטור גורף.

מכללים למודלים, והקופסה השחורה

המערכות הפשוטות ביותר הן מבוססות כללים. אם זמן הטיפול הממוצע עולה על סף קבוע יותר ממספר קבוע של פעמים בשבוע, העובד מסומן בדגל. מערכת כזו נוקשה ועיוורת להקשר, אך יש לה יתרון משמעותי אחד: ניתן לקרוא את הכלל ולראות בדיוק מדוע סומן, מה שמאפשר להתווכח עליו.

מודלים של למידת מכונה פועלים בצורה שונה. הם מאומנים על נתונים היסטוריים לגבי מי ביצע ביצועים טובים ומי לא, והם מסיקים את הדפוסים המתואמים עם תוצאות אלו. זה חזק יותר ופחות שקוף בהרבה. ייתכן שהמודל מתמקד במשהו שאין לו קשר הגיוני לביצועים כלל, ולפעמים לא המעסיק ולא הספק יכולים לומר במדויק מדוע ציון מסוים התקבל כפי שהתקבל.

אטימות זו היא מה שמכונה בדרך כלל בעיית הקופסה השחורה, ובמסגרת משפטית היא קטלנית ולא סתם לא נוחה. מעסיק שאינו יכול להסביר את הבסיס של הערכה אינו יכול לעמוד בחובה למסור מידע משמעותי על ההיגיון הכרוכה בכך, אינו יכול להגן כראוי על ההערכה אם היא מוטלת בספק, ואינו יכול להוכיח שהיא נקייה מהשפעה מפלה. בפועל, אם אינך יכול להסביר אותה, אינך יכול להסתמך עליה.

מה ה-GDPR דורש ממערכת ביצועים של בינה מלאכותית

ה-GDPR הוא הכלי הראשון ועדיין המעשי ביותר בתחום זה, משום שהוא חל על כל מעסיק המעבד נתוני עובדים והוא נאכף כבר שנים. ארבעה מכלליו עושים את רוב העבודה.

סעיף 22: אין לקבל החלטה משמעותית על ידי מכונה בלבד

סעיף 22 לתקנת ה-GDPR מעניק לכל אדם את הזכות לא להיות כפוף להחלטה המבוססת אך ורק על עיבוד אוטומטי, לרבות יצירת פרופילים, אשר יוצרת השלכות משפטיות לגביו או משפיעה עליו באופן דומה באופן משמעותי. פיטורים, אי חידוש חוזה, הורדה בדרגה, עיכוב בונוס וסירוב לקידום - כל אלה נופלים בנוחות תחת תיאור זה.

שתי מילים נושאות את המשקל. "בלבד" פירושה שבן אדם שרק מאשר את מה שהמערכת מציעה אינו מקבל את ההחלטה מסעיף 22; רשויות הפיקוח הבהירו במשך שנים כי אישור משפטי אינו מעורבות אנושית. מעורבות משמעותית דורשת סוקר בעל סמכות להגיע למסקנה שונה, את הסמכות להעריך את המקרה ואת הזמן לעשות זאת. "משפיע באופן משמעותי" נקרא באופן רחב, והוא אינו דורש תוצאה משפטית רשמית: מערכת ניקוד שקובעת אילו משמרות או אילו מטלות מוצעות לך יכולות להשפיע עליך באופן משמעותי מספיק כדי שתעסיק את המאמר.

כאשר סעיף 22 חל, על המעסיק בכל מקרה לספק את אמצעי ההגנה שהוא קובע: הזכות לקבל התערבות אנושית, להביע את נקודת המבט שלך ולערער על ההחלטה.

שקיפות, גישה וההיגיון הכרוכים בכך

יש ליידע את העובדים, לפני כן, על קיומה של המערכת ועל מה שהיא עושה. כאשר מתבצעת קבלת החלטות אוטומטית כמשמעותה בסעיף 22, על המעסיק לספק גם מידע משמעותי על ההיגיון המעורב ועל המשמעות וההשלכות הצפויות של העיבוד. ניתן לבקש את אותו מידע לאחר מכן באמצעות בקשת גישה לנושא, אשר גם מזכה אותך בעותק של המידע האישי המעובד אודותיך: הציונים, המדידות הבסיסיות והקטגוריות שהמערכת מקצה לך.

מה שנחשב משמעותי הוכרע לכיוון המהות ולא לכיוון הפורמליות. זה לא תיאור של הטכנולוגיה; זהו הסבר של אילו גורמים שימשו וכיצד הם שקללו, במונחים שהאדם הרלוונטי יכול להבין ולפעול על פיהם בפועל.

בסיס משפטי, הסכמה ו-DPIA

כל פעולת עיבוד זקוקה לבסיס חוקי. בהקשר תעסוקתי, הסכמה היא לעיתים רחוקות שמישה, דווקא בגלל התלות בין מעסיק לעובד: הסכמה שלא ניתן לסרב לה ללא השלכות אינה ניתנת מרצונה החופשי. לכן, מעסיקים מסתמכים בדרך כלל על נחיצות העיבוד לצורך ביצוע חוזה העבודה, על חובה חוקית או על אינטרס לגיטימי, והאחרון שבהם דורש איזון מתועד של האינטרס הנרדף מול פרטיות כוח העבודה.

מכיוון שניטור ביצועים בקנה מידה זה כרוך בהערכה שיטתית ונרחבת של אנשים המבוססת על עיבוד אוטומטי, הערכת השפעה על הגנת מידע אינה אופציונלית. היא נדרשת לפני שהמערכת עולה לאוויר, ועליה לתאר את העיבוד, להצדיק את נחיצותו ומידתיותו, לזהות את הסיכונים לעובדים ולקבוע את האמצעים לטיפול בהם. מעסיקים שמדלגים על ההערכה בדרך כלל מגלים את הבעיות מאוחר יותר, בסכסוך, כאשר לא ניתן עוד לתקן את הבחירות בשקט.

עד כמה מותר למעסיק ללכת בפיקוח?

לא ניתן להפריד בין ניקוד ביצועים לבין הניטור שמזין אותו, ולניטור יש גבולות משלו. עובד אינו מוותר על חייו הפרטיים בדלת המשרד: בית המשפט האירופי לזכויות אדם קבע בפסק הדין ברבולסקו נגד רומניה כי ניטור התקשורת של עובד פוגע בזכות לכבוד חייו הפרטיים וההתכתבות לפי סעיף 8 לאמנה, וכי על המעסיק להודיע ​​לעובד מראש על אופי הניטור והיקפו, עליו לשאוף למטרה לגיטימית, ועליו לבחור באמצעים הפחות פולשניים המסוגלים להשיגה. ניטור סמוי של כוח העבודה הוא חריג ודורש חשד קונקרטי, משך זמן מוגבל והערכה מתועדת שאף צעד קל יותר לא יעזור.

בתרגום לפרויקט ניהול אלגוריתמי, פירוש הדבר שהמעסיק צריך להיות מסוגל לענות על שלוש שאלות לגבי כל זרם נתונים: מדוע נתונים אלה נחוצים למטרה המוצהרת, מדוע מדידה פחות פולשנית לא תשיג זאת, והאם העובדים קיבלו הודעה מראש. הקלטת מסך רציפה, רישום הקשות ומעקב אחר מיקום מחוץ לשעות העבודה נכשלים בשאלות אלו ברוב סביבות התעסוקה הרגילות.

נתוני היעדרות, מחלה ונתוני קטגוריות מיוחדות

קטגוריה אחת ראויה לתשומת לב מיוחדת. נתונים החושפים בריאות הם נתונים מסוג מיוחד תחת ה-GDPR, ובאופן עקרוני אסור לעבד אותם כלל, בכפוף לחריגים מצומצמים. הכללים ההולנדיים בנוגע להיעדרות עקב מחלה הם מחמירים: מעסיק רשאי לרשום שעובד נעדר ולמשך כמה זמן, אך אופי המחלה, האבחנה והמגבלות שייכים לרופא החברה (החברה), ולא למעסיק. מערכת ביצועים שמסיקה מצב בריאותי מדפוסי היעדרות, מהירות הקלדה, הפסקות או טון דיבור מעבדת נתוני בריאות באמצעות הסקה, והעובדה שאף אחד לא הקליד בה אבחנה אינה משנה דבר.

אותה זהירות חלה על מערכות שציונן מושפע מהיעדרויות מוגנות כגון הריון, חופשת הורות או חופשת טיפול. אם המודל מתייחס לתקופות אלו כביצועים נמוכים, המעסיק לא רק מעבד נתונים רגישים אלא הופך זכות סטטוטורית לחיסרון.

הרמה העליונה של האכיפה

הפרות של עקרונות הליבה, של חוקיות העיבוד ושל זכויותיהם של נושאי המידע נופלות תחת רמת הקנסות העליונה של סעיף 83 לתקנת ה-GDPR, הקטגוריה הכבדה ביותר שהתקנה מספקת. חשוב לא פחות לפרקטיקה היומיומית, קשה להסתמך על הערכה שהוגשה תוך הפרת כללים אלה בסכסוך עבודה: בית משפט המתבקש לסיים חוזה עבודה על בסיס ביצועים נמוכים ירצה לראות כיצד נקבע הביצועים הנמוכים.

מה מוסיף חוק הבינה המלאכותית למעסיקים ולעובדים

חוק הבינה המלאכותית של האיחוד האירופי בתוקף וחל בשלבים, כך שהשאלה אינה עוד האם הוא מגיע, אלא אילו מחובותיו כבר נוגעות בו. שתיים משכבותיו חשובות כאן.

הראשונה היא רשימת הפרקטיקות האסורות, אשר חלה מאז השלב המוקדם ביותר של החוק. היא כוללת כלל המכוון ישירות למקום העבודה: מערכות בינה מלאכותית המשמשות להסקת רגשותיו של אדם טבעי בתחומי מקום העבודה ומוסדות החינוך אסורות, אלא אם כן המערכת מיועדת להיות ממוקמת או משווקת מסיבות רפואיות או בטיחותיות. תוכנה המדרגת את מצב הרוח, רמת הלחץ, המעורבות או הכנות של עובדים לפי קולם, פניהם או כתב ידם אינה בעיית תאימות שיש לנהל. זה מחוץ לתחום, והחריג הרפואי והבטיחותי הצר אינו מכסה ניהול פרודוקטיביות. שימו לב היטב לגבול: ניתוח סנטימנטים של מה שלקוח אומר היא שאלה שונה מהסקת רגשותיו של העובד.

השכבה השנייה היא משטר הסיכון הגבוה. נספח III לחוק הבינה המלאכותית מגדיר כמערכות בעלות סיכון גבוה, בין היתר, מערכות בינה מלאכותית המיועדות לשמש לקבלת החלטות המשפיעות על תנאי יחסי עבודה, קידום או סיום של יחסים כאלה, הקצאת משימות על סמך התנהגות אישית או תכונות אישיות, וניטור והערכה של ביצועי העובדים והתנהגותם. כלי להערכת ביצועי בינה מלאכותית נמצא באופן ישיר בתוך תיאור זה. במסגרת חבילת האומניבוס הדיגיטלי, מועדי היישום של חובות הסיכון הגבוה עבור מערכות נספח III נדחו, כך שלמעסיקים יש יותר זמן להתכונן; האיסורים, הכללים למודלים כלליים של בינה מלאכותית וחובות השקיפות של סעיף 50 כבר חלים.

חובה אחת ראויה לאזכור נפרד משום שמעסיקים מתעלמים ממנה באופן שגרתי. פורסים שהם מעסיקים חייבים ליידע את נציגי העובדים ואת העובדים המושפעים לפני הכנסת מערכת בינה מלאכותית בסיכון גבוה לשירות במקום העבודה, בהתאם לכללים הרלוונטיים בנוגע למידע והתייעצות. זוהי חובת מידע המצויה לצד, ואינה מחליפה, את חובות השקיפות של ה-GDPR ואת זכויות מועצת העובדים על פי החוק ההולנדי. לקבלת דיון מלא יותר בחוק ובלוח הזמנים שלו, עיינו במאמר שלנו על הצד המשפטי של בינה מלאכותית וחוק הבינה המלאכותית של האיחוד האירופי.

מי נושא באחריות: הספק או המעסיק?

מעסיקים מניחים לעתים קרובות שמכיוון שהתוכנה נקנתה מספק מומחה, הספק נושא בסיכון המשפטי. כך לא מתייחסות אף אחת מהמסגרות לחלוקת האחריות.

על פי ה-GDPR, המעסיק מחליט מדוע וכיצד נתוני העובדים מעובדים ולכן הוא האחראי על עיבוד הנתונים. הספק שמפעיל את המערכת לפי הוראות המעסיק הוא מעבד, והקשר הזה צריך להיות מוגדר בהסכם עיבוד נתונים, אך המעסיק הוא שחייב את חובות השקיפות, החוקיות והפיקוח האנושי כלפי העובדים שלו, והמעסיק הוא זה שאחראי ל-Autoriteit Persoonsgegevens ולעובדים עצמם.

חוק הבינה המלאכותית מפריד קו דומה בין הספק, המפתח מערכת בינה מלאכותית ומוציא אותה לשוק, לבין הפורס, המשתמש בה תחת סמכותו. מעסיק המשתמש בכלי שנרכש הוא בדרך כלל פורס ונושא בחובותיו של הפורס, לרבות שימוש במערכת בהתאם להוראות, הבטחת רמת פיקוח אנושי נאותה על ידי אנשים בעלי הכשירות והסמכות הנדרשים, ניטור פעולתה ודיווח לעובדים. מעסיק שרושם את שמו על המערכת, או משנה אותה באופן מהותי או משנה את ייעודה המיועד, יכול להפוך לספק ולקחת על עצמו את החובות הכבדות בהרבה הנלוות לתפקיד זה.

התוצאה המעשית לגבי רכש היא שיש לקרוא את החוזה תוך התחשבות בתפקידים אלה. מעסיק זקוק לכך שהספק יספק את המידע המאפשר עמידה בדרישות, ועליו להיות ספקן לגבי כל מוצר שאינו יכול להסביר את התפוקה שלו עצמו, מכיוון שחובת ההסבר תחול על המעסיק ללא קשר למה שכתוב ברישיון.

עבודה בפלטפורמה: שכבה נוספת של כללים

עבור אנשים העובדים דרך פלטפורמות עבודה דיגיטליות, כלי נוסף בדרך. הנחיית (EU) 2024/2831 לשיפור תנאי העבודה בעבודה בפלטפורמות מקדישה פרק שלם לניהול אלגוריתמי. היא מחייבת פלטפורמות ליידע עובדים על מערכות ניטור וקבלת החלטות אוטומטיות המשפיעות באופן משמעותי על תנאי עבודתם, מגבילה את עיבודן של קטגוריות מסוימות של נתונים, כולל נתונים על מצב רגשי ופסיכולוגי ונתונים על שיחות פרטיות, דורשת פיקוח אנושי על השפעות המערכות הללו, ומעניקה לעובדים את הזכות להסבר ולסקירה אנושית של החלטות משמעותיות כגון הגבלה או השעיה של חשבון. ראוי לציין כי מספר מהגנות אלו חלות על אנשים המבצעים עבודה בפלטפורמה בין אם הם עומדים בקריטריונים כעובדים ובין אם לאו.

על המדינות החברות ליישם את ההנחיה עד ה-2 בדצמבר 2026. עד לכניסת חקיקה לאומית ליישום לתוקף, ה-GDPR וחוק הבינה המלאכותית יישארו הכללים האופקיים, והדרישות שלהם כבר מכסות במידה רבה את אותו התחום.

חוק עבודה הולנדי: אלגוריתם לא יכול לסיים את החוזה שלך

חוקי הגנת המידע והבינה המלאכותית האירופית קובעים את אופן פעולת המערכת. חוק העבודה ההולנדי קובע מה מעסיק רשאי לעשות עם התפוקה שלו, והוא מחמיר בהרבה ממה שרוב פרויקטי הניהול האלגוריתמיים מניחים.

מעסיק בהולנד אינו יכול פשוט לסיים חוזה עבודה. פיטורים דורשים עילה סבירה המפורטת בסעיף 7:669 לחוק האזרחי ההולנדי, והוא דורש אישור מראש של UWV או החלטה של ​​​​הקנטונרכטר (בית משפט מחוזי), בהתאם לעילה. ביצועים נמוכים הם אחת מאותן עילות, והיא עילה תובענית. על המעסיק להראות שהעובד אינו מתאים לתפקיד, שהעובד עודכן על כך בזמן, וכי הוצעה לו הזדמנות אמיתית להשתפר, עם תמיכה במידת הצורך. קריאת לוח מחוונים אינה תהליך שיפור, ובית משפט ישאל מה נדון, מתי ואיזו עזרה ניתנה. המדריך שלנו לחוק העבודה ההולנדי מפרט את מסגרת הפיטורים ביתר פירוט.

חוק האפליה חל על התוצאה, לא על הכוונה. אם מערכת פוגעת בעובדים על רקע מין, גזע, גיל, דת, מוגבלות או מחלה כרונית, היא אינה חוקית על פי חוק שוויון הכללי (Algemene wet gelijk behandeling) וחוקי שוויון הספציפיים בנוגע לגיל ולמוגבלות, ללא קשר לשאלה האם מישהו התכוון לתוצאה זו. נתוני הכשרה היסטוריים הם הגורם הנפוץ: מודל המבוסס על מי שקודם בעבר ישחזר את העדפות העבר. מערכות המודדות זמינות או תפוקה גולמית לאורך זמן נוטות גם להעניש עובדים שלקחו חופשת לידה, עבדו שעות מופחתות או נעדרו עקב מחלה, וענישת עובד על מימוש זכות סטטוטורית היא בדיוק מה שחוק שוויון אוסר.

ועד העובדים צריך להסכים

בחברה שבה קיים ועד עובדים, המעסיק זקוק ליותר מכוונה טובה. סעיף 27 לחוק מועצות העובדים (Wet op de ondernemingsraden) דורש את הסכמת ה-ondernemingsraad (מועצת העובדים) לאימוץ, תיקון או ביטול של הסדרים, כולל הסדרים הנוגעים להערכת עובדים, לעיבוד והגנה על נתונים אישיים של עובדים, ולמתקנים המכוונים או המתאימים לצפייה או ניטור של נוכחותם, התנהגותם או ביצועיהם של עובדים. מערכת ביצועים מבוססת בינה מלאכותית מפעילה את שלושתם בו זמנית.

הסכמה כאן אינה עניין פורמלי. החלטה שהתקבלה ללא ההסכמה הנדרשת יכולה להיות מוכרזת כבטלה על ידי ועד העובדים, ולאחר מכן ניתן למנוע מהמעסיק ליישם אותה. עבור עובדים שחשים כי נכפתה עליהם מערכת, ועד העובדים הוא לעתים קרובות הדרך המהירה והיעילה ביותר לשינוי, הרבה לפני שמישהו חושב על התביעה משפטית.

מה פסק בית המשפט עד כה

הפסיקה עדיין מתפתחת, אך שני פסקי דין הולנדיים כבר קבעו את כיוון התנועה, ושניהם מצוטטים הרבה מעבר להולנד.

פסקי הדין של אובר ואולה

ב-4 באפריל 2023 ה- Gerechtshof Amsterdam (Amsterdam בית המשפט לערעורים) פסק בסדרה של תיקים שהגישו נהגים נגד אובר ואולה. הנהגים רצו לדעת מדוע חשבונותיהם הושבתו וכיצד הוקצו להם עבודה ומחירים. בית המשפט פסק לטובתם במידה רבה בנוגע לנקודות המידע. נהגים שאיבדו את הגישה לפלטפורמה, ועמה את הכנסתם, הושפעו באופן משמעותי מקבלת החלטות אוטומטית, והחברות לא יכלו להימנע מהסבר על ידי הצבעה על סודות מסחריים או על הסיכון למניפולציה מבלי לבסס את ההתנגדות הזו.

מה שבית המשפט דרש היה קונקרטי: לא תיאור כללי של הטכנולוגיה, אלא מידע על הגורמים שבהם נעשה שימוש והמשקל שניתן להם, כך שהאדם הנוגע בדבר יוכל להבין ולערער על התוצאה. זהו הסטנדרט שמעסיקים צריכים להניח שחל גם על אלגוריתם ביצועים. אם תשובתך לשאלה מדוע קיבלתי ציון גרוע היא שהמודל קבע זאת, לא עמדת בסטנדרט.

פסק הדין של SyRI

המקרה השני לא היה סכסוך עבודה, אך נימוקיו מגיעים גם למקום העבודה. בפסק דינו מיום 5 בפברואר 2020 (ECLI:NL:RBDHA:2020:865), קבע בית המשפט המחוזי של האג (Rechtbank Den Haag) כי החקיקה העומדת בבסיס SyRI, מערכת ממשלתית לאיתור הונאות קצבאות ומס, נכשלה במבחן סעיף 8 לאמנה האירופית לזכויות אדם. המערכת לא הייתה שקופה וניתנת לאימות מספקת: אף אחד מבחוץ לא יכול היה לקבוע כיצד סומן אדם, מה שהפך את ההגנה מפניה לבלתי אפשרית.

העיקרון הוא כללי. מערכת שלא ניתן לבחון את פעולתה אינה ניתנת לערעור, והחלטה שלא ניתן לערער עליה אינה החלטה הוגנת. מעסיק שרוצה לבסס הערכות על מודל שגם העובד וגם המעסיק לא יכולים להסביר, בונה על אותה הטענה שנכשלה במקרה ההוא. שאלות אלה של אחריות להתנהלות אוטומטית חורגות מעבר לדיני עבודה בלבד, כפי שמראה המאמר שלנו על בינה מלאכותית ומשפט פלילי.

זכויותיך אם אלגוריתם מדרג אותך

אם אתם מוערכים בעזרת מערכת בינה מלאכותית, יש לכם זכויות קונקרטיות וניתנות לאכיפה, ואינכם צריכים להוכיח שהמערכת שגויה לפני שתוכלו להשתמש בה.

באפשרותך לשאול אילו נתונים מוחזקים עליך ולקבל עותק שלהם, כולל המדידות המזינות את ההערכה והציונים הנגזרים מהן. תוכל לבקש מידע משמעותי על ההיגיון של המערכת, הגורמים הנחשבים ומשקלם. כאשר החלטה בעלת השפעה משמעותית התקבלה באמצעים אוטומטיים, תוכל לדרוש התערבות אנושית, להציג את נקודת המבט שלך ולערער על ההחלטה. תוכל לתקן נתונים לא מדויקים, וזה חשוב יותר ממה שזה נשמע: חלק גדול ממה שמערכות אלה רושמות הוא פשוט שגוי, החל מהיעדרויות שגויות ועד לעבודה המיוחסת לאדם הלא נכון.

כיצד לאתגר הערכה אוטומטית בפועל

התחילו בתיעוד עמדתכם לפני שאתם מעלים אותה. שימו לב לעבודה הספציפית שההערכה מתעלמת ממנה, לתקופות בהן הנסיבות היו יוצאות דופן, וכל היעדרות, חופשה או שינוי תפקיד שיורידו את הנתונים מסיבות שאין להן שום קשר לביצועים שלכם. הערות עכשוויות שוות הרבה יותר משחזור שישה חודשים מאוחר יותר.

לאחר מכן, הגישו את הבקשה בכתב למעסיק שלכם, תוך ציון מימוש זכויותיכם במסגרת ה-GDPR, בקשו את הנתונים ששימשו בהערכה שלכם ואת ההיגיון, ובקשו בדיקה אנושית על ידי מישהו בעל סמכות להגיע למסקנה אחרת. קבעו מועד אחרון סביר; ה-GDPR דורש מהמעסיק להגיב תוך חודש, שניתן להאריך אותו במקרים מורכבים. שמרו על טון עובדתי, מכיוון שהתכתבות זו נוטה להסתיים כראיה.

אם המעסיק אינו מגיב כראוי, באפשרותך להגיש תלונה ל-Autoriteit Persoonsgegevens, ולפנות את הסכסוך לבית המשפט. כאשר ההערכה משמשת לתמיכה בפיטורים או בשינוי בתנאי העבודה שלך, מסלול ההעסקה הוא בדרך כלל היעיל יותר והוא נמשך למועדים קצרים, לכן יש להתייעץ מראש. המאמר שלנו בנושא פרטיות נתונים במסגרת ה-GDPR בעידן הבינה המלאכותית והנתונים הענקיים מסביר את המסגרת העומדת בבסיסה.

מה על מעסיק לעשות לפני הפעלת המערכת

עבור מעסיקים, תאימות בתחום זה היא בעיקר עניין של רצף. כמעט כל בעיה רצינית מתעוררת משום שמערכת נרכשה ונפרסה תחילה, והשאלות המשפטיות נשאלו לאחר מכן.

התחילו עם המטרה. רשמו מה הארגון מנסה להשיג בפועל ואילו החלטות המערכת תשפיע, כי מכל זה נובע כל השאר: הנתונים שניתן להצדיק, הבסיס המשפטי, הערכת הסיכונים ורמת הפיקוח האנושי הנדרשת. מערכת שנרכשה כדי לשפר את התזמון ולאחר מכן משמשת בשקט לבניית תיק פיטורים היא הדרך הקלאסית לפעולת עיבוד בלתי חוקית.

בצעו את הערכת ההשפעה של הגנת המידע לפני הפריסה, לא כמסמך המופק מאוחר יותר כדי להצדיק החלטה שכבר התקבלה, ותעדו את התוצאה. קבעו ותעדו את הבסיס החוקי, תוך התחשבות בכך שהסכמת העובדים לעיתים רחוקות תהיה תקפה. קבעו האם המערכת נופלת תחת קטגוריית הסיכון הגבוה של חוק הבינה המלאכותית, ואם כן, מפו את החובות החלות על הפריס, כולל החובה ליידע את נציגי העובדים והעובדים המושפעים. קבלו את הסכמת מועצת העובדים כאשר סעיף 27 לחוק מועצות העובדים חל, וערב אותו מוקדם מספיק כדי שתרומתו תשנה משהו.

לאחר מכן, יש לעצב את הפיקוח שסעיף 22 דורש, ולבדוק האם הוא אמיתי. יש לשאול מי סוקר את התוצר, האם אותו אדם יכול לבטל אותו מבלי להצדיק את הסטייה בפני ממונה, האם יש לו את ההקשר לשפוט, והאם יש לו את הזמן. אם התשובה הכנה היא שהסוקר מעבד מאה תיקים אחר הצהריים, לארגון אין פיקוח אנושי; יש לו חתימה.

לבסוף, בדקו תוצאות ולא כוונות. בצעו ביקורת על תוצאות המערכת לפי מאפיין מוגן ולפי דפוס עבודה, ובדקו ספציפית עובדים שעובדים במשרה חלקית, שלקחו חופשה או חלו. תנו לעובדים דרך ברורה לערער על הערכה ותעדו מה קורה עם ערעורים אלה. שמרו את התיעוד, כי נטל הוכחת הציות מוטל על המעסיק, ובמחלוקת התיק הוא ההגנה.

איפה זה משאיר אותך

ניהול אלגוריתמי אינו אסור, והוא לא הולך להיעלם. מה שהחוק עושה הוא למתוח קו בין מדידה לשיפוט. מערכות יכולות לספור, להשוות ולאותת; אנשים חייבים להחליט, להסביר ולקחת אחריות. עובדים זכאים לדעת שהם מוערכים על ידי מערכת כזו, להבין מה היא מודדת, ולקבל מאדם בוחן שוב כל החלטה שמשפיעה עליהם באופן מהותי. מעסיקים המקבלים את חלוקת העבודה הזו יכולים להשתמש בכלים אלה בביטחון. אלו שנותנים ללוח המחוונים להחליט יגלו שגם ה-Autoriteit Persoonsgegevens וגם ה-kantonrechter לא מקבלים את התוצר כתחליף להערכה ראויה.

Law & More מייעץ למעסיקים בנוגע לפריסת בינה מלאכותית בניהול ביצועים, החל מהערכת ההשפעה ונוהל מועצת העובדים ועד לתכנון פיקוח אנושי, ומייעץ לעובדים המתמודדים עם הערכה אוטומטית שהם רואים כלא הוגנת. אם נעשה שימוש באלגוריתם כדי לשפוט את עבודתך או את עבודת הצוות שלך, נשמח לבחון את עמדתך.

שאלות נפוצות על סקירות ביצועים של בינה מלאכותית