C1 · יחידה 8
אתיקה של טכנולוגיה
דון באחריות, גישה ופיקוח אנושי באמצעות תרחיש טכנולוגי קונקרטי.
מילים חדשות
הסכמה מדעת
פיקוח אנושי
החלטה אוטומטית
ניגוד עניינים
השלכות בלתי צפויות
גישה שוויונית
הערכת השפעה
הזכות לסרב
הגנת מידע אישי
אחריות משותפת
ביקורת בלתי תלויה
מי אחראי
אינו מטרה בפני עצמה
עקיבות
שם עצם מופשט שם איכות; משמש כאן ביחיד.
יכולת הסבר
שם עצם מופשט שם איכות; משמש כאן ביחיד.
לחשוף בפומבי
לחשוף בפומבי
הטיה אלגוריתמית
הזכות להתערבות אנושית
הצדקה להחלטה
הֲטָיָה
אין אפליקציה, אין מקום?
מארגן סדנה
Новата система разпределя местата за работилницата. Няма да чакаме на опашка.
המערכת החדשה מקצה מקומות לסדנאות. לא נצטרך לעמוד בתור.
Удобно е. А как се записва човек без смарт телефон?
זה נוח. איך מישהו בלי סמארטפון נרשם?
מארגן סדנה
За това не помислихме. Може да оставим и записване по телефона.
לא חשבנו על זה. נוכל לשמור את הרישום גם בטלפון.
מארגן סדנה
Приложението иска и дата на раждане. Така е зададено.
האפליקציה מבקשת גם תאריך לידה. ככה זה מוגדר.
За какво ни е нужна? Нека събираме само необходимото.
לשם מה הוא נחוץ לנו? הבה נאסוף רק את הנחוץ.
מארגן סדנה
Точно така. Още нещо: системата отказа място на редовна посетителка.
נכון. ועוד דבר: המערכת לא הקצתה מקום למבקרת קבועה.
מארגן סדנה
Служителят вижда отказа, но няма бутон за промяна.
איש הצוות רואה את הסירוב אך אין לו כפתור לשנות אותו.
Тогава човешкият надзор е само на думи.
אז הפיקוח האנושי קיים רק בשם.
מארגן סדנה
Ще поискам възможност за преглед и поправка на отказа.
אבקש דרך לעיין ולתקן את הסירוב.
מארגן סדנה
И ще обясним промените на посетителите, преди да пуснем системата.
ואנו נסביר את השינויים למבקרים לפני השקת המערכת.
דוגמאות
Кой носи отговорност, ако автоматизираното решение засегне несправедливо някого?
מי אחראי אם החלטה אוטומטית מתייחסת למישהו בצורה לא הוגנת?
Информираното съгласие предполага разбираемо обяснение, а не само отметка.
הסכמה מדעת דורשת הסבר מובן, לא רק סימון.
Не разгласяваме лични данни в публичния отчет.
אנו לא חושפים נתונים אישיים בדוח הציבורי.
Преди да разглася резултатите, ще проверя дали са заличени имената.
לפני שאפרסם את התוצאות, אבדוק שהשמות הוסרו.
Проследимостта позволява да възстановим пътя до дадено решение.
העקיבות מאפשרת לנו לשחזר את הדרך להחלטה מסוימת.
Обяснимостта не гарантира, че решението е справедливо.
היכולת להסביר את ההחלטה אינה מבטיחה שהיא הוגנת.
Ще имат ли равнопоставен достъп хората без смарт телефон?
האם לאנשים ללא סמארטפון תהיה גישה שווה?
Човешкият надзор е полезен само ако човекът може да промени решението.
פיקוח אנושי מועיל רק אם האדם יכול לשנות את ההחלטה.
Независимият одит трябва да провери и непредвидените последици.
על הביקורת הבלתי תלויה לבחון גם את ההשלכות שלא נצפו מראש.
Технологията не е самоцел; първо уточняваме чий проблем решава.
הטכנולוגיה אינה מטרה בפני עצמה; תחילה נבהיר את הבעיה של מי היא פותרת.