C1 · Розділ 8
Етика технологій
Обговори відповідальність, доступ і людський нагляд через конкретний технологічний сценарій.
Нові слова
інформована згода
нагляд з боку людини
автоматизоване рішення
конфлікт інтересів
непередбачені наслідки
рівний доступ
оцінка впливу
право на відмову
захист персональних даних
спільна відповідальність
незалежний аудит
хто відповідає
не є самоціллю
простежуваність
Абстрактний іменник, що називає властивість; тут уживається в однині.
пояснюваність
Абстрактний іменник, що називає властивість; тут уживається в однині.
оприлюднювати
оприлюднити
алгоритмічна упередженість
право на людське втручання
обґрунтування рішення
упередженість
Без застосунку немає місця?
Організатор семінару
Новата система разпределя местата за работилницата. Няма да чакаме на опашка.
Нова система розподіляє місця на занятті. Не доведеться стояти в черзі.
Удобно е. А как се записва човек без смарт телефон?
Це зручно. Як зареєструватися без смартфона?
Організатор семінару
За това не помислихме. Може да оставим и записване по телефона.
Ми про це не думали. Ми також можемо зберегти реєстрацію по телефону.
Організатор семінару
Приложението иска и дата на раждане. Така е зададено.
Додаток також запитує дату народження. Ось як він налаштований.
За какво ни е нужна? Нека събираме само необходимото.
Для чого нам це потрібно? Давайте збирати тільки те, що необхідно.
Організатор семінару
Точно така. Още нещо: системата отказа място на редовна посетителка.
Саме так. І ще одне: система відмовила в місці постійній відвідувачці.
Організатор семінару
Служителят вижда отказа, но няма бутон за промяна.
Співробітник бачить відмову, але не має кнопки змінити її.
Тогава човешкият надзор е само на думи.
Тоді нагляд з боку людини існує лише на словах.
Організатор семінару
Ще поискам възможност за преглед и поправка на отказа.
Я попрошу передбачити можливість переглянути й виправити відмову.
Організатор семінару
И ще обясним промените на посетителите, преди да пуснем системата.
І ми пояснимо зміни відвідувачам перед запуском системи.
Приклади
Кой носи отговорност, ако автоматизираното решение засегне несправедливо някого?
Хто несе відповідальність, якщо автоматизоване рішення несправедливо зачепить когось?
Информираното съгласие предполага разбираемо обяснение, а не само отметка.
Інформована згода вимагає зрозумілого пояснення, а не просто галочки.
Не разгласяваме лични данни в публичния отчет.
Ми не розкриваємо персональні дані в публічному звіті.
Преди да разглася резултатите, ще проверя дали са заличени имената.
Перш ніж опублікувати результати, я перевірю, чи видалено імена.
Проследимостта позволява да възстановим пътя до дадено решение.
Простежуваність дає змогу відновити шлях до певного рішення.
Обяснимостта не гарантира, че решението е справедливо.
Пояснюваність не гарантує справедливості рішення.
Ще имат ли равнопоставен достъп хората без смарт телефон?
Чи матимуть люди без смартфона рівний доступ?
Човешкият надзор е полезен само ако човекът може да промени решението.
Людський нагляд корисний лише тоді, коли людина може змінити рішення.
Независимият одит трябва да провери и непредвидените последици.
Незалежний аудит також має перевірити непередбачені наслідки.
Технологията не е самоцел; първо уточняваме чий проблем решава.
Технологія не є самоціллю; спочатку з’ясовуємо, чию проблему вона розв’язує.