C1 · Unit 8
Ethics of technology
Discuss responsibility, access and human oversight through a concrete technology scenario.
New words
informed consent
human oversight
automated decision
conflict of interest
unforeseen consequences
equitable access
impact assessment
right to decline
personal data protection
shared responsibility
independent audit
who is responsible
is not an end in itself
traceability
An abstract noun naming a quality; used here in the singular.
explainability
An abstract noun naming a quality; used here in the singular.
disclose publicly
disclose publicly
algorithmic bias
right to human intervention
justification of the decision
bias
No app, no place?
Workshop organiser
Новата система разпределя местата за работилницата. Няма да чакаме на опашка.
The new system allocates workshop places. We will not have to queue.
Удобно е. А как се записва човек без смарт телефон?
That is convenient. How does someone without a smartphone register?
Workshop organiser
За това не помислихме. Може да оставим и записване по телефона.
We did not think of that. We could retain registration by phone too.
Workshop organiser
Приложението иска и дата на раждане. Така е зададено.
The app also asks for a date of birth. That is how it is configured.
За какво ни е нужна? Нека събираме само необходимото.
What do we need it for? Let us collect only what is necessary.
Workshop organiser
Точно така. Още нещо: системата отказа място на редовна посетителка.
Exactly. Another thing: the system refused a place to a regular visitor.
Workshop organiser
Служителят вижда отказа, но няма бутон за промяна.
The staff member sees the refusal but has no button to change it.
Тогава човешкият надзор е само на думи.
Then human oversight exists only in name.
Workshop organiser
Ще поискам възможност за преглед и поправка на отказа.
I will request a way to review and correct the refusal.
Workshop organiser
И ще обясним промените на посетителите, преди да пуснем системата.
And we will explain the changes to visitors before launching the system.
Examples
Кой носи отговорност, ако автоматизираното решение засегне несправедливо някого?
Who is responsible if an automated decision treats someone unfairly?
Информираното съгласие предполага разбираемо обяснение, а не само отметка.
Informed consent requires an understandable explanation, not just a tick.
Не разгласяваме лични данни в публичния отчет.
We do not disclose personal data in the public report.
Преди да разглася резултатите, ще проверя дали са заличени имената.
Before I publish the results, I will check that the names have been removed.
Проследимостта позволява да възстановим пътя до дадено решение.
Traceability lets us reconstruct the path to a particular decision.
Обяснимостта не гарантира, че решението е справедливо.
Explainability does not guarantee that a decision is fair.
Ще имат ли равнопоставен достъп хората без смарт телефон?
Will people without a smartphone have equitable access?
Човешкият надзор е полезен само ако човекът може да промени решението.
Human oversight is useful only if the person can change the decision.
Независимият одит трябва да провери и непредвидените последици.
The independent audit must also examine unintended consequences.
Технологията не е самоцел; първо уточняваме чий проблем решава.
Technology is not an end in itself; first we clarify whose problem it solves.