UI v podporo učiteljem?
5. Etika za zaupanja vredeno umetno inteligenco
Sistemi umetne inteligence, ki se uporabljajo v izobraževanju, morajo biti zaupanja vredni, tj. izpolnjevati naslednjih 7 zahtev, ki jih morajo sistemi umetne inteligence izpolnjevati, da bi veljali za zaupanja vredne2:
- tehnična zanesljivost in varnost,
- zasebnost in upravljanje podatkov,
- transparentnost,
- raznolikost, nediskriminatornost in pravičnost,
- družbena in okoljska blaginja,
- dgovornost, ter
- človeško posredovanje in nadzor: "Sistemi umetne inteligence bi morali opolnomočiti ljudi, jim omogočiti sprejemanje premišljenih odločitev in spodbujati njihove temeljne pravice. Hkrati je treba zagotoviti ustrezne mehanizme nadzora."
______________________________
2. "Ethics guidelines for trustworthy AI", European Commission, High-Level Expert Group on AI - 2019. ↩