Poučevanje z umetno inteligenco

Pojasnljivost - ena od 7 ključnih zahtev za zaupanja vredno umetno inteligenco: ""Pojasnljivost se nanaša na zmožnost pojasniti tehnične procese sistema umetne inteligence in s tem povezane človeške odločitve (npr. področja uporabe sistema). Tehnična pojasnljivost zahteva, da lahko odločitve, ki jih sprejme sistem UI, ljudje razumemo in jim sledimo."¹

Na področju izobraževanja to pomeni, da sta v vsakem orodju za odločanje z umetno inteligenco način predlaganja odločitve in s tem povezana človeška interakcija elementa, do katerih je mogoče dostopati.

To zahtevo je bolj ali manj enostavno izpolniti, vendar pri nekaterih tehnologijah umetne inteligence pojasnljivosti ni tako preprosto zagotoviti. Na primer pri nevronskih mrežah z več plastmi je pojasnila težko podati. Zato se zdaj razvija novo področje umetne inteligence: eXplainable AI ali XAI, ki je opredeljena kot umetna inteligenca, pri kateri lahko ljudje razumejo odločitve ali napovedi umetne inteligence. To je v nasprotju s konceptom "črne skrinjice" pri strojnem učenju, kjer niti njeni oblikovalci ne morejo pojasniti, zakaj je umetna inteligenca sprejela določeno odločitev. "²

___________________________

1. "Poleg tega bo morda treba sprejeti kompromis med izboljšanjem pojasnljivosti sistema (kar lahko zmanjša njegovo natančnost) in povečanjem njegove natančnosti (na račun pojasnljivosti). Vsakič, ko sistem umetne inteligence pomembno vpliva na življenje ljudi, bi moralo biti mogoče zahtevati ustrezno razlago postopka odločanja sistema umetne inteligence. Takšna razlaga bi morala biti pravočasna in prilagojena strokovnemu znanju zadevne zainteresirane strani (npr. laik, regulator ali raziskovalec). Poleg tega bi morala biti na voljo pojasnila o tem, v kolikšni meri sistem UI vpliva na proces odločanja v organizaciji in ga oblikuje, o izbiri zasnove sistema in o razlogih za njegovo uvedbo (s čimer se zagotovi preglednost poslovnega modela)." Iz "Ethics Guidelines for Trustworthy AI" (consulted 10/16/2022). ↩
2. Iz Wikipedie "Explainable artificial intelligence" (consulted 10/16/2022). ↩