1. Ste pripravljeni zaupati umetni inteligenci pri sprejemanju odločitev?

1.2. Interpretabilnost

Napovedi, izdelane z nekaterimi tehnikami umetne inteligence, je lažje razlagati kot druge. Napoved, narejeno z odločitvenim drevesom, je na primer mogoče razložiti, vendar pa to niso vedno najbolj zanimive napovedi, ki jih je mogoče oblikovati.

Na drugem koncu spektra pojasnljivosti je globinsko učenje, ki ga je težko pojasniti, vendar so lahko njegovi rezultati veliko pomembnejši od tistih, narejenih z zelo pojasnljivo UI.


Podpora pri odločanju, ki jo zagotavljajo orodja z nizko razložljivostjo, je zato lahko pomembnejša od podpore, ki jo zagotavljajo orodja z visoko razložljivostjo.