Strojno učenje in podatki

Tveganja pri uporabi algoritmov je mogoče opredeliti na tri načine³:

1.  Prvič gre za omejenost algoritma, ki se lahko nanaša tudi na mnenja, kulturno znanje ali celo poslovne prakse. Algoritmi namreč kljub spoštovanju načela pravičnosti uporabnika interneta soočajo z enako vsebino, odvisno od njegovega profila in integriranih parametrov. To se dogaja na spletnih straneh za priporočanje novic, kot je Facebook, ali na spletnih straneh za priporočanje izdelkov, kot je Amazon.
2.  Drugi vidik algoritemskega tveganja je povezan z nadzorom vseh vidikov posameznikovega življenja, od urejanja informacij za vlagatelje do njegovih prehranjevalnih navad, hobijev ali celo zdravstvenega stanja. To sledenje posamezniku kaže na obliko nadzora, ki je v nasprotju s samim bistvom svobode posameznika.
3.  Tretji  vidik je povezan z morebitno kršitvijo temeljnih pravic. Zlasti algoritemska diskriminacija, ki je opredeljena kot neprimerno ali neenako obravnavanje v primerjavi z drugimi osebami ali drugimi enakimi ali podobnimi položaji na podlagi razloga, ki je izrecno prepovedan z zakonom. To zajema preučevanje pravičnosti (poštenosti) algoritmov za razvrščanje (razvrščanje ljudi, ki iščejo delo na spletu), priporočanje in učenje napovedovanja. Problem diskriminatorne pristranskosti, ki jo povzročajo algoritmi, zadeva več področij, kot so spletno zaposlovanje, sodne odločitve, odločitve policijskih patrulj ali sprejem v šolo.