Umělá inteligence má obrovský potenciál, který s sebou ale nese i určitá rizika. Nemá smysl se umělé inteligenci bránit, protože přínosy jednoznačně převažují, ale je dobré rizika znát a počítat s nimi. V současné době se již na půdě Evropské unie připravuje regulace, která má cíl rizika minimalizovat. Na ta nejdůležitější rizika umělé inteligence se podíváme níže:

• Vysvětlitelnost – moderní systémy umělé inteligence u některých úloh výrazně překonávají schopnosti lidí (například hraní her, klasifikace obrázků apod.). Je však obtížné nebo nemožné jejich chování zdůvodnit pro člověka srozumitelným způsobem (to platí zejména u složitých umělých neuronových sítí). Není tedy zatím možné použít umělou inteligenci v kritických oblastech jako např. k plně automatické diagnóze a léčení pacientů.
• Sociální bubliny – čím dál sofistikovanější doporučovací a personalizační systémy nás uzavírají do sociálních a informačních bublin. Je třeba si toho být vědomi a chovat se podle toho.
• Férovost a bias – systémy umělé inteligence jsou do velké míry odrazem použitých trénovací dat. Velmi snadno mohou např. diskriminovat skupiny lidí, které jsou v datech zastoupeny minimálně. V roce 2016 vytvořil Microsoft tweetujícího chatbota, kterého ale musel brzo po zveřejnění zastavit, protože se ze zpětné vazby od lidí naučil být rasistický a vulgární.
• Hacknutelnost – stejně jako u jiných počítačových technologií hrozí i u umělé inteligence možnost napadení nebo hacknutí. Pokud útočník dostane přístup k modelu umělé inteligence, je možné jej relativně snadno oklamat. V odkazovaném videu můžete vidět ukázku takzvaného adversarial patch. Jedná se o způsob zmatení obrázkového klasifikátoru umístěním vygenerované nálepky do obrazu. Pokud bychom měli k dispozici neuronovou síť pro rozpoznávání dopravních značek v samořiditelném autě, mohli bychom vytvořit nálepky na dopravní značky, a způsobit tak v důsledku chybného rozpoznání cíleně nehody a chaos.
• sebere nám AI práci? – nejspíš nastane podobná situace jako na začátku průmyslové revoluce. Řada nekvalifikovaných pracovních pozic zanikne, ale spousta nových vznikne. Klíčem k úspěchu ve společnosti budoucnosti je vzdělání a schopnost adaptace.
• Autonomní zbraně – autonomní zbraně jsou potenciálně velmi nebezpečné, protože nepotřebují dosažení silné umělé inteligence, a již nyní jsme je schopni vyrobit. Existují celosvětové snahy o jejich zákaz nebo regulaci jako např. u chemických zbraní.
• Existenční riziko – obava o zachování lidského druhu v případě vytvoření silné umělé inteligence. Vytvoření umělé inteligence, která by se stala neovladatelnou a začala by usilovat o vyhlazení lidského druhu je nepravděpodobné, ale přesto seriózně zkoumané riziko.

Obrázek 1: Kultovní film Terminátor.