Strojové rozhodování pomocí umělé inteligence v praxi s sebou nese celou řadu morálních dilemat, která bude dříve nebo později třeba řešit. Zřejmě nejznámějším (byť jen hypotetickým) příkladem je takzvané Tramvajové dilema.

Představte si situaci, kdy se po kolejích řítí neovladatelná tramvaj a pokud nic neuděláte, zabije 5 lidí. Jste ale v situaci, kdy tomu můžete zabránit – přehodit výhybku a tramvaj nasměrovat na jinou kolej, kde tím přijde o život jiný (jediný) člověk, kterému by se ale bez vašeho zásahu nic nestalo. K nikomu z lidí nemáte žádný osobní vztah. Jak byste se v dané situaci zachovali? Na tuto otázku neexistuje správná a jednoznačná odpověď. Pokud výhybku přehodíte, sice snížíte ztráty na životech, ale zabijete původně nezúčastněného nevinného člověka, který by jinak žil. Dále je možné měnit počet lidí na první koleji. Pokud by to byl jen jeden člověk, zřejmě by výhybku nikdo nepřehodil. Pokud to hypoteticky bylo celé lidstvo, pak nejspíš většina ano.

Obrázek 1: Tramvajovené dilema – varianta 1.

Pokud byste na předchozí situaci hypoteticky reagovali přehozením výhybky, zkuste se zamyslet, zda byste své rozhodnutí nepřehodnotili v případě, že byste místo přehození výhybky museli daného člověka shodit z mostu do kolejiště a jeho tělem tak tramvaj vykolejit. Výsledné ztráty na životech by byly stejné jako v předchozím případě.

Obrázek 2: Tramvajové dilema – varianta 2.

Taková a podobná dilemata jsou důležitá pro programování samořiditelných aut. Existuje celá řada morálních otázek, které je třeba zodpovědět. Např.:

• má auto minimalizovat ztráty, nebo především chránit své pasažéry
• má auto v případě, že není jiná možnost, raději srazit starého člověka nebo dítě?
• má auto raději srazit 3 lidi, přecházející na červenou, nebo strhnout volant a srazit jednoho člověka na chodníku?

Pro zjišťování morálních preferencí lidí vznikl projekt Moral Machine, kde může kdokoliv hodnotit různé dopravní situace. Je zajímavé, že výsledky jsou velmi odlišné v různých kulturách (např. západní vs. asijská společnost). Samořiditelná auta ale dnes ještě nejsou tak pokročilá, aby morální otázky byla reálně schopna řešit (alespoň podle veřejně dostupných informací).