Koho zabije samořídící auto? Stroji, zachraň co nejvíce lidí, ale hlavně zachraň mě!

Pokud nastane situace, kdy si autonomní systém auta musí rychle vybrat, koho obětovat v případě hrozící nehody, jak by měl reagovat? Obětovat cestující, abychom zachránili chodce? V případě potřeby zabít chodce, abyste ušetřili například čtyřčlennou rodinu cestující v autě? Nebo by možná měl vždy chránit sám sebe?

Zatímco jen v Kalifornii již více než šedesát společností obdrželo povolení k osobnímu testování, je těžké říci, že toto odvětví je připraveno čelit etickým dilematům. Momentálně se potýká se zásadnějšími problémy – provozem a navigační efektivitou systémů a prostým vyhýbáním se kolizím a nepředvídatelným událostem. V situacích, jako je nedávná vražda chodce v Arizoně nebo následné srážky (1), šlo zatím pouze o selhání systému, a ne o nějaký druh „etické volby“ auta.

Zachraňte bohaté a mladé

Otázky přijímání těchto druhů rozhodnutí nejsou abstraktní problémy. Každý zkušený řidič to může potvrdit. V loňském roce výzkumníci z MIT Media Lab analyzovali přes čtyřicet milionů odpovědí od respondentů z celého světa, které shromáždili v průběhu výzkumu zahájeného v roce 2014. Systém hlasování, který nazývají „Etický stroj“, ukázal, že na různých místech v okolí světě, na podobné otázky jsou kladeny různé odpovědi.

Nejobecnější závěry jsou předvídatelné. V extrémních situacích lidé dávají přednost zachraňování lidí před péčí o zvířata s cílem zachránit co nejvíce životů a bývají mladší než senioři (2). Existují také určité, ale méně zřejmé preference, pokud jde o záchranu žen před muži, lidí s vyšším postavením před chudšími lidmi a chodců před cestujícími v autech..

2. Koho má auto zachraňovat?

Vzhledem k tomu, že téměř půl milionu respondentů vyplnilo demografické dotazníky, bylo možné korelovat jejich preference s věkem, pohlavím a náboženským přesvědčením. Vědci dospěli k závěru, že tyto rozdíly „významně neovlivnily“ rozhodování lidí, ale zaznamenali některé kulturní vlivy. Francouzi například měli tendenci vážit rozhodnutí na základě odhadovaného počtu úmrtí, zatímco v Japonsku byl důraz kladen nejmenší. V Zemi vycházejícího slunce je však život starších lidí ceněn mnohem více než na Západě.

„Než umožníme našim vozům činit vlastní etická rozhodnutí, musíme o tom vést globální debatu. Až se společnosti pracující na autonomních systémech dozvědí o našich preferencích, vyvinou na nich etické algoritmy ve strojích a politici mohou začít zavádět adekvátní právní ustanovení,“ napsali vědci v říjnu 2018 v Nature.

Jeden z výzkumníků zapojených do experimentu Moral Machine, Jean-Francois Bonnefont, zjistil, že preference zachraňování lidí s vyšším postavením (například vedoucích pracovníků před bezdomovci) je alarmující. Podle jeho názoru s tím velmi souvisí míra ekonomické nerovnosti v dané zemi. Tam, kde byly nerovnosti větší, se dávalo přednost obětování chudých a bezdomovců.

Jedna z předchozích studií ukázala zejména to, že autonomní vůz by měl podle respondentů ochránit co nejvíce lidí, i kdyby to znamenalo ztrátu cestujících. Zároveň ale respondenti uvedli, že by si takto naprogramovaný vůz nekoupili. Výzkumníci to vysvětlili lidem sice připadá etičtější zachraňovat více lidí, ale mají také vlastní zájem, což by mohlo být signálem pro výrobce, že zákazníci se budou zdráhat kupovat auta vybavená altruistickými systémy.. Před časem zástupci společnosti Mercedes-Benz řekli, že pokud by jejich systém zachránil jen jednoho člověka, zvolili by řidiče, nikoli chodce. Vlna veřejného pobouření donutila společnost stáhnout své prohlášení. Ale výzkum jasně ukazuje, že v tomto svatém rozhořčení bylo mnoho pokrytectví.

V některých zemích se to již děje. první pokusy o právní regulaci v terénu. Německo schválilo zákon, který požaduje, aby se auta bez řidiče za každou cenu vyhýbala zranění nebo smrti. Zákon také říká, že algoritmy se nikdy nemohou rozhodovat na základě charakteristik, jako je věk, pohlaví, zdraví nebo chodci.

Audi přebírá vedení

Konstruktér není schopen předvídat všechny důsledky provozu vozu. Realita může vždy poskytnout kombinaci proměnných, které nebyly nikdy předtím testovány. To podkopává naši víru v možnost „etického programování“ stroje vůbec. Zdá se nám, že v situacích, kdy dojde k chybě a dojde k tragédii „vinou auta“, by měl nést odpovědnost výrobce a vývojář systému.

Možná je tato úvaha správná, ale možná ne proto, že by byla špatná. Spíše proto, že bylo povoleno hnutí, které nebylo na 2019 % bez možnosti jej uskutečnit. Zdá se, že to je důvod a sdílené odpovědnosti se nevyhýbá společnost, která nedávno oznámila, že převezme odpovědnost za nehody týkající se 8 let starého A3, přičemž v něm bude používat automatický systém Traffic Jam Pilot (XNUMX).

3. Rozhraní Audi Traffic Jam Pilot

Na druhou stranu jsou miliony lidí, kteří jezdí v autech a také chybují. Proč by tedy měly být v tomto ohledu diskriminovány stroje, které statisticky dělají mnohem méně chyb než lidé, o čemž svědčí četné chyby?

Pokud si někdo myslí, že dilemata etiky a odpovědnosti ve světě autonomních vozidel jsou jednoduchá, nepřemýšlejte...