„Ha szigorúan racionális megfontolásoknak engednénk, mindegy volna nekünk, gép üt-e el, vagy ember. Holott nem mindegy” – állapítja meg a Washington Postban Joel Achenbach.

Mint megállapítja, elviselhetetlennek tartjuk a gondolatot, hogy egy gép döntsön életünkről-halálunkról. Márpedig, ha egyszer a jövő autójában nem ül majd vezető, hanem számítógépes program hozza meg a döntéseket, akkor a tervezőknek végig kell gondolniuk, hogyan döntsön a program bizonyos szélsőséges helyzetekben. A kiindulópont az „elszabadult vasúti kocsi dilemmája”, melyet Philippa Foot brit filozófus fogalmazott meg 1967-ben. Egy vasúti kocsi feltartóztathatatlanul robog a sínen öt békésen kártyázgató és mit sem sejtő férfi felé. A véletlen szemlélő megmentheti őket, ha átállít egy váltót, s a vagont egy másik vágányra irányítja, ahol egyetlen, szintén mit sem sejtő ember áll. Egy ember élete árán ötöt menthet meg. A megkérdezett emberek nagy többsége amellett foglal állást, hogy mégiscsak többet ér öt élet, mint egy. A fenti szimuláció módosított változatában a vasúti kocsit megállíthatjuk, ha a robogó vagon elé lökünk egy kövér embert, aki biztosan meghal ugyan, viszont nagy testtömegével lefékezi a vonatot, és az öt férfi megmenekül. A többség ebben az esetben inkább tétlen maradna és hagyná, hogy öt áldozat legyen. Pedig a hűvös racionalitás azt sugallja, hogy a dilemma pontosan ugyanaz, mint az előbbi.

Nem csoda hát, hogy még nehezebb eldönteni, mi a teendő, ha nem ember hozza meg a döntést, hanem egy gépet kell rá felkészíteni. Mert hiszen egyre közelebb kerülünk ahhoz, hogy sofőr nélküli autók közlekedjenek a közutakon. Az eddigi kísérletek azt mutatják, hogy már a mostani, még tökéletlen kísérleti konstrukciók is sokkal biztonságosabban közlekednek, mint az ember vezette közúti járművek. De mi legyen a teendő, ha az embernek is megoldhatatlan erkölcsi dilemma elé kerülnek? Nyilván arra programozzák őket, hogy a hirtelen eléjük kerülő gyalogosokat vagy kerékpárosokat kikerüljék. De mi van akkor, ha ezzel másokat veszélyeztetnek? Például a jármű utasát. Vagy nézzünk egy szélsőséges esetet: váratlanul egy iskolásokat szállító busz kerül eléje egy hegyi szerpentinen. Belekormányozza-e a vezető nélküli autó magát a szakadékba, hogy ezzel megmentse a gyerekeket? Akár az utas élete árán is. Achenbach egy tanulmány szerzőitől azt a megállapítást idézi, hogy ezeknek a dilemmáknak a megoldása elengedhetetlen, mielőtt ráengedik az automata gépkocsikat a közútra.

Az MIT mesterséges intelligenciával foglalkozó laboratóriumának nevezetője, Daniela Rus azt feleli erre, hogy a vezető nélküli autónak senkit sem szabad elütnie, és ezzel eleve ki kell iktatni a programozásból az elszabadult vasúti kocsi dilemmáját. Ugyanakkor elismeri azonban, hogy egy különösen forgalmas körforgalom vagy egy rendkívüli időjárási helyzet ma még megoldhatatlan feladat elé állítja ezeket az automata járműveket. Ámde ha így van, akkor nehéz elhinnünk, hogy a vezető nélküli jármű nem kerülhet olyan helyzetbe, hogy embert kelljen gázolnia.

Korábban ugyancsak a Washington Postban volt olvasható, mit gondol erről Chris Urmson, aki a Google-nál a vezető nélküli autók programját irányítja. Márpedig a gép sohasem lesz képes erkölcsi döntéseket hozni – mondotta Urmson. Arra tanítják be, hogy mindenekelőtt a legsérülékenyebbeket kímélje. A gyalogosokat, a kerékpárosokat. Őket követik a kímélendők sorában az egyéb járművek, végül pedig a mozdulatlan tárgyak. Ebből is az következik, hogy a teljes biztonság nem garantálható. Igaz, sokszorta kevesebb halálos baleset fordulna elő az automatákkal, mint az úrvezetőkkel, de az a kevés talán riasztóbb, mert ahogy Achenbach írja, „természetünknél fogva” elfogadhatatlannak érezzük, hogy egy gép okozza a halálunkat. A részeg sofőröket, a mobiltelefonáló vezetőket már megszoktuk.