„Ki viseli a felelősséget az algoritmusok káros avagy ízléstelen döntéseiért?” – kérdezi Tim Harford, a Metazin régi ismerőse a Financial Timesban (a cikk a szerző oldalán előfizetés nélkül olvasható).

Ahogyan a mesterséges intelligencia fejlődik, úgy sűrűsödnek a vele kapcsolatos dilemmák és aggodalmak. A mesterséges intelligencia hovatovább már létrehozója számára sem kiismerhető, és emiatt lassan hétköznapi eszközeinket sem tudjuk uralni. Van, aki egyenesen attól tart, hogy az algoritmusok átveszik a gondolkozás irányítását, aminek következtében a mestereséges intelligencia házimacskái leszünk. A demokrácia is veszélybe kerülhet, ha a politikai és társadalmi döntéseket, sőt az államigazgatást is algoritmusokra bízzuk.

Harford olasz közgazdászok kísérletéről számol be, amelyben a kutatók azt vizsgálták, hogy milyen hatással lesz az árakra, ha nem hús-vér emberek, hanem algoritmusok határozzák meg, mi mennyibe kerül. Az eredmény: a mesterséges intelligencia gyorsan felismeri, hogy nem áll érdekében árversenyt indítani. A konkurens cégek árazását szimuláló számítógépek explicit megállapodás és egyeztetés nélkül is rájöttek, hogy verseny helyett jobban járnak a kartellezéssel.

Mindez nem meglepő, hiszen már évtizedek óta tudjuk – jegyzi meg Harford –, hogy a mesterséges intelligencia hosszútávú racionális érdekkalkulációra képes, és játékelméleti szituációkban sokkal inkább hajlamos a saját jól felfogott érdekében együttműködni, mint a bizalmatlan hús-vér egyének. A kísérlet eredménye azonban súlyos jogi kérdést vet fel: ki a felelős a mesterséges intelligenciák közötti spontán és hallgatólagos kartellért, már ha egyáltalán felelős bárki is? A mesterséges intelligencia előállítója? A cég, amely alkalmazza? Vagy senki?

Bár egyelőre csak kísérletről van szó, a kérdés tehát akadémiai, Harford több olyan valóban megtörtént esetet idéz, amelyek valós jogi dilemmákat vetnek fel. 2012-ben egy hibás bróker-algoritmus közel félmilliárd dolláros veszteséget okozott, és jelentősen eltérítette egyes részvények árát. Az Amazon mesterséges intelligenciája pedig sértő feliratú pólókat tervezett. Végül, mint a Metazin is beszámolt róla, a politikai közvéleményt befolyásoló chatrobotok kapcsán is felvetődött, nem lenne-e jogos korlátozni a szólásszabadságot.

Harford nem ad egyértelmű receptet arra, hogy milyen jogi fellépés kezelhetné a mesterséges intelligencia által elkövetett vétségeket. De azt biztosra veszi, hogy a nagyvállalatok ki fogják használni a lehetőséget. Korábban is igyekeztek saját felelősségük csökkentése érdekében kiszervezni a problematikus feladatokat. Például alvállalkozókra bízták az alulfizetett takarítást, és szemet hunytak afelett, hogy távol-keleti beszállítóik gyermekeket dolgoztatnak üzemeikben. Harford szerint aligha kétséges, hogy megfelelő szabályozás híján a mesterséges intelligenciát is bevetik majd mindenféle olyan tevékenységben, amely akár jogi, akár morális szempontból aggályosnak számíthat.