„Az emberi társadalmak filozófiai, intellektuális és minden egyéb értelemben felkészületlenek a mestereséges intelligenciára” – írja Henry Kissinger veterán politikus és elemző az Atlantic magazinban.

Kissinger arra hívja fel a figyelmet, hogy a tudományos forradalmak a múltban mindig jelentős társadalmi átalakulásokhoz vezettek. Az írásbeliség elterjedése, majd a nyomtatás megjelenése gyökeresen átalakította az emberi együttélést. A koramodern tudományosság megjelenése nélkül elképzelhetetlen lett volna a felvilágosodás. Mindebből pedig az következik, hogy a mesterséges intelligencia térnyerése is nagy átalakulásokat fog eredményezni.

Az algoritmusok rendkívül hatékonyan képesek problémákat megoldani, viszont a problémák általánosabb, etikai vonatkozásait aligha képesek megítélni. Kissinger példaként az önvezető autókkal kapcsolatos etikai dilemmákat említi. Ezeknél azonban talán még inkább elgondolkoztatók azon kísérletek, amelyekben a mesterséges intelligencia a kutatókat is megdöbbentő módon oldotta meg a rábízott feladatokat. Előfordult, hogy a mesterséges intelligencia kijátszotta vagy kikerülte a rendszer szabályait. Egy másik kutatás során pszichopata őrültet sikerült faragni a mesterséges intelligenciából.

Kissinger aggasztónak tartja annak lehetőségét, hogy a mesterséges intelligencia vezérelte gépek önállóan is képesek lehetnek tanulni. Hovatovább hétköznapi eszközeinket sem tudjuk majd uralni, mert nem vagyunk képesek átlátni az őket irányító szoftverek működését. A mesterséges intelligencia esetében pedig még utólag sem mindig könnyű megfejteni az algoritmikus döntési mechanizmust. Ha nem értjük az algoritmusok döntési mechanizmusait, ám mégis rájuk hagyatkozunk, akkor a mesterséges intelligencia átveszi tőlünk az életünk irányítását – véli Kissinger. „A korábbi gépesítések során adott célok eléréséhez kerestünk eszközöket. A mesterséges intelligencia azonban magának hoz létre célokat.” Ha ezeket a súlyos kérdéseket nem tisztázzuk mielőbb, könnyen úgy járhatunk, mint az inkák a spanyol hódítókkal – figyelmeztet Kissinger.