„Számítógépekre bízzuk a repülők irányítását, a rák felismerését, az épületek tervezését és a számvitelt. Ez eddig rendben is volna, de mi van, ha a számítógép elromlik?” – olvassuk Nicholas Carr internetguru vészjósoló cikkét az Atlantic magazinban.

Carr három éve arról értekezett, hogy a számítógép elterjedése rontja kognitív képességeinket. Most azt járja körül, hogy milyen következményei lehetnek a gépesítés hatására bekövetkező képességromlásnak. Felidézi, hogy az elmúlt években történt néhány olyan repülőszerencsétlenség, amelynek oka a pilóták rutintalansága volt: a robotpilóta meghibásodása után nem tudták, hogyan előzzék meg az átesést. Carr szerint az esetek arra figyelmeztetnek, hogy minél inkább a gépekre hagyatkozunk, annál kiszolgáltatottabbá válunk.

Márpedig mindjobban a modern technikára bízzuk magunkat – folytatja Carr. Már nemcsak a mechanikus munkafolyamatokat automatizáljuk, hanem a komoly gyakorlatot, szaktudást és ítélőképességet igénylő feladatokat is. A Google sikeresen tesztelte a vezető nélküli autót, a gyógyászatban is egyre nagyobb teret nyernek a diagnosztizáló szoftverek, a tőzsdei kereskedés jelentős részét algoritmusok vezérelte számítógépek bonyolítják, és az ügyvédi munka egy része is algoritmusokra bízható. Hovatovább már az eszkimók is GPS-szel tájékozódnak (aminek eredményeképpen a hagyományos módon már egyre ritkábban találják meg a táborhoz visszavezető utat). És akkor még nem is beszéltünk a Big Data adatelemzés lehetőségeiről.

Mivel a gépekre bízott munkafolyamatokat egyre kevésbé értjük, egyre csökken az esély, hogy észrevegyük a gépek által elkövetett hibákat. A technika hívei még több gépesítéssel válaszolnának a problémára: a gépek hibáit megelőzendő, még több munkafolyamatot automatizálnának. Carrt azonban nem nyugtatja meg ez a lehetőség. Mivel a gépeket emberek készítik, és a tervezők nem láthatnak minden eshetőséget előre, a robotok sosem lesznek tökéletesek. Ráadásul minél inkább a gépekre hagyatkozunk, annál jobban elsorvadnak gyakorlati képességeink. Amiből Carr azt a következtetést vonja le, hogy az egyre nagyobb fokú gépesítés hatására végül már egyáltalán nem leszünk képesek felülbírálni a gépeket és korrigálni hibáikat.