„Jóságos android vagy gonosz terminátor?” – A robotika szerepe a politikában

Mit tanulhatunk a szuperhős és robotfilmekből? Hogyan tudunk elképzelt univerzumokat összekapcsolni jelenkorunk társadalmaival és mai problémáinkkal? Van köze egymáshoz a robotikának és a politikának? Tóth Csaba politológus ezekre a kérdésekre kereste a választ a Be Smart Club szervezésében tartott előadásán a Lurdy rendezvényközpontban. Tudósítunk.

A robotok és napjaink politikai helyzetével kapcsolatban két kérdés merül fel. Ami hosszú távon a legfontosabb, hogy átveszik-e egy nap a robotok az irányítást, amely az emberiség kihalását is jelentheti. Sokkal gyakorlatiasabb kérdés azonban, hogy  lesz-e munkánk a közeljövőben, vagy voltaképpen robotok lesznek azok, akik helyettünk dolgoznak. Valóban veszélyezteti a jövő vagy akár a jelen munkavállalóit a robotizálás? Tóth Csaba rámutatott, hogy az ipari forradalmak példáján is láthatjuk: minden egyes technológiai újítás nyomán valaki ténylegesen kárt szenved. Aktuális példa az Uber-Taxi konfliktus vagy akár az automatizált önvezető autók érkezése, mely egyértelműen elveheti a taxisok és kamionsofőrök munkáját.

Fotó: Szegőfi Ákos

Felmerülhet ezek alapján a kérdés, hogy létezik-e olyan terület, amiben a robotok nem fognak tudni az ember helyébe lépni? Tipikusan a kreatív területek sorolhatóak ide, mint a festészet, a regényírás, a zeneszerzés, habár a szoftverfejlesztők dolgoznak már ezeken is. Érdekes módon azonban

az egyik hivatás amelyben leginkább elengedhetetlennek tűnik a humán faktor, a politikusi.

Mit is csinál elméletben egy politikus? Alternatívák között dönt, amelyek között nincsen jó vagy rossz válasz. Noha a technológia azt sugallja, hogy mindenre létezik egy helyes megoldás, a társadalomtudományokban ez nem igaz. Bizonyos döntéseket lehetetlen szigorúan szakmai alapon meghozni, ilyenkor jönnek be a képbe az érdekek és személyes preferenciák.

Ehhez kapcsolódnak a robotikához köthető etikai kérdések. Milyen döntéseket lehet rábízni egy gépre? Mit tesz például egy önvezető autó, ha morális dilemmába kerül? Az interneten nemrég elhíresült a „trolley problem”, amelyben el kell döntenünk, hogy egy baleset esetén inkább egy vagy öt ember halálát okoznánk. Ezt a dilemmát még bonyolíthatjuk, különböző korosztályok, nemi, etnikai csoportok, állatok hozzáadásával a képlethez. Ki fog jobban dönteni, a robot vagy az ember? Rendkívül nehéz kérdések ezek, annyi bizonyos, hogy az ember nem szívesen adja ki a kezéből ezeket a döntéseket, ezért sem örvendenek nagy népszerűségnek az önvezető autók.

Bármilyen kérdés is merüljön fel a robotika kapcsán, az etikai és társadalomtudományi mellett a technológiai megközelítés is elengedhetetlen szempont. Mi lehetséges egyáltalán és mi nem? Bizonyos technológiai változásoknak milyen következménye lesz? Az előadó szerint ez az, amit sajnos szinte lehetetlen megjósolni. Erre kiváló példa az internet: az internet megjelenésekor a domináns értelmezés az volt, hogy fantasztikus hatása lesz a társadalomra, mivel mindenki részese lehet a véleménybefolyásolás folyamatának, minden demokratizálódni fog. Igaz, hogy bárki híres lehet ma már az interneten, de a politikai kommunikáció szempontjából az internet és a közösségi média zárt véleménybuborékokat hozott létre. Csak hasonló véleményekkel találkozunk mint a sajátunk, így

az emberek facebook-fala egy kollektív őrjöngőszobává válik,

amit politikai célokra remekül ki lehet használni. Akárcsak az internet esetében, a robotika fejlődésének következményeiről csak találgatások létezhetnek.

Ha az emberek és a robotok jövőbeli kapcsolatára vagyunk kíváncsiak, jobbára csak tudományos-fantasztikus könyvekre és filmekre támaszkodhatunk, ahol főleg két véglet dominál, ami a robotok szerepét illeti: jóságos android vagy gonosz terminátor. Isaac Asimov műveiben főleg annak meghatározásn dolgozott, hogyan élhetünk majd együtt a robotokkal. Szerinte az egyetlen fontos kérdés az, hogyan maradhat a robot az ember szolgája, ennek érdekében alkotta meg a robotika három törvényét:

  1. A robotnak nem szabad kárt okoznia emberi lényben, vagy tétlenül tűrnie, hogy emberi lény bármilyen kárt szenvedjen.
  2. A robot engedelmeskedni tartozik az emberi lények utasításainak, kivéve, ha ezek az utasítások az első törvény előírásaiba ütköznének.
  3. A robot tartozik saját védelméről gondoskodni, amennyiben ez nem ütközik az első vagy második törvény bármelyikének előírásaiba.

A három törvény egyesek szerint nem más, mint a rabszolgaság újrateremtése, egy ilyen öntudatos faj létrehozása egy új rabszolgafaj megjelenését jelentené, amit morálisan nem engedhetünk meg magunknak.

Kérdésünkre, miszerint lehetséges-e, hogy egy napon algoritmusokra bíznánk egy hatékonyabb politikai rendszer megalkotását, az előadó elmondta:

a politikai döntések az utolsók, amit valaha algoritmusokra akarnánk bízni.

Elméletben lehet hatékonyabb lenne egy pontosan megtervezett, akár autoriter rendszer, de gyakorlatban semmiképp. A politikai döntéseknek mindig vannak kárvallottjai, egy algoritmus nem fogja tudni eldönteni, ki legyen az, ugyanis értékek és érdekek ütköztetéséről van szó. Demokráciának azt nevezzük, amikor azt szeretnénk, hogy a többség akarata úgy érvényesüljön, hogy a kisebbség se szenvedjen túl nagy hátrányt. Azóta, hogy ez a gondolat felütötte a fejét, nagyon nehéz lenne elfelejteni. A döntés jogát soha nem akarjuk majd kiadni a kezünkből.

Összegzésképpen az előadó felhívta a figyelmünket: ha valóban eljön a nap, amikor a robotok öntudatra ébrednek, az csak egyszer történik majd meg, és bár sok mindent elrontottunk már a történelem során, ezt nem szabad. A társadalomtudósok ugyan szkeptikusak azzal kapcsolatban, hogy bármilyen katasztrófa véget vethet a történelmünknek, hiszen minden nehézségen túllendült már az emberiség egésze. Ez a tény azonban logikailag egyáltalán nem bizonyítja, hogy ez legközelebb is így lesz.