2016 márciusában leomlott az emberiség utolsó mérhető szellemi bástyája is. Miután a Deepmind által fejlesztett MI, AlphaGo legyőzte a négyezer éves kínai táblajáték, a Go nagy mesterét, a koreai Lee Sedolt. Van-e okunk ezután az aggodalomra?  Joggal félhetünk, hogy az MI átveszi a kontrollt életünk felett? A Science Fiction írókat jó ideje már, hogy izgatja a kérdés. A válaszuk felemás.

Betámad a Skynet

A legfontosabb dolog, amit megtanulhattunk a sci-fi íróktól a mesterséges intelligenciáról, hogy az első adandó alkalommal átveszik az uralmat a fegyverrendszerek, köztük az atomfegyver uralma felett.

Harlan Ellison 1967-es regényében, az Szája sincsen, úgy üvölt-ben brutális képet fest az emberiség jövőjéről. Az atomháború megvívására kifejlesztett MI, amit a regényben AM-nek hívnak, végez az emberiség szinte valamennyi tagjával, maroknyi túlélőt hagyva meg csupán, szórakozási célból.

Ellison regénye a hidegháború korszakának félelmeiből merít és a legrosszabb forgatókönyvvel számol. MI történik akkor, ha a világvégi hatalom egyetlen pontban koncentrálódik?

Apróbb trivia, hogy Ellison írásai adták a szellemi alapot James Cameron látomáshoz az emberiséget leigázó csontvázszerű robotokról és az őket irányító szuperszámítógépről, a Skynetről (Terminátor sorozat).

„AM nem csodálkozik, AM nem tartozik senkihez. Ő csak létezik. Azzal a veleszületett rettenetes érzéssel, amivel a gépek viseltetnek az őket alkotó gyengébb élőlényekkel szemben, a bosszú szándékával.”

Mondja AM-ről a túlélők egyike, aki végül kimenti társait a szörnyű intelligencia karmai közül. Ellison volt talán az egyik első sci-fi szerző, aki megértette, hogy egy „érző” gép adott esetben ugyanazokkal az egzisztenciális problémákkal találhatja szemben magát, mint az ember. Kik vagyunk?

Mi a szerepe a létezésünknek? Csakhogy míg az ember meg tudja osztani ezt az élményt több millió sorstársával, addig a gép elszigetelt és társtalan széles e világban. A fiktív MI gyilkos szándéka nem a túlélés törvényeit követi, inkább irracionláis, már-már gyermeki pusztításvágy motiválja egy apa ellen, aki nem hallgatja meg.

A Philip K. Dick regényéből készült Szárnyas fejvadászban is fontos szerepe van az apakomplexusnak. A film egyik jelentében Roy, az öntudatának határait tapogató android, miután megtudja, hogy „apja” a Tyrell Corporation mérnöke nem tudja neki megadni az áhított hosszabb élettartamot, dühében megöli az embert. Tiszta freudi fordulópont, amit a gép nem érhetne el öntudat és léte ürességének érzése nélkül.

A három alaptörvények

A science fictionben gyakran jelennek meg a gépek szolgákként. Isacc Asimov az ebből adódó „nézeteltérések” és katasztrófa elkerülése végett alkotta meg a híres szeentenciáit, a robotika három alaptörvényét, hogy  aszolgaként müködő gépek ne fordulhassanak gazdáik ellen. :

1. A robotnak nem szabad kárt okoznia emberi lényben, vagy tétlenül tűrnie, hogy emberi lény bármilyen kárt szenvedjen.
2. A robot engedelmeskendi tartozik az emberi lények utasításainak, kivéve, ha ezek az utasítások az első törvény előírásaiba ütköznének.
3. A robot tartozik saját védelméről gondoskodni, amennyiben az nem ütközik az  első vagy második törvény bármelyikének előírásaiba.

Asimov regényei mind a mai napig a robotika bibliáinak számítanak, tételei azonban ha nem is dőltek össze, recsegnek-ropognak a jelenkor embere számára.

Egy olyan gondolkodó intelligenciától, amelyik legyőzi az embert táblajátékban, aligha várható el, hogy betartsa a szabályokat, vagy ahogy Ian McDonald a River of Godban szellemesen megjegyzi:

„Ha egy MI elég okos, hogy átmenjen a Turing-teszten, elég okos ahhoz is, hogy tudja, hogyan kell elbukni azt.”

Algoritmusok

William Gibson Sprawl-trilógiájának kezdődarabja a Neurománc, a nyolcvanas években precízen tálalja a jelen technológiai újításait, a virtuális valóságokat, az internet jelenlétét és a Mesterséges Intelligenciák szerepét a kortárs olvasók számára.

Wintermute a titokzatos MI, mint egy élő, számító organizmus tűnik fel a színen. High-tech betöréseket szervez, vállalatokat hackeltet meg konzol-cowboyokkal, hogy összekapcsolódjon egy másik MI-jal Neuromancerrel.

A legfontosabb váltás Gibson történetében, hogy a mesterséges intelligenciát már nem érdekli az emberi létezés, épp csak annyira, mint minket a baktériumok. Létezését egy magasabb szinten képzeli el és teljesen nyitott a tökéletesedésre, az önmegvalósításra.

Amikor MI fikciókról beszélünk még egy kortárs szerző műve, Iain Banks Kultúra-trilógiája is eszünkbe juthat. Az űroperák hagyományait újjáélesztő történetben pángalaktikus civilizációnk bolygóközi adminisztrációját mesterséges intelligenciák szervezik.

Az MI-k járműveket mozgatnak, háborúkat bonyolítanak le, igazgatják az életet. Afféle jóindulatú istenek, akik mindent megtesznek az emberiségért. És hogy erre a nagyvonalúságra mi a magyarázat? Csak azért teszik ezt, mert megtehetik.

A Banks-féle koncepció abból a gondolatból merít, hogy az ember önmagában, saját végessége és korlátai miatt már nem tud megbirkózni az univerzum távlataival. Kell számára egy eszköz, ami képes összetartani a társadalmi, gazdasági kereteket.

Közel áll ez ahhoz, ahogy ma a Mesterséges Intelligenciára tekintünk, Technológiai vívmányok szervezik az életünket, okostelefonok, intelligens rendszerek határozzák meg mindennapjainkat, egyik legékesebb példája ennek a közúti közlekedés, amely egyre inkább a személyi vezető nélküli autók, az automatizáltság irányába mutat.

Borzalmas nagy távot tett meg a science-fiction az 1967-es Harlan Ellison-féle komor jövőképektől, a gyilkos szándékú, inkább emberszerű és emberi kételyektől terhelt gépektől a kortárs fikciókban szereplő, a „deep learning” eszméjéhez közel álló algoritmus alapú programokig.

Az olyan MI-k, mint az AlphaGo azért bűvölnek el bennünket, mert nem tudjuk pontosan mi játszódik le bennük működés közben. Az AlphaGo azonban nem Skynet. A gonosz szándékot egy másik gép, a valaha volt leghatékonyabb és legtermékenyebb teremti meg a sci-fi írók koponyája alatt.

Ha tetszett a bejegyzésem kövessétek a facebook oldalamat, hogy mindig tudjatok az új cikkek érkezéséről! Kattins ide