Mérlegeljünk

Ha követni szeretnénk a régi mondást, miszerint ismerd meg önmagadat, akkor ezt már ne meditációval meg pszichoanalízissel tegyük egy magas hegy tetején, hanem gyűjtsük a biometrikus adatainkat és elemeztessük őket algoritmusokkal, hogy azok mondják meg nekünk, hogy kik vagyunk és mit kell tennünk.

Még egy évtizeddel ezelőtt is bátran állíthattuk: senki sem ismer jobban engem, mint és saját magamat. A mai technológia azonban már képes arra, hogy lehetővé tegye az algoritmusok számára, hogy jobban megismerjenek engem, mint amennyire én ismerem magamat. Annyival jobb döntéseket hoznak nálunknál, hogy őrültség lenne nem követni tanácsaikat. Még tökéletes algoritmust sem szükséges alkalmazni, elegendő, ha jobban ismer engem, mint én önmagamat és kevesebb hibát vét, mint én.

 Hogy mennyire nem marhaság ez az állítás, és értelme van annak, hogy mind több és több döntésünket algoritmusokra bízzunk, azt a következőkben próbálom megvilágítani.

A technológiai fejlődés tempójának fokozódása miatt sokkal elérhetőbbé vált a személyes információ gyűjtése, továbbítása, tárolása és feldolgozása. Egyre többen, - nem feltétlenül betegségben szenvedők, - viselnek magukon érzékelőket és beágyazott komputereket, hogy azok figyeljék meg egészségi állapotukat és tevékenységüket. Ezek az okos kis szerkezetek, karperectől kontaktlencséig, alsóneműtől biokapszuláig, cipőbe, szemüvegbe, vagy bármibe beépíthető szerkezetek, feljegyzik az olyan biometrikus adatokat, mint a pulzusszám, vérnyomás, vércukorszint, izzadságtartalom, alvásminőség, mozgásparaméterek és továbbítják számítógép hálózatoknak, amelyek aztán tanácsokat adnak az illetőnek, hogy mit változtasson életrendjén, hogy jobb egészségnek örvendjen és hosszabb, aktívabb életet élhessen.

A dolog működik, a titok nyitja az, hogy egy algoritmus, óriási statisztikai adatbázis (Big Data) alapján, elemzi az adatainkat irdatlan nagy sebességgel. Az algoritmus egy tervszerű lépéssor, amelynek segítségével olyan döntéseket hozunk, melyekkel problémákat oldhatunk meg. Minél nagyobb adatbázisra támaszkodik, annál pontosabb előrejelzéseket tud biztosítani. A jelenlegi algoritmusokat még többnyire emberek írják, nagy létszámú csapatok. De minden ember csak a rendszer egy kis darabját érti és fejleszti, az egész algoritmust senki. A gépi tanulásra és mesterséges ideghálózatokra épülő algoritmus azután önállóan fejlődik, önmagát tökéletesíti és saját hibájából tanul. Olyan nagy mennyiségű adatot képes elemezni, amennyit ember nem képes befogadni, olyan mintázatokat ismer fel, olyan stratégiákat fejleszt ki, amelyek meghaladják az emberi agy képességeit. A saját útját járva végül olyan helyekre jut el, ahol ember még nem járt és ahová nem is képes követni.

Sokan vannak, akik örömmel tennék a döntéshozást egy ilyen rendszer kezébe, vagy legalábbis konzultálnának vele, mielőtt határozatot hoznának. Igen ám, de ahhoz, hogy a varázslat működjön, szabad hozzáférést kell engednünk a biometrikus készülékeinkhez, felhatalmazást kell adjunk arra, hogy adatainkat begyűjtsék és megosszák a rendszert működtető entitással, - nevezzük így, - hivatallal. Ez már kényesebb dolog, mert van az éremnek egy másik oldala is. Az új kommunikációs technológiák azt is lehetővé teszik, hogy minden okos készülék, minden mobil helyzetjeladó, minden elküldött elektronikus üzenet, minden telefonhívás, minden térfigyelő kamera által készített felvétel, minden hitelkártya tranzakció, komoly betekintést jelenthessen abba, hogy mit gondol és mit tesz az ember. Ma már könnyen készíthetnek - és készítenek is - olyan viselhető kütyüket, amelyek felveszik a látottakat és hallottakat, sőt az ezekre adott érzelmi reakciókat is, és elküldik az adatokat egy távoli rendszernek, gyakorlatilag megszüntetve ezzel a felhasználó magánéletét. 

De vajon, a magánélet tiszteletben tartása fontosabb, mint a jó szándékú adatszolgáltatás és a szintén jó szándékú adatfeldolgozás az egészségünk, vagy akár a biztonságunk védelme érdekében? Ha időben jönne a jó tanács, vagy előre figyelmeztethetni lehetne a járványokra az nagy segítség lenne nekünk. Ha a hivatal rákapcsolódhatna bárki elektronikus eszközére, hogy rögzítse egészségügyi státuszát, merre jár, vagy mit csinál, akkor szükség vagy baj esetén hamarabb eljutna hozzánk a segítség. A sürgős orvosi beavatkozásra szoruló emberek életét meg lehetne menteni. Az embereket figyelmeztetni lehetne a veszélyes helyekre vagy helyzetekre. Számos bűnügyet könnyebb lenne megelőzni, vagy megoldani, de mindenképpen igazságosabbak lehetnének az ítéletek.

A személyes adatbázisunkba való emberi betekintést ki lehetne zárni automata adatgyűjtő-, tároló- és feldolgozó rendszerek használatával.  Mesterséges intelligenciájú robotorvosok értelmeznék életparamétereinket és adnák a tanácsokat. Robotdiszpécserek figyelnék az információáramlatot és irányítanák a beavatkozást, ha szükségesnek találják.  A robotbírák a begyűjtött adatok alapján, anélkül, hogy betekintést engedélyeznének ezekbe, elméletileg biztosíthatnák, hogy a törvény előtt minden ember valóban egyenlő legyen, kiiktatva ezzel a véletlen, vagy szándékos emberi részrehajlást.

Vajon ez túl nagy kockázatot jelentene? Az embert túlszárnyaló technológia birtokában valóban könnyű túllépni azt a keskeny határt, ami elválassza az adatgyűjtő hivatalt a megfigyelő hivataltól? Még ha ezt "gondoskodásból" is teszik? A bűnözés és terrorizmus elleni harc ürügyén, például kötelezhetnének mindenkit biztonsági okos-karkötő viselésére és ha valaki egy másik embert bántalmaz, akkor a karkötő bénító áramütéssel kiiktathatja a támadót.

Sokakat elborzaszthat ez a fejlemény, de az irányítás a szemünk előtt kerül át az algoritmusok kezébe, nem egy hivatali döntés, hanem a saját sok-sok hétköznapi, egyéni választásunk következményeképpen. Ha személyes adataink a legértékesebb erőforrásaink, miért adjuk akkor el őket ingyen e-mail szolgáltatásokért? Legtöbben már azzal lemondtunk magánéletünkről, hogy ügyeink nagy részét online intézzük és dolgainkat hálózatra kötött telefonunkon, laptopunkon rögzítjük. Már attól is hisztériás rohamot kapunk, ha néhány percre elmegy az internet. 

Vegyük észre, hogy az orvostudomány egyre inkább az egészségesek továbbfejlesztésére, nem a betegek meggyógyítására összpontosít. A közeljövő emberének egy rakás bionikus szerv, műszer és nanorobot lesz a testébe építve, amelyek felügyelik az egészségi állapotát és védelmezik a betegségektől. Ezeknek a kütyüknek azonban állandóan online kell lenniük, nem feltétlenül azért, hogy folyamatosan adatokat küldjenek, hanem hogy frissíteni lehessen a tudásukat és a védelmüket (igen, a kibervirusok elleni védelmüket 😊). Hamarosan, ha akarjuk, ha nem, el fogunk érkezni egy pontra, amelyen túl már egy pillanatra sem fogunk tudni lecsatlakozni a hálózatról.

Azt is megfigyelték, hogy - mit tesz Isten, - minél jobb döntést hoz egy algoritmus, annál nagyobb hatalmat bíznak rá az emberek. Így az idő teltével az adatbázis egyre nő, a statisztikák egyre pontosabbak, az algoritmus tanul és még jobb döntéseket hoz. Íme a pozitív visszacsatolás klaszzikus esete. 

Felmérések bizonyítják, hogy a Facebook algoritmusa már most jobban képes megítélni egy ember személyiségét, mint a barátai vagy a rokonai. Elég hetven lájk ahhoz, hogy túlteljesítse a barátokat, százötven, hogy a családtagokat és háromszáz, hogy a feleségednél/férjednél nagyobb pontossággal találja ki a véleményedet vagy a vágyaidat. 😊   Ezer lájk felett pedig már saját magunknál is jobban teljesít bizonyos területeken. Megérhetjük bizony, hogy jobban járunk, ha pálya- vagy párválasztáskor az okostelefonunk tanácsára hallgatunk. Az olyan liberális szokások, mint a demokratikus választások is el fognak avulni, mert az algoritmus a saját politikai véleményemet is jobban fogja tudni képviselni, mint én. ☹

De ha egy algoritmus mindentudó orákulummá válik, akkor egyéb aljasságra is képes lehet, sőt akár irányítóvá is fejlődhet. Példa erre a Waze esete. Ez egy térinformatikai alkalmazás, amelyet számos sofőr használ manapság. Nem csak egy térkép, hanem egy algoritmus, amelyik tudja, hogy kerülhetjük el a nagy forgalmat és hogy jutunk el leghamarabb a célunkhoz. Milliónyi felhasználó frissíti folyamatosan az adatbázisát, hol van éppen dugó, baleset vagy ellenőrzés. Első látásra úgy tűnik, hogy a Waze csupán tanácsadóként szolgál, a döntést mi hozzuk meg. De ha elnyeri a bizalmunkat, a következő logikus lépés az, hogy csak a végcélt adjuk meg az algoritmusnak, az útvonalat pedig rá bízzuk, hogy a mi felügyeletünk nélkül határozza meg. Így aztán akkora hatalma lesz, és annyival többet tud nálunk, hogy nem csak a döntéseket fogja meghozni, hanem még gondolkozni is fog helyettünk. Például, ha az A útvonalon dugó van, de a B útvonal járható, akkor nem fogja ezt közölni mindenkivel, mert akkor az összes sofőr a B útvonalra csődül és az is bedugul. Ezért csak a sofőrök felének árulja el, hogy a B út járható, a másik fele elől eltitkolja. Így az A úton úgy enyhül a forgalom, hogy a B úton közben nem lesz dugó. A Waze nem az egyetlen ilyen játékos a pályán. A Microsoft algoritmusa, a Cortana, de a Google Nowja, az Apple Sirije, az Amazon Kindleje is ugyanebbe az irányba tart.  

Szóval, az emberi egészség javításának vágya, a társadalom biztonságának növelése, minket is arra késztethet, hogy ledöntsük a személyes terünket védő korlátokat és magánéletünkbe is beeresszük a … hivatalt, legyen az akár állami bürokrácia vagy multinacionális cég. Mert az első számú humanista parancsolat – hallgass önmagadra – többé már nem magától értetődő.

Mérlegelnünk kell, hogy hol húzzuk meg a határt az egyén meg a társadalom érdeke és a személyes szabadság megóvása között. Neked mi a véleményed? Te feláldoznál valamennyit a személyes szabadságodból azért, hogy a társadalom jobban működjön? Ha igen, akkor mennyit?