Miért is?

Benoe időnként megvilágosodik.
Az ilyenkor keletkező agyváladék annál kevesebb, hogy egy egész blog épüljön rá, de annál több, hogy egy kommentben tíz percig éljen, aztán örökre elmúljon.

 

Félnetek jó lesz

2014.02.28. 14:54 | BBaarczy | Szólj hozzá!

MI AI VR

Nem kérdés: három rövidítés. Mesterséges intelligencia, ugyanez angolul, és a lényeg: virtuális valóság. Vagyis két jelenségről van szó, és mind a kettő kiirthatja az emberi fajt. A MI az életet is, tehát a VR a kevésbé veszélyes, de ne becsüljük le.


Könnyen belátható, hogy az emberi intelligenciának van korlátja, a mesterségesnek meg nincs.

Kicsit nehezebben látható be, de az előzőből következik, hogy az ember tud magánál intelligensebb gépet csinálni.

Azon is elég sokat lehet köldöknézni, hogy mi az az intelligencia. Gyakran összekeverjük az intelligenciát az öntudatossággal.

A Turing-teszt ugye az, hogy egy ember másik embernek tart-e egy kellőképpen felkészített számítógépet. Ha az az ember is eléggé felkészült, akkor a teszt elég jó eredményt ad. Sajnos, mostanában nagyon úgy tűnik, hogy a Turing-tesztet egy nagy adatbázissal és ügyes szabályrendszerrel teljesíteni lehet. Ha most épp még nem is, de belátható időn belül egészem magas IQ-jú természetes személyek is embernek fogják tekinteni a társalgópartnert – amíg meg nem tudják, hogy nem az.

Regények sora szól arról, hogy mekkora baj lesz abból, ha értelmes lényeket tárgyként kezelünk. Ezek alapján meggyőződésemmé vált, hogy bármit, amit embernek ítélünk, emberként is kell kezelnünk. Jogai vannak. Nem lehet tulajdon. Dönthet saját magáról, egyenrangú minden „biológiai" emberrel. Mostanában az válik meggyőződésemmé, hogy a fenti Turing-teszt elégtelen.

Nem elég a verbális kommunikáció. A mesterséges partnernek legyen emberszerű avatarja, vagy “ő” maga legyen teljesen ember formájú, és metakommunikáljon is.
Ha viszont ezt a (humorral, empátiával, önfeláldozással stb. kibővített) Turing-tesztet is megállja, átjut az „uncanny valley”-n, akkor viszont legyen ember, ennek minden következményével.

Jól meg fogunk lepődni, ha a külvilágról alkotott belső modell nélkül, a saját magáról alkotott belső modell (tudat?) nélkül is megugorja a gép a tesztet.

Ez a „belső modell" dolog nekem fontosnak tűnik. Hívjuk például képzeletnek. Sok-sok példa mutat arra, hogy rengeteg állat el tud képzelni dolgokat. Például felismeri magát a tükörben. (Megemlítve, hogy baromi nehéz megállapítani egy, az emberrel nem jól kommunikáló lénynél, hogy a tükörképére adott reakció vajon a saját felismerése-e? Az gyanús, ha valami oda nem valót lát meg a tükörben, amit korábban nem érzett, és odanyúl magán, vagy eltávolítja…)

Nem igazán örülnék annak, ha pl. a Google vagy a Facebook, vagy bárki más az adatközpontjainak a vezérlésében egy számítógépes modellt alkalmazna úgy, hogy a mért adatokat a modellre alkalmazná, majd annak reagálása alapján avatkozna be a működésbe. A séma túlságosan hasonlít a tudatra…

Annak pláne nem örülnék, ha hasonló séma működne valamely katonai rendszerben. Ennek mondjuk már van neve: SkyNet (a Terminator-sorozatban).

(Update 20150117: azóta egy Discovery-műsor megerősítette a visszacsatolás, mint alapelv általánosságát minden helyen és szinten a természetben. Mondjuk sejthettem volna az „e" (a természetes logaritmus alapszáma, 2,71828) alapján… Szóval, nem kellene teljesen önszabályozóvá tenni a nagy rendszereket.)

Innentől világos, hogy miért féltem az emberiséget a mesterséges intelligenciától? Mi a garancia arra, hogy túléli csak azt, hogy öntudatra ébred egy globális rendszer? Még ha nem is jut el addig, hogy nemcsak ön-, hanem céltudatosan az emberiség ellen cselekedjen?


Azért hagytam későbbre a virtuálisvalóság-ügyet, mert sokkal egyszerűbb.
Semmi kétségem afelől, hogy ha megjelenik nem túl drága, tehát széles körben elérhető megoldás, akkor az emberiség naaagy része át fog költözni. Ami nem azonnal, de két-három generáción belül a kihaláshoz vezet.

Számos igen pontos modell (könyv, film) készült erről… Nem mellesleg minden „tudatmódosító" szer is virtuális valóság, vagyis az „utazás" már jó mélyen bele is épült a kultúrába. Lásd még: eszkapizmus.

 (Itt és most végzek ezzel az Asimov-médiahekkel. Tessék felfogni, hogy a robotika három törvénye irodalmi alkotás. Szépek, tömörek, logikusnak tűnnek, hierarchikusak, de semmi közük ahhoz, ahogy az intelligens szerkezeteknek működniük kell. Legelső sorban tessék észrevenni, hogy Asimov irodalmi tevékenységének mekkora része (a robotikai művek egésze!) szól arról, hogy a három törvény betarthatatlanArra valók, hogy legyen miről írni. Valódi, működési modellnek, tervezési koncepciónak tekinteni súlyos tévedés, és a témakörben való járatlanság biztos jele.)

A bejegyzés trackback címe:

https://benoeagy.blog.hu/api/trackback/id/tr235837079

Kommentek:

A hozzászólások a vonatkozó jogszabályok  értelmében felhasználói tartalomnak minősülnek, értük a szolgáltatás technikai  üzemeltetője semmilyen felelősséget nem vállal, azokat nem ellenőrzi. Kifogás esetén forduljon a blog szerkesztőjéhez. Részletek a  Felhasználási feltételekben és az adatvédelmi tájékoztatóban.

Nincsenek hozzászólások.
süti beállítások módosítása