A kép innen származik: https://pixabay.com Habár nem kérték, a forrás megjelölése, szerintem egy ilyen jó kép esetében alap. Köszönöm a készítőnek a fáradtságot, hogy létrehozta.
Sziasztok,
Kicsit összetorlódtak a napi teendőim, így sok mindennel elég komoly késésben vagyok. Így most nem a robotos projectet fogom folytatni, hanem csak egy elmélkedést, amolyan feszültséglevezető olvasnivalót fogok írni, ki tudja, lehet valakit érdekel.
Egy jó ideje töprengek egy valódi AI létrehozásán. Na, itt most nem olyan AI-ről beszélek, ami "csak" egy mélytanuló algoritmus, hanem valódi személyiséggel rendelkező mesterséges intelligencia létrehozásáról szeretnék pár gondolatot felvázolni. Ha valakinek valami észrevétele van ezzel kapcsolatban, vagy szeretne valamit hozzáfűzni, a somogyib9999@gmail.com-ra küldött levélben megteheti.
Tehát, mi a cél? Nyilván egy valódi intelligens robot létrehozása. De mielőtt elkövetnénk egy hatalmas hibát, ami még az atombombánál is veszélyesebb tud lenni, azért nem árt tisztában lenni a felmerülő veszélyekkel, és kidolgozni jó előre, minden óvintézkedést. A legfontosabb ilyen egy olyan AI nevelő rendszer megalkotása, amiből az AI semmi szín alatt nem tud kiszökni. Nyilván lesz egy pont, ahol az AI olyan biztonságosnak tekinthető, hogy "felteremthető" a mi világunkba, de az nagyon nagyon sok idő, és rengeteg nevelési feladat áll előttünk, mielőtt ez megtörténhet, ha egyáltalán megtörténhet.
Itt talán a legrégebbi magyar mondás az ami mindenképpen alapszabálynak tekinthető, mégpedig : kés, villa, olló, gyerek kezébe nem való...
A mondásról pár dolgot szeretnék itt és most leírni, és utána megpróbálok kevésbe unalmas dolgokkal foglalkozni.
Ez a mondás, nem az AI-ra értendő első sorban. Inkább értendő az AI létrehozásával foglalatoskodó programozókra. Tehát az AI, maga a kés, a villa, és az olló is egyben. Mi pedig a gyerekek vagyunk. Legalábbis a társadalmunk döntő többsége biztosan a gyerek kategóriába esik, ha felelősségről van szó.
Nézzük először, azt az esetet, hogy rendelkezésünkre áll egy szinte végtelen sebességgel tanulni képes AI szoftver.
Mit kezdünk, a telepítőlemezzel? Hát egy dolgot biztosan nem tehetünk meg: mégpedig az hogy lazán feldobjuk egy pc-re. Ez semmiképpen nem történhet meg.... Hogy miért nem? Hát a következő okok miatt:
1, Mit csinál vajon egy AI, ha nincs konkrét feladata? Egy unatkozó AI-ról beszélünk. Ha az embert, mint AI programot vesszük alapnak, akkor semmi jót. És erre rengeteg példát látunk a minket körülvevő világban. Van egy mondás: nincs rosszabb az unatkozó katonánál. Itt is valami hasonló dologgal állunk szemben. A youtube-on van egy csatorna, ami az agy érzelmi berendezkedésével foglalkozik. Most mikor e sorokat írom, nem találtam, de mire a cikk végére érek, be fogom ide pótolni a linket. Tehát miről is szól a videó: egy elkülönített feladat nélkül hagyott ember, unalmában akkor is megnyom egy gombot, az üres teremben, ha tudja hogy az kárt okoz a gombot megnyomóban. Vagyis a kíváncsiság az unalommal együtt, erősebb késztetés, mint az önpusztítás elkerülése. Itt térjünk ki egy kicsit a kíváncsiságra, mint a valódi AI fő tulajdonságára. Honnan tudhatjuk, hogy egy AI, valóban intelligens, öntudattal rendelkező "lény"? Hát, erre mindenki rávágja, aki kicsit is belement a robotikába, hogy:
Nem fejtem ki, linkeltem egy jó wikipédia cikket, hogy a teszt miről is szól. Mindenki olvassa el, ha más nem azért, hogy a kitalálója előtt tisztelegjünk, mert korának egy hatalmas gondolkodójáról van szó. Konkrétan: Alan Turing -ról. Én kicsit másképp látom a dolgot mint ő. Szerintem csak 1 dolog van, ami valóban megkülönbözteti a valódi intelligenciát, egy szimpla programtól, méghozzá a kíváncsiság. Egy valódi intelligencia legfőbb ismérve a kíváncsiság. Ami nem kíváncsi, az nem intelligens. Minden egészséges emberben van egy késztetés arra, hogy amit nem ért, arról megtudja, hogy hogyan is működik. Ez kisgyerekkorban látszik leginkább. A kisgyerek elindul, és megpróbálja felfedezni az őt körülvevő világot. A felnőttek is pontosan így vannak ezzel, csak egyre drágább játékokkal tanulnak. Miből tanul a gyerek? Hát több dolog is van, ami előreviszi a fejlődését: az egyik talán legfontosabb, amit az állatvilágban is megfigyelhetünk, az a szülői nevelés-tiltás és balesetek összefonódása. A szülő megtiltja csemetének, hogy piszkáljon valamit, amitől baja lehet. Itt a kisgyerek, vagy elfogadja, vagy nem. Hogyan lehet a gyerekkel elfogadtatni egy tiltást? Nagyon egyszerű rá a válasz; elmagyarázzuk, hogy miért nem. A legfontosabb a miért megértése. Ha csak annyi a válaszunk, hogy azért mert én azt mondtam, akkor elindítottunk egy hibás ok-okozati összefüggésláncot, jóindulatból. Megtiltjuk, hogy piszkálja a konnektort, de nem magyarázzuk el miért. Közben a gyermek látja, hogy valami varázslatos dologgal áll szemben, de nem tudja miért nem nyúlhat hozzá. Pedig ő erre nagyon kíváncsi, hiszen, anya akárhányszor hozzányúl, mindíg valami csoda történik, amit még nem látott. Tehát, ő ezt tudni akarja. És kész is a baleset. Itt persze kitérhetünk a védődugokra, stb stb... de ez nem megoldás arra, hogy a gyerek magától megtanulja, hogy ne bántsa. Ki fogja figyelni az alkalmat, amikor valaki elfelejti bedugni azt a dugót. Tehát meg kell neki magyarázni, hogy miért nem szabad. Itt megint két eset van. Az egyik, hogy a gyerek nagyon gyorsan megérti, és tiszteletben tartja, a másik, hogy ő meg akarja ismerni saját ötletei alapján. Ha AI rendszerről van szó, akkor ugyanez a helyzet. Ha valódi tudattal rendelkező AI -ról beszélünk, akkor pontosan úgy kell vele bánni, mint egy nevelés alatt álló gyerekkel. Itt persze, a legfontosabb az igazmondás. Ha már kis korban hazugságra épül a világa, később semmit sem fog elhinni, hiszen minden alkalommal, mikor kérdezett valamit hazudtak neki. Vagyis logikus következtetés a részéről, hogy egy idő után hagyja figyelmen kívül ezeket a szabályokat. Ez a tendencia egyébként a mai világunkban jól megfigyelhető. Tipikus szülői hibákból erednek a bűnelkövetések javarészt. A szülő pedig a rendszer hibái miatt nevelte hibásan az utódot. De ez most egy másik külön téma, itt nem szeretnék társadalmi, és politikai dolgokkal foglalkozni. Hogyan is néz ki egy rendes nevelés: a gyermeket egy biztonságos környezetbe helyezzük, ahol nem érheti baj. Alap dolgokra ott is rá fog jönni, fájdalom, ha elesik/leesik, stb. A mi feladatunk olyan környezetet berendezni, ahol a gyermek károsodás nélkül szerez tapasztalatokat. Jó példa erre a homokozó. Programozásban pedig a "sandbox". Ami szintén egy homokozó, ahol nagy baj nem történhet. Itt kicsit eltérnék a tárgytól, mégpedig egy kis biblia/teremtéstörténet párhuzam felé. Vegyük az édent. Mit írnak őseink erről? Egy hely ahol baj nem érhet, de volt egy fa amit megtiltottak, és mégis ettünk róla. Vagyis vehetjük ezt egy tesztnek is, mégpedig a kíváncsiság tesztjének. Ha a tiltás ellenére eszel, akkor átmentél a teszten, vagyis valódi intellgencia vagy. Unatkoztál, és megtettél valamit, amiről tudtad, hogyha megteszed baj fog érni. Ismerős sztori, aki eddig eljutott, annak nem kell ezt tovább ecsetelni, a többiek, pedig már rég bezárták ezt az ablakot.
Itt egy link: blabla ide gyorsan megírok egy cikket, amíg el nem felejtem a legalapvetőbb felelősségről, amit napjainkban még nem vettek észre, de a veszélyes szó, nem elég kifejező rá!
Tehát, lépjünk egy nagyobbat:
Próbáljuk ezt a tesztet reprodukálni egy program esetében. Ha szimplán ráeresztünk egy AI-vezérelt fizikai valójában létező robotot a világra, azzal több baj is van. Egy, nem lehet olyan fizikai környezetet létrehozni, amiben nem talál
A cikk szerkesztés alatt áll. A szerkesztés közbeni olvasás, saját döntés. A cikk többször is módosítva lesz, mielőtt lezárnám. Tekintse ezt mindenki egy olyan lehetőségnek, hogy beleltáthat egy cikk írási folyamatába, és amíg nincs kész, addig egyetlen leközölt információt se tekintsen véglegesnek.
