A chatbotok olyan tudatosakká válhatnak, mint az emberek?
Vegyes Cikkek / / October 31, 2023
Erre a kérdésre két ellentétes elmélet próbál választ adni.
Christoph Koch
Amerikai idegtudós, az Allen Agykutató Intézet igazgatója.
A filozófusok elméjét az emberiség történelmének nagy részében kísértették azok a kérdések, hogy mi a szubjektív tapasztalat, kinek van ilyen tapasztalata, és hogyan kapcsolódik a minket körülvevő fizikai világhoz. A számszerűsíthető és empirikusan tesztelhető tudományos tudatelméletek azonban csak az elmúlt néhány évtizedben jelentek meg.
Számos modern tudatelmélet az agy finom sejthálózatai által hagyott nyomokra összpontosít, amelyekből a tudat keletkezik. Ma ezek közül kettő dominál: az integrált információelmélet és a neurális globális munkatérelmélet.
Huszonöt évvel ezelőtt vitánk volt David Chalmers ausztrál filozófussal. Megígértem neki egy jó bort, ha ezeket az idegi nyomokat, amelyeket szaknyelven a tudat idegi korrelátumainak neveznek, felfedezik és világosan leírják 2023 júniusáig.
Az integrált információelmélet és a neurális globális munkatér-elmélet közötti ellentmondás azonban továbbra is feloldatlan. Ennek oka részben vegyes bizonyítékok arra vonatkozóan, hogy az agy mely területei felelősek a vizuális élményért és az arcok vagy tárgyak szubjektív észlelése, bár a prefrontális kéreg jelentősége a tudatos tapasztalatban cáfolta. Így elvesztettem a fogadást, és elküldtem a bort Chalmersnek.
Mindkét domináns elméletet azért hozták létre, hogy megmagyarázzák az emberek és a rokon állatok, például a majmok és az egerek tudata és idegi tevékenysége közötti kapcsolatot. És mindkét elmélet alapvetően eltérő feltételezéseket tesz a szubjektív tapasztalatokkal kapcsolatban, és ellentétes következtetésekre jut a mesterséges tárgyak tudatáról. Az, hogy ezek az elméletek milyen mértékben nyernek empirikus megerősítést vagy cáfolást a benne gyökerező tudattal kapcsolatban agy, fontos következményei vannak korunk megválaszolatlan kérdésének megválaszolásában: nyerhetnek-e a gépek öntudat?
Mik azok az új generációs chatbotok?
Mielőtt ezt megvitatnánk, engedje meg, hogy kontextusba vigyem, és hasonlítsam össze a tudatos technikát egy olyan technikával, amely csak intelligens viselkedést mutat. A számítástechnikai mérnökök arra törekszenek, hogy a gépeket az egykor megengedett rendkívül rugalmas intelligenciával ruházzák fel személy hagyja el Afrikát és népesítse be az egész bolygót. Ezt nevezik mesterséges általános intelligenciának (AGI).
Sokan azzal érvelnek, hogy az AGI távoli kilátás. A mesterséges intelligencia területén az elmúlt évben elért elképesztő előrelépés az egész világot, beleértve a szakértőket is, meglepte. Az ékesszóló társalgási szoftveralkalmazások, a köznyelvben chatbotok megjelenésével ezoterikus témában, A sci-fi rajongók és a Szilícium-völgy informatikai iparági elitje megvitatta, az AGI-ről szóló viták vitává váltak. amely a széles körben elterjedt nyilvános elégedetlenséget tükrözi az életmódunkat fenyegető egzisztenciális kockázattal és a mi kedves.
A chatbotok hatalmas nyelvi modelleken alapulnak. Ezek közül a leghíresebbek a generatív előképzett transzformátorok vagy GPT-k nevű robotok. Ezeket az OpenAI hozta létre San Franciscóban. Tekintettel a legújabb verzió, a GPT-4 rugalmasságára, műveltségére és kompetenciájára, könnyen elhihetjük, hogy intelligenciája és személyisége van. Még a "hallucinációnak" nevezett furcsa hibái is beleillenek ebbe az elméletbe.
A GPT-4 és versenytársai, mint például a LaMDA és a Google Bard, digitalizált könyvek könyvtárairól és több milliárd nyilvánosan elérhető weboldalról tanulnak. A nyelvi modell zsenialitása abban rejlik, hogy felügyelet nélkül tanul, szóról szóra dolgozza fel és próbálja megjósolni a hiányzó kifejezést. Ezt újra és újra megteszi, milliárdszor, külső beavatkozás nélkül.
Amint a modell tudást szerez az emberiség digitalizált feljegyzéseinek befogadásával, a felhasználó egy ismeretlen mondatot jelenít meg – egy vagy több. A modell megjósolja a legvalószínűbb első szót, majd a következőt, és így tovább. Ez az egyszerű elv hihetetlen eredményeket mutatott angol, német, kínai, hindi, koreai és más nyelveken, beleértve a különféle programozási nyelveket is.
Mi a különbség az értelem és a tudat között
Fontos, hogy a mesterséges intelligenciáról szóló alapesszét, a „Számítástechnika és intelligencia” írta Alan Turing 1950-ben elkerülte a „gondolkodhatnak-e a gépek?” kérdést, vagyis azt a kérdést, hogy van-e öntudat. Turing javasolta az „utánzójátékot”: meg tudja-e-e a megfigyelő objektíven megkülönböztetni az ember által nyomtatott kimenetet a gép által kinyomtatott kimenettől, ha mindkettő azonossága rejtve van.
Ma ezt Turing-tesztnek hívják, és a chatbotok nagyon jók benne, bár ügyesen letagadják, ha közvetlenül rákérdezünk. Turing stratégiája több évtizedes kérlelhetetlen fejlődésnek indult, amely a GPT létrehozásához vezetett, de figyelmen kívül hagyta a problémát.
A chatbot-vitában benne van az a feltevés, hogy a mesterséges intelligencia azonos a mesterséges tudattal, hogy okosnak lenni ugyanaz, mint tudatosnak lenni. És bár az emberben és más fejlett organizmusokban az intelligencia és a tudat összefügg, nem feltétlenül mindig kísérik egymást.
Az intelligencia a gondolkodásról és a cselekvés tanulásáról szól, valamint saját és mások tetteiből, hogy pontosabban megjósolhassuk a jövőt és jobban felkészüljünk rá. Nem számít, hogy ez a következő néhány másodpercet jelenti ("Ó, az az autó felém száguld"), vagy a következő néhány évet ("Meg kell tanulnom kódolni"). Az intelligencia végső soron cselekvésről szól.
A tudat ezzel szemben a létállapotokhoz kapcsolódik - kék ég látása, madarak énekének hallása, fájdalom érzése, létezés szerelmesek. Egyáltalán nem mindegy, hogy egy kontrollon kívüli mesterséges intelligencia érzékel-e valamit. Csak az számít, hogy olyan célja van, ami nem kapcsolódik az emberiség hosszú távú jólétéhez. És nem számít, hogy tudja-e vagy sem, mit próbál tenni, amit az emberek öntudatnak neveznek. „Agy nélkül” fogja elérni a célját. Tehát, legalábbis koncepcionálisan, még ha megépítünk is egy AGI-t, az nem fog sokat elárulni arról, hogy érez-e valamit.
Mindezek ismeretében térjünk vissza az eredeti kérdéshez, hogy a technológia hogyan válhat tudatossá. Kezdjük a két elmélet közül az elsővel.
Milyen magyarázatot kínál az integrált információelmélet?
Minden elképzelhető szubjektív tapasztalat öt axiomatikus tulajdonságának megfogalmazásával kezdi. Aztán felteszi a kérdést, hogy mire van szüksége egy neurális áramkörnek, hogy megvalósítsa ezt az öt tulajdonságot, egyes neuronokat bekapcsolva és másokat kikapcsolva. Vagy más szóval, mi kell egy számítógépes chipnek egyes tranzisztorok bekapcsolásához és mások kikapcsolásához.
Ok-okozati kölcsönhatások egy áramkörön belül egy bizonyos állapotban, vagy az a tény, hogy két aktív idegsejt be- vagy kikapcsolhat egy másik neuront, a körülményektől függően, többdimenziós kauzális struktúrába telepíthető. Ez megegyezik az élmény minőségével – az átélés módjával, például az idő és a tér megtapasztalásával vagy a színek érzékelésével.
A tapasztalathoz egy mennyiség is társul – az integrált információ. Csak egy maximum nullától eltérő integrált információval rendelkező áramkör létezik egészként és rendelkezik tudattal. Minél több információ van integrálva, annál inkább nem redukálható az áramkör, és annál kevésbé tekinthető független aláramkörök egyszerűen szuperpozíciójának.
Az integrált információelmélet hangsúlyozza az emberi tapasztalat gazdag természetét. Csak nézzen körül, és a lenyűgöző látható világ a számtalan különbségével és összefüggésével megjelenik előtted. Vagy nézzen meg egy festményt idősebb Pieter Bruegeltől, egy 16. századi flamand művésztől, aki vallási témákat és jeleneteket ábrázolt a paraszti életből.
Minden olyan rendszer, amely ugyanazokkal a belső kapcsolatokkal és okozati erőkkel rendelkezik, mint az emberi agy, elvileg ugyanolyan tudatos lesz, mint az emberi elme. Ilyen rendszert azonban nem lehet modellezni. Az agy képében kell megtervezni vagy beépíteni. A modern digitális számítógépek rendkívül laza csatoláson alapulnak (egy tranzisztor kimenete, amely több tranzisztor bemenetére van csatlakoztatva). összehasonlítás a központi idegrendszerrel (a kérgi oszlop neuronja bemeneti adatokat fogad és kimeneti adatokat állít elő több tízezer másiknak neuronok).
Így a modern számítógépek, beleértve a felhőszámítógépeket sem, semmiről sem fognak tudni, bár idővel mindent megtehetnek, amit az emberek megtehetnek. Ebből a szempontból a ChatGPT soha nem lesz különleges. Megjegyzendő, hogy ennek az állításnak semmi köze az összetevők teljes számához, legyen szó neuronokról vagy tranzisztorokról, hanem inkább arról, hogyan kapcsolódnak egymáshoz. Az összekapcsoltság határozza meg az áramkör általános összetettségét és lehetséges konfigurációinak számát.
Milyen magyarázatot kínál a neurális globális munkatérelmélet?
A pszichológiai megértésből fakad, hogy intelligencia mint egy színház, ahol a színészek egy kis megvilágított színpadon lépnek fel, ami a tudat. A színészek akcióit processzorokból álló közönség figyeli, akik a színpad mögött ülnek a sötétben.
A színpad az elme központi munkatere, amely kis memóriakapacitással rendelkezik egyetlen észlelés, gondolat vagy emlék megjelenítéséhez. Különféle feldolgozó modulok – látás, hallás, szem- és végtagmotoros készségek, tervezés, ítélőképesség, nyelvi megértés és beszéd – versengenek a központi munkaterülethez való hozzáférésért. A győztes kiszorítja a régi tartalmat, ami eszméletlenné válik.
A neurális globális munkaterület-elmélet szerint a metaforikus jelenet a feldolgozó modulokkal együtt a neokortex architektúrájába van leképezve. A munkaterület az agy elülső részén található kérgi neuronok hálózata, amelyek nagy hatótávolságú vetületekkel rendelkeznek hasonló neuronok a neokortexben a prefrontális, parietotemporális és cinguláris területen asszociációs kéreg.
Ha a szenzoros kéregben az aktivitás meghalad egy bizonyos küszöböt, globális esemény indul el a kérgi területeken, és ennek eredményeként az információ az egész munkaterületre továbbítódik. Az információ globális terjesztése tudatossá teszi. Az ilyen módon nem továbbított adatok, mint például a szem pontos helyzete vagy az írástudó mondatok felépítésének szintaktikai szabályai, befolyásolhatják a viselkedést, de nem tudatosan.
A neurális globális munkatérelmélet szempontjából a tapasztalat nagyon korlátozott, hasonlóan a gondolati és absztrakt - hasonló ahhoz a sovány leíráshoz, amely egy múzeumban található egy Bruegel-festmény alatt: „Jelen fedett. A reneszánsz ruházatú parasztok isznak és esznek egy esküvőn."
A tudat integrált információelmélet szemszögéből való megértése során a művész zseniálisan közvetíti a környező világ fenomenológiáját egy kétdimenziós vásznon. A neurális globális munkaterület-elmélet megértésében ez a látszólagos gazdagság illúzió, szellem. És minden, ami objektíven elmondható róla, a rövid leírásban szerepel.
A neurális globális munkatér-elmélet maradéktalanul figyelembe veszi számítógép-korunk mítoszait, amelyek szerint minden számításokra redukálható. Az agy megfelelően programozott számítógépes szimulációi, hatalmas visszacsatolásokkal és valami olyan, mint egy központi munkaterület, tudatosan érzékelik a világot. Talán nem most, de hamarosan.
Mi a kibékíthetetlen különbség az elméletek között?
Általánosságban a vita a következő. A neurális globális munkaterület-elmélet és a számítási funkcionalizmus más elméletei szerint (ők a tudatot számítási formaként tekintsük), a tudat nem más, mint egy gépen futó intelligens algoritmusok halmaza Turing. A funkciók fontosak a tudat számára agy, és nem ok-okozati tulajdonságai. Ha a GPT valamely fejlett verziója elfogadja és ugyanazokat a bemeneti és kimeneti mintákat állítja elő, mint az emberek, akkor minden benne rejlő tulajdonságunk átkerül a technológiába. Beleértve drága kincsünket – szubjektív tapasztalatunkat.
Ezzel szemben az integrált információelmélet esetében a tudat szíve a belső kauzális erő, nem pedig a számítás. Ez nem valami éteri vagy megfoghatatlan. Specifikus és funkcionálisan meghatározza, hogy a rendszer múltja milyen mértékben határozza meg jelenét (az ok ereje), illetve az, hogy a jelen milyen mértékben határozza meg a jövőjét (az okozat ereje). És itt van a dörzsölés: magát az ok-okozati összefüggést, azt a képességet, hogy egy rendszert egy bizonyos cselekvés végrehajtására kényszerítsenek, és nem sok alternatívát, nem lehet modellezni. Nem most, nem a jövőben. Ezt be kell építeni a rendszerbe.
Tekintsünk egy számítógépes kódot, amely modellezi Einstein általános relativitáselméletének mezőegyenleteit, amelyek a tömeget a téridő görbületéhez viszonyítják. A szoftver pontosan modellezi a szupermasszívat fekete lyuk, amely galaxisunk közepén található. Ez a lyuk olyan erős gravitációs hatást fejt ki a környezetére, hogy semmi, még a fény sem kerülheti el vonását.
A fekete lyukat szimuláló asztrofizikust azonban nem szívja be a laptopba a szimulált gravitációs tér. Ez a látszólag abszurd megfigyelés rávilágít a modell és a valóság közötti különbségre: ha a modell teljesen megfelel a valóságnak, a teret és az időt el kell torzítani a laptop körül, fekete lyukat hozva létre, amely mindent elnyel körül.
Természetesen a gravitáció nem számítás. Van egy okozati ereje, amely lehetővé teszi számára, hogy deformálja a téridő szövetét, és magához vonzzon mindent, aminek tömege van. A fekete lyuk okozati erőinek szimulálásához valódi szupernehéz tárgyra van szükség, nem csak számítógépes kódra. A kauzális erőt nem lehet modellezni, azt létre kell hozni. A valóság és a modell közötti különbség ok-okozati erejükben rejlik.
Ezért nem esik az eső egy felhőszakadást szimuláló számítógépben. A szoftver funkcionálisan megegyezik az időjárással, de hiányzik belőle az ok-okozati ereje ahhoz, hogy gőzt engedjen ki és vízcseppekké alakítsa. A rendszerbe be kell építeni az ok-okozati erőt, a változás önálló létrehozásának vagy elfogadásának képességét. Lehetséges.
Egy úgynevezett neuromorf vagy bionikus számítógép ugyanolyan tudatos lehet, mint az ember. De nem ez a helyzet a szabványos Neumann architektúrával, amely minden modern PC alapja. A laboratóriumokban létrehozták a neuromorf számítógépek kis prototípusait, például az Intel második generációs Loihi 2 neuromorf chipjét. De egy olyan gép, amely elég kifinomult ahhoz, hogy valami emberi tudatra, vagy legalábbis egy gyümölcslégy tudatára hasonlítson, még mindig ambiciózus álom a távoli jövő számára.
Vegyük észre, hogy a funkcionalista és az oksági elméletek közötti kibékíthetetlen különbségnek semmi köze sem a természetes, sem a mesterséges intelligenciához. Ahogy korábban mondtam, az intelligencia viselkedés. Bármit, amit az emberi találékonyság elő tud produkálni, beleértve az olyan nagyszerű regényeket, mint Octavia Butler Példabeszéde a magvetőről és Lev Tolsztoj Háború és békéje, képes reprodukálni az algoritmikus intelligenciát, ha elegendő anyagot kap kiképzés. Az AGI megjelenése a nem túl távoli jövőben elérhető cél.
A vita nem a mesterséges intelligenciáról szól, hanem a mesterséges tudatról. Ezt a vitát pedig nem lehet feloldani nagyobb nyelvi modellek vagy fejlettebb neurális hálózati algoritmusok létrehozásával. A kérdés megválaszolásához meg kell értenünk az egyetlen szubjektivitást, amelyben teljesen biztosak vagyunk: a sajátunkat. Ha egyszer világos magyarázatot kapunk az emberre öntudat és neurális alapjainak köszönhetően következetesen, tudományosan megalapozottan kiterjeszthetjük tudásunkat az intelligens technológiákra.
Ez a megbeszélés kevéssé befolyásolja azt, hogy a chatbotokat a társadalom hogyan fogja felfogni. Nyelvtudásuk, tudásbázisuk, szociális bájjuk hamarosan kifogástalanná válik. Tökéletes memóriával, hozzáértéssel, kiegyensúlyozottsággal, érveléssel és intelligenciával lesznek felruházva. Egyesek azt is állítják, hogy a nagy technológia alkotásai az evolúció következő lépését jelentik majd, Nietzsche „szuperemberét”. Sötétebb nézetet vallok, és úgy gondolom, hogy az ilyen emberek összetévesztik fajunk hanyatlását a hajnallal.
Sok, és talán a legtöbb ember számára az egyre atomizálódó társadalomban, elszakadva a természettől és a közösségi hálózatok köré szerveződően érzelmileg nehéz lesz ellenállni a benne élő technológiáknak telefonok. És különböző helyzetekben, hétköznapi és komolyabb helyzetekben, az emberek úgy viselkednek, mintha a chatbotoknak lenne tudatuk, szerelmesnek lenni, szenved, remény és félelem, még akkor is, ha ezek nem mások, mint összetett keresőtáblázatok. Nélkülözhetetlenekké válnak számunkra, talán még az igazán értelmes lényeknél is fontosabbak lesznek. Bár a chatbotok annyit érzékelnek, mint egy tévé vagy egy kenyérpirító – semmi.
Mit kell még olvasni a témában🤖
- 6 ok, amiért nem szabad vakon megbízni a mesterséges intelligenciában
- Miért ne féljünk attól, hogy az új technológiák elveszik a munkánkat?
- Technológiai szingularitás: igaz, hogy a technológia hamarosan kikerül az irányításunk alól?
- 8 mítosz a mesterséges intelligenciáról, amiben még a programozók is hisznek