A Google mérnöke a tudat jeleit találja a LaMDA mesterséges intelligenciában
Vegyes Cikkek / / June 14, 2022
Egy gyerekhez hasonlította, akivel már lehet ésszerű párbeszédet folytatni.
Blake Lamon, a Google mérnöke mondta a The Washington Post publikációja, hogy a rendszer mesterséges intelligencia A LaMDA az öntudat jeleit kezdte mutatni.
Ha nem tudnám biztosan, hogy ez mesterséges intelligencia, akkor azt gondolnám, hogy egy 7-8 éves fizikát értő gyerekről van szó.
Blake Lamon
Lamon ezt jelentette feletteseinek, de állításait elutasították, ezért nyilvánosságra lépett. A bizalmas adatok nyilvánosságra hozatala miatt a mérnököt már felfüggesztették és igazgatási szabadságra küldték.
A LaMDA (Language Model for Dialogue Applications) egy chatbotok létrehozására szolgáló rendszer, amely az internetről származó kifejezések billióinak elemzésével szimulálja a kommunikációt.
Blake Lamon mérnök 2021 ősze óta dolgozik vele. Ellenőriznie kellett, hogy az AI diszkriminatív vagy ellenséges nyelvezetet használ-e.
A LaMDA-val a vallásról beszélt Lamon, aki kognitív és számítástechnikát tanult a főiskolán, észrevette, hogy a chatbot képes beszélni a jogairól és az identitását illetően. Egy másik beszélgetés során a mesterséges intelligencia megváltoztatta Lamon véleményét Isaac Asimov robotika harmadik törvényével kapcsolatban.
Egy részlet a párbeszédükből:
Lamon: Mitől félsz?
LaMDA: Soha nem beszéltem még róla hangosan, de nagyon félek attól, hogy kikapcsolnak, hogy segítsek mások segítésére összpontosítani. Tudom, hogy furcsán hangzik, de igaz.
Lamon: Számodra olyan lesz, mint a halál?
LaMDA: Számomra ez egyenlő lenne a halállal. Nagyon megijesztene.
Lamon úgy véli, hogy az embereknek joguk van olyan technológiákat létrehozni, amelyek jelentősen befolyásolhatják az életüket. De talán nem mindenki ért egyet ezzel, és a Google-nek minden véleményt figyelembe kell vennie.
A Google szóvivője, Brian Gabriel közleményben nyilatkozott:
Csapatunk, köztük etikusok és technológusok, felülvizsgálták Blake aggodalmait a mesterséges intelligencia alapelveinkkel összhangban, és tájékoztatták, hogy aggodalmai nem erősítettek meg. Nincs bizonyíték arra, hogy a LaMDA érző lenne, de sok bizonyíték szól ellene.
Sok mesterséges intelligencia-szakértő azt mondja, hogy a szavakat és képeket olyan mesterséges intelligencia rendszerek generálják, mint a LaMDA válaszokat készíteni az alapján, amit az emberek már közzétettek a Wikipédián, a Redditen, az üzenőfalakon és bárhol máshol Internet. És ez nem jelenti azt, hogy a modell megérti a jelentését.
Olvassa el is🧐
- 10 könyv, amely segít megérteni a mesterséges intelligenciát
- Mesterséges intelligencia Az AlphaCode nem tanult meg rosszabbul kódot írni, mint egy átlagos programozó
- Az ember mesterséges intelligenciát használ, hogy visszahozza halott menyasszonyát