Az OpenAI figyelmeztetett a mesterséges intelligencia felfedezésére, amely veszélyeztetheti az emberiséget

Előző nap száműzetés Az OpenAI vezérigazgatója, Sam Altman, a vállalat munkatársai közül többen is írt az igazgatóságnak levél, amelyben figyelmeztetett egy hatalmas mesterséges intelligencia felfedezésére, amely szerintük "fenyegethet". az emberiségnek." Erről saját forrásainkra hivatkozva írja Reuters.

Ez a levél volt az egyik tényező az igazgatótanács azon panaszainak hosszú listáján, amelyek Altman elbocsátásához vezettek. A Reuters nem tudott személyesen beszélni a szerzőkkel, és nem tudott véleményt kérni az OpenAI-tól. Egy ilyen kérés után azonban a vállalat belső üzenetben a dolgozóknak bejelentette egy Q* (ejtsd: Q-Star) nevű projekt létezését.

Az OpenAI egyes munkatársai úgy vélik, hogy a Q* áttörést jelenthet az ún általános mesterséges intelligencia (AGI). Az OpenAI autonóm rendszerként jellemzi, amely felülmúlja az embereket a gazdaságilag legértékesebb feladatokban.

A Q* eddig egy forrás szerint csak elemi szinten tud matematikai feladatokat végrehajtani. iskolákban, de az ilyen tesztek sikeres elvégzése nagy optimizmusra ad a kutatókat annak kilátásait illetően fejlesztés.

A fő különbség az ilyen mesterséges intelligencia között az, hogy képes célokat kitűzni, az összetett problémákat kicsikre osztani, a problémák széles skáláján dolgozhat, és megoldásokat találhat a különböző területek kontextusának figyelembevételével. Egyszerűen fogalmazva, az ilyen intelligencia elméletben helyettesítheti a magasan képzett, tudással, készségekkel és széleskörű tapasztalattal rendelkező szakembert.

A kutatók úgy vélik, hogy a matematika a generatív mesterséges intelligencia élvonala. Manapság jól tud írni és fordítani, statisztikailag megjósolja a következő szót, és ugyanarra a kérdésre a válaszok nagyon eltérőek lehetnek. De a matematika meghódítása (ahol csak egy helyes válasz van) azt jelenti, hogy a mesterséges intelligencia szélesebb érvelési képességekkel rendelkezik, amelyek hasonlítanak az emberi intelligenciára. Ez alkalmazható például új tudományos kutatásokra – állítják a szakértők.

Az igazgatótanácsnak írt levelükben a kutatók felhívták a figyelmet az AI erejére és a lehetséges veszélyekre. Felhívták a figyelmet a „mesterséges intelligencia tudósok” speciális csoportjának munkájára is, amelynek létezését számos forrás megerősítette. A csapat azt vizsgálja, hogyan lehet optimalizálni a meglévő AI-modelleket, hogy javítsák érvelésüket, és végül tudományos munkát végezzenek velük – mondta az egyik ember.

Altman vezette azt az erőfeszítést, hogy a ChatGPT-t az egyik leggyorsabban növekvő szoftveralkalmazástá tegye történetét, és vonzotta a Microsofttól a szükséges befektetéseket és számítási erőforrásokat az ilyenek megvalósításához AGI. És röviddel elbocsátása előtt, a világ vezetőinek San Franciscó-i csúcstalálkozóján bejelentett néhány „komoly vívmányt, amelyek a sarkon vannak”.

Egy nappal később a testület kirúgta Altmant.

Talán egyszer mindezen döntések és események egy könyv, egy egész film vagy akár egy történelemtankönyv alapját képezik.