Hogyan állapítható meg, hogy a szöveget neurális hálózat írta?
Vegyes Cikkek / / August 21, 2023
A mesterséges intelligencia sok területen jó asszisztens. De nem szabad feltétel nélkül megbízni benne.
Által adat Bloomberg szerint a szakemberek körülbelül 30%-a neurális hálózatokat használ szöveg generálására. Oroszországban a válaszadók 67%-a szeretnének jelentkezni a mesterséges intelligencia munkájában, hogy kevesebbet dolgozzanak és ne veszítsenek bevételből. Ez csak az ilyen statisztikák nem minden ügyfélnek tetszik. Vannak, akik nem bíznak a neurális hálózatokban, ezért jobban szeretik, ha a szövegeket nem robotok írják, hanem emberek.
Megértjük, hogy az ügyfelek miért óvakodnak a technológiáktól, és milyen eszközök állnak rendelkezésre manapság a neurotextusok feltárására.
Miért kell óvatosan kezelni a neurális hálózatokból származó szövegeket?
Íme a fő okok, amelyek miatt a vásárlók óvakodnak az ilyen cikkektől.
A szerzői jogok megsértésének veszélye
Ma még nincs hivatalos álláspont abban a kérdésben, hogy ki tartozik szerzői jog az AI segítségével létrehozott szövegekre. A törvény szerint szerző az a személy, aki kreatív vagy szellemi munkával alkot művet. Abban az esetben azonban, ha
neurális hálózat az emberek csak utasításokat adnak, de nem írnak maguknak.Mivel jelenleg a törvény nem ismeri el a neurotexteket szerzői jog tárgyaként, a technológiák által generált tartalom felhasználásának szabályait a neurális hálózat felhasználói szerződése határozza meg.
És ha Open AI továbbítja jogok a szöveghez még az ingyenes verzióban is, akkor Gerwin határait politikai, diszkriminatív vagy kedvezőtlen reklámozási célú felhasználása. És be középút használja a tartalmat kereskedelmi célokra Tud csak akkor, ha a terméket fizetett áron állítják elő.
Nem egyedi vagy pontatlan információk megszerzésének kockázata
A neurális hálózat fogad egy kérést, algoritmusokon halad át, elemzi a témában elérhető információkat, és választ ad. Anélkül, hogy tagadnánk, hogy egy másik felhasználó ugyanazon kérése hasonló vagy hasonló szöveget hozhat létre.
És itt jön egy új veszély. A Cornell Egyetem kutatói arra jutottak következtetés: ha a neurális hálózat válaszai ugyanarra a kérdésre nagyon eltérőek, akkor nagy valószínűséggel tényekkel áll elő.
Annak kockázata, hogy a neurotextek csökkentik a vállalat erőforrásait a keresési eredményekben
Tavaly év végén a Google minőségi specialistája, Duy Nguyen jelentette kihogy a vállalat rendelkezik algoritmusokkal a létrehozott tartalom észlelésére és leminősítésére mesterséges intelligencia. Ezért sokan attól tartanak, hogy a keresőmotorok megkeresik az ilyen tartalmat, és pesszimizálják azt. Vagyis csökkenteni a pozíciót a keresési eredmények között.
A precedensek már megvannak. Például Neil Patel marketinges költött kísérlet50 tesztwebhely létrehozásával, amelyeket két csoportra osztott. A szakember kizárólag mesterséges intelligencia által készített cikkekkel töltötte meg az első rész oldalait. A második oldalain emberek által módosított mesterséges intelligencia cikkeket, valamint szövegírók által neurális hálózatok használata nélkül írt anyagokat tároltak.
A kísérlet eredményei azt mutatták, hogy az első csoport erőforrásai több pozíciót veszítettek a keresési eredmények között. És oda vezetett csökken forgalom akár 70%.
A Google képviselői ugyanakkor hozzátették, hogy pozitívan viszonyulnak a neurális hálózatok fejlesztéséhez, és már létrehozták a sajátjukat. Chatbot Bard. De a cég számára a minőségi szövegek elsődlegesek. Az eredményeket rangsoroló rendszer mindenekelőtt megfelelő anyagokat kínál a felhasználóknak szabványoknak E-E-A-T (tapasztalat, kompetencia, hitelesség, hitelesség).
A hozzájuk tartozó szövegek önbizalmat keltenek és hasznosnak tekinthetők, mert példákat, tapasztalatokat, elemző részt és kutatást tartalmaznak. És az a tartalom, amelyet a neurális hálózatok hoznak létre, anélkül, hogy egy személy további mélyreható finomítást végezne, gyakran nem ilyen.
Eközben az Állami Dumában javasolta címkézés bevezetése az AI segítségével létrehozott anyagoknál. Amíg ez meg nem történik, határozza meg, hogy a szöveg neurális hálózat által generált, magának kell megtennie. Vagy speciális szolgáltatások segítségével.
Hogyan határozható meg önállóan, hogy a szöveget neurális hálózat írta
A MIREA Műszaki Egyetem nemrég tartotta kísérlet, amelyen 20 tanár és több mint 200 diák vett részt. Felük önállóan írt tudományos dolgozatokat. A másik 50% pedig neurális hálózatok segítségét vette igénybe. A tanároknak viszont ki kellett számolniuk az ilyen mesterséges intelligencia anyagokat.
Ennek érdekében a tanárok odafigyeltek a szöveg stilisztikai és ortográfiai jellemzőire. Például nagyszámú ismétlődő szó és jelentés esetén, tényleges és logikus hibákat, eredeti ítéletek hiánya. Ily módon a tanárok a neurális hálózat segítségével megírt munkák 96%-át tudták azonosítani. A nem exponált diákok 4%-a elismerte, hogy sok órát töltött mesterséges intelligencia szövegének szerkesztésével.
Nincs olyan univerzális utasítás, amely segítene kiszámítani a neurális hálózat által generált szöveget. A kísérlet azonban azt mutatja, hogy az ilyen anyagokban hasonló minták rejlenek. Tekintsük őket részletesebben.
Jelentések és szavak ismétlései
Az egyik oka annak, hogy egy webhely lejjebb kerül a keresési eredmények között, a kulcsszavak újraoptimalizálása. A neurális hálózat egy kérésre gyakran „körben válaszol”. Néha különböző előfordulásokat használ, de a jelentés még mindig megismétlődik.
Tehát az alábbi képernyőképen a mesterséges intelligencia azt a feladatot kapta, hogy írjon egy eladási bejegyzést a hajfestés új, kíméletes módjáról. És egy kis szövegben a neurális hálózat többször megismételte ugyanazokat a téziseket.
Szinte minden mondata generált szöveg ismétlődik a „festés új módja” kifejezés. Emellett ismétlődően megduplázódnak a jelentések a módszer biztonságosságáról és az egyéni megközelítésről, amely minden ügyfél egyediségét hangsúlyozza.
Íme néhány idézet a szövegből, amely ezt illusztrálja: „alakítsd át a képedet és fejezd ki egyéniségedet”, „vegye figyelembe az egyéniségét”, „neked megfelelő”, „alkoss neked egyedi és stílusos megjelenés", "tegye egyedivé a frizuráját", "megőrzi a haja egészségét és fényét", "biztonságos a haja számára", "ápolja a haját, megőrzi azt" Egészség".
Közben elég volt egyszer megemlíteni, hogy egy új eljárást mutattak be a szalonban - kímélő festési módszerami életben tartja a hajat. És azt is magyarázza el, hogyan működik a módszer, mi az újdonsága és miért biztonságos. És hozzá kell tenni, hogy a színpaletta változatos, és a képzett mesterek nemcsak minőségi színezést végeznek, hanem segítenek a színválasztásban is.
A nagyszámú bélyeg és klisé jelenléte a szövegben, az érzékszervi tapasztalat hiánya
A színezési példa azt is mutatja, hogy egy neurális hálózat nem tudja utánozni, hogyan beszél az ember a való életben. Az emberek lezárják, használják szleng és a rövidítések szándékosan torzítják a szavakat. Egy ilyen előadás segít felhívni a figyelmet, érzelmeket vált ki, közvetíti a szerző álláspontját, érzékszervi tapasztalatait.
Kutatás show: a neurális hálózat nem osztozik érzéseken, nem fogadja el senki álláspontját. Ezért inkább a semlegességet, a kliséket és a kliséket részesíti előnyben. A fenti példában ezek „szakmai készségek”, „kiváló minőségű anyagok”, „egyedülálló lehetőség”.
Ugyanakkor a neurális hálózat különböző stílusú szövegeket generál. Például megadhatja neki azt a feladatot, hogy készítsen anyagot a „Mi befolyásolja a költségeket? olaj». De tisztázni, hogy a szöveget nem száraz nyelven kell megírni, hanem metaforákkal és összehasonlításokkal kiegészítve. Az eredmény azonban még mindig mesterséges. Hiszen az AI-nak nincs mértéke, nem úgy „érzi” a szöveget, ahogy az ember.
1 / 0
2 / 0
Az egyik bekezdés segít belátni, hogy az elért eredményt nem lehet összehasonlítani az emberben rejlő intonációval: „A kereslet és a kínálat olyan, mint két szerelmes tánca az olajpiacon. Ha olajigény háborgó óceánként emelkedik, és ha a kínálat nem tud lépést tartani, az árak úgy mennek fel, mint a pezsgő a szilveszteri bulin. De ha csökken a kereslet és nő a kínálat, akkor az árak lufiként eshetnek egy gyerekbulin."
A szöveg mesterkéltnek tűnik, és a legtöbb fordulat nincs a helyén. És bár a poszt valóban „nem száraz” lett, nehéz elképzelni, hogy egy szakértő így írt volna. Ráadásul szó szerint minden mondat metafora és összehasonlítás. Az ilyen technikáknak azonban pontosaknak és a szövegbe szépen beágyazottaknak kell lenniük. Ellenkező esetben a jelentés elveszik a túl sok kép mögött.
Értelmetlen kifejezések jelenléte és logika hiánya
Noam Chomsky nyelvész a Syntactic Structures című könyvében megjegyzi, hogy a mondatok nyelvtanilag helyes felépítése nem garantálja a kifejezések jelenlétét. logika és jelentése. Példaként a szakértő a színtelen zöld ötletek dühösen alszanak - "a színtelen zöld ötletek dühösen alszanak" kifejezést említette.
Az algoritmusok segítik a neurális hálózatot a nyelvtani szempontból helyes mondatok felépítésében. A mesterséges intelligencia esetében azonban nem létezik a „jelentés” fogalma. És minden bekezdéshez saját logikája lehet, mivel az anyagot különböző forrásokból szerzik be.
Például egy neurális hálózatot felkértek arra, hogy készítsen véleményeket egy tusfürdőről és tréningruháról. A ruhákról szóló szöveg így alakult: „Egy öltöny segítségével lazíthatsz, elmerülhetsz a sport világában, és sétálhatsz is. Hőmérsékletszabályzóval rendelkezik, aminek köszönhetően minden helyzetben jól érzi magát.
És itt van egy értékelés a tusfürdőről: „Csodálatos gél, nem szivárog, nem nehezíti el a bőrt. Zsákba csomagolva, dobozban, fedővel. Nem kell semmi extrára várni, hogy egy kicsit összetörjön. Használható éjszakai tusfürdőként.
Néhány mondat bennük jól felépített, de ugyanakkor abszurdnak tűnnek, és hasonlítanak Chomsky illusztrációjára.
A textúra és a felületes példák hiánya
A mesterséges intelligencia nyilvánvaló információkat ad a szövegekben, általános tényeket, letisztult kifejezéseket és példákat használ, amelyek nem árulják el sokat a kérdést. Ebben az esetben a téma összetettsége nem számít. A kérdés lehet mély, például a fejlődési kilátások zárványok Oroszországban. Vagy egyszerűbb és egyéni, a technika kiválasztását illetően.
Az inklúzióról szóló szövegben a neurális hálózat elmondta, mennyire fontos és aktuális ez a téma. Hozzátette azt is, hogy a befogadás egy hosszú folyamat, amely nehézségekkel jár, de folyamatban van a munka a sajátos szükségletekkel rendelkezők feltételeinek megteremtésén. És összefoglalva: ha nem állsz meg, akkor biztosan lesz fejlődés.
A leírtak azonban nem adnak választ a kérdésre. Fontos, hogy a szöveg konkrét legyen. Például elemezheti, hogy az elfogadott törvények közül melyik működik és melyik nem, és miért. Felfedni a külföldi tapasztalatokat. És magyarázza el, milyen konkrét lépéseket tehet még az állam, a vállalkozás és minden ember a befogadás fejlesztése érdekében.
A szövegben kb okostelefon vásárlásaa neurális hálózat által generált, nyilvánvaló szelekciós tényezőket is jelezzük. Például: döntse el az operációs rendszert (iOS vagy Android), a márkát, olvassa el a véleményeket és a műszaki specifikációkat, és vegye figyelembe a saját képességeit is.
1 / 0
2 / 0
Az emberek azonban megértik ezt. Másik dolog az operációs rendszerek chipjeiről beszélni, jelezni a pillanatnyi korlátokat. Vagy említse meg az innovatív megoldásokat – például az eSIM technológiát, amely lehetővé teszi, hogy akár öt számot is tároljon egy okostelefonon. Vagy ossza meg túlárazott készülékmodelljeit és társaikat a legjobb áron.
Tények elferdítése, kitalált információk hozzáadása
A neurális hálózat hihetően válaszol szinte minden kérdésre, krónikával, dátumokkal, vezetéknevekkel, eredettörténettel. Ebben az esetben az információ torz vagy teljesen kitalált. Az AI munkájában előforduló ilyen hibát hallucinációnak nevezik.
Tehát a neurális hálózat azt a feladatot kapta, hogy meséljen a híresről süket emberekakik nagyban hozzájárultak a társadalom fejlődéséhez. Ennek eredményeként a legtöbbet az MI találta fel.
1 / 0
2 / 0
Például Raymond Lou űrhajós vagy Mario Gallegos bokszoló. Az Egyesült Államok 42. elnöke pedig továbbra sem Matthew Clinton, hanem Bill Clinton volt. És nem veszítette el a hallását.
Ezenkívül az AI magabiztosan válaszolt arra a kérésre, hogy „írjon bejegyzést a kreatívról amnézia». Bár nincs ilyen kifejezés.
Arra a kérdésre, hogy a bot miért talál ki embereket, és miért beszél nem létező kifejezésekről, csak elnézést kér az esetleges zavarásért.
1 / 0
2 / 0
Ha hamis tények igaz adatokkal fonódnak össze, nehezebb észlelni a neurális hálózati hallucinációkat. Különösen amikor folyékony olvasás. De ha a szövegben szereplő példákra koncentrál, észreveheti azokat, amelyek gyanúsnak tűnnek, és ellenőrizheti őket, ha beírja őket a keresősávba.
Naprakész információk hiánya az aktuális változásokról, eseményekről
A neurális hálózatok öntanulnak a felhasználókkal való kommunikáció során, emlékeznek a személy tisztázásaira, reakciójára a generált tartalomra, példákra, amelyeket egy személy megoszt egy bottal. Szakértők neveshogy az AI önálló tanulási képessége meglepetésként érte őket. És hogy ez a készség segíti a neurális hálózatok fejlődését.
Ahol gépi tanulás, amelyet a fejlesztők gigabájtnyi adattal – cikkek, könyvek, szövegek a weben – hajtanak végre, világos kezdete és vége van. És alapvetően a neurális hálózatok nem férnek hozzá a keresőmotorokhoz. Ezért a fejlesztők által lebonyolított képzés után megjelent információk a következő szakaszig nem állnak az AI rendelkezésére.
Ugyanakkor a gépi tanulás közötti intervallum hónapok, néha évek. A fejlődés természetesen nem áll meg: idén májusban például a GPT Plus a fizetős előfizetéssel rendelkező felhasználók számára is elérhetővé vált. ChatGPT Internet hozzáféréssel. A legtöbb neurális hálózatnak azonban, különösen az ingyenes verzióiknak, még nincs ilyen lehetősége.
Tehát a ChatGPT4 ingyenes verziójának alapja 2021-re korlátozódik, így a bot nem tudja, ki nyerte meg az utolsó világbajnokságot 2022-ben. A Google neurális hálózata – a Bard AI – pedig elismerte, hogy nem tudott szöveget alkotni a világban ezen a nyáron történt jelentős eseményekről.
1 / 0
2 / 0
Mióta legutóbbi edzését 2023 májusában tartották a fejlesztők, a Bard AI számára még nem érkezett meg a nyár.
Ilyen esetekben a neurális hálózatok általában nem állnak elő tényekkel, hanem elismerik, hogy nem tudnak "megjósolni a jövőt».
Ha a szöveg nem tartalmaz naprakész információkat a témában, vagy elszakadt a valóságtól, mivel sok minden változott az utóbbi időben, akkor fennáll annak a lehetősége, hogy az anyagot neurális hálózat írta.
Milyen szolgáltatások segíthetnek
A mesterséges intelligencia által generált szöveg a neurális hálózat segítségével is felismerhető. Például lehet bot GPT-4. Az AI-algoritmusokat észlelni képes speciális szolgáltatások is segíthetnek. Nézzünk meg néhányat az alábbiakban.
- Text.ru. Az oldal szövegírás és plágiumellenes csereként van pozicionálva. De nemrég egy fizetett neuro-asszisztens jelent meg a portálon. Egyik funkciója az AI detektor. Az ellenőrizni kívánt szöveget be kell tölteni az ablakba. Néhány másodperc múlva a rendszer megadja az eredményt.
- PR CY. A szolgáltatásba 1000 karakteres szövegek tölthetők fel. Ugyanakkor pontosítások vannak a portálon: az alacsony minőségű, spambe küldött opciókat, amelyeket egy személy írt, a rendszer az AI-munka eredményének tekinti. Csakúgy, mint a világos stilisztikai színezésű szövegek - például a művekhez hasonlóak Majakovszkij.
- GPTZero. Az eszköz leolvassa a mondatok összetettségét, kombinációit, szerkezetét és hosszát. Ha azonban a szolgáltatás jól megbirkózik az angol nyelvű szövegekkel, akkor az orosz nyelvű anyagok betöltésekor gyakran hibát ad. Az előnyök közül - az ingyenes verzió jelenléte.
A neurális hálózat nagy segítség lehet. Például amikor ötleteket keresünk. A tartalmában való teljes bizalom azonban veszélyes. Felelősségteljesen kell kezelnie a mesterséges intelligencia anyagokat: szerkessze a spamet, ellenőrizze a pontosságot, a logikát és a tények relevanciáját. És igazítsa a stílust az "emberi" nyelvhez, hogy ne riassza el a közönséget, mentse el a cég hírnevét és pozícióját a keresési eredmények között.
Olvassa el is🤖
- 6 ok, amiért nem szabad vakon megbízni a mesterséges intelligenciában
- Hogyan adjunk botot a Discordhoz
- 6 neurális hálózat logók létrehozásához