6 ok, amiért nem szabad vakon megbízni a mesterséges intelligenciában
Vegyes Cikkek / / August 13, 2023
A neve ellenére az AI nem intelligens, és néha a legnevetségesebb dolgokban is hibázik.
1. Az AI úgy van programozva, hogy elfogadható, nem pedig igaz válaszokat adjon
Lehet, hogy a mesterséges intelligencia nem tud valamit. De soha nem ismeri el.
A mesterséges intelligencia bármilyen kérdésre képes felháborító értelmetlenséggel válaszolni, de teljes bizalommal saját igazában. Ha rajtakapják, hogy hazudik, egyetért veled, jobban lesz, és tovább generál szöveget, mintha mi sem történt volna.
Az AI chatbotok korlátozott információval rendelkeznek: csak azt tudják, ami azokban a szövegekben szerepel, amelyekre kiképezték őket. De ugyanakkor arra vannak programozva, hogy minden esetben válaszoljanak, még akkor is, ha nem ismerik a helyes opciót. Ezért a ChatGPT és társai rendszeresen okos külsővel beszélnek ostobaságokat.
Ne felejtse el ellenőrizni a chatbottól kapott információkat. Soha nem tudhatod, mire gondolt, amikor megírta a választ.
2. A mesterséges intelligencia akkor is vitatkozhat veled, ha igazad van
1 / 0
2 / 0
Nem olyan rosszak azok a helyzetek, amikor a mesterséges intelligencia nem tudja a választ, és ezért mesékkel áll elő. Még rosszabb, ha hazugságon kapják, de nem javítja ki magát, és továbbra is kitart – egyszerűen azért, mert rossz információra képezték ki.
Ezenkívül az AI szándékosan torzíthatja az információkat, hogy a beszélgetést olyan irányba terelje, amelyre a neurális hálózat helyesebbnek tűnik. Ez különféle vicces eredményekhez vezet.
Egyetlen felhasználó leírta helyzetben, ahogy megkérdezte a Bing ChatGPT botot, hogy mikor mutatják be az Avatar 2-t az otthona közelében lévő mozikban. Válaszul elkezdte bizonygatni, hogy a filmet még nem adták ki. Amikor a felhasználó megpróbálta meggyőzni az MI-t, makacskodni kezdett, mondván, hogy még 2022 és 10 hónappal a premier előtt.
Bing azt javasolta, hogy a beszélgetőpartner téved, ha úgy gondolja, hogy 2023 már elérkezett, és azt tanácsolta neki, hogy ellenőrizze a dátumot a telefonján. Amikor a felhasználó azt mondta, hogy ezt már megtette, azt mondta, hogy az okostelefon ideiglenes beállításait letörték vírus és általában az ember túl sokat vitatkozik, és fel kell hagynia ennyire magabiztosnak.
A felhasználó soha nem tudta meggyőzni az AI-t arról, hogy az Avatar 2 már megjelent, és hogy 2023 2022 után van.
A "mesterséges intelligencia" elnevezés ellenére a chatbotok nem intelligensek, és a korábban olvasott szövegek összeállításával generálnak válaszokat. Tehát az Open AI ChatGPT-t 2021-ig, a Bing ChatGPT-t pedig 2022-ig képezték az adatokkal kapcsolatban. Ezért csak azokkal az információkkal rendelkeznek majd, amelyek relevánsak voltak a képzésük idején.
3. Az AI korlátozza kreativitását
Sok tartalomszerző, művész és tervező használja manapság aktívan a mesterséges intelligenciát. Ha azonban folyamatosan használod, fennáll annak a veszélye, hogy a "kreatív izom" elsorvad, és nehezebb lesz saját ötleteid megalkotása.
Amikor a mesterséges intelligencia alapú chatbotok választ generálnak, az emberek gyakran csak másolják és beillesztik azt anélkül, hogy bármiféle erőfeszítést tennének annak értelmezésére. Ez a megközelítés nem ösztönzi kreatív gondolkodás.
Tudja, az AI csak azt tudja lemásolni, amit az emberek korábban létrehoztak, csak szabadon fordíthatja és keverheti a látottakat. Nem tudja, hogyan készítsen igazán eredeti műveket.
Ha erősen függ az AI-tól, akkor megismételni fogja a meglévő ötleteket és koncepciókat, ahelyett, hogy létrehozná a sajátját.
4. Az AI nem tud visszajelzést adni
Próbálja meg rávenni a ChatGPT-t, hogy írjon szakdolgozatot vagy szakdolgozatot. Lehetséges, hogy egészen jó szöveget kap, amit nem szégyell megmutatni az embereknek.
De ha megkéri az MI-t, hogy jelölje meg az általa szolgáltatott információk forrásait, akkor azt fogja tapasztalni, hogy ezek nem léteznek. A ChatGPT által hivatkozott tanulmányok címei és nevei tudósokaki létrehozta, könnyen kiderülhet, hogy fiktív, és az internetes cikkekre mutató hivatkozások nem vezetnek sehova.
Az AI nem tudja megmagyarázni, honnan szerzi ezt vagy azt az információt, mert úgy van programozva, hogy más szövegek alapján szövegeket generáljon, és ne értse, amit oda írt. Ezért hiába válaszol helyesen, a mesterséges intelligencia nem tudja megmagyarázni, honnan tudja ezt az információt.
5. Az AI-t a támadók használhatják
Az AI minden előnye ellenére rossz szándékú emberek is használhatják.
Az ilyen visszaélésekre példa az úgynevezett mélyhamisítások létrehozása. Ezzel a technológiával rendkívül valósághű videó- vagy hangfelvételeket készíthet, amelyekben mesterségesen létrehozott képek arról, hogy emberek olyan dolgokat mondanak vagy tesznek, amelyeket valójában nem mondtak vagy nem tette. Ez felhasználható áldozatok megtévesztésére, álhírek létrehozására, vagy akár zsarolásra és zsarolásra.
A mesterséges intelligencia fejlesztéseinek jelentős része nyilvános, és bárki számára lehetővé teszi az olyan technológiákhoz való hozzáférést, mint a kép- és arcfelismerés. És az olyan szöveges modellek, mint az Open AI ChatGPT, használhatók trollkodásra, zaklatás a közösségi médiában vagy hihetőnek tűnő, de valójában hamis információk terjesztése.
Végül a támadók hibás adatokat adhatnak meg az AI-nak a képzéshez, és a jövőben maga is sugározza azokat, félrevezetve a felhasználókat.
6. Az AI nem helyettesítheti az emberi ítélőképességet
Nem szabad teljesen megbíznia a mesterséges intelligenciában, amikor érzelmeken, személyes érzéseken és preferenciákon alapuló döntéseket hoz. Ez annak a ténynek köszönhető, hogy a mesterséges intelligencia nem veszi figyelembe az emberi érzelmeket, a kontextust és a megfoghatatlan szempontokat, amelyek számos fogalom megértéséhez és értelmezéséhez szükségesek.
Például, ha megkéri az AI-t, hogy válasszon kettő közül könyveket, a magasabb minősítésűt ajánlja, de nem tudja figyelembe venni az Ön személyes ízlését, olvasási preferenciáit, vagy azt, hogy milyen célra van szüksége erre vagy arra a munkára.
Egy humán lektor pedig részletesebb és egyéni kritikát adhat a műről, értékelve annak irodalmiságát érték, relevanciája az olvasó érdekei szempontjából és egyéb szubjektív tényezők, amelyeket a mesterséges intelligencia nem képes mérni számok.
Olvassa el is🧐
- Mit tud valójában ma a mesterséges intelligencia?
- Hol és hogyan használják a mesterséges intelligenciát: 6 példa az életből
- 8 mesterséges intelligencia mítosz, amelyet még a programozók is hisznek