AI tartalomdetektorok. Érdemesek rájuk? | AI az üzletben #38

Ma az AI tartalomdetektorok fejlesztői azokat az autentikusság védelmére szolgáló eszközökként mutatják be. A kérdés az, hogy megérik-e a bizalmat és a befektetést? Ebben a cikkben megvizsgáljuk, hogyan működnek az AI tartalomdetektorok, miért tűnhetnek el, milyen kihívásokat jelentenek, és milyen etikai dilemmákat vetnek fel.

AI tartalomdetektorok

Az AI tartalomdetektorok olyan nyelvi modelleken alapulnak, amelyek hasonlóak azokhoz, amelyeket AI tartalom generálására használnak. Ezeket azokra lehet osztani, akiknek feladata a mesterséges intelligencia támogatásával generált képek, szövegek és zenék eredetének ellenőrzése. Minden “AI detektor” típus kissé eltérően működik, de egyikük sem képes abszolút bizonyossággal megkülönböztetni az ember által létrehozott és az AI által generált tartalmat.

Az AI által generált képek detektorai egyre fontosabb szerepet játszanak a média hamis hírek generálásának ereje miatt. Elemzik az anomáliákat, a jellegzetes stílusokat és mintákat, és keresik a DALL-E-hez hasonló modellek által hátrahagyott nyomokat.

A képek azonosítására használt detektorok között kiemelkedik az Optic “AI or Not” eszköze, amely a Midjourney, DALL-E és Stable Diffusion által generált képadatbázisokat használja. Bár az eredmények bizonytalanok, ez egy lépés a jövőbeli pontosabb azonosítási módszerek kifejlesztése felé.

Forrás: AI or Not (https://www.aiornot.com/)

Az AI által generált szövegek azonosítására szolgáló AI detektorok mögött fejlett algoritmusok állnak, amelyek elemzik a szöveg szerkezetét és szóválasztását, majd felismerik az AI-specifikus mintákat. Ezek a következőket használják:

• klasszifikátorok – egy algoritmus, amely osztályozza a szöveget és ellenőrzi a stílust, a hangnemet és a nyelvtant. Például egy termékleírás, amely bármely termékhez illeszkedhet, AI alkotásként lehet klasszifikálva,
• beágyazások (embeddings) – a szavak numerikus reprezentációi lehetővé teszik a gépek számára, hogy megértsék a használatuk kontextusát. Nekik köszönhetően a program “megérti”, hogy egy monoton szóválasztékú szöveg AI munkája lehet,
• perplexitás – amely a szöveg kiszámíthatatlanságának mértéke. Az ember által írt szövegek általában magasabb perplexitással rendelkeznek, bár az alapvetően egyszerű, tipikus formában utilitárius szövegek vagy külföldiek által írt szövegek tévesen AI-generáltnak minősülhetnek,
• változatosság (burstiness) – ez a tényező a mondatok hosszának és szerkezetének változékonyságát írja le. Az emberek általában változatosabb szövegeket írnak, mint a mesterséges intelligencia.

A fent említett elemek együttműködve segítik az AI tartalomdetektorokat annak megítélésében, hogy emberi vagy gépi szöveggel van-e dolgunk.

Miért használjunk AI tartalomdetektorokat?

Az AI tartalomdetektorok különböző területeken működnek – az oktatástól a marketingig és a toborzásig. Íme a legfontosabb okok, hogy miért érdemes őket értékelési eszközként használni, de nem végleges bizonyítékként arra, hogy a tartalom generált-e:

• AI által módosított, ismert személyeket ábrázoló fényképek azonosítása – annak észlelésére, hogy a fénykép valós helyzetet ábrázol-e,
• Dezinformáció megelőzése – A dezinformáció elleni küzdelem kontextusában az effektív AI tartalomdetektorok segítik a közösségi média moderátorait a hamis információk terjedésének észlelésében, hogy azonosítsák és megszüntessék a botok által generált ismétlődő tartalmakat,
• Alacsony értékű szövegek közzétételének korlátozása – Az AI tartalomdetektorok segíthetnek a kiadóknak elutasítani azokat a szövegeket, amelyek általános információkat tartalmaznak, amelyeket a ChatGPT, Bing vagy Bard generált egy egyszerű lekérdezés után.

Fontos azonban megjegyezni, hogy a szöveg eredete nem alapja a Google egy webhely rangsorának csökkentésének. A Google Keresési Központ blogja szerint kulcsfontosságú, hogy a Google “jutalmazza a minőségi tartalmat, függetlenül attól, hogy hogyan jött létre […]. Az automatizálást régóta használják hasznos tartalom generálására, például sporteredmények, időjárás-előrejelzések és átiratok esetében. Az AI új szintjeit nyithatja meg a kifejezésnek és a kreativitásnak, és kulcsfontosságú eszköz lehet a nagyszerű webtartalom létrehozásának támogatásában.”

Az AI tartalomdetektorok megbízhatatlansága. Valóság vagy mítosz?

Bár az AI tartalomdetektorok mindenhol jelen vannak, hatékonyságuk kérdéses lehet. A fő problémák a következők:

• alacsony hatékonyság az AI tartalom észlelésében,
• hamis pozitív eredmények problémái, valamint
• nehézségek a detektorok alkalmazkodásában a gyorsan diverzifikálódó és fejlődő új AI modellekhez.

Az OpenAI által végzett tesztek azt mutatták, hogy klasszifikátoruk csak az esetek 26%-ában ismerte fel a GPT által generált szöveget. Az AI generátorok megbízhatatlanságának érdekes példája egy TechCrunch által végzett kísérlet, amely megmutatta, hogy a GPTZero eszköz helyesen azonosította az AI által generált szövegek közül az ötöt a hétből. Míg az OpenAI klasszifikátor csak egyet azonosított.

Forrás: GPTZero (https://gptzero.me/)

Ezenkívül fennáll a hamis pozitív eredmény kockázata, azaz az ember által írt szöveg AI-generáltnak való azonosítása. Például Miguel de Cervantes Don Quijote című művének második fejezetének elejét az OpenAI detektor a legvalószínűbb AI által írt szövegként jelölte meg.

Míg a történelmi irodalmi szövegek elemzésében fellépő hibák szórakoztató kuriózumnak tekinthetők, a helyzet bonyolultabbá válik, amikor a detektorokat szövegek értékelésére használjuk. Az Egyesült Államok Alkotmányát a ZeroGPT 92,15%-ban AI által írt szövegként jelölte meg. És egy Stanford Egyetem kutatói által közzétett tanulmány szerint a nem angol anyanyelvű diákok által írt TOEFL esszék 61%-át AI-generáltnak minősítették. Sajnos nincs adat arról, hogy más nyelveken mennyire magas a hamis pozitívként klasszifikált szövegek aránya.

Másik probléma a klasszifikáció megváltozása a detektor következő futtatásakor. Ez azért van, mert gyakran előfordul, hogy egy detektor, mint például a ZeroGPT vagy a Scribbr, megváltoztatja a szövegrészek klasszifikációját, amelyeket egyszer AI-generáltnak, máskor pedig emberi írásnak jelöl.

Forrás: Scribbr (https://www.scribbr.com/ai-detector/)

Az AI képi és videós detektorokat elsősorban a deepfake-ek és más AI által generált tartalmak azonosítására használják, amelyek dezinformáció terjesztésére használhatók.

A jelenlegi detektáló eszközök, mint például a Deepware, Illuminarty és FakeCatcher, nem nyújtanak teszteredményeket a megbízhatóságukról. Az AI által generált vizuális anyagok észlelésének jogi kontextusában kezdeményezések vannak az AI képek vízjelezésére. Ez azonban nagyon megbízhatatlan módszer – egyszerűen letölthető egy vízjel nélküli kép. A Midjourney más megközelítést alkalmaz a vízjelezésre, lehetővé téve a felhasználók számára, hogy eldöntsék, szeretnék-e így vízjelezni a képet.

AI észlelésének elkerülése. Lehetséges és hogyan?

A vállalkozóknak tudatában kell lenniük, hogy az AI tartalomdetektorok nem helyettesítik az emberi minőségértékelést, és nem mindig megbízhatóak. A gyakorlati karbantartási problémák jelentős nehézségeket okozhatnak, akárcsak az, hogy megpróbálják elkerülni, hogy a tartalmukat AI-generáltnak minősítsék. Különösen akkor, amikor az AI csupán egy eszköz egy szakember kezében – azaz nem “AI által generált tartalom”, hanem inkább “tartalom, amelyet AI-val együttműködve hoztak létre.”

Relatíve egyszerű valakit hozzáadni a generált anyagokhoz, így a létrehozásuk módja valóban nehezen észlelhető. Ha az a személy, aki generatív AI-t használ, tudja, hogy milyen hatást kell elérni, egyszerűen manuálisan is módosíthatja az eredményeket.

A alapvető kérdés abban rejlik, hogy miért akarjuk elkerülni az észlelést, ha a tartalom AI által generált.

• Ha ez etikai kérdés, és például a közzétett tudományos kutatás szerzői jogait érinti – az embernek a tudós szakmai etikájára és az AI-alapú eszközök felelős használatára kell támaszkodnia.
• Ha a munkáltató azt kívánja, hogy az alkalmazottak ne használjanak AI-t – akkor marad egy szerződéses megállapodás a generatív mesterséges intelligencia használatáról.

Ez felveti azt a kérdést is, hogy szeretnénk-e a felelős AI használatát előmozdítani tilalmakkal és elutasítókkal (ZeroGPT és GPTZero!), vagy a transzparencia, a bizalomépítés és a fejlett technológiák tisztességes használatának értékelésével.

Forrás: ZeroGPT (https://www.zerogpt.com/)

Összegzés

A kérdésre, hogy az AI tartalomdetektorok használata megéri-e, a válasz messze nem egyértelmű. Az AI tartalomdetektorok még fejlesztés alatt állnak, és jövőjük nehezen megjósolható. Egy dolog biztos – fejlődni fognak az AI technológia fejlődésével együtt. Az AI fejlődése, beleértve a nyelvi modellek egyre növekvő képességét az emberi írási stílus utánzására, azt jelenti, hogy az AI tartalom észlelése még bonyolultabbá válhat. A vállalkozások számára ez jelzés, hogy kövessék ezeket a fejleményeket, és ne támaszkodjanak kizárólag az eszközökre, hanem a tartalom értékelésére és annak céljára, amelyre létrehozták, valamint a gyorsan fejlődő mesterséges intelligencia bölcs használatára.

Ha tetszik a tartalmunk, csatlakozz a nyüzsgő méheink közösségéhez a Facebookon, Twitteren, LinkedIn-en, Instagramon, YouTube-on, Pinterest-en, TikTokon.