A ChatGPT-vel akár esszéket, novellákat, házidolgozatot vagy diplomamunkát is készíttethetünk. Persze a dolog nem olyan egyszerű, hogy beírjuk a programnak, hogy „Írj nekem egy szakdolgozatot »A bitcoin illegális felhasználása a darkneten« címmel” –, ami nemcsak etikai, de technikai és szakmai kérdéseket is felvet. A következőkben arról lesz szó, hogyan ismerjük fel az MI által írt szövegeket, és azt hogyan formáljuk a saját hangunkra.
A ChatGPT-t ma már szinte bármire rá lehet venni: ír cikket, fogalmazást, verset vagy éppen szakdolgozatot – bármilyen nyelven és stílusban. Nem jön zavarba, ha a New York Times hangvételét kell utánoznia, Donald Trump dumáját is vágja, megírja nekünk a dolgozatot középkori magyar nyelvezettel, vagy egy rövidebb szöveget – több-kevesebb sikerrel – akár ószövetségi arámi nyelven is. Most viszont azt mutatjuk be, hogy hogyan lehet felismerni az MI-vel generált szövegeket.
A közelmúltban bejárta a sajtót a hír, hogy egy budapesti középiskolában a diákok egy része a mesterséges intelligencia segítségével írta meg az angol érettségi fogalmazási feladatát. A dolgozatok persze túl jól sikerültek, a szóbelin viszont a gyerekek le- és megbuktak. A probléma messze túlmutat az érettségi vizsgákon: máris rengeteg MI által generált reklámanyag és álcikk jelenik meg az interneten. A keresőoptimalizálás (SEO) bevett módja, hogy olyan semmitmondó MI-tartalmakkal tölti tele a webhelyet, amikre „buknak” a kulcsszavak alapján dolgozó hagyományos keresőrobotok, ezért előrébb rangsorolják az adott oldalt. A tudományos életben is gond van: már a tekintélyes szaklapok szerkesztői is panaszkodnak, hogy ömlenek hozzájuk az MI-vel írt álszakcikkek.
Sokakat az foglalkoztat, hogy miként lehet megkülönböztetni az ember által írott szövegeket az MI-vel generált irományoktól. Léteznek úgynevezett AI-detektorok, vagyis szolgáltatások, amelyek azt állítják, hogy elvégzik ezt a munkát – persze nem ingyen. Az említett angol érettségi esetében is nagyon magabiztosan állította a vizsgabizottság elnöke, hogy az ilyesmi ma már „egy mesterséges intelligenciás alkalmazással ki is mutatható”.
A Bloomberg a közelmúltban félezer esszével tesztelt AI-detektor-szolgáltatásokat, és arra jutott, hogy a fals pozitív eredmények aránya (vagyis amikor a detektor MI által generáltnak mondta az esszét, holott azt ember írta) 1-2% volt a legjobb programok esetében is. Ennyi hiba nem tűnik soknak, de gondoljunk bele, hogy egy nagyobb magyar egyetemen évente 5–6000 hallgató végez. Tegyük fel, hogy mind becsületes, de az MI-tartalomérzékelő így is 50–60 hallgatót vádolna meg hamisan azzal, hogy MI-vel generálta a szakdolgozatát. Érdemes ennyi hamisvád-perbe belemenni? Milyen következményei lennének ennek? Melyik egyetem vállalná ezeknek a költségét?
Ha megértjük az AI-detektorok működését, azonnal világossá válik, hogy miért tévednek. Ezek is mesterséges intelligenciák, tehát valójában nem „értik” a szöveget, hanem statisztikai mintázatokat vizsgálnak. Azt mérik, hogy a jellemző szóhasználat és a mondatszerkezet alapján mennyire valószínű, hogy egy nagy nyelvi modell (például a ChatGPT) fogalmazta a szöveget. Ezt hívják perplexitásnak: ha a szöveg túl „sima”, túl egyenletes ritmusú, túl valószínű, a detektor gyanút fog. Csakhogy ez a módszer könnyen félrevisz: egy jó stílusérzékű emberi szerző is képes „gépiesen” fogalmazni, egy tapasztalt ChatGPT-felhasználó pedig tudatosan is bevihet hibákat, amelyekkel emberibbnek hat a szöveg. Mivel ezek az eszközök nem értelmezik a tartalmat, csak a nyelvi mintázatokat, ezért hajlamosak tévesen ítélni, így legfeljebb véleményként kezelhetők.
A cikk további részéből megtudhatják:
- hogyan érjük el, hogy a ChatGPT különféle stílusokat utánozzon?
- milyen szempontokat kell figyelembe venni az MI által írt szöveg felismeréséhez?
- melyek a legújabb fejlesztések a ChatGPT-ben?
Sümegi András cikkének folytatását keressék az IPM novemberi számában, az újságárusoknál vagy a laptapir.hu oldalon!
