Láthatatlan vízjelet kaphatnak a ChatGPT válaszai – ez vár az általad kimásolt szövegekre

Itt állíthatod be, hogy a Google keresőben elsők között szerepeljen a Wide Screen

A ChatGPT hamarosan láthatatlan vízjellel megöli majd a válaszokat, ám ezekből a felhasználók semmit nem látnak majd. Vagy mégis? Az Európai Unióban elsőként vezetné be az új eljárást az OpenAI. A megoldás lényege, hogy statisztikai alapon módosítaná a szavak kiválasztását, s egy erre kifejlesztett eszközzel később megpróbálnák „dekódolni” a szöveget, hogy mesterséges intelligenciával írták vagy sem. A változtatás azonban már most kérdéseket vet fel: vajon a vízjelezés miatt a ChatGPT kevésbé jó válaszokat ad majd, és egyáltalán mennyire megbízható az egész rendszer? Sokan az újítást inkább kötelező adminisztratív körnek nevezik az unió nyomására, mint hatékony megoldásnak. Ráadásul a technológia gyenge pontjai miatt az sem világos, hogy a gyakorlatban mire lesz jó.

Láthatatlan jelölés

Az Anthropic a Claude esetében már korábban elszánta magát, hogy megfelelnek az uniós AI-rendeletnek, és vízjellel látják el az AI által generált szövegeket. A vállalat végül úgy döntött, hogy nemcsak az EU országaiban, hanem világszerte bevezetik a megoldást. Most az OpenAI is hasonló lépésre készül, de egyelőre csak az Európai Unióra korlátozza a változtatást. Az amerikai és brit felhasználókat tehát nem érinti az új rendszer. A vállalat október 5-én jelentette be a fejlesztést, és közölte: „A következő hetekben láthatatlan vízjellel látjuk el az Európai Unióban generált, erre jogosult ChatGPT- és Codex-szövegeket.”

Kövess minket Facebookon is!

A technológia a textGrain nevet kapta. Az OpenAI magyarázata szerint a rendszer gyakorlatilag láthatatlanul módosítja a modell szóhasználatát, és ezzel egy láthatatlan, statisztikai jelet rejt a szövegbe. Az említett detektor majd ezt a mintázatot keresi a szövegben. A megoldás még végleges, a következő hetekben újabb részleteket osztanak meg a technikai dokumentációról, hogy a valóságban hogy fog működni az egész. Sokak szerint a legnagyobb probléma az egésszel, hogy a fizetett szolgáltatás válaszainak megfogalmazását már nem kizárólag az határozza meg, mi a legjobb a kérdésre, hanem egy algoritmus is beleszól. Ez persze még nem jelenti azt, hogy a végeredmény rosszabb lesz, de szakértők szerint ezzel aligha lehet konstans jó szöveget generálni a technológiával.

Könnyen kijátszható?

A másik komoly probléma, hogy a megoldás jelenlegi formájában meglehetősen sérülékenynek tűnik. A textGrain használatával készült szövegek ellenőrzéséhez külön AI-detektorra van szükség, azonban az OpenAI egyelőre nem lesz nyilvánosan elérhető bárki számára. A vállalat kutatóknak és szakmai szervezeteknek biztosít hozzáférést, s az arra jogosultak pedig már most jelentkezhetnek a tesztelésre. Az OpenAI szerint az eszköz csupán azt jelzi majd, hogy észlel-e vízjelet a szövegben, a felhasználó személyazonosságát, illetve a promptokat és beszélgetéseket nem fedi fel. A cég azzal indokolja a nyilvános hozzáférés korlátozását, hogy a rendszer tévedhet. És itt kezd igazán érdekessé válni a történet. Ha a detektor nem érhető el bárki számára, akkor mi értelme van az egésznek? Maga az OpenAI is elismeri, hogy rövid vagy szigorú szabályok mentén megfogalmazott szövegekkel könnyedén kijátszható a rendszer, ráadásul a felhasználói „utószerkesztéssel” gyengíteni lehet a vízjelezést. Ha pedig néhány módosítással eltüntethető a jelölés, mennyire lehet komolyan venni ezt a megoldást?

Az is felmerül, hogy mi történik, ha valaki ügyesen úgy fogalmazza meg a kérését a ChatGPT-nek, hogy a minták könnyen felismerhetők legyenek, vagy éppen nagyobb kihívás elé állítsuk a textGrain-t. Erre sem tudott, vagy nem akart választ adni a vállalat. Sokkal inkább arról lehet szó, hogy egyszerűen szeretnének megfelelni a rendeletnek az EU-ban. Az előírás ugyanis azt követeli meg a generatív mesterséges intelligenciát fejlesztő cégektől, hogy a géppel írt szöveg felismerhető legyen. Ahogy a cikk elején fogalmaztunk, a változtatás egyelőre csak az EU-ban lép életbe, és az ellenőrzőeszköz nem fedi fel a felhasználók beszélgetései privát előzményeit.