A Meta bemutatta a Content Seal nevű, láthatatlan vízjelen alapuló AI-detektáló megoldását, amellyel a saját mesterséges intelligenciájával készült képeket jelöli meg. A The Verge szerint azonban a rendszer több sebből vérzik, és felmerül a kérdés, miért nem inkább a már bevált Google SynthID-t vagy a C2PA szabványt választotta a cég.
A Meta idén júliusban bemutatta a Content Seal nevű technológiát, amely egy láthatatlan vízjelet ágyaz be a cég új AI-modelljével generált képekbe. A bejelentés érdekessége, hogy ez lényegében csak lábjegyzetként szerepelt a Muse képgeneráló és videós eszközök bejelentésében – pedig a téma jóval nagyobb figyelmet érdemelne.
Mi az a Content Seal, és hogyan működik?
A Content Seal a Meta leírása szerint hasonlóan működik, mint a Google SynthID: egy emberi szemmel nem látható “rejtett eredetjelet” ágyaz be az AI-val generált képekbe, amelyet aztán egy detektáló eszköz be tud olvasni és meg tud jelölni. Ez segíthet abban, hogy az online felhasználók megkülönböztessék a deepfake-eket az eredeti tartalomtól. A Meta állítása szerint a vízjel akkor is felismerhető marad, ha a képet levágják, tömörítik, átméretezik vagy képernyőfotót készítenek róla.
Miért nem a bevált megoldásokat használta a Meta?
A The Verge cikkírója, aki sokat foglalkozik AI-jelölő rendszerekkel, joggal teszi fel a kérdést: ha a Content Seal funkcionálisan ugyanazt csinálja, mint a SynthID, akkor miért nem egyszerűen azt vette át a Meta? A Google már megnyitotta a SynthID-t a versenytársak előtt is, hiszen az OpenAI is használja. Ráadásul a Meta a C2PA (Coalition for Content Provenance and Authenticity) irányítóbizottságának tagja, amely a Google-lel közösen a Content Credentials szabványt támogatja – tehát bizonyította, hogy hajlandó együttműködni másokkal.
Több korlát is nehezíti a használatot
A rendszer jelenlegi állapotában több jelentős korlátja van. A vízjel egyelőre csak egy külön webes eszközön keresztül ellenőrizhető, amelyet a Meta még tesztel – vagyis nincs beépítve a Meta AI chatbotba úgy, ahogyan a Google a Geminibe integrálta a SynthID felismerését. A vízjelet ráadásul csak a legújabb Muse modellel készült képekre teszik rá, a régebbi AI-modellekkel korábban gyártott “hamisítványokra” nem. Videóhoz sincs támogatás, azt csak “hamarosan” ígérik.
Külön furcsaság, hogy a Meta napi limitet vezetett be, hányszor lehet képeket ellenőrizni a detektáló eszközzel. Bár a Google és az OpenAI eszközeinél is van hasonló korlátozás, a C2PA az egyetlen rendszer, amely egyáltalán nem korlátozza az ellenőrzések számát. A The Verge tesztje is beszédes: egy Muse-zal készített képet sem a Gemini, sem a hivatalos C2PA-portál nem tudott AI-generáltként azonosítani.
Mivel az AI tartalmak már elárasztották az internetet és a közösségi médiát (de igazából plakátokat vagy éppen a strandbüfék posztereit is), egyre fontosabb az, hogy könnyen ellenőrizhetők és felismerhetők legyenek. Ezt ma már emberi szemmel nem lehet megtenni. Ezért fontos, hogy legyen olyan rendszerek, amik segítenek ebben. Jó lenne azonban, ha ez minél egyszerűbb, és uniformizáltabb lenne. Remélem ezért, hogy a nagy szereplők hamarosan kiegyeznek, és bevezetnek egy közös szabványt, de előfordulhat, hogy előbb-utóbb a törvényhozó szervek fogják ezt egységesíteni.
A legfontosabb tények röviden
- A Meta júliusban bemutatta a Content Seal nevű, láthatatlan vízjelen alapuló AI-detektáló rendszerét.
- A megoldás hasonlóan működik, mint a Google SynthID, de a szakértők szerint kevésbé megbízható és nehezebben elérhető.
- A vízjelet egyelőre csak a legújabb Muse modellel készült képekre teszik rá, videóhoz nincs támogatás, és csak külön webes eszközön ellenőrizhető.
- A Meta napi limitet vezetett be az ellenőrzésekre; a C2PA az egyetlen szabvány, amely nem korlátozza ezt.
- Tesztek szerint a Muse-zal készült képet sem a Gemini, sem a C2PA-portál nem ismerte fel AI-generáltként.
Mesterséges intelligencia segítségével készült, de emberi ellenőrzésen átesett hír. Ha bármi észrevételed van, jelezd nekünk!