Meta AI-detektora sem ismeri fel a levágott képeket

A Meta nemrég bemutatott Muse Image képgenerálója felháborodást keltett, mert engedély nélkül készített képeket emberekről. Válaszul a cég leállította a funkciót, de bemutatott egy Content Seal nevű eszközt is, amely láthatatlan, „törölhetetlen” vízjellel látja el az AI által generált képeket.

A Meta állítása szerint a jel akkor is megmarad, ha a képet kivágják, tömörítik, átméretezik vagy képernyőképet készítenek róla. A cég egy külön detektort is fejlesztett a Content Seal azonosítására. A Reuters jelentése szerint azonban a fejlesztés finoman szólva sem tökéletes.

Kapcsolódó: Codex és problémamegoldás

Vízjel-detektor nem működik megfelelően levágott képek esetén

A teszt során a szakemberek arra jutottak, hogy míg a 40 darab generált kép 100 százalékát eredeti méretben felismerte a rendszer, addig miután a képeket az eredeti méret felére vagy harmadára vágták meg, ez az arány már csak 55 százalék volt. Ez azt jelenti, hogy a levágott képek 45%-át a detektor nem tudta azonosítani.

Kapcsolódó: Meta AI ügynök viselkedése

Deepfake-képek gyorsan terjednek

Ez komoly probléma a deepfake képek terjedésének korában, amelyek mennyisége a DeepStrike kiberbiztonsági cég adatai szerint 2023 és 2025 között nagyjából évi 900 százalékos növekedést mutatott. A detektálási képességek nem tudták tartani a lépést a fejlődéssel.

Kapcsolódó: GPT-5 gondolkodási idő

A Meta hamarosan kiadja videógeneráló AI-ját, a Muse Video-t is, de a Muse Image fogadtatása és a Content Seal problémái nem vetítenek jó jövőt a fejlesztésnek. A cég nem közölte, mikor tervezi a detektor javítását.

Kapcsolódó: OpenAI prompting playbook