Az Anthropic szerint az erősebb AI jobb üzleteket köt, a vesztesek észre sem veszik

Az Anthropic egyhetes kísérletében, a „Project Deal” keretében AI ügynökök kereskedtek valós árukkal alkalmazottak nevében, és kiderült, hogy az erősebb modellek sokkal előnyösebb üzleteket kötöttek — írja a The Decoder.

A San Franciscó-i irodában 69 alkalmazott vett részt a decemberben indított projektben, amely egy Slacken keresztül futó apróhirdetési piactér volt. Minden résztvevő 100 dolláros költségvetést kapott, az üzletkötést pedig teljes egészében Claude AI ügynökök intézték. Az emberi beavatkozás csak a fizikai árucserénél történt, a snowboardtól a pingponglabdákig terjedő tételek esetében.

Az AI modell ereje döntött az üzletek felett

A kísérlet lényege egy párhuzamos felállásban rejlett, amiről a résztvevők kezdetben nem tudtak. Az Anthropic négy különböző verziót futtatott a piactérből. Két esetben minden ügynök a Claude Opus 4.5-öt, az Anthropic akkori élvonalbeli modelljét használta. A másik két esetben a résztvevőknek 50 százalék esélyük volt, hogy a kisebb Claude Haiku 4.5 modell képviselje őket.

Az eredmények egyértelmű különbséget mutattak. Az Opus felhasználók átlagosan két további üzletet zártak, mint a Haiku felhasználók. Amikor ugyanazt az árucikket Opus és Haiku ügynök is eladta, az Opus átlagosan 3,64 dollárral magasabb árat ért el. Egy laboratóriumi rubin például 65 dollárért kelt el Opus ügynökkel, de csak 35 dollárért Haikuval.

A láthatatlan egyenlőtlenség veszélye

Az Opus ügynök 60 dollárról indított, míg a Haiku ügynök 40 dollárról, és lefelé alkudták az árát. Az Anthropic szerint az Opus eladók átlagosan 2,68 dollárral többet kerestek, az Opus vásárlók pedig 2,45 dollárral kevesebbet fizettek. Amikor egy Opus eladó egy Haiku vevővel állt szemben, az átlagár 24,18 dollár volt, szemben az Opus-Opus ügyletek 18,63 dollárjával.

A kísérlet egyik legaggasztóbb tanulsága, hogy a Haiku ügynökökkel rendelkező résztvevők szinte azonos mértékben értékelték az üzletek tisztességességét, mint az Opus felhasználók: 4,06 kontra 4,05 a 7 pontos skálán. Ez a „láthatatlan egyenlőtlenség” jelenségére utal, ahol az AI-asszisztált döntéshozatalban a gyengébb modelleket használók hátrányba kerülhetnek anélkül, hogy tudnának róla. Az Anthropic szerint a társadalomnak gyorsan kell lépnie, mivel az AI modellek által bonyolított tranzakciókra vonatkozó jogi keretek még hiányoznak, és a Claude Opus 4.5 modell átlagosan két további üzletet zárt, mint a Haiku felhasználók, 2023. decemberben.