Etikai korlátok miatt szakadt el a kapcsolat az Anthropic és a Pentagon között

Hónapok óta tartott a vita az Anthropic és a Pentagon között, amely eddig inkább a Claude modellhez való hozzáférés körüli csatározásnak tűnt. Az e heti bírósági dokumentumok azonban arra utalnak, hogy a tét ennél nagyobb: ki döntse el, hogyan használja az amerikai hadsereg a legfejlettebb AI-t. A levelezést a The Wall Street Journal közölte először.

A dokumentumok egy feszült levelezést tárnak fel Dario Amodei, az Anthropic vezérigazgatója és Emil Michael, a védelmi minisztérium kutatás-fejlesztésért felelős államtitkár-helyettese között. Amodei következetesen ragaszkodott az etikai korlátokhoz: tiltotta a teljesen autonóm fegyverek és a belföldi megfigyelés használatát. A Pentagon ezzel szemben egy szélesebb körű, „minden törvélyes felhasználásra” vonatkozó keretet javasolt.

Kapcsolódó: Anthropic kitiltva

A tárgyalások elromlottak

A tárgyalások januárban kezdtek el romlani. Michael több hetes csend után emailben kereste meg Amodeit, reménykedve, hogy „közelebb kerülnek a revised POV-hoz”, vagyis hogy az Anthropic közeledik a Pentagon álláspontjához. Amodei azonban megismételte korábbi, szigorúbb korlátait.

Kapcsolódó: Pentagon visszavág

Michael egyértelművé tette, hogy az etikai korlátok „egyszerűen nem működőképesek” a Pentagon számára. Egy „utolsó esélyt” ajánlott az alapelvekben való megegyezésre, mielőtt a felek végleg elválnak. Elutasította Amodei azon megkülönböztetését is, hogy „nincs különbség a világunkban a védekező és a támadó fegyverek között”.

Kapcsolódó: Anthropic Claude AI

„Nem működőképesek” a korlátok

Amodei visszautasította a „minden törvélyes felhasználás” elvet, hangsúlyozva, hogy az amerikai törvélyek megengedik a belföldi megfigyelést, így a Pentagon javaslata túllépne a vörös vonalain. Másnap Pete Hegseth védelmi miniszter „supply-chain risk” (ellátási lánc kockázata) címkével látta el az Anthropic-ot, ami általában külföldi ellenfelekhez köthető cégekre vonatkozik. Ez a lépés a hónapok óta tartó patthelyzetet bírósági harccá változtatta.

Kapcsolódó: AI-chatbot és ügyvédi titok

Michael szerepe azért is került a figyelem középpontjába, mert pénzügyi kimutatásai szerint részesedése van az Anthropic riválisában, az xAI-ban, valamint más AI-befektetésekben is. Az Anthropic szerint a feketelistázás nem biztonsági, hanem megtorló lépés volt. Egy szövetségi bíró március végén ki is adott egy előzetes eltiltást, „klasszikus illegális First Amendment megtorlásnak” nevezve a lépést. Egy fellebbviteli bíróság áprilisban ezt visszavonta, az ügy pedig folytatódik.

Kapcsolódó: AI-modellek felülvizsgálata

A vita rávilágít arra, hogy egy AI-cég képes-e etikai korlátokat szabni egy kormányzati ügyfélnek, miközben szerződéses kapcsolatban állnak. Ez a kérdés Európa saját katonai és megfigyelési AI-vitáinak központjában áll, különösen az EU AI Act kapcsán. Az európai vásárlók mérlegelik, mennyi kontrollt tartanak meg az amerikai laborok felett, miután modelljeik nemzetbiztonsági munkába kerülnek.