Kétszer fizetnek az AI-ért a cégek – figyelmeztetett Satya Nadella

Satya Nadella, a Microsoft vezérigazgatója figyelmeztetést intézett a mesterséges intelligenciát (AI) használó vállalatok felé: kétszer fizetnek a technológiáért. Az első fizetség a pénz, a második pedig a céges "koronaékszerek", azaz a titkos tudásuk. Ezt a jelenséget Nadella "Fordított Információs Paradoxinak" nevezte el egy, a X-en (korábban Twitter) megjelent, 10 millió megtekintést elérő esszéjében.

A Nobel-díjas közgazdász, Kenneth Arrow eredeti paradoxona az eladó problémájára fókuszált: az információ eladásához fel kell fedni, ami csökkenti az értékét. Nadella ezt megfordítja: az AI-korban a vevő, azaz a cég jár rosszul. Ahhoz, hogy egy AI-modell valóban hasznos legyen, a vállalatoknak saját, bizalmas tudásukat kell beletáplálniuk. Minél jobban akarják, hogy a modell működjön, annál többet kell megosztaniuk. Így a pénzbeli fizetés mellett a tudás is elvész, ami a cég egyedi értékét adja.

Kapcsolódó: Satya Nadella figyelmeztet a túlzott AI-használatra

Nadella szerint a titkok kiszivárgása nem nyilvánvaló betörés útján történik, hanem az úgynevezett "exhaust" révén: a felhasználók által írt utasítások, az AI-ügynökök által használt eszközök, és különösen a modell hibáinak javításai révén. Minden egyes javítás tanítja a modellt, olyan tudást szerezve, amit egy versenytárs nem tudna megvásárolni, és ami szinte észrevétlenül szivárog el.

Kapcsolódó: a Microsoft AI-függőség elleni szándékai

Az ironikus helyzetet tovább fokozza, hogy mindezt éppen a Microsoft kommunikálja, amely milliárdokat fektetett az OpenAI-ba, és az Azure-on futtatja a ChatGPT-t. A cég saját Copilot asszisztense mélyen eléri a vállalatok e-mailjeit, fájljait és csevegéseit. A The Register beszámolója szerint 2024-ben egy felmérésben az adatvezérlők nagyjából fele állította le vagy korlátozta a Copilot használatát pontosan e félelmek miatt.

Kapcsolódó: az emberi ítélőképesség szerepe az AI-ban

Nadella megoldási javaslata egy szigorú "bizalmi határ" (trust boundary) létrehozása a vállalat adatai, értékelései és memóriája körül. Ez a határ megakadályozza, hogy az adatok, még a "intelligence exhaust" is, belelépjenek a modellbe beleegyezés nélkül. A Microsoft természetesen kínál olyan termékeket, amelyek ezt a megoldást implementálják.

Kapcsolódó: Nadella értékeli Altman eltávozását

A cikk kiemeli, hogy a Microsoft vezérigazgatója által felvetett probléma valós: a nagy AI-laborok, miközben a nyilvános interneten való tanulásra jogot tartanak, korlátozzák az ügyfeleket a modellkimenetek használatában. A "Fordított Információs Paradoxin" keresztül a cégek értékes tudást adnak át ingyen a mesterséges intelligenciát birtokló vállalatoknak.

Kapcsolódó: a Microsoft vezetési átszervezése AI-irányítással