A NHS több száz GitHub-tárolóját teszi priváttá május 11-ig AI-fenyegetés miatt
A NHS május 11-ig priváttá teszi több száz GitHub-tárolóját, hogy csökkentse a forráskód, az architektúra és a konfigurációs részletek véletlen kiszivárgásának kockázatát.
Az Egyesült Királyság Nemzeti Egészségügyi Szolgálata (NHS) arra utasította technológiai vezetőit, hogy ideiglenesen tegyék priváttá a szervezet nyílt forráskódú projektjeit. A döntés hátterében a fejlett mesterséges intelligencia modellek, különösen az Anthropic Mythos által jelentett biztonsági aggodalmak állnak — írja a The Register.
A belső iránymutatás szerint a GitHub-tárolókat május 11-ig kell nyilvánosról privátra állítani. A NHS Engineering Board által jóváhagyott intézkedés célja a kiberbiztonsági helyzet megerősítése, miközben felmérik az AI-modellek gyors fejlődésének hatását. A NHS továbbra is közzéteszi a forráskódot, ha arra egyértelműen szükség van.
A NHS England szóvivője szerint a lépés csupán ideiglenes. Az iránymutatás kiemeli, hogy a nyilvános tárolók jelentősen növelik a forráskód, az architekturális döntések és a konfigurációs részletek véletlen kiszivárgásának kockázatát. Ez különösen igaz azokra a fejlett AI-modellekre, mint a Mythos, amelyek képesek nagyméretű kódbeolvasásra, következtetésre és érvelésre.
A NHS forrásai szerint a több száz nyílt forráskódú tároló közül nagyon kevés tartalmaz érzékeny információt; többségük dokumentációt, architektúra-diagramokat és belső eszközök, például klinikai időpont-kezelő webalkalmazások kódjait tartalmazza. Bár egy olyan élvonalbeli AI-modell, mint a Mythos, hibákat tárhat fel, az egészségügyi szolgáltatásokra nézve elenyésző a kockázat.
Ez a döntés azonban jelentős, bár ideiglenes fordulatot jelent a NHS régóta fennálló, nyílt forráskódú politikájában, amely összhangban van a szélesebb brit kormányzati politikával. A NHS szolgáltatási kézikönyve szerint minden új forráskódot nyílt forráskódúvá kell tenni, megfelelő licenc alatt.
A NHS England nem adott becslést arra vonatkozóan, hogy mikor ér véget ez az ideiglenes zárt forráskódúvá tétel, és nem válaszolt arra sem, hogy milyen jelentős fenyegetéseket lát a fejlett AI-modellekben a nyílt forráskódú tárolóira nézve. Az Anthropic Mythos modelljét az Anthropic szerint képes gyorsan megtalálni olyan sebezhetőségeket, amelyeket a tapasztalt emberi csapatok is elkerülnének. Azonban mások túlértékeltnek tartják a modellt, és az Anthropic még nem hozta nyilvánosságra a téves riasztások számát, ami gyakori probléma az AI-val.
A Forrester elemzői arra figyelmeztetnek, hogy amint az erőteljes modellek eljutnak a nyilvánossághoz – és a támadókhoz –, a nyílt forráskódú szoftverek valódi fenyegetéssel néznek szembe. A NHSX korábbi nyílt technológiai vezetője, Terence Eden szerint a nyílt forráskódú tárolók privátra állítása nem nyújt érdemi védelmet a fejlett AI-képességek ellen, mivel a kódokat már évekkel ezelőtt betanítási célokra használták fel. A tárolók privátra állításának határideje május 11.