Valós idejű AI-t hoz a tudományos műszerekhez az NVIDIA DAQIRI

Az NVIDIA bemutatta a DAQIRI nevű új szoftverét, amely a tudományos adatok gyűjtését és feldolgozását forradalmasítja. A DAQIRI egy nagy átviteli sebességű, szoftver-központú folyamat, amely megkerüli a hagyományos hardveres szűk keresztmetszeteket. Ez lehetővé teszi a nagy sávszélességű detektorokból származó adatok közvetlen, zero-copy továbbítását a GPU memóriájába, így az adatok valós idejű AI-feldolgozása már a gyűjtés pillanatában elkezdődhet — írja az NVIDIA Developer.

Integráció az NVIDIA Holoscan Platformjával

Az új rendszer integrálódik az NVIDIA Holoscan Platformjával, beleértve a TensorRT és a nvCOMP technológiákat. Ezáltal a fejlesztők moduláris, alacsony késleltetésű munkafolyamatokat hozhatnak létre olyan feladatokra, mint a szűrés, következtetés (inference), tömörítés és adaptív vezérlés. A konfiguráció YAML fájlokkal, az API-k pedig C++ és Python nyelveken érhetők el.

Kapcsolódó: AI-ügynökök Jetsonokon

A CERN-ben működő A-GHOST projekt már használja a DAQIRI-t. A rendszer FPGA-alapú hardvert kapcsol össze közvetlenül GPU-farmokkal, lehetővé téve a korábban elvetett HL-LHC (High-Luminosity Large Hadron Collider) adatáramok AI-vezérelt elemzését valós időben. Ehhez olyan fejlett modelleket alkalmaznak, mint a konvolúciós autoenkóderek és transzformer-alapú architektúrák.

Kapcsolódó: AI-motor fehérje-kutatásban

Valós idejű feldolgozás a forrásoldalon

A DAQIRI a hagyományos, merev hardver-központú megközelítés helyett egy rugalmas, szoftver-vezérelt architektúrát kínál. A nagy sebességű érzékelők és detektorok, mint például a LCLS-II (Linac Coherent Light Source II), amely percenként 1 millió fotonimpulzust generál, vagy az ipari CT-szkennerek és szoftveresen definiált rádiók, egyre gyorsabban termelik az adatokat. Ez a sebesség már nem az adatgyűjtés hiányát, hanem a „gyűjtés, tárolás, elemzés” architektúra korlátait jelenti. A DAQIRI lehetővé teszi az adatok forrásnál történő előfeldolgozását, csökkentve az adatvesztést és felgyorsítva az elemzést.

Kapcsolódó: GPT-Rosalind élettudományban

A szoftver a Linux kernel megkerülésével, a DPDK (Data Plane Development Kit) segítségével biztosít zero-copy hozzáférést az adatokhoz, közvetlenül a NIC-től a GPU Direct DMA puffereibe. Ez a kernel-bypass mechanizmus csökkenti a késleltetést és a CPU terhelését. A DAQIRI támogatja a nagy teljesítményű hálózati interfészeket, mint a 100 Gbps és afeletti sebességű Ethernet, UDP és RoCE v2 forgalmat.

A DAQIRI kulcsfontosságú funkciói közé tartozik a magas átviteli sebesség és az alacsony késleltetés, a testreszabható fogadási folyamatok, a GPU-hoz történő nulla memóriaköpi másolás, valamint a könnyen használható YAML konfiguráció és a C++/Python API-k. Ez lehetővé teszi az instrumentumok kimeneteinek közvetlen streamelését olyan edge szuperszámítógépes képességekbe, mint az NVIDIA DGX Spark, az NVIDIA IGX Platform, vagy a node- és rack-alapú megoldások, mint az NVIDIA RTX Pro Server vagy a VR200.

Kapcsolódó: SandboxAQ gyógyszerkutatás

Az A-GHOST projekt keretében a CERN-ben a DAQIRI segítségével a korábban elvetett, de potenciálisan értékes adatokat is elemzik. A HL-LHC fejlesztése jelentősen növeli az adatmennyiséget, és a DAQIRI révén a GPU-k közelebb kerülnek a nyers detektor adatokhoz, lehetővé téve az AI-vezérelt keresést a leggyorsabb adatfolyamokon is. A kutatás a konvolúciós autoenkóderek, temporális konvolúciós neurális hálózatok és transzformer-alapú modellek tesztelésére összpontosít.

Kapcsolódó: AntAngelMed orvosi modell

Az A-GHOST projekt a DAQIRI használatával valós idejű elemzéseket végez a CERN-ben.