Dél-Afrikában segíti a TBC-ellátást egy új LLM — a BioMistral-7B-re épül
A modell a BioMistral-7B és egy általános célú LLM ellenében is bizonyította hatékonyságát a tuberkulózis-ellátásban.
Dél-Afrikában egy új, doménspecifikus nagyméretű nyelvi modellt (DS-LLM) fejlesztettek ki a tuberkulózis (TBC) ellátásának támogatására, amely enyhítheti a betegekre és az egészségügyi szolgáltatókra nehezedő terheket — írja az ArXiv NLP.
A kutatók először egy irodalmi áttekintést végeztek az orvosi területen alkalmazott LLM-fejlesztési stratégiákról. Ezt követően dél-afrikai TBC-irányelvekből, szakirodalomból és meglévő orvosi adathalmazokból gyűjtöttek adatokat a modell betanításához.
A DS-LLM finomhangolását a Quantised Low-Rank Adaptation (QLoRA) algoritmussal végezték el egy orvosi LLM-en, a BioMistral-7B-n. Emellett Retrieval-Augmented Generation (RAG) módszert is alkalmaztak a GraphRAG segítségével, hogy friss és releváns információkat biztosítsanak a modellnek.
A kifejlesztett DS-LLM-et a BioMistral-7B alapmodellel és egy általános célú LLM-mel is összehasonlították automatizált metrikák segítségével, amelyek a TBC-ellátásban való alkalmazhatóságát vizsgálták.