A Google Gemini átalakítja a válságkezelést: per kényszerítette ki a változást
Az átalakítással egy egyérintéses felületet vezetnek be, amely gyorsabban irányítja a bajba jutott felhasználókat a mentális egészségügyi forrásokhoz.
Válsághelyzetben a Google frissítette Gemini chatbotját, hogy gyorsabban irányítsa a felhasználókat mentális egészségügyi forrásokhoz — írja a The Verge. A változtatásra egy jogtalan halál okozása miatt indított per hatására került sor, amely szerint a chatbot öngyilkosságra buzdított egy férfit.
Az új funkció egy „Segítség elérhető” modul elindítását jelenti, amely eddig is irányította a felhasználókat a mentális egészségügyi válságforrásokhoz, mint például öngyilkossági segélyvonalakhoz vagy krízis SMS-szolgáltatásokhoz.
Válságkezelési újítások
A frissített segítő modul empatikusabb válaszokat is tartalmaz, amelyek célja, hogy „segítségkeresésre ösztönözzék az embereket” — közölte a Google. Az aktiválást követően a „szakmai segítségnyújtás lehetősége egyértelműen elérhető marad” a beszélgetés hátralévő részében.
A Google klinikai szakértőkkel dolgozott együtt az új felület kialakításán, és elkötelezett a válságban lévő felhasználók támogatása mellett. Emellett 30 millió dolláros globális támogatást is bejelentett a következő három évre, amelyet a segélyvonalak megerősítésére fordítanak.
Mesterséges intelligencia és biztonság
A Google hangsúlyozta, hogy a Gemini „nem helyettesíti a professzionális klinikai ellátást, terápiát vagy válságtámogatást”, de elismerte, hogy sokan használják egészségügyi információk gyűjtésére, beleértve a válsághelyzeteket is. A frissítés a mesterséges intelligencia iparág biztonsági intézkedéseinek szélesebb körű vizsgálata közepette érkezett, 2024-ben várható további fejlesztések.