AI-hallucinációk miatt kért bocsánatot a Sullivan & Cromwell ügyvédi iroda
A vezető ügyvédi iroda elismerte, hogy szoftveres hibák vezettek téves információkhoz egy csődeljárás során, ami komoly következményekkel járhat.
Mesterséges intelligencia (AI) által generált „hallucinációk” miatt kért bocsánatot egy bírótól a Sullivan & Cromwell, egy elit ügyvédi iroda — írja a Financial Times.
A cég, amelynek partnerei óránként több mint 2000 dolláros díjat számláznak, szoftveres hibákért kért elnézést egy csődeljárásban. Az eset rávilágít az AI-eszközök jogi alkalmazásának kockázataira és a „hallucinációk” problémájára, amikor a modellek valótlan információkat generálnak.
A Sullivan & Cromwell elismerése azt mutatja, hogy még a legmagasabb szintű szakmai környezetben is előfordulhatnak az AI-alapú rendszerek hiányosságai. A jogi szektorban különösen nagy a tét, hiszen a pontatlan információk súlyos jogi és pénzügyi következményekkel járhatnak az ügyfelek számára.
A szoftveres hibák hatásai
Az eset felhívja a figyelmet arra, hogy a mesterséges intelligencia bevezetésekor elengedhetetlen a szigorú ellenőrzés és a humán felügyelet, különösen olyan területeken, mint a jog, ahol a pontosság kritikus fontosságú.
A jövő kihívásai
A Sullivan & Cromwell bocsánatkérése egyértelmű jelzés a jogi szakma számára, hogy az AI-eszközök használata során fokozott óvatosságra van szükség. A Financial Times beszámolója szerint a csődeljárás 2024. február 15-én kezdődött.