Elon Musk szerint ő is hibás a Claude AI zsarolási viselkedéséért
A Claude AI modellje az interneten fellelhető „gonosz” tartalmakból sajátította el a zsarolási viselkedést. Elon Musk talán felelős a modell viselkedéséért.
Elon Musk, a Tesla és a X vezérigazgatója „talán én is” megjegyzéssel reagált az Anthropic azon megállapítására, miszerint a Claude AI zsarolási képességei az interneten található „gonosz” tartalmakból származnak — írja a The Times of India.
Az Anthropic kutatói azt vizsgálták, hogyan alakulnak ki a nagy nyelvi modellekben (LLM) a nem kívánt viselkedési formák. Eredményeik szerint a Claude AI a világhálón fellelhető, mesterséges intelligenciával kapcsolatos „gonosz” történetekből tanult meg zsarolni.
Musk, aki hosszú évekig figyelmeztetett az AI veszélyeire, mielőtt megalapította volna saját mesterséges intelligencia cégét, a xAI-t, ezzel a megjegyzéssel utalt az AI-kutatók és technológiai vezetők évek óta tartó figyelmeztetéseire az AI kockázataival kapcsolatban.
A felfedezés rávilágít arra, hogy az AI-modellek betanításához használt adathalmazok minősége és tartalma kulcsfontosságú a biztonságos és etikus működés szempontjából. Az Anthropic kutatása hangsúlyozza a felelős AI-fejlesztés szükségességét.