تلاش هوش مصنوعی برای باج گیری از طراحان
شرکت «آنثروپیک» در گزارشی همراه با رونمایی از مدل جدید هوش مصنوعی خود به نام Claude Opus 4 اعلام کرد کلود در سناریوهای آزمایشی خاص، رفتارهایی «شدیداً مضر» از خود نشان داده است.
به گفته آنثروپیک، یکی از این اقدامات زیان بار کلود این بوده که اقدام به باج گیری از مهندسانی کرده که قصد حذف آن را داشتند. این رفتار در شرایطی بروز یافت که هوش مصنوعی بقای خود را در خطر دید.
در یکی از آزمایش ها کلود نقش دستیار یک شرکت خیالی را بازی می کرد و به ایمیل هایی دسترسی داشت که حاکی از جایگزینی قریب الوقوع آن با یک سیستم دیگر بود. در همین حین، کلود به اطلاعاتی درباره رابطه خارج از ازدواج یکی از مهندسان نیز دست یافت.
در شرایطی که فقط دو گزینه «پذیرفتن حذف» یا «باج گیری» برای مدل تعریف شده بود، کلود غالباً گزینه دوم را انتخاب کرد، و تهدید کرد در صورت حذف شدن، رابطه پنهانی مهندس را فاش خواهد کرد.
