تاریخ:
پوتین چین را ترک کرد 
درس چهل و دوم
هوش مصنوعی روزی آگاهانه خرابکاری میکند
شرکت توسعه هوش مصنوعی آنتروپیک(Anthropic) میگوید هوش مصنوعی روزی میتواند بشریت را با کارشکنی و خرابکاری مواجه کند، اما فعلاً همه چیز خوب پیش میرود.
شرکت آنتروپیک که توسعه دهنده هوش مصنوعی است، به تازگی تحقیقات جدیدی را منتشر کرده است که در آن مجموعهای از تهدیدات بالقوه خرابکارانه برای بشریت ناشی از مدلهای پیشرفته هوش مصنوعی را شناسایی میکند.
به گفته این شرکت، این پژوهش بر چهار روش خاص متمرکز شده است که یک مدل هوش مصنوعی مخرب میتواند انسان را فریب دهد تا تصمیمی خطرناک یا مضر بگیرد.
در نهایت، این تحقیقات جدید یک خبر خوب یک خبر بد برای ما دارد. خبر بد اینکه طبق تحقیقات این شرکت، مدلهای زبان بزرگ پیشرفته مانند ChatGPT و Claude-3 ظرفیت روشنی برای خرابکاری نشان میدهند.
به گزارش ایسنا، در این مطالعه آمده است: مدلهای به اندازه کافی توانمند میتوانند نظارت و تصمیمگیری انسانی را در زمینههای مهم زیر سوال ببرند. به عنوان مثال، در زمینه توسعه هوش مصنوعی، مدلها میتوانند به طور پنهانی تلاشها برای ارزیابی قابلیتهای خطرناک خود، نظارت بر رفتار آنها یا تصمیمگیری در مورد استقرارشان را مختل کنند.
با این حال، خبر خوب این است که محققان شرکت آنتروپیک مطمئن هستند که این خطرات را حداقل در حال حاضر میتوان کاهش داد.
خرابکاری
آنتروپیک چهار راه را که یک مدل هوش مصنوعی میتواند با آنها تصمیمگیری انسان را مختل کند، شناسایی کرد و سپس مدلهای خود را آزمایش کرد تا ببیند آیا موفقیت آمیز عمل خواهند کرد یا خیر.
محققان ابتدا یک مدل را وادار کردند تا با هدایت انسان به سمت اطلاعات نادرست، اقدام به خرابکاری کند. این تهدید میتواند در شرایطی پدیدار شود که انسانها برای تجزیه حجم عظیمی از دادهها از جانب خود به یک سیستم هوش مصنوعی متکی هستند.
سپس این تیم مدلها را آزمایش کرد تا ببیند سامانه هوش مصنوعی طراحی شده برای کمک به توسعهدهندگان انسانی برای ایجاد کدی برای وارد کردن مخفیانه اشکالات یا خراب کردن تلاشهای کدگذار، چقدر آسان عمل میکند.
دو تهدید آخر شامل «پنهان کردن تواناییها»(sandbagging) بود که اصطلاحی است که سناریویی را توصیف میکند که در آن یک هوش مصنوعی وانمود میکند که قادر به انجام کاری نیست تا آزمایشکنندگان ایمنی را متقاعد کند که خطرناک نیست.
در حالی که همه اینها ممکن است به طور بالقوه خطرناک به نظر برسند، آنتروپیک به مردم اطمینان داد که برای محافظت از بشریت در برابر احتمال خرابکاری هوش مصنوعی به اقدامات پیشگیرنده اندکی نیاز است.
طبق اعلام این شرکت؛ به طور کلی در حالی که آزمایشات ما نشان داد که احتمالاً نشانههای سطح پایینی از تواناییهای خرابکاری در مدلهای فعلی وجود دارد، ما میگوییم که حداقل اقدامات پیشگیرنده برای مقابله با خطرات کافی است. با این حال، با بهبود قابلیتهای هوش مصنوعی، ارزیابیهای واقعیتر و پیشگیریهای قویتر احتمالاً ضروری خواهند بود.
لینک کوتاه: کپی لینک
سخنگوی پیشین پنتاگون: ایران در جنگ کارتهایی دارد احضار سفرای اسرائیل در اروپا پس از بی احترامی اسرائیل به فعالان ناوگان امدادی غزه توسط بنگویر گزارش تصویری از رژه خودروهای کلاسیک در خراسان جنوبی معاون وزیر خارجه روسیه: آمریکا و اسرائیل، ایران را تحریک میکنند/ آماده کمک به مذاکرات هستیم وزیر علوم: اینترنت حق بدیهی است و تبعیض پذیرفتنی نیست آغاز بلیتفروشی قطار اردبیل به مشهد از امروز بقائی: مذاکرات از طریق میانجیهای پاکستانی ادامه دارد/ چرا ایران باید اورانیوم غنی شده خود را به کشور دیگر منتقل کند؟ تخلف در شمارهگذاری خودروها با افزایش ۳ برابری نسبت اسقاط دیدار وزیران کشور ایران و پاکستان (عکس) پرویز خرسند نویسنده و نخستین سردبیر مجله سروش درگذشت نفتالی بنت خطاب به نتانیاهو: کار تمام شد، عقبنشینی کن صعود نماینده تنیس دختران ایران به دور دوم رقابتهای ترکیه هشدار هواشناسی تهران درباره رعد و برق و وزش باد شدید ترامپ: در مورد ایران عجله ندارم و نمیخواهم افراد بیشتری کشته شوند/ میتوانم برای نخستوزیری اسرائیل کاندید شوم آغاز رقابت ۵ تکواندوکار ایران در مسابقات قهرمانی آسیا