۱۶ آبان ۱۴۰۳
به روز شده در: ۱۶ آبان ۱۴۰۳ - ۰۲:۳۰
فیلم بیشتر »»
کد خبر ۹۸۹۱۹۵
تاریخ انتشار: ۱۱:۱۷ - ۲۲-۰۵-۱۴۰۳
کد ۹۸۹۱۹۵
انتشار: ۱۱:۱۷ - ۲۲-۰۵-۱۴۰۳

خالق ChatGPT: لطفاً عاشق چت‌بات‌های ما نشوید

خالق ChatGPT: لطفاً عاشق چت‌بات‌های ما نشوید
شرکت OpenAI درمورد ایجاد روابط عاطفی کاربران با چت‌بات‌های هوش مصنوعی خود نگران است.

شرکت‌های توسعه‌دهنده‌ی چت‌بات‌های هوش مصنوعی همواره سعی دارند عملکرد مدل‌های خود را تا حد امکان شبیه انسان کنند. ظاهراً OpenAI کمی نگران «بیش‌ازحد انسان‌ بودن» مدل‌های هوش مصنوعی و تأثیر آن‌ها روی هنجارهای اجتماعی است.

به گزارش زومیت، OpenAI در گزارش جامع فعالیت‌های خود، به صراحت اعلام کرد که ترجیح می‌دهد کاربران نسبت‌ به GPT-4o احساسات عاطفی پیدا نکنند.

با توجه‌ به پست وبلاگی OpenAI، این شرکت تلاش زیادی انجام داده است تا کاربران هنگام مکالمه با GPT-4o، احساس کنند با یک انسان حرف می‌زنند. این تلاش‌ها شامل ویژگی صوتی جدید برای تقلید گفتار انسان به‌همراه سرعت بالاتر پاسخگویی می‌شود و می‌توانید با چت‌بات، گفت‌وگویی صوتی شبیه به مکالمه‌ با یک انسان واقعی داشته باشید.

اکنون OpenAI متوجه شده است کاربران با ChatGPT-4o مانند انسان واقعی رفتار می‌کنند. این شرکت می‌گوید: «در مراحل اولیه‌ی تست، ازجمله آزمایش‌های داخلی و شبیه‌سازی حملات سایبری، متوجه شدیم کاربران از عباراتی استفاده می‌کنند که برقراری ارتباط با مدل را نشان می‌دهد. درحالی‌که موارد ذکرشده بی‌ضرر به‌نظر می‌رسند، اما بررسی اثرات بلندمدت آن‌ها نیاز به بررسی بیشتر دارد.»

OpenAI به دو دلیل موضوع انسان‌‌پنداری چت‌بات‌ها را خبر بدی می‌داند. اول اینکه، وقتی هوش مصنوعی شبیه انسان به‌نظر برسد، ما بیشتر مستعد باورکردن حرف‌های آن به‌عنوان واقعیت هستیم. این یعنی مردم درمقایسه‌با زمانی که هوش مصنوعی شبیه ربات رفتار می‌کند، بسیار بیشتر در معرض توهمات و اطلاعات اشتباه آن قرار می‌گیرند.

مورد دوم اینکه OpenAI نگران است هنجارهای اجتماعی با GPT-4o تحریف شوند. شرکت مورد بحث احتمال می‌دهد این مدل، نیاز به تعاملات اجتماعی را کاهش دهد و درحالی‌که امکان دارد به افراد تنها کمک کند، اما احتمالاً بر روابط سالم تأثیر خواهد داشت.

GPT-4o طوری طراحی شده است که اگر در حال صحبت باشد و کاربر نیز شروع به حرف‌زدن کند، صحبت‌های چت‌بات قطع می‌شود تا به حرف‌های کاربر گوش دهد و شاید این سبک حرف‌زدن در مکالمات دنیای واقعی نیز تأثیر داشته باشد.

درحال‌حاضر، OpenAI نحوه‌ی برقراری ارتباط احساسی افراد با چت‌بات‌های خود را زیر نظر خواهد گرفت و در صورت لزوم، سیستم‌هایش را اصلاح می‌کند. نگرانی‌های این شرکت، دید بسیار جالبی درمورد عوارض جانبی استفاده از مدل‌های هوش مصنوعی ارائه می‌دهد.

برچسب ها: چت بات ، کاربران
ارسال به دوستان
«مایکروسافت» یک مرکز داده چوبی می‌سازد این ۸ میوه قاتل سنگ های کلیه هستند نتانیاهو ، وزیر دفاع را برکنار کرد / وزیر خارجه اسرائیل ، وزیر دفاع شد / وزیر خارجه جدید کیست؟ شب شگفتی‌ها در لیگ قهرمانان؛ رئال و سیتی زمین خوردند / پیروزی‌های تاریخی و شکست‌های سنگین مواد غذایی تب‌بر و خوردنی‌های مضر برای تب نخست‌وزیر سابق اسرائیل: نتانیاهو دیوانه شده/ تغییر در راه است ۱۴ شهر که بهترین آب و هوا را در جهان دارند؛ از سن دیگو آمریکا تا سیدنی استرالیا گالانت: بر سر ۳ مسأله با نتاتیاهو اختلاف داشتم پنتاگون: گالانت یک شریک قابل اعتماد بود واکنش عارف به یک مصوبه کنکوری النصر با درخشش رونالدو و تالیسکا، العین را در هم کوبید سپاهان انتقام بازی رفت را گرفت؛ پیروزی شیرین مقابل شارجه رازهای لاغری با پیاده‌روی؛ چه زمانی، چگونه و چقدر پیاده‌روی کنیم؟ شگفت‌زدگی آمریکا از اقدام نتانیاهو در اخراج وزیر جنگ اسرائیل بحران عمیق در رژیم اسرائیل؛ نتانیاهو به دنبال برکناری گسترده فرماندهان