۰۱ آذر ۱۴۰۳
به روز شده در: ۰۱ آذر ۱۴۰۳ - ۱۶:۵۹
فیلم بیشتر »»
کد خبر ۹۸۹۱۹۵
تاریخ انتشار: ۱۱:۱۷ - ۲۲-۰۵-۱۴۰۳
کد ۹۸۹۱۹۵
انتشار: ۱۱:۱۷ - ۲۲-۰۵-۱۴۰۳

خالق ChatGPT: لطفاً عاشق چت‌بات‌های ما نشوید

خالق ChatGPT: لطفاً عاشق چت‌بات‌های ما نشوید
شرکت OpenAI درمورد ایجاد روابط عاطفی کاربران با چت‌بات‌های هوش مصنوعی خود نگران است.

شرکت‌های توسعه‌دهنده‌ی چت‌بات‌های هوش مصنوعی همواره سعی دارند عملکرد مدل‌های خود را تا حد امکان شبیه انسان کنند. ظاهراً OpenAI کمی نگران «بیش‌ازحد انسان‌ بودن» مدل‌های هوش مصنوعی و تأثیر آن‌ها روی هنجارهای اجتماعی است.

به گزارش زومیت، OpenAI در گزارش جامع فعالیت‌های خود، به صراحت اعلام کرد که ترجیح می‌دهد کاربران نسبت‌ به GPT-4o احساسات عاطفی پیدا نکنند.

با توجه‌ به پست وبلاگی OpenAI، این شرکت تلاش زیادی انجام داده است تا کاربران هنگام مکالمه با GPT-4o، احساس کنند با یک انسان حرف می‌زنند. این تلاش‌ها شامل ویژگی صوتی جدید برای تقلید گفتار انسان به‌همراه سرعت بالاتر پاسخگویی می‌شود و می‌توانید با چت‌بات، گفت‌وگویی صوتی شبیه به مکالمه‌ با یک انسان واقعی داشته باشید.

اکنون OpenAI متوجه شده است کاربران با ChatGPT-4o مانند انسان واقعی رفتار می‌کنند. این شرکت می‌گوید: «در مراحل اولیه‌ی تست، ازجمله آزمایش‌های داخلی و شبیه‌سازی حملات سایبری، متوجه شدیم کاربران از عباراتی استفاده می‌کنند که برقراری ارتباط با مدل را نشان می‌دهد. درحالی‌که موارد ذکرشده بی‌ضرر به‌نظر می‌رسند، اما بررسی اثرات بلندمدت آن‌ها نیاز به بررسی بیشتر دارد.»

OpenAI به دو دلیل موضوع انسان‌‌پنداری چت‌بات‌ها را خبر بدی می‌داند. اول اینکه، وقتی هوش مصنوعی شبیه انسان به‌نظر برسد، ما بیشتر مستعد باورکردن حرف‌های آن به‌عنوان واقعیت هستیم. این یعنی مردم درمقایسه‌با زمانی که هوش مصنوعی شبیه ربات رفتار می‌کند، بسیار بیشتر در معرض توهمات و اطلاعات اشتباه آن قرار می‌گیرند.

مورد دوم اینکه OpenAI نگران است هنجارهای اجتماعی با GPT-4o تحریف شوند. شرکت مورد بحث احتمال می‌دهد این مدل، نیاز به تعاملات اجتماعی را کاهش دهد و درحالی‌که امکان دارد به افراد تنها کمک کند، اما احتمالاً بر روابط سالم تأثیر خواهد داشت.

GPT-4o طوری طراحی شده است که اگر در حال صحبت باشد و کاربر نیز شروع به حرف‌زدن کند، صحبت‌های چت‌بات قطع می‌شود تا به حرف‌های کاربر گوش دهد و شاید این سبک حرف‌زدن در مکالمات دنیای واقعی نیز تأثیر داشته باشد.

درحال‌حاضر، OpenAI نحوه‌ی برقراری ارتباط احساسی افراد با چت‌بات‌های خود را زیر نظر خواهد گرفت و در صورت لزوم، سیستم‌هایش را اصلاح می‌کند. نگرانی‌های این شرکت، دید بسیار جالبی درمورد عوارض جانبی استفاده از مدل‌های هوش مصنوعی ارائه می‌دهد.

برچسب ها: چت بات ، کاربران
ارسال به دوستان
مردی در فارس همسر سابق خود را کشت مسی یا رونالدو؟ پاسخ رودری به این سوال جنجالی رقابت برای جذب آنچلوتی؛ برزیل یا رئال مادرید؟ سکوت عجیب مهدی تاج درباره کسر هزینه دادرسی بیرانوند از پاداش‌هایش عملکرد خیره‌کننده یوکرش؛ بهتر از هالند! بکام به دنبال مربی رویایی برای اینترمیامی؛ ژاوی، زیدان یا آنری؟ آیا مبارزه تایسون-پل یک نمایش ساختگی بود؟ فیبا به ایران حق داد: بازی با قزاقستان در تهران برگزار می‌شود حکم بازداشت نتانیاهو در لاهه صادر شد معیدفر: دستیابی به وفاق ، خیال است / افراد با حجاب متفاوت در مترو یا خیابان به هم احترام می گذارند / حاکمیت مانع تعامل آزادانه افراد و گروه ها می شود ترکیب پرسپولیس برای دیدار با مس سونگون مشخص شد روسیه؛ شلیک موشک قاره‌پیما به اوکراین برای اولین بار مهران مدیری در جشنواره دریای سرخ عربستان ؛ چه سیاستی پشت این انتخاب است؟ واریز یارانه تا امشب / تامین منابع ربطی به سازمان هدفمندی ندارد / تکمیلی: یارانه واریز شد ‎ همراهان رییس جمهور در اولین سفر استانی دکتر پزشکیان به سیستان و بلوچستان چه کسانی بود؟