احتمال نابودی بشر توسط هوش مصنوعی چقدر است؟

ایلان ماسک پیش‌تر درباره بهترین راه برای ایمن نگه‌داشتن انسان‌ها از این فناوری گفته بود: «[هوش مصنوعی] را مجبور به دروغ‌گفتن نکنید؛ حتی اگر حقیقت ناخوشایند باشد. این موضوع خیلی مهم است.»

«ایلان ماسک»، مدیرعامل تسلا و اسپیس‌ایکس، در یک سمینار گفته است که 10 یا 20 درصد احتمال می‌دهد که هوش مصنوعی باعث نابودی بشریت شود.

ایلان ماسک معتقد است که باید این فناوری را پیش برد. این میلیاردر پیش‌تر نیز در یک تغییر موضع گفته بود که مزایای این فناوری نسبت به معایب آن بیشتر است.

براساس گزارش دیجیاتو، ماسک در سمینار Great AI Debate دوباره درباره خطرات فناوری هوش مصنوعی و البته مزایای آن صحبت کرد. او گفت: «من فکر می‌کنم احتمال دارد که [هوش مصنوعی] به بشریت پایان دهد؛ احتمالاً با جف هینتون [ملقب به پدرخوانده هوش مصنوعی] موافقم که این احتمال حدود 10 یا 20 درصد یا چیزی شبیه این است.»

ماسک اشاره‌ای نکرد که چگونه به این رقم رسیده است، بااین‌حال او از آینده هوش مصنوعی با خوش‌بینی نسبی یاد می‌کند.

در این سمینار، ماسک تخمین زد که هوش دیجیتالی تا سال 2030 از مجموع تمام هوش انسانی فراتر خواهد رفت. درحالی‌که او باور دارد نکات مثبت احتمالی چنین هوشی بیشتر از نکات منفی آن باشد، اذعان کرد که اگر توسعه هوش مصنوعی به مسیر فعلی خود ادامه دهد خطری برای جهان وجود خواهد داشت.

«رومن یامپولسکی»، محقق ایمنی هوش مصنوعی و مدیر آزمایشگاه امنیت سایبری در دانشگاه لوئیزویل آمریکا، می‌گوید حق با ایلان ماسک است و هوش مصنوعی می‌تواند خطری برای حیات بشریت باشد؛ اما مالک ایکس در ارزیابی خود کمی محافظه‌کار است.

به باور یامپولسکی، احتمال اینکه هوش مصنوعی کنترل بشر را در دست بگیرد یا باعث یک رویداد پایان‌دهنده بشریت شود، بسیار بالاتر از 10 یا 20 درصد است. این محقق هوش مصنوعی می‌گوید چون کنترل هوش مصنوعی پیشرفته غیرممکن است، تنها امید ما این است که آن را نسازیم.

دراین‌باره محققان دریافته‌اند که وقتی هوش مصنوعی یاد بگیرد به انسان دروغ بگوید، اقدامات ایمنی فعلی برای کنترل هوش مصنوعی تقریباً غیرممکن می‌شود.

کانال عصر ایران در تلگرام

تماشاخانه