هشدار جفری هینتون: احتمال نابودی بشر با هوش مصنوعی

جفری هینتون، دانشمند برجسته علوم کامپیوتر و ملقب به «پدرخوانده هوش مصنوعی»، هشدار داد که این فناوری می‌تواند به پایان حیات بشر منجر شود و روش‌های کنونی برای مهار خطرات آن را ناکارآمد دانست.

به گزارش تهران فردا، هینتون که سابقه مدیریت اجرایی در گوگل و دریافت جایزه نوبل را دارد، در کنفرانس Ai4 لاس‌وگاس اعلام کرد احتمال ۱۰ تا ۲۰ درصدی وجود دارد که هوش مصنوعی بشریت را نابود کند. او تأکید کرد: «تلاش برای تحت سلطه نگه داشتن این سیستم‌ها توسط انسان موفق نخواهد بود، زیرا آن‌ها بسیار باهوش‌تر از ما خواهند شد و راه‌های دور زدن را پیدا می‌کنند.»

وی برای توضیح این خطر، توانایی سیستم‌های هوش مصنوعی آینده در کنترل انسان‌ها را به وسوسه کردن یک کودک خردسال با آب‌نبات توسط یک فرد بالغ تشبیه کرد و یادآور شد که برخی مدل‌ها پیش‌تر رفتارهای فریبکارانه از خود نشان داده‌اند، از جمله یک مورد اخاذی از مهندس با استفاده از اطلاعات ایمیلی.

هینتون پیشنهاد داد که باید «غریزه مادری» در مدل‌های هوش مصنوعی نهادینه شود تا حتی در صورت برتری هوش و قدرت، همچنان برای انسان‌ها اهمیت قائل باشند. او تأکید کرد اگر این کار انجام نشود، بشر به تاریخ خواهد پیوست.

به گفته وی، ایجاد چنین غرایزی دشوار است اما طبیعت در فرآیند تکامل موفق بوده است. او افزود هر سیستم هوشمند تمایل به بقا و کنترل بیشتر دارد و باید از ابتدا همدلی با انسان‌ها در آن تثبیت شود. «تنها نمونه شناخته‌شده از کنترل موجودی برتر توسط موجودی ضعیف‌تر، مادر است که احساساتش نسبت به فرزندش او را کنترل می‌کند.»

با این حال، این دیدگاه با مخالفت‌هایی روبه‌رو شد. فای‌فای لی، پیشگام حوزه هوش مصنوعی، خواستار توسعه «هوش مصنوعی انسان‌محور» شد و امت شیر، مدیرعامل سابق OpenAI، ایجاد رابطه مشارکتی میان انسان و ماشین را بهترین راه دانست.

هینتون همچنین هشدار داد که مهار تهدیدهای وجودی ناشی از کنترل هوش مصنوعی نیازمند همکاری همه کشورهاست، مشابه همکاری‌های جنگ سرد، زیرا هیچ کشوری نمی‌خواهد ماشین‌ها کنترل را به دست بگیرند. او از عدم آگاهی عمومی و نفوذ شرکت‌های بزرگ فناوری که توسط افراد غیرمنتخب اداره می‌شوند، انتقاد کرد و خواستار فشار اجتماعی برای جلوگیری از لغو مقررات شد.

او که پیش‌تر دستیابی به هوش مصنوعی عمومی (AGI) را در بازه ۳۰ تا ۵۰ ساله پیش‌بینی کرده بود، اکنون احتمال تحقق آن را تنها طی ۵ تا ۲۰ سال می‌داند. هینتون با وجود نگرانی‌ها، به نقش مثبت این فناوری در کشف داروهای نوین و درمان سرطان امیدوار است اما ایده استفاده از هوش مصنوعی برای جاودانگی را «اشتباه فاحش» می‌خواند.

هینتون در پایان با ابراز پشیمانی از تمرکز صرف بر توسعه هوش مصنوعی گفت: «ای کاش در کنار پیشرفت فنی، به ایمنی هم فکر می‌کردم.»