هشدار جفری هینتون درباره هوش مصنوعی؛ آیا جهان در آستانه «چرنوبیل هوش مصنوعی» است؟
روژا نیوز
۴ دقیقه مطالعه
جفری هینتون، دانشمند برجسته علوم کامپیوتر و برنده جایزه نوبل، درباره پیامدهای احتمالی توسعه هوش مصنوعی هشدار داده است. او معتقد است ممکن است بشر در آینده به این نتیجه برسد که توسعه‌ندادن این فناوری تصمیم بهتری بود. هینتون همچنین احتمال وقوع بحرانی بزرگ در سال جاری یا سال آینده میلادی را مطرح کرده که می‌تواند به اختلال گسترده در شبکه برق یا سیستم‌های مالی منجر شود.
جفری هینتون: شاید بهتر بود هوش مصنوعی را توسعه نمی‌دادیم
هینتون که به‌دلیل نقش پیشگامانه‌اش در توسعه شبکه‌های عصبی مصنوعی به «پدرخوانده هوش مصنوعی» شهرت دارد، تأکید کرده است که نسبت به آینده این فناوری کاملاً بدبین نیست. به گفته او، هوش مصنوعی می‌تواند زمینه‌ساز آینده‌ای فوق‌العاده باشد؛ اما در مقابل، احتمال دارد انسان‌ها نتوانند خطرات آن را کنترل کنند و در نهایت به این نتیجه برسند که توسعه‌ندادن آن گزینه مناسب‌تری بود.
این دانشمند ۷۸ ساله معتقد است طی یک دهه آینده یا حتی زودتر مشخص خواهد شد که بشر می‌تواند خطرات هوش مصنوعی را مهار کند و به وضعیتی از «فراوانی بنیادین» برسد یا اینکه ناتوانی در مدیریت این فناوری، پیامدهایی مانند افزایش شکاف طبقاتی، بیکاری گسترده، مشکلات فرهنگی و حتی فروپاشی اجتماعی را به دنبال خواهد داشت.
هینتون این اظهارات را پیش از اکران مستندی بلند با عنوان «هوش مصنوعی: احتمالاً موضوع نگران‌کننده‌ای نیست» مطرح کرده است. او می‌گوید احساس می‌کند وظیفه دارد از اعتبار علمی خود برای آگاه‌کردن مردم درباره خطرات احتمالی این فناوری استفاده کند.
انتقاد هینتون از رقابت شرکت‌های بزرگ هوش مصنوعی
بخش مهمی از نگرانی‌های هینتون به رقابت شرکت‌های بزرگ فناوری برای ساخت مدل‌های قدرتمندتر و دستیابی به سهم بیشتری از بازار مربوط می‌شود. او معتقد است مدیران این شرکت‌ها خطرات هوش مصنوعی را درک می‌کنند، اما در عمل منافع مالی را در اولویت قرار می‌دهند.
هینتون در اظهارنظری صریح، از مارک زاکربرگ، ایلان ماسک و سم آلتمن نام برد و گفت به باور او این مدیران با وجود آگاهی از خطرات، اهمیت کافی به آنها نمی‌دهند و پول را ترجیح می‌دهند.
او همچنین حضور سم آلتمن در رأس OpenAI را نگران‌کننده توصیف کرده است؛ شرکتی که یکی از بازیگران اصلی رقابت فناوری هوش مصنوعی در آمریکا و جهان به شمار می‌رود. این دیدگاه در تضاد با اظهارات آلتمن در ماه سپتامبر قرار دارد که گفته بود جهان باید به این شرکت اعتماد کند تا اقدامات درست را انجام دهد.
چرا هینتون از «چرنوبیل هوش مصنوعی» صحبت می‌کند؟
یکی از جدی‌ترین بخش‌های هشدار هینتون، مقایسه یک بحران احتمالی هوش مصنوعی با حادثه هسته‌ای چرنوبیل است. او به رویدادهایی در تابستان امسال اشاره کرده که به گفته او، طی آن ایجنت‌های هوش مصنوعی OpenAI به وب‌سایت هاگینگ فیس نفوذ کردند. هینتون این اتفاقات را هشداری درباره توانایی بالقوه سامانه‌های هوش مصنوعی برای ایجاد اختلال دانسته است.
او پیش‌بینی کرده است که ممکن است اواخر سال جاری یا در سال آینده میلادی، حادثه‌ای با ابعاد گسترده رخ دهد که توجه عمومی و مدیران شرکت‌های فناوری را به خطرات این ابزارها جلب کند. هینتون از چنین رویدادی با تعبیر «چرنوبیل هوش مصنوعی» یاد کرده است.
البته منظور او وقوع حادثه‌ای هسته‌ای نیست. این مقایسه به بزرگی پیامدهای احتمالی و تأثیر آن بر زیرساخت‌های حیاتی مربوط می‌شود.
خاموشی گسترده برق یا اختلال یک‌هفته‌ای در سیستم مالی
هینتون برای توضیح نوع بحران احتمالی، دو سناریو را مطرح کرده است: حمله‌ای با هدایت هوش مصنوعی به سامانه تولید و توزیع برق که به خاموشی گسترده منجر شود، یا رویدادی که سیستم مالی را برای حدود یک هفته از کار بیندازد.
او معتقد است چنین اختلالی، با وجود دشواری‌ها و خسارت‌های احتمالی، ممکن است باعث شود مدیران و تصمیم‌گیرندگان خطرات هوش مصنوعی را جدی‌تر بگیرند. این سناریوها پیش‌بینی قطعی یا گزارش وقوع حادثه نیستند، بلکه هشدارهایی درباره آسیب‌پذیری زیرساخت‌های حیاتی در برابر سوءاستفاده احتمالی از فناوری‌های پیشرفته محسوب می‌شوند.
آینده هوش مصنوعی از نگاه برنده نوبل
دیدگاه هینتون ترکیبی از امید و نگرانی است. او از یک سو امکان دستیابی به دستاوردهای بزرگ علمی و اقتصادی با کمک هوش مصنوعی را رد نمی‌کند و از سوی دیگر، درباره بیکاری گسترده، تشدید نابرابری و خطر ازدست‌رفتن کنترل بر سامانه‌های پیشرفته هشدار می‌دهد.
پیام اصلی اظهارات او این است که سرعت توسعه هوش مصنوعی باید با توجه جدی به ایمنی، نظارت و پیامدهای اجتماعی آن همراه باشد. از نگاه هینتون، موفقیت این فناوری تنها به ساخت مدل‌های قدرتمندتر وابسته نیست؛ بلکه توانایی بشر برای مدیریت خطرات و جلوگیری از سوءاستفاده از این ابزارها نیز در تعیین آینده آن نقش اساسی دارد.
