هشدارها درباره پیامدهای هوش مصنوعی پیشرفته بار دیگر افزایش یافته و بحث درباره خطرهایی که این فناوری می‌تواند در آینده برای بشر ایجاد کند، جدی‌تر شده است.

به گزارش رادیو نشاط به نقل از کانورسشن، این بحث پس از آن شدت گرفت که جیکوب کاکسون، پژوهشگر سابق شرکت آنتروپیک، گفت برخی از فعالان حوزه هوش مصنوعی احتمال می‌دهند این فناوری تا پایان دهه جاری به تهدیدی برای بقای بشر تبدیل شود. ایوان هوبینگر، از کارکنان ارشد آنتروپیک، نیز احتمال وقوع چنین سناریویی در دهه آینده را بیش از ۱۰ درصد برآورد کرده است.

نخستین سناریو تهدید هوش مصنوعی، ظهور «ابرهوش مصنوعی» است؛ سامانه‌ای که توانایی‌های آن در حوزه‌های مختلف از انسان فراتر برود و پیش‌بینی رفتار و تصمیم‌هایش دشوار شود. با این حال، فناوری فعلی هنوز به چنین مرحله‌ای نرسیده است.

سناریوی دوم به سامانه‌ای مربوط می‌شود که یک هدف مشخص را بدون توجه به پیامدهای آن برای انسان دنبال کند؛ خطری که می‌تواند از تعریف نادرست اهداف و نبود کنترل کافی ناشی شود.

استفاده از هوش مصنوعی در ساخت عوامل زیستی خطرناک، سناریوی سوم است. پژوهشگران دانشگاه استنفورد اخیراً با کمک یک مدل زبانی هوش مصنوعی در حوزه ژنتیک، ۱۶ ویروس جدید تولید کردند؛ نمونه‌ای که توان بالقوه این فناوری در حوزه زیستی را نشان می‌دهد. با این حال، ساخت ویروسی که هم به‌سرعت گسترش یابد و هم بتواند بخش بسیار بزرگی از جمعیت جهان را از بین ببرد، بسیار دشوار است.

در سناریوی چهارم، ورود هوش مصنوعی به سامانه‌های نظامی یا تولید اطلاعات نادرست می‌تواند احتمال تصمیم‌های اشتباه را افزایش دهد و در بدترین حالت به تشدید یک بحران یا حتی درگیری هسته‌ای منجر شود.

سناریوی پنجم به پیامدهای اجتماعی هوش مصنوعی مربوط است؛ از جمله بیکاری گسترده، گسترش اطلاعات نادرست، عمیق‌تر شدن شکاف‌های سیاسی و تضعیف روابط انسانی؛ عواملی که در بلندمدت می‌توانند ثبات جوامع را تحت تأثیر قرار دهند.

هرچند این سناریوها قطعی نیستند، اما نگرانی درباره سرعت پیشرفت هوش مصنوعی باعث شده موضوعاتی مانند کنترل انسانی، محدودیت‌های ایمنی و نحوه توسعه این فناوری بیش از گذشته مورد توجه قرار گیرد.