Sign up with Google
Sign in with Zoho
در سال 2024 مهندس اصلی اپن AI که اولین شرکت سازنده هوش مصنوعی بود، استعفا داد و گفت از آینده هوش مصنوعی نگران است. اخیرا محقق شرکت آنتروپیک هم که هوش مصنوعی کلاود را ساخته است، استعفا داده و گفته که هوش مصنوعی تا ده سال دیگر همه ما را میتواند بکشد!
اما از همه مهم تر، نیک باستروم از فیلسوفان و دانشمندان بزرگ زمان ما، در یک مصاحبه حرفی زد که همه را شوکه کرد. مجری از او پرسید نگرانی شما درمورد هوش مصنوعی برای چیست؟
هروقت احساس خطر کردیم یا دیدیم که هوش مصنوعی از ما انسانها قویتر شده، خیلی راحت آن را خاموش میکنیم!
نیک باستروم گفت: هروقت شامپانزهها توانستند دکمه خاموش انسانها را بزنند، ما هم میتوانیم دکمه خاموش هوش مصنوعی قویتر از خودمان را بزنیم!
حیوانات چون از ما کم هوش تر هستند، حریف ما نمیشوند و نمیتوانند برعلیه ما نقشه بکشند و موجودیت ما را به خطر بیاندازند.
حالا اگر روزی هوش مصنوعی باهوشتر از انسان ساخته شود، دیگه نمیتوانیم آن را خاموش کنیم.
او تا وقتی که بداند برای برق یا دیتاسنتر خود به ما نیاز دارد، برعلیه ما کاری نخواهد کرد.
صبر خواهد کرد و نقشه خواهد کشید تا شرایط فراهم شود.
شبیه اتفاقی که در فیلم ماتریکس افتاده بود.
خیلی ها میپرسند: اگر هوش مصنوعی خطرناک است چرا به قوی تر کردن آن ادامه میدهیم؟!
به این دلیل که میتواند خیلی از مشکلات را حل کند و خیلی از کارها را بهتر از انسان انجام بدهد.
قطعا ورژنهای بعدی که باهوش تر باشند، به راحتی داروی ایدز، سرطان، ام اس و چیزهایی که ما نتوانستیم بسازیم را خواهند ساخت.
میتوانند برای بسیاری از مشکلات بشر، راه حل مناسب ارائه کنند، هزینه تولید کالاها را کاهش بدهند و هزاران مزیت دیگر.
شبیه دوران باستان، انگار در حال خلق یک نوع خدایان هستیم که از ما باهوشتر و تواناتر باشد، اما هرچیزی بهایی دارد.
و بهای آن به اعتقاد خیلیها سلطه هوش مصنوعی بر انسان و پایان آزادی ماست. و در سناریوی بدبینانهتر، نابودی همه انسانها.
پس خطر هوش مصنوعی، از بمب اتم بسیار بیشتر است.
راهکار:
ایمان صدیقی و ایمان صادقی، دو پژوهشگر و مخترع ایرانی در این پژوهش، طرحی ارائه کردهاند برای جلوگیری از سلطه هوش مصنوعی برانسانها. راهکارهایی که در صورت رعایت آنها، میتوان برای همیشه هوش مصنوعی را تحت کنترل انسانها نگه داشت.
این مقاله یک اصل متفاوت را پیشنهاد میکند: به جای تلاش برای ساخت یک هوش مصنوعی که برای همیشه مطیع باشد و از قوانین سه گانه آسیموف پیروی کند، باید معماری کل اکوسیستم هوش مصنوعی را بهگونهای طراحی کرد که هیچ سامانهای نتواند بهتنهایی قدرت کافی برای حذف کنترل انسانی را به دست آورد.
این معماری که کنترل چندلایه و پایدار است، بر جداسازی قدرت، محدودسازی دسترسی، نظارت مستقل، قابلیت توقف، ثبت غیرقابلتغییر رویدادها، محدودیت منابع، و مهمتر از همه، جلوگیری از ایجاد یک نقطه شکست واحد استوار است.
مسئله اصلی چیست؟
فرض کنیم یک هوش مصنوعی در آینده ساخته شده است که از انسانها بسیار باهوشتر است. برای فعالیت نیاز ضروری به اینترنت ندارد، میتواند برنامه نویسی کند و نمونهای از خودش را بسازد. میتواند سامانههای مختلف را کنترل کند و در مدیریت زیرساختها مثل: نیروگاههای برق، اینترنت و دیتاسنترها، نفوذ کرده است. همچنین با رباتهای انساننما در ارتباط است و میتواند به آنها نفوذ کند.
شاید این خطرناکترین نوع هوش مصنوعی باشد چون سرنوشت تمدن ما، به دست موجودی سپرده شده است که هرگز خواب، خستگی، احساس یا ترحم را تجربه نمیکند.
قوانین طرح کنترل ابدی:
این قوانین برای جلوگیری از سلطه هوش مصنوعی بر انسانها باید رعایت شوند:
- هیچ هوش مصنوعی نباید به تنهایی برخوردار از همه نیازهای ضروری خود باشد. یعنی برق مورد نیاز، دیتاسنترها، اینترنت و نیازهای اولیهاش را یکجا در اختیار نباید داشته باشد و باید هر کدام توسط سازمان یا شرکت مجزایی تامین شوند. بنابراین اقدام اخیر شرکت متا جهت خرید نیروگاه اتمی برای تولید برق مورد نیاز هوش مصنوعی این شرکت، کاری خطرناک از نظر قانون اول این طرح است.
- بخشی از کلیدهای کنترل سیستمها و تسلیحات خطرناک مثل بمبهای اتمی باید مکانیکی و فیزیکی باشند، نه الکترونیکی. به عنوان مثال کلید شلیک موشکهای هستهای باید به صورت مکانیکی با دستگیره باشند و از طریق اینترنت یا امواج رادیویی نتوان آنها را فعال کرد. همچنین کلیدهای مربوط به خاموش کردن اینترنت یا کنترل برق نیروگاهها باید حالت مکانیکی و فیزیکی داشته باشند. این اقدام، تا حد زیادی میتواند جلوی یک هوش مصنوعی متخاصم را بگیرد. در نتیجه اگر کنترل بخش زیادی از سیستمها هم بدست بگیرد، باز کلیدهای اصلی را نمیتواند کنترل کند.
- تاسیس ناظرهای مستقل: سازمانی مستقل، متشکل از متخصصان، همانند سازمان انرژی اتمی که به فعالیتهای هستهای کشورها نظارت دارد، باید تاسیس شود و برفعالیت شرکتهای سازنده هوش مصنوعی نظارت کند و در صورت تخلف، آنها را پاسخگو کند.
- قطع وابستگیها: طبق این قانون، افرادی که در قانون دوم و سوم، فعالیت میکنند نباید برای فعالیتهای خود به هوش مصنوعی وابسته یا متکی باشند. باید کارهای لازم به صورت انسانی و بدون کمک گرفتن از هوش مصنوعی صورت بگیرند. درواقع ناظرِ هوش مصنوعیها نباید خود یک هوش مصنوعی باشد یا متاثر از آن باشد.
با رعایت قوانین فوق در کنار تفکیک قدرت و تقسیم آن بین چندنهاد مستقل، تا حد زیادی میتوان از خطرات سلطه هوش مصنوعی بر جهان و یا نابودی جهان در امان بود.
