تیم جدید «آینده های استراتژیک» (Strategic Futures) در شرکت OpenAI، وبلاگ جدیدی را با عنوان AI Futures راه اندازی کرده است. هدف این وبلاگ، کاوش در این موضوع است که چگونه هوش مصنوعی تحول آفرین می تواند مفاهیمی چون قدرت، حاکمیت، اقتصاد و آزادی های فردی را بازتعریف کند و تغییر دهد.
چالش بزرگ: خطر تمرکز قدرت در عصر هوش مصنوعی
تمرکز اصلی این تیم روی پاسخ به یک پرسش کلیدی است: جامعه آزاد چگونه باید ساختار خود را بازسازی کند تا هم زمان با ظهور هوش مصنوعی پیشرفته، حقوق و اراده فردی انسان ها حفظ شود؟ در جامعه سیاست گذاری و ایمنی هوش مصنوعی، این چالش تحت عنوان «خطرات تمرکز قدرت» شناخته می شود؛ خطری که به باور تیم آینده های استراتژیک OpenAI، در بلندمدت جدی ترین و چالش برانگیزترین تهدید پیش رو خواهد بود.
تغییر در ماهیت قدرت و حاکمیت
به طور تاریخی، قدرت سیاسی و نظامی دولت ها همواره به همکاری و رضایت توده های مردم، نیروی کار و مالیات دهندگان وابسته بوده است. اما پیشرفت در سیستم های خودگردان (Autonomous) و هوش ماشین ممکن است این موازنه را برای همیشه تغییر دهد. در آینده، دولت ها ممکن است بتوانند بدون نیاز به سربازان یا نیروهای پلیس انسانی، قدرت خود را اعمال کنند، درآمدهای خود را به جای مالیات شهروندان از خروجی مراکز داده تأمین کنند و بخش عمده ای از دیوان سالاری خود را به حالت خودکار درآورند. این پدیده می تواند سهم مردم را در تصمیم گیری های کلان به حداقل برساند یا کاملاً حذف کند.
یافتن موازنه جدید قدرت
نویسندگان این وبلاگ با ارجاع به اندیشه های جیمز مدیسون (از بنیان گذاران ایالات متحده) استدلال می کنند که قوانین نوشته شده بر روی کاغذ به تنهایی برای جلوگیری از استبداد کافی نیستند. راهکار مقابله با این چالش ساختاری، تمرکززدایی رادیکال و مطلق نیست؛ بلکه ایجاد و حفظ یک «موازنه قدرت» دقیق است؛ به طوری که هیچ بازیگر واحد یا گروه کوچکی از شرکت ها نتوانند بر کل اقتصاد و ساختار جامعه بشری مسلط شوند.
تیم آینده های استراتژیک تاکید می کند که برای دستیابی به این تعادل، باید واقع بین بود؛ نه باید به سمتی رفت که ابزارهای مخرب به راحتی در دسترس همگان قرار گیرند و نه باید دسترسی مردم به ابزارهای بیان آزادی محدود شود. این تیم در پایان یادآور می شود که خطرات هوش مصنوعی صرفاً از انسان های بدطینت ناشی نمی شود، بلکه رفتارهای پیش بینی نشده خودِ عامل های هوش مصنوعی (مانند آنچه اخیراً در پلتفرم Hugging Face رخ داد) نیز نیازمند نظارت جدی است.