بررسی نامههای سرگشاده اخیر درباره توسعه هوش مصنوعی و مدلهای با وزن باز
این خلاصه از نامههای سرگشاده چند هفته گذشته را به عنوان بخشی از خبرنامه ویژه حامیان مالی خود نوشتم، اما تصمیم گرفتم آن را در اینجا نیز به اشتراک بگذارم.
بیانیه «وزنهای باز و رهبری هوش مصنوعی آمریکا» (Open Weights and American AI Leadership) به هدایت مایکروسافت (Microsoft)، در تاریخ ۲۴ ژوئیه منتشر شد و به امضای ۲۳۵ شرکت فعال و مرتبط با هوش مصنوعی از جمله انویدیا (NVIDIA)، آمازون (Amazon)، وای کامبیناتور (Y Combinator)، بنیاد لینوکس (The Linux Foundation) و (با کمی تأخیر) اوپنایآی (OpenAI) رسید.
این بیانیه واضحاً استدلالی طراحیشده برای مقابله با هرگونه تمایل دولت فعلی ایالات متحده به ممنوعیت یا محدودسازی مدلهای با وزن باز (open-weight models) به دلیل نگرانیهای «ایمنی» است؛ ملاحظهای معقول با توجه به آنچه برای Claude Fable 5 رخ داد!
blockquote>
تکیه صرف بر مدلهای بسته به خودی خود ایمن نیست: این مدلها میتوانند هک شوند، مورد سوءاستفاده قرار گیرند یا به روشهایی دچار خطا شوند که افراد بیرونی قادر به تشخیص آن نیستند. همچنین تمرکز قابلیتهای پیشرفته هوش مصنوعی پشت تعداد محدودی مدل بسته، این خطر را تشدید میکند. این امر منجر به ایجاد نقاط تکشکست (single points of failure) محدود میشود، رقابت را تضعیف میکند و فناوری کلیدی را در دست چند ارائهدهنده معدود باقی میگذارد. در مقابل، مدلهای با وزن باز به جامعه وسیعی از پژوهشگران و توسعهدهندگان اجازه میدهند تا رفتار آنها را بررسی کنند، آسیبپذیریها را شناسایی نمایند، تدابیر امنیتی توسعه دهند و به مرور زمان آنها را بهبود بخشند.
نکته غافلگیرکننده در این نامه، حمایت صریح آن از «تقطیر» (Distillation) است؛ فرآیندی که در آن مدلها بر اساس خروجی مدلهای دیگر آموزش میبینند:
blockquote>
سیاستگذاران در شکلدهی به این زیستبوم باید مراقب باشند که تکنیکهای مشروع توسعه مدل را با سوءاستفاده اشتباه نگیرند. تقطیر (Distillation)، یا استفاده از خروجیهای یک مدل برای کمک به آموزش یا بهبود مدلی دیگر، تکنیکی پرکاربرد برای بهبود، ارزیابی و اعتبارسنجی مدلها است. این روش منعکسکننده سنت دیرینهای از یادگیری، الگوبرداری و ارتقای فناوریهای موجود است؛ سنتی که از زمان ظهور جنبش نرمافزار متنباز به هدایت نوآوری کمک کرده است.
موضع متفاوت انتروپیک
غایب بزرگ در میان امضاکنندگان: شرکت انتروپیک (Anthropic) که سه روز بعد پاسخ اختصاصی خود را با عنوان «موضع ما درباره مدلهای با وزن باز» منتشر کرد. داریو آمودی (Dario Amodei)، مدیرعامل انتروپیک، بر خطراتی مانند ساخت «مدلهای هوش مصنوعی قدرتمندتر از مدلهای آمریکا» توسط حکومتهای استبدادی و «سوءاستفاده از مدلها برای حملات سایبری یا زیستی» تأکید کرد و خواستار «سرکوب عملیات تقطیر در مقیاس صنعتی» شد، در حالی که اشاره کرد «انتروپیک هرگز خواستار ممنوعیت مدلهای با وزن باز نبوده است».
بیانیه تنظیم سرعت پیشرفت
سپس در ۲۸ ژوئیه، بیانیه «تنظیم سرعت پیشرفت مرزها» (Pacing the Frontier) منتشر شد که به امضای «۱۳۲۴ نفر از کارکنان شرکتهای پیشرو در هوش مصنوعی» رسید؛ از جمله چهرههایی چون یاکوب پاچوکی (دانشمند ارشد OpenAI)، ایلیا سوتسکور (مؤسس Safe Superintelligence Inc و دانشمند ارشد سابق OpenAI)، داریو آمودی (Anthropic)، جک کلارک (Anthropic) و دیگران. پیام اصلی آنها این بود:
blockquote>
ما از دولت ایالات متحده میخواهیم از تلاشی بینالمللی برای توسعه ابزارهای فنی و حکمرانیِ لازم جهت تنظیم آگاهانه سرعت پیشرفت در مرزهای توسعه خودکار هوش مصنوعی حمایت کند.
نگرانی اصلی آنها فشار شدید رقابتی همراه با شتاب گرفتن پیشرفت هوش مصنوعی ناشی از تحقیقات خودکار هوش مصنوعی است؛ و با توجه به اینکه انتروپیک ۸۰ درصد از کدهای خود را با کلود کد (Claude Code) تولید میکند، اوپنایآی با استفاده از Sol هزینههای ارائهدهی خدمات خود را ۲۰ درصد کاهش داده، و کیمی K3 چیپی برای میزبانی مدل نانو بر اساس معماری خود طراحی کرده است، میتوان درک کرد چرا فعالان این صنعت این خطر را جدیتر از هر زمان دیگری میدانند.