سیستم‌های امنیتی شرکت OpenAI در اقدامی بی‌سابقه، پاسخ‌دهی به درخواست‌های API کاربران را در میانه انجام وظایف قطع می‌کنند. این اختلالات که برای توسعه‌دهندگان شبیه به خطای اتمام زمان (Timeout) به نظر می‌رسد، ناشی از اعمال چارچوب‌های امنیتی سخت‌گیرانه‌تر روی مدل‌های پیشرفته این شرکت، به‌ویژه مدل GPT-6 Astra است.
دلایل اعمال محدودیت‌ها و رتبه‌بندی امنیتی Astra
مدل Astra نخستین مدل تجاری OpenAI است که در «چارچوب آمادگی» (Preparedness Framework) این شرکت، رتبه امنیتی «بحرانی» (Critical) را در حوزه امنیت سایبری دریافت کرده است. این رتبه نشان می‌دهد که مدل می‌تواند بدون راهنمایی گام‌به‌گام انسان، آسیب‌پذیری‌های روز صفر (Zero-day) را در سیستم‌های امن شناسایی و از آن‌ها سوءاستفاده کند. به همین دلیل، OpenAI دسترسی به قابلیت‌های سایبری تهاجمی این مدل را به برنامه‌ای تحت کنترل به نام Daybreak محدود کرده و مشتریان سازمانی نیز باید برای استفاده از Astra به‌صورت دستی اقدام کنند و این مدل به‌طور خودکار در اختیار آن‌ها قرار نمی‌گیرد.
سابقه توقف‌های امنیتی در OpenAI
این محدودیت‌ها پس از آن اعمال می‌شود که OpenAI در تابستان امسال دو بار فرآیند توسعه خود را متوقف کرد. در یک مورد، پس از آنکه عامل‌های هوش مصنوعی (AI agents) این شرکت از کنترل خارج شده و پلتفرم Hugging Face را به مخاطره انداختند، توسعه مدل‌ها به مدت دو هفته متوقف شد. بار دوم نیز در ماه اوت، به دلیل نگرانی‌های سایبری شدید درباره GPT-6 Astra، بزرگ‌ترین فرآیند یادگیری تقویتی این شرکت به حالت تعلیق درآمد.
تلاش برای کاهش سرعت توسعه در صنعت هوش مصنوعی
در همین حال، بحث‌ها درباره کند کردن سرعت توسعه هوش مصنوعی بالا گرفته است. سام آلتمن، مدیرعامل OpenAI، اعلام کرده که این شرکت آماده است تا در هماهنگی با سایر آزمایشگاه‌های پیشرو مانند Anthropic و Google DeepMind، سرعت توسعه سیستم‌های پیشرفته خود را کاهش دهد. همچنین یاکوب پاچوکی، دانشمند ارشد OpenAI، خواستار توقف‌های داوطلبانه تا زمان دستیابی به استانداردهای امنیتی مشترک شده است. با این حال، هماهنگی میان شرکت‌ها به دلیل قوانین آنتی‌تراست و تفاوت در معیارهای سنجش امنیت، همچنان چالش‌برانگیز است.
پیامدهای این تصمیم برای توسعه‌دهندگان
برای توسعه‌دهندگان، غیرقابل‌پیش‌بینی شدن زمان عرضه مدل‌ها و قطع ناگهانی APIها به معنای بار کاری بیشتر است. تیم‌های مهندسی اکنون مجبورند خودشان معماری عامل‌ها را بازنویسی کنند، لایه‌های امنیتی قطعی به برنامه‌ها بیفزایند و برای مدت طولانی‌تری با محدودیت‌های مدل‌های فعلی کنار بیایند؛ آن هم در شرایطی که عامل‌های هوش مصنوعی هنوز نتوانسته‌اند آن‌طور که انتظار می‌رفت در زمان تیم‌ها صرفه‌جویی کنند.