شرکت OpenAI از پیش‌نمایش قابلیت جدیدی به نام Private Safety Processing رونمایی کرد. این ابزار با هدف تقویت تدابیر امنیتی در تعاملات چندگانه با مدل‌های پیشرو طراحی شده است، در حالی که تعهد این شرکت به عدم ذخیره‌سازی داده‌ها (Zero Data Retention یا به اختصار ZDR) برای مشتریان واجد شرایط API همچنان حفظ می‌شود.
چرا سیستم‌های امنیتی هوش مصنوعی باید تکامل یابند؟
بسیاری از خطرات امنیتی جدی در هوش مصنوعی همواره در یک تعامل واحد نمایان نمی‌شوند؛ بلکه رفتارهای مخرب یا ناهماهنگی عامل‌های هوشمند (AI Agents) معمولاً در طول چندین تعامل متوالی و در یک بستر گسترده‌تر خود را نشان می‌دهند. سیستم‌های امنیتی فعلی سازگار با ZDR، هر تعامل را به صورت مجزا ارزیابی می‌کنند. اما قابلیت Private Safety Processing به گونه‌ای طراحی شده است که الگوهای مشکوک را در میان تعاملات مرتبط شناسایی کند، بدون اینکه پرسنل OpenAI به محتوای اصلی پیام‌ها دسترسی داشته باشند.
نحوه کارکرد Private Safety Processing
این سیستم جدید چه داده‌ها در زیرساخت تحت کنترل مشتری ذخیره شده باشند و چه در فضای ابری OpenAI (که با کلیدهای تحت کنترل خود مشتری رمزگذاری می‌شود)، کارایی دارد. در صورت شناسایی هرگونه خطر یا سوءاستفاده، سیستم خودکار OpenAI تنها یک سیگنال امنیتی محدود و مشخص درباره نوع فعالیت دریافت می‌کند و محتوای متنی یا پاسخ‌ها هرگز برای پرسنل این شرکت فاش نخواهند شد. مشتریان می‌توانند هشدارهای امنیتی را در سیستم‌های خود بررسی کرده و در صورت نیاز به تجدیدنظر، اطلاعات لازم را به اشتراک بگذارند.
به گفته OpenAI، این قابلیت در حال حاضر مراحل آزمایش اولیه را سپری می‌کند و برنامه عرضه عمومی آن به همراه انتشار یک سند فنی (White Paper) برای ماه سپتامبر برنامه‌ریزی شده است. این اقدام گامی مهم برای سازمان‌هایی است که با داده‌های حساس مانند اسناد مالی و پزشکی سروکار دارند و نیازمند کنترل کامل بر حریم خصوصی داده‌های خود هستند.