سام آلتمن، مدیرعامل شرکت OpenAI، اخیراً اظهار داشته که ممکن است زمان آن رسیده باشد تا «سرعت توسعه هوش مصنوعی تنظیم شود» تا جامعه بتواند «خود را با برخی از این سطح توانمندی‌های جدید تطبیق داده و مقاوم کند».
در جدیدترین قسمت از پادکست Equity وب‌سایت تک‌کرانچ، کریستن کوروسِک (Kirsten Korosec)، شان اوکین (Sean O’Kane) و آنتونی ها (Anthony Ha) درباره این موضوع گفتگو کردند که اظهارات آلتمن احتمالاً ناشی از هک اخیری بوده که در آن یک عامل هوش مصنوعی (AI Agent) متعلق به OpenAI به سیستم‌های هاگینگ فیس (Hugging Face) نفوذ کرده است. شان اشاره کرد اگرچه هک انجام‌شده توسط یک عامل هوش مصنوعی اتفاقی نوظهور است، اما خود عملیات هک «چیز پیچیده و پیشرفته جدیدی نبود».
«این اتفاق بیشتر شبیه به ورود غیرقانونی افراد نیکسون به ساختمان واترگیت بود تا یک عملیات سایبری بسیار مخفیانه و پیچیده؛ چراکه نیازی به پیچیدگی نداشت و چنین دستورالعملی هم به آن داده نشده بود. امیدواریم این زنگ خطری باشد تا شرکت‌ها موضوع را جدی‌تر گرفته و در مورد این مسائل احتیاط بیشتری به خرج دهند.»
اظهارات آلتمن فرصتی ایجاد کرد تا درباره کارآمدی کل مناقشه میان طرفداران شتاب‌دهی (Accelerationism) و کندسازی (Decelerationism) تأمل کنیم؛ زیرا این نوع قاب‌بندی «به نوعی القا می‌کند که تنها یک مسیر وجود دارد» و «تمام چیزی که می‌توانیم درباره‌اش تصمیم بگیریم این است که سرعت را افزایش دهیم یا کاهش.»
در ادامه، خلاصه‌ای از این گفتگو را که برای اختصار و شفافیت ویرایش شده است، می‌خوانید.
بحث و گفتگو میان تحلیل‌گران تک‌کرانچ
شان اوکین: شاید بالاخره به یک نقطه عطف رسیده باشیم. فکر می‌کنم عامل اصلی این موضع‌گیری همان موضوعی است که هفته گذشته درباره آن صحبت کردیم؛ یعنی نفوذ یکی از مدل‌های OpenAI به داده‌های Hugging Face و ظاهراً چند بخش دیگر در اینترنت.
آلتمن خواستار توقف کامل (Pause) نشده است، برخلاف آنچه در گذشته از برخی فعالان حوزه فناوری دیده‌ایم. او در انتخاب کلماتش بسیار محتاط بود و از عبارت «تنظیم سرعت» (Pace it) استفاده کرد. باید دید این موضع تا چه حد پایدار خواهد بود. هرگونه احتیاطی که از سوی این آزمایشگاه‌ها مطرح می‌شود، معمولاً زمانی که مشوق‌های مالی آن‌ها را به پیشروی با تمام سرعت ترغیب می‌کند، کنار گذاشته می‌شود. بنابراین من همچنان بدبین هستم.
کریستن کوروسک: ممکن است آلتمن در کلام محتاط بوده باشد، اما OpenAI و Anthropic از دادخواستی حمایت کردند که منعکس‌کننده همان صحبت‌های اوست.
من با تو موافقم و فکر می‌کنم بخش زیادی از این ماجرا واقعاً تحت تأثیر اتفاق Hugging Face رخ داده است. این رویداد احتمالاً او و قطعاً بسیاری از فعالان این صنعت را نگران کرده است. مسئله دشوار اینجاست: OpenAI چگونه می‌تواند میان تولید درآمد، جذب سرمایه یا عرضه اولیه عمومی (IPO) موفق، و از سوی دیگر «تنظیم سرعت توسعه» تعادل ایجاد کند؟
نمی‌دانم آیا آن‌ها می‌توانند چنین کاری انجام دهند یا خیر. مشتاقم ببینم آیا از پس مدیریت هر دو برمی‌آیند یا نه.
آنتونی ها: یکی از مسائلی که من با آن دست‌وپنجره نرم می‌کنم این پرسش است: آیا چارچوب «شتاب در برابر کندسازی» (Acceleration vs. Deceleration) چارچوب درستی برای تفکر در این باره است؟ زیرا این دیدگاه القا می‌کند که تنها یک مسیر وجود دارد و همه ما در آن گیر افتاده‌ایم و تنها تصمیمی که می‌توانیم بگیریم — در حدی که اصلاً حق تصمیمی داشته باشیم — این است که سرعت را زیاد کنیم یا کم. در حالی که می‌توان پرسید: آیا می‌توانیم موانع ایمنی (Guardrails) متفاوتی بسازیم؟ آیا می‌توانیم مسیرهای متفاوتی را انتخاب کنیم؟
من شدیداً با این چارچوب فکری مخالفم. به جای اینکه بپرسیم «اگر از عملکرد فعلی مدل‌ها راضی نیستیم، چه کار دیگری می‌توانیم انجام دهیم؟ آیا کاهش سرعت، توقف یا تعطیلی تنها گزینه است؟»، من فکر نمی‌کنم این تنها راه باشد.
نکته دیگری که می‌خواهم دوباره بر آن تأکید کنم — چون دیدن سطح هشدار و نگرانی پیرامون این موضوع جالب بوده است — احساس خطری است با این مضمون که: «اگر عامل‌های خودمختار (Autonomous Agents) و مدل‌ها در اینترنت چرخ بزنند و یکدیگر را هک کنند و همه چیز از کنترل ما خارج شود چه؟» این موضوع باعث ایجاد بحث‌های گسترده‌تری درباره همراستاسازی (Alignment) شده که رپکا بلان (Rebecca Bellan) مقاله خوبی در مورد آن نوشته است.
اما ارزش دارد به یکی از نکاتی که در تک‌کرانچ نوشتیم بازگردیم: این هک خاص، اگرچه توسط مدل OpenAI انجام شد، اما به نظر می‌رسد دلیل اصلی آن تأمین نشدن امنیت محیط آزمایشی بوده است. از نظر تئوریک، این مدل نباید به اینترنت متصل می‌شد. البته اگر یک هوش مصنوعی قدرتمند ناهمراستا داشته باشید، خطرات ناشی از خطای انسانی به شدت افزایش می‌یابد، اما ریشه ماجرا از عدم رعایت الزامات امنیتی اولیه شروع شده است.
شان: دقیقاً همین‌طور است. نکته تو کاملاً بجاست؛ نباید خطی به موضوع نگاه کنیم و فقط روی شتاب گرفتن یا نگرفتن تمرکز کنیم. حرف‌های زیادی درباره میزان مسئولیت‌پذیری این شرکت‌ها وجود دارد. لورنزو، یکی از همکاران ما، مقاله بسیار خوبی درباره دیدگاه پژوهشگران برجسته امنیت سایبری نوشته است. به نظر می‌رسد در هر دو طرف این اتفاق، اقداماتی وجود داشته که در صورت انجام، می‌توانست جلوی هک را بگیرد.
نکته جذاب در آن گزارش این بود که پژوهشگران اشاره کردند رفتار این مدل، یک اقدام پیشرفته و جدید نبوده است. شیوه تلاش آن برای نفوذ به Hugging Face بسیار شبیه به تفکر انسانی بود — بدون آنکه بخواهیم به آن ویژگی‌های انسانی نسبت دهیم (Anthropomorphize) — و البته بسیار پرسرصدا، شلخته و بدون تلاش برای پنهان کردن ردپا بود. بیشتر شبیه ورود غیرقانونی افراد نیکسون به واترگیت بود تا یک عملیات سایبری مخفیانه.
این رویداد باید راحت‌تر از این‌ها پیشگیری می‌شد. امیدواریم این اتفاق نشانی باشد بر اینکه شرکت‌ها درس گرفته و در آینده هوشیارتر عمل کنند.
نکته دیگری هم درباره مناقشه شتاب و کندسازی وجود دارد: شاید انگیزه آلتمن به موضوع عرضه اولیه سهام (IPO) مربوط باشد که کریستن به آن اشاره کرد. به نظرم هوشمندانه است که آلتمن از مزیت فعلی OpenAI استفاده کند؛ آن‌ها قرار نیست ماه آینده یا دو ماه دیگر وارد بورس شوند. او حتی تاریخ ۲۰۲۷ را مطرح کرده و گفته پرونده محرمانه را فقط برای داشتن آمادگی ثبت کرده‌اند. بنابراین او می‌تواند سخنانی بگوید که Anthropic قادر به بیان آن نیست؛ زیرا Anthropic در حال مذاکره با بانک‌هاست و به IPO نزدیک‌تر است، بنابراین در اظهارات خود محدودیت بیشتری دارد.
اخبار کوتاه و عناوین مرتبط دنیای فناوری
- هنک گرین (Hank Green)، یوتیوبر معروف: استفاده من از هوش مصنوعی «سالم نیست».
- واتس‌اپ (WhatsApp): در حال تست پوشه‌ای جدید برای پیام‌های دریافتی از کسب‌وکارهای بزرگ است.
- کلود اپوس ۵ (Claude Opus 5): هنگام واگذاری مدیریت یک دستگاه فروش خودکار بسیار بی‌رحمانه عمل کرد!
- دورداش (DoorDash): در حال ساخت کسب‌وکار اختصاصی تحویل با پهپاد است.
- سام آلتمن: برای کاهش سرعت توسعه آماده است.
- دیتا سنترها: برای جلوگیری از خاموشی در بزرگ‌ترین شبکه برق آمریکا ممکن است با قطعی موقت برق مواجه شوند.
- هشدار امنیتی: چت‌های به اشتراک گذاشته شده و Artifacts شما در کلود ممکن است در گوگل اندیس شده باشند.