افزایش آگاهی کاربران از هزینه‌های بالای استقرار مدل‌های هوش مصنوعی، فشار فزاینده‌ای برای کاهش هزینه‌ها در صنعت هوش مصنوعی ایجاد کرده است. با این حال، مدل‌های متن‌باز (open source) علی‌رغم هزینه کمتر در هر توکن، انتخاب دشواری برای بسیاری از کاربران به شمار می‌روند.
در این میان، شرکت Writer که ابزارها و عوامل هوشمند (AI agents) را برای بازاریابان ارائه می‌دهد، روز پنج‌شنبه مدل جدیدی به نام Palmyra X6 را معرفی کرد. این مدل با هدف حل مشکل انتخاب مدل مناسب برای کاربران طراحی شده و بر پایه مدل متن‌باز GLM-5.2 از Z.ai توسعه یافته است. شرکت Writer مدعی است این مدل، قابلیت‌های آماده استقرار را با قیمتی بسیار پایین‌تر ارائه می‌دهد. همچنین، این شرکت تخمین می‌زند که با ترکیب مدل جدید و تغییرات زیرساخت harness، هزینه‌های مشتریان را برای وظایف پایه تا ۵۰ درصد کاهش دهد.
علاوه بر مدل جدید، Writer به‌روزرسانی‌های قابل توجهی را در زیرساخت استاندارد harness خود منتشر کرده است. هر دو ویژگی از امروز برای مشتریان Writer در دسترس قرار گرفته‌اند.
«به نظر من، شرکت‌ها از دنبال‌کردن معیارهای جدید خسته شده‌اند. آن‌ها به دنبال کاهش هزینه‌ها هستند و به نظر می‌رسد هیچ‌کس نتوانسته این خواسته را برآورده کند.»
می هابب (May Habib)، مدیرعامل Writer
تمرکز اصلی روی وظایف پیچیده و چندمرحله‌ای است که با استفاده از توکن‌های کمتر و سرعت بالاتر اجرا می‌شوند. Writer معتقد است بهینه‌سازی harness، اهرمی کلیدی برای دستیابی به این هدف است. پژوهش اخیر محققان Writer نیز از این رویکرد حمایت می‌کند. در این پژوهش، تغییرات کوچک در بهره‌وری harness در مدل‌های مختلف مورد آزمایش قرار گرفت. نتایج نشان داد که در بسیاری از موارد، تغییرات در harness نسبت به انتخاب مدل، راهکار مطمئن‌تری برای کاهش هزینه‌ها است و به‌طور میانگین، هزینه‌ها را ۴۰ درصد کاهش داد.
پژوهشگران Writer در این باره نوشتند: «harness تنها مولفه‌ای است که بهره‌وری آن در تمام مدل‌های یک سازمان، چه حال و چه آینده، ضرب می‌شود.»
برای مشتریان Writer، تجربه همچنان مستقل از مدل است. Palmyra X6 در کنار سایر مدل‌های Writer یا مدل‌های خارجی واردشده از طریق Azure یا Amazon Bedrock قرار می‌گیرد. با این حال، هابب معتقد است تلاش برای کاهش هزینه‌ها، بی‌اعتمادی گسترده‌تری نسبت به آزمایشگاه‌های بزرگ هوش مصنوعی را به دنبال دارد. این آزمایشگاه‌ها انگیزه مالی برای افزایش استفاده از توکن دارند.
«افزایش هزینه‌ها برای مشتریان بی‌سابقه است و به همان اندازه، مدیران ارشد فناوری اطلاعات (CIO) در حال دست کشیدن از این آزمایشگاه‌ها هستند.»
می هابب (May Habib)، مدیرعامل Writer
او افزود: «آزمایشگاه‌های هوش مصنوعی عمیقاً درک نمی‌کنند که چگونه می‌توانند به سازمان‌ها در بهره‌برداری از هوش مصنوعی کمک کنند.»
چرا این خبر مهم است؟
این خبر نشان می‌دهد که شرکت‌ها به دنبال راهکارهایی برای کاهش هزینه‌های هوش مصنوعی هستند و مدل‌های جدیدی مانند Palmyra X6 می‌توانند به این هدف کمک کنند. بهینه‌سازی زیرساخت harness نیز به‌عنوان راهکاری مؤثر برای کاهش هزینه‌ها مطرح شده است. این رویکرد می‌تواند تأثیر قابل توجهی بر استقرار هوش مصنوعی در سازمان‌ها داشته باشد.