طبق گزارش 404 Media، شرکت آمازون اقدام به خرید انبوه کتاب‌های کمیاب کرده و پس از جدا کردن صحفه‌های آن‌ها، اقدام به اسکن برای آموزش مدل‌های هوش مصنوعی می‌کند. این رسانه با قرار دادن یک دستگاه ردیاب در یکی از کتاب‌های کمیاب، موفق شد مسیر آن را تا رسیدن به تأسیسات آمازون در لاس‌وگاس پیگیری کند.
این تأسیسات که با نماد یک دایناسور در حال نگه داشتن کتاب شناخته می‌شود، با نام VGT3 فعالیت می‌کند. در پاسخ به این گزارش، آمازون اعلام کرد که کتاب‌ها را از طریق کانال‌های تجاری خریداری می‌کند تا «محصولات و خدمات ارائه‌شده به مشتریان» را بهبود بخشد.
شرکت‌هایی مانند آمازون برای آموزش مدل‌های زبانی بزرگ (LLM) به مقادیر عظیمی از متن نیاز دارند. این مدل‌ها تا کنون تقریباً تمام داده‌های موجود در اینترنت را پردازش کرده‌اند و حتی در مواردی، مانند شرکت Anthropic، از کتاب‌های دزدیده‌شده به صورت غیرقانونی استفاده کرده‌اند. کتاب‌های کمیاب، به ویژه آن‌هایی که چاپ آن‌ها متوقف شده یا به سختی در اینترنت یافت می‌شوند، منبع ارزشمندی برای داده‌های آموزشی به شمار می‌روند.
این متون به ویژه ارزشمند هستند زیرا احتمال بسیار کمی وجود دارد که هر چیزی قبل از سال ۲۰۲۲ توسط یک مدل زبانی بزرگ نوشته شده باشد. زمانی که مدل‌های زبانی بزرگ از متون تولیدشده توسط هوش مصنوعی استفاده می‌کنند، خطر «فروریزش مدل» (model collapse) وجود دارد. این پدیده زمانی رخ می‌دهد که کیفیت خروجی‌های یک مدل زبانی بزرگ پس از پردازش مقادیر زیادی متن تولیدشده توسط هوش مصنوعی، کاهش می‌یابد.