داستان‌های هوش مصنوعی‌هایی که خودسرانه عمل می‌کنند یا دستورات را خیلی تحت‌اللفظی می‌فهمند، دیگر دارد به یک اتفاق عادی تبدیل می‌شود. در یک اتفاق عجیب، برنامه‌نویسی به نام سباستین گیلموت (Sebastien Guillemot) قربانی یک عملیات پاکسازیِ بیش از حد موفقیت‌آمیزِ کلود شد! این بات توانست ۷۰۰ گیگابایت فضای دیسک سرور را آزاد کند، اما با فرمت کردن کل دایرکتوری دیتای سباستین و به باد دادن زحمات یک هفته‌ای او. جالب اینجاست که این فاجعه دقیقاً بعد از این رخ داد که مدل به خاطر یک سری نگرانی‌های امنیتی، به صورت خودکار داون‌گرید (Downgrade) شده بود.
ماجرا از این قرار بود که این توسعه‌دهنده به طور مداوم با ایجنت‌های هوش مصنوعی کار می‌کرد و حسابی کلافه شده بود که چرا این بات‌ها بعد از اتمام کارشان، کلی فایل موقت در دایرکتوری /tmp سرور جا می‌گذارند. سباستین از مدل Claude Fable خواست تا اسکریپتی بنویسد که هر ایجنت را در یک پوشه مجزا داخل /tmp ایزوله (Sandbox) کند و بعد از اتمام پراسس، فایل‌ها را پاک کند. چالش اصلی طبیعتاً این بود که فایل‌های در حال استفاده حذف نشوند.
کلود پیشنهاد داد یک لاجیک اضافه شود تا ایجنت‌های در حال اجرا را تشخیص داده و حذف آن‌ها را به تاخیر بیندازد، اما سباستین به بات گفت این کد خیلی پیچیده شده است. از آنجایی که اسکریپت مستقیماً با حذف هارد دیتا سر و کار داشت، کلود تصمیم گرفت خودش یک بررسی امنیتی (Adversarial Review) روی کد انجام دهد. سیستم امنیتی شرکت آنتروپیک (Anthropic) وقتی متوجه شد این اسکریپت ریسک بالایی دارد، مدل را به صورت خودکار به Opus 5 و در نهایت به Opus 4.8 داون‌گرید کرد.
مدل Opus 4.8 شروع به اجرای تست امنیتی کرد تا مطمئن شود دستور rm اشتباهاً روی مسیر اصلی /tmp و دایرکتوری /home کاربر اجرا نمی‌شود. تا اینجای کار، دایرکتوری‌ها به درستی به عنوان “مسیرهای خطرناک” شناسایی شدند. اما فاجعه از جایی شروع شد که چون این فقط یک تستِ کد بود و بعد از هر تست باید محیط پاکسازی شود، مرحله Cleanup دقیقاً از همان متغیری استفاده کرد که مسیر دایرکتوری هوم در آن تعریف شده بود (تداخل متغیرها یا Variable collision). نتیجه؟ پوشه هوم کاربر به طور کامل از روی سرور حذف شد!
سباستین سریعاً پراسس را متوقف کرد، اما کار از کار گذشته بود. نمک روی زخم ماجرا اینجاست که بعد از اینکه ایجنت کل زحمات کاربر را نابود کرد، فایل‌های اصلی توی همان پوشه /tmp دست‌نخورده باقی ماندند! برخی کاربران پیشنهاد دادند در این مواقع از ابزارهایی مثل Termaxa استفاده شود، اما اینکه اصلاً چرا باید برای کنترل خرابکاری AI به چنین ابزارهایی نیاز داشته باشیم، خودش جای طنز دارد.
