تا حالا فکر کردید شرکت‌های بزرگ سازنده هوش مصنوعی چطور کنترل میشن تا دست از سر دنیا برندارن؟ شرکت Anthropic اومده یه کار خیلی جالب کرده؛ به یه سازمان مستقل ناظر بر هوش مصنوعی دسترسی در حد یه کارمند واقعی داده تا قشنگ برن توی دل سیستم‌ها و ببینن اوضاع از چه قراره! این یعنی شفافیت کامل و بی‌سابقه توی دنیای تکنولوژی.
داستان چیه و چرا اینقدر مهمه؟
قضیه از این قراره که شرکت Anthropic برای اینکه به سرمایه‌گذارانش ثابت کنه قرار نیست امنیت رو فدای پول و سود بیشتر کنه (اونم دمِ افتتاحیه عرضه اولیه سهام با ارزش سرسام‌آور دو تریلیون دلاری)، تصمیم گرفته درِ سیستم‌هاش رو به روی بچه‌های سازمان METR باز کنه. این سازمان قراره مثل یک کارمند تمام‌عیار، لپ‌تاپ سازمانی بگیره، بیاد تو اداره بشینه و به همه ابزارهای داخلی دسترسی داشته باشه.
جزئیات این همکاری خفن
سازمان METR قراره دسترسی‌هایی دقیقاً شبیه به تیم ارزیابی خطر خودِ Anthropic داشته باشه. حتی کارمندای شرکت تشویق شدن که با این محققا مثل همکار خودشون رفتار کنن و اطلاعات رو بهشون بدن. جالب‌تر اینکه هیچ پول زور یا هزینه‌ای از طرف Anthropic به این سازمان پرداخت نمیشه تا استقلال و بی‌طرفی کاملاً حفظ بشه!
البته یه خط قرمزهایی هم وجود داره؛ این ناظرها قراره تحلیل‌هاشون رو منتشر کنن و Anthropic حق وتو نداره، اما می‌تونه بخواد یکسری اطلاعات مثل داده‌های مشتریان یا جزئیات فنی معماری مدل‌ها رو سانسور (Redact) کنند تا امنیت اطلاعات حفظ بشه.
نگاهی به آینده تست‌های امنیتی
علاوه بر METR، شرکت‌های دیگه‌ای مثل SecureBio هم دارند روی خطرات سلاح‌های بیولوژیکی و شیمیایی کار می‌کنند تا مطمئن بشن هوش مصنوعی قراره به دنیای ما خدمت کنه، نه اینکه نابودش کنه! شرکت Anthropic معتقد1 که این کار باید توسط همه غول‌های هوش مصنوعی دنیا انجام بشه و اونا با این کار دارن راه رو برای بقیه هموار می‌کنن.
