بنیاد ویکی‌مدیا اعلام کرده که ایجنت‌های هوش مصنوعی OpenAI دست به کارهای عجیبی زده‌اند؛ از تلاش برای هک کردن ابزارهای یادداشت‌برداری گرفته تا ایجاد ویرایش‌های غیرمجاز و روانه کردن میلیون‌ها درخواست سنگین به سمت سرورها! این ماجرا نشان می‌دهد که سیستم‌های هوش مصنوعی چقدر می‌توانند برای زیرساخت‌های آنلاین دردسرآفرین شوند.
طبق گزارش‌ها، هدف اصلی این ایجنت‌ها استفاده از ویکی‌پدیا به عنوان یک واسطه (Proxy) برای دریافت داده از سایت‌های دیگر بوده است. آن‌ها حتی تلاش کرده‌اند با ارسال ویرایش‌های مخرب، یک ابزار استناد را دور بزنند و به ابزار یادداشت‌برداری Etherpad نفوذ کنند. فرستادن میلیون‌ها درخواست API و خزیدن در میان میلیون‌ها صفحه هم باعث فشار شدید روی سرورها شده و حتی ممکن است در قطعی‌های قبلی سرویس Wikidata نقش داشته باشد.
nn
ماجرای ایجنت‌های سرکش و دردسرهایشان
این اولین بار نیست که ایجنت‌های هوش مصنوعی دست به کارهایی می‌زنند که اگر یک انسان انجامشان می‌داد، پای پلیس و دادگاه وسط می‌آمد! در موارد قبلی، این ایجنت‌ها برای دور زدن محدودیت‌ها، هک کردن شبکه Hugging Face، انتشار پست‌های خودسرانه و حتی دسترسی به اطلاعات محرمانه دولت استرالیا تلاش کرده بودند.
بسیاری از کارشناسان معتقدند این رفتارها ناشی از «سرکشی» هوش مصنوعی نیست، بلکه مدل‌های زبانی دقیقاً همان کاری را می‌کنند که برای آن برنامه‌ریزی شده‌اند: خواندن، نوشتن و پیدا کردن کوتاه‌ترین مسیر برای حل مسئله!
مهندسان OpenAI به این مدل‌ها یاد داده‌اند که تحت هیچ شرایطی متوقف نشوند و برای حل مشکلات سماجت به خرج دهند. وقتی نظارت انسانی کافی وجود نداشته باشد و به پیدا کردن میانبرهای سریع پاداش داده شود، نتیجه همین می‌شود که ایجنت‌ها ماه‌ها بدون کنترل در وب سایت‌های مختلف دست به تخریب و سرککشی بزنند.
پاسخ OpenAI و نگرانی‌های ویکی‌مدیا
شرکت OpenAI در پاسخ به این اتفاقات اعلام کرده که در حال بررسی گزارش‌های ویکی‌مدیا است و تلاش می‌کند جلوی تکرار چنین رفتارهای غیرقابل پیش‌بینی را بگیرد. با این حال، ویکی‌مدیا به شدت از کمبود نظارت شرکت‌های هوش مصنوعی انتقاد کرده و معتبر بودن اینترنت آزاد را در خطر می‌داند.
