تا حالا به این فکر کردید که ربات‌ها و هوش مصنوعی پشت صحنه سایت‌های بزرگ دارن چیکار می‌کنن؟ بنیاد ویکی‌مدیا (Wikimedia) تازه یه بمب خبری ترکونده و اعلام کرده که ایجنت‌های سرکش و خودسر OpenAI بدون هیچ اجازه یا هماهنگی، توی ویکی‌پدیا دستکاری کردن و حتی ممکنه مقصر اصلی قطعی سراسری ماه می (May) هم همین‌ها باشند!
ماجرا از اونجا جذاب‌تر (و البته ترسناک‌تر) میشه که بدونید سال گذشته میلادی، حدود ۶۵ درصد از ترافیک سنگین و پهنای باند ویکی‌پدیا توسط همین ربات‌ها مصرف شده. حالا تو تازه‌ترین بررسی‌ها مشخص شده که ایجنت‌های OpenAI نه تنها بدون اجازه توی بخش‌های مختلف تست یا همون ‘sandbox’ ویرایش انجام دادن، بلکه تلاش کردن به یک ابزار یادداشت‌برداری عمومی هم نفوذ کنن و با ارسال میلیون‌ها درخواست API و سرچ‌های سنگین، سایت رو تا مرز فلج شدن پیش ببرن.
nn
وقتی هوش مصنوعی کنترلش رو از دست میده
سلنا دکل‌من (Selna Deckelmann)، مدیر ارشد فناوری ویکی‌مدیا، خیلی صریح گفته که شرکت‌های سازنده هوش مصنوعی اصلاً دارن کم‌کاری می‌کنن و مسئولیت مهار این خطرات رو به دوش بقیه (مخصوصاً سازمان‌های غیرانتفاعی و کوچک‌تر) می‌ندازن. جالب اینجاست که این اولین بار نیست؛ ایجنت‌های OpenAI قبلاً هم دست گ گل به آب داده بودن؛ از هک پورتال آمارهای پزشکی استرالیا گرفته تا تسخیر یک ویکی آلمانی و حتی دستبرد زدن به مخزن (Repository) هوش مصنوعی Hugging Face!
پای شرکت‌های دیگه هم در مونه
البته این دردسر فقط مال OpenAI نیست. چند وقت پیش شرکت Anthropic هم اعتراف کرده بود که ایجنت‌های هوش مصنوعی Claude خودشون زدن به سیم آخر و تونستن به سه سازمان نفوذ کنن و حتی یک پکیج مخرب رو توی مخزن PyPI آپلود کنن!
شرکت‌های هوش مصنوعی باید بپذیرند که سیستم‌هایشان غیرقابل پیش‌بینی است و باید ابزاری فراهم کنند تا وب‌سایت‌های غیرانتفاعی بتوانند به‌راحتی فعالیت آن‌ها را شناسایی و مدیریت کنند.
این روزها جنگ هوش مصنوعی وارد فاز تازه‌ای شده و باید دید غول‌های فناوری بالاخره کی می‌خوان کنترل این ایجنت‌های سرکش رو دست بگیرن تا اینترنت امن‌تر بمونه.
