تا حالا فکر کردید چطوری میشه هوش مصنوعی رو روی سیستم شخصی خودمون با سرعت بالا اجرا کنیم؟ یکی از کاربران عزیز Phoronix از ما خواسته بود تا یه بنچمارک خفن بین دو تا تکنولوژی خفن یعنی Vulkan و AMD ROCm بریم تا ببینیم تو دنیای امروز هوش مصنوعی محلی، کدومشون واقعاً برنده میدونه!
داستان چیه و چرا اهمیت داره؟
وقتی می‌خواهید یک سرور هوش مصنوعی محلی با ابزاری مثل Lemonade راه بندازید، انتخاب بین بک‌اندهای مختلف مثل Llama.cpp خیلی توی سرعت و کارکرد سیستم تأثیر داره. ما اومدیم روی دو تا سیستم مجزا با کارت‌های گرافیک AMD Radeon این قضیه رو تست کردیم تا ببینیم ROCm و Vulkan دقیقاً چه فرقی با هم دارن و کدوم یکی برای کار شما مناسب‌تره.
عملکرد در عمل
توی این بررسی، تفاوت‌های اجرایی رو زیر ذره‌بین بردیم تا مشخص بشه کجای کار باید از کدوم ابزار استفاده کنید تا نهایت بهره‌وری رو از سخت‌افزارتون بکشید بیرون.
