هوش مصنوعی در خدمت هکرها؛ کشف بدافزاری که خودش را بازنویسی می‌کند

محققان امنیتی گوگل از شناسایی خانواده بدافزار جدیدی به نام PROMPTFLUX خبر داده‌اند که می‌تواند با استفاده از مدل‌های زبانی بزرگ (LLM) مانند Gemini، کد خود را بازنویسی کند. این قابلیت به بدافزار اجازه می‌دهد تا برای فرار از ابزارهای امنیتی، به طور مداوم تغییر شکل دهد.

PROMPTFLUX چیست و چگونه کار می‌کند؟

بر اساس گزارش گوگل، PROMPTFLUX یک بدافزار از نوع اسب تروجان است که از طریق API مدل هوش مصنوعی Gemini گوگل، با آن ارتباط برقرار می‌کند. این بدافزار با ارسال درخواست به مدل هوش مصنوعی، یاد می‌گیرد که چگونه کدهای خود را تغییر دهد و خود را از ابزارهای امنیتی و نرم‌افزارهای ضدویروس پنهان کند.

به گفته محققان GTIG، ابزارهایی مانند PROMPTFLUX به جای اینکه توابع مخرب را به صورت ثابت در کد خود داشته باشند، به صورت پویا اسکریپت‌های مخرب تولید کرده، کد خود را برای فرار از شناسایی مبهم‌سازی می‌کنند و از مدل‌های هوش مصنوعی برای ایجاد توابع مخرب بر حسب تقاضا بهره می‌برند.

تهدیدی در مرحله آزمایشی

خوشبختانه این بدافزار هنوز در فاز توسعه قرار دارد و در سطح گسترده مشاهده نشده است. بررسی نمونه‌های PROMPTFLUX نشان می‌دهد که برخی از ویژگی‌های آن هنوز ناقص هستند و مکانیزمی برای محدود کردن تعداد درخواست‌های ارسالی به API جمینای در آن وجود دارد.

گوگل تاکید کرده است که وضعیت فعلی این بدافزار توانایی به خطر انداختن شبکه یا دستگاه قربانی را نشان نمی‌دهد. این شرکت همچنین اعلام کرد که تمام زیرساخت‌های مرتبط با این فعالیت را غیرفعال کرده است.

اگرچه PROMPTFLUX هنوز یک تهدید فعال نیست، اما به گفته GTIG، به نظر می‌رسد با «بازیگران دارای انگیزه‌های مالی» مرتبط باشد. این تیم نسبت به شکل‌گیری یک بازار زیرزمینی برای ابزارهای هوش مصنوعی غیرقانونی هشدار داده که می‌تواند کار را برای هکرهای کمتر حرفه‌ای آسان کند.

در همین رابطه بخوانید:

– آینده‌ای که برایش آماده نیستیم: هکرهای هوش مصنوعی
– هکر با استفاده از هوش مصنوعی Gemini گوگل، خودش را هک کردند!

در عین حال، استفاده از هوش مصنوعی در حملات سایبری تنها به گروه‌های کوچک محدود نمی‌شود. طبق گزارش گوگل، بازیگران تحت حمایت دولتی نیز در حال حاضر از هوش مصنوعی استفاده می‌کنند.

شاید راه حل مقابله با بردافزارهای AI، استفاده از هوش مصنوعی در سیستم‌های امنیتی باشد. برای مثال، گوگل اخیراً یک عامل هوش مصنوعی به نام Big Sleep را برای شناسایی آسیب‌پذیری‌های امنیتی در نرم‌افزارها معرفی کرده است. به نظر می‌رسد جنگ سایبری آینده، نبرد هوش مصنوعی علیه هوش مصنوعی خواهد بود.