تیمی متشکل از چند مرکز پژوهش سایبری موفق شدهاند نمونه آزمایشی یک «کرم هوش مصنوعی» را توسعه دهند که میتواند بهصورت خودکار در شبکه حرکت کند، آسیبپذیریهای هر دستگاه را شناسایی کرده و برای هر هدف، استراتژی حمله متفاوتی تولید کند. پژوهشگران هشدار میدهند این فناوری میتواند آغازگر نسل جدیدی از بدافزارهای هوشمند باشد؛ بدافزارهایی که برخلاف کرمهای سنتی، به یک آسیبپذیری مشخص وابسته نیستند و توانایی تطبیق با محیطهای مختلف را دارند.
اگر تاکنون تصور میکردید بدافزارها صرفاً از مجموعهای از کدهای از پیشنوشتهشده برای نفوذ به سیستمها استفاده میکنند، پژوهش جدید گروهی از محققان دانشگاه تورنتو و کمبریج میتواند این تصور را تغییر دهد.
این پژوهش نشان میدهد که ترکیب مدلهای زبانی بزرگ (LLM) با بدافزارهای خودانتشاردهنده میتواند نسل تازهای از تهدیدات سایبری را ایجاد کند؛ تهدیداتی که نهتنها بهصورت خودکار در شبکه گسترش پیدا میکنند، بلکه برای هر سیستم قربانی، روش نفوذ اختصاصی طراحی خواهند کرد.
تهدیدی که از دنیای تخیل به واقعیت رسیده
جامعه امنیت سایبری سالهاست درباره ظهور بدافزارهایی هشدار میدهد که بتوانند بدون دخالت انسان، بهطور مستقل تصمیم بگیرند، یاد بگیرند و مسیر حمله خود را تغییر دهند. حالا به نظر میرسد این سناریو دیگر صرفاً یک فرضیه تئوری نیست.
بنابر گزارش Gizmodo، براساس مقالهای جدید از سوی تیمی از محققان دانشگاه تورنتو، دانشگاه کمبریج و چند مرکز پژوهشی دیگر، پژوهشگران موفق شدهاند یک عامل هوش مصنوعی را در نقش یک کرم شبکهای داخل یک محیط کنترلشده آزمایش کنند. این شبکه شامل دستگاههای مبتنی بر لینوکس، ویندوز و تجهیزات اینترنت اشیا (IoT) بود و تعدادی از آسیبپذیریهای متداول سازمانی نظیر استفاده مجدد از رمزهای عبور نیز در آن شبیهسازی شده بود.
تهدیدی که زمانی بخشی از یک داستان علمیتخیلی بود، حالا در محیط واقعی آزمایش شده و کار میکند!
نکته مهم اینجاست که این کرم با استفاده از یک مدل زبانی متنباز فعالیت میکرد و برای اجرای آن به زیرساخت یا فناوری محرمانه خاصی نیاز نیست.
پژوهشگران این پروژه از آن به عنوان «تهدیدی کاملاً جدید» یاد کردهاند؛ کرمی که برای هر هدفی که با آن مواجه میشود، استراتژی حمله اختصاصی تولید میکند.
تفاوت این کرم با بدافزارهای سنتی چیست؟
برای درک اهمیت این پژوهش باید ابتدا تفاوت میان ویروسها و کرمهای رایانهای را در نظر گرفت.
بسیاری از بدافزارهای متداول برای آلودهسازی قربانی به تعامل انسانی نیاز دارند؛ برای مثال باز کردن یک فایل آلوده یا کلیک روی یک لینک مخرب. اما کرمها (Worms) بهطور مستقل در شبکه حرکت میکنند و پس از نفوذ به یک سیستم، نسخههای جدیدی از خود را روی سایر دستگاههای آسیبپذیر کپی میکنند.
نمونه مشهور این دسته از تهدیدات، کرم WannaCry بود که در سال 2017 صدها هزار دستگاه را در بیش از 150 کشور آلوده کرد و خسارت گستردهای به سازمانها و شرکتهای مختلف وارد ساخت.
این کرم به یک آسیبپذیری خاص وابسته نیست؛ برای هر قربانی، روش نفوذ جدیدی طراحی میکند.
اما تفاوت اصلی میان WannaCry و کرم جدید در نحوه گسترش آنهاست. WannaCry به یک آسیبپذیری مشخص متکی بود. به محض انتشار وصله امنیتی، مسیر انتشار آن عملاً متوقف شد. اما کرم مبتنی بر هوش مصنوعی معرفیشده در این پژوهش میتواند پس از نفوذ به هر سیستم، شرایط همان دستگاه را تحلیل کرده و بهترین مسیر حمله را برای مرحله بعدی انتخاب کند.
به بیان ساده، این بدافزار به جای تکیه بر یک آسیبپذیری مشخص، به دنبال کشف آسیبپذیریهای منحصربهفرد هر قربانی میرود.
کرم WannaCry فقط بلد بود یک در را باز کند؛ این کرم میتواند برای هر در، کلید جدید بسازد.
هوش مصنوعی، سوخت نسل جدید بدافزارها
یکی از نگرانکنندهترین جنبههای این پژوهش به نحوه استفاده کرم از منابع پردازشی سیستمهای آلوده مربوط میشود.
محققان توضیح میدهند که این عامل هوشمند پس از آلوده کردن یک دستگاه، میتواند از توان پردازشی همان سیستم برای انجام تحلیلهای بعدی و طراحی حملات جدید استفاده کند.
در طرح ارائه شده، قربانی فقط هدف حمله نیست؛ بخشی از زیرساخت حمله نیز خواهد شد!
این موضوع در شرایطی اهمیت بیشتری پیدا میکند که نسل جدید لپتاپها، گوشیهای هوشمند و PCها با تمرکز بر اجرای محلی مدلهای هوش مصنوعی طراحی میشوند. پردازندههای مجهز به NPU و حافظههای پرظرفیت، دقیقاً همان منابعی هستند که چنین بدافزارهایی برای فعالیت مؤثر به آنها نیاز دارند.
به اعتقاد پژوهشگران، هرچه قابلیت اجرای محلی مدلهای زبانی روی دستگاههای مصرفی افزایش پیدا کند، ظرفیت بالقوه این تجهیزات برای تبدیل شدن به سکوی حمله نیز بیشتر خواهد شد.
چرا این کرم هنوز غیرقابل توقف نیست؟
با وجود تمام نگرانیها، محققان تأکید میکنند که فناوری فعلی هنوز فاصله قابل توجهی با یک تهدید فراگیر جهانی دارد. در آزمایش انجامشده، کرم هوش مصنوعی برای آلودهسازی حدود نیمی از دستگاههای شبکه آزمایشی به تقریباً پنج روز زمان نیاز داشت. این سرعت در مقایسه با کرمهای کلاسیک بسیار پایین محسوب میشود.
دلیل این موضوع آن است که عامل هوشمند باید در هر مرحله شبکه را بررسی کرده، آسیبپذیریهای موجود را تحلیل کند و سپس بهترین روش نفوذ را انتخاب کند؛ فرآیندی که به توان پردازشی و زمان نیاز دارد.
با این حال پژوهشگران هشدار میدهند که این محدودیت احتمالاً موقتی خواهد بود. با افزایش توان پردازشی دستگاهها و پیشرفت مدلهای هوش مصنوعی در کشف آسیبپذیریها، سرعت انتشار چنین کرمهایی میتواند بهطور چشمگیری افزایش یابد.
این پژوهش در شرایطی منتشر میشود که شرکتهای فعال در حوزه هوش مصنوعی نیز نسبت به پیامدهای امنیتی مدلهای پیشرفته هشدار دادهاند.
چندی پیش شرکت Anthropic از پروژهای با نام Mythos رونمایی کرد؛ مدلی که برای کشف آسیبپذیریهای امنیتی طراحی شده و فعلاً تنها در اختیار گروه محدودی از پژوهشگران قرار دارد. OpenAI نیز مدت کوتاهی بعد مدل تخصصی GPT-5.4-Cyber را برای شناسایی آسیبپذیریهای نرمافزاری معرفی کرد.
هدف اصلی این پروژهها کمک به تقویت ابزارهای دفاعی است، اما بسیاری از کارشناسان معتقدند فناوریهایی که میتوانند آسیبپذیریها را کشف کنند، در صورت سوءاستفاده میتوانند به سلاحی قدرتمند برای مهاجمان نیز تبدیل شوند.
چرا جزئیات کامل این طرح منتشر نشده است؟
اما جالب است بدانید که که پژوهشگران عمداً بخش مهمی از جزئیات فنی پروژه را منتشر نکردهاند. در نسخه پیش از انتشار این مقاله، نام مدل متنباز مورد استفاده، روش دقیق پیادهسازی و برخی جزئیات عملیاتی از نسخه عمومی مقاله حذف شده است. تیم تحقیقاتی اعلام کرده پیش از انتشار یافتهها با نهادهای علمی و دولتی مشورت کرده تا از تبدیل پژوهش به یک راهنمای عملی برای مهاجمان جلوگیری شود.
اهمیت این پژوهش در یک حمله موفق نیست؛ در اثبات امکان وقوع نسل جدیدی از حملات است.
زنگ خطری برای عصر هوش مصنوعی
اگرچه کرم معرفیشده فعلاً تنها در یک محیط آزمایشگاهی و کنترلشده فعالیت کرده، اما اهمیت آن در اثبات یک موضوع کلیدی است: نسل جدید بدافزارها میتواند به جای پیروی از دستورالعملهای ثابت، از توانایی تحلیل، تصمیمگیری و سازگاری بهره ببرد.
در واقع آنچه پژوهشگران به نمایش گذاشتهاند، بیش از آنکه یک حمله واقعی باشد، اثبات امکانپذیر بودن نوعی از تهدیدات آینده است. ممکن است روزی این تهدیدها با پیشرفت مدلهای هوش مصنوعی و افزایش توان پردازشی دستگاههای مصرفی، به یکی از مهمترین چالشهای امنیت سایبری در دهه پیش رو تبدیل شوند.
