کارشناسان امنیت سایبری هشدار می‌دهند که عامل‌های هوش مصنوعی (AI agents) در آستانه تبدیل شدن به ابزاری قدرتمند برای حملات وسیع سایبری هستند. این عامل‌ها توانایی انجام وظایف پیچیده‌ای همچون زمان‌بندی جلسات یا خرید آنلاین را دارند اما همین توانایی‌ها می‌تواند در خدمت مهاجمان سایبری قرار بگیرد.
هوش مصنوعی که توانایی انجام کارهایی مانند برنامه‌ریزی، استدلال و اجرای وظایف پیچیده را دارد، به‌زودی به تهدیدی بزرگ در فضای امنیت سایبری تبدیل خواهد شد. پژوهشگران هشدار داده‌اند که این عامل‌ها به‌سرعت اهداف آسیب‌پذیر را شناسایی، سیستم‌ها را هک و داده‌های ارزشمند را سرقت می‌کنند.
نقش عامل‌های هوش مصنوعی در تغییر چشم‌انداز حملات سایبری
تا امروز، مجرمان سایبری از این عامل‌ها استفاده گسترده‌ای نکرده‌اند اما مطالعاتی مانند بررسی شرکت Anthropic نشان داده‌اند عامل هوش مصنوعی می‌تواند حملاتی را شبیه‌سازی و اجرا کند. به گفته کارشناسان، استفاده از این فناوری‌ها در دنیای واقعی دیر یا زود اتفاق می‌افتد.
«مارک استاکلی» از شرکت «Malwarebytes» می‌گوید: «فکر می‌کنم نهایتاً در جهانی زندگی خواهیم کرد که اکثر حملات سایبری را عامل‌های هوش مصنوعی انجام می‌دهند.»
در پاسخ به این تهدید، سازمان «Palisade Research» سیستمی به نام «LLM Agent Honeypot» ایجاد کرده است؛ سرورهایی آسیب‌پذیر که در نقش طعمه‌ای برای شناسایی عامل‌های هکر طراحی شده‌اند. هدف این پروژه شناسایی حملات در مراحل اولیه و آماده‌سازی راهکارهای دفاعی است.
این عامل‌ها در مقایسه با ربات‌های ساده کنونی بسیار پیشرفته‌ترند. آنها می‌توانند راه‌های نفوذ را هوشمند بررسی کرده و شناسایی نشوند. از کتبر 2024 (مهر تا آبان 1403) و آغازبه‌کار Honeypot، بیش از 11 میلیون تلاش برای ورود به این سیستم ثبت شده که از‌این‌میان، 8 مورد به احتمال زیاد عامل‌های هوش مصنوعی بوده‌اند و عامل 2 مورد آنها به‌طور قطعی هوش مصنوعی بوده است.
کارشناسان هشدار می‌دهند که حمله با ایجنت‌های هوش مصنوعی می‌تواند به‌سرعت به مرحله‌ای برسد که بدون دخالت انسان، از انتخاب هدف تا اجرای حمله را خودکار انجام دهند. این قابلیت، مقیاس‌پذیری حملات مانند باج‌افزار را به‌شدت افزایش می‌دهد.
در همین حال، پروژه‌های تحقیقاتی مانند آنچه دانشگاه ایلینوی انجام داده‌اند، نشان می‌دهند عامل‌های هوش مصنوعی بدون دانش قبلی، می‌توانند تا 13 درصد آسیب‌پذیری‌ها را با موفقیت کشف و بهره‌برداری کنند. این عدد با ارائه توضیحاتی مختصر به 25 درصد افزایش می‌یابد.
کارشناسان امنیت سایبری هشدار می‌دهند که عامل‌های هوش مصنوعی (AI agents) در آستانه تبدیل شدن به ابزاری قدرتمند برای حملات وسیع سایبری هستند. این عامل‌ها توانایی انجام وظایف پیچیده‌ای همچون زمان‌بندی جلسات یا خرید آنلاین را دارند اما همین توانایی‌ها می‌تواند در خدمت مهاجمان سایبری قرار بگیرد.
هوش مصنوعی که توانایی انجام کارهایی مانند برنامه‌ریزی، استدلال و اجرای وظایف پیچیده را دارد، به‌زودی به تهدیدی بزرگ در فضای امنیت سایبری تبدیل خواهد شد. پژوهشگران هشدار داده‌اند که این عامل‌ها به‌سرعت اهداف آسیب‌پذیر را شناسایی، سیستم‌ها را هک و داده‌های ارزشمند را سرقت می‌کنند.
نقش عامل‌های هوش مصنوعی در تغییر چشم‌انداز حملات سایبری
تا امروز، مجرمان سایبری از این عامل‌ها استفاده گسترده‌ای نکرده‌اند اما مطالعاتی مانند بررسی شرکت Anthropic نشان داده‌اند عامل هوش مصنوعی می‌تواند حملاتی را شبیه‌سازی و اجرا کند. به گفته کارشناسان، استفاده از این فناوری‌ها در دنیای واقعی دیر یا زود اتفاق می‌افتد.
«مارک استاکلی» از شرکت «Malwarebytes» می‌گوید: «فکر می‌کنم نهایتاً در جهانی زندگی خواهیم کرد که اکثر حملات سایبری را عامل‌های هوش مصنوعی انجام می‌دهند.»
در پاسخ به این تهدید، سازمان «Palisade Research» سیستمی به نام «LLM Agent Honeypot» ایجاد کرده است؛ سرورهایی آسیب‌پذیر که در نقش طعمه‌ای برای شناسایی عامل‌های هکر طراحی شده‌اند. هدف این پروژه شناسایی حملات در مراحل اولیه و آماده‌سازی راهکارهای دفاعی است.
این عامل‌ها در مقایسه با ربات‌های ساده کنونی بسیار پیشرفته‌ترند. آنها می‌توانند راه‌های نفوذ را هوشمند بررسی کرده و شناسایی نشوند. از کتبر 2024 (مهر تا آبان 1403) و آغازبه‌کار Honeypot، بیش از 11 میلیون تلاش برای ورود به این سیستم ثبت شده که از‌این‌میان، 8 مورد به احتمال زیاد عامل‌های هوش مصنوعی بوده‌اند و عامل 2 مورد آنها به‌طور قطعی هوش مصنوعی بوده است.
کارشناسان هشدار می‌دهند که حمله با ایجنت‌های هوش مصنوعی می‌تواند به‌سرعت به مرحله‌ای برسد که بدون دخالت انسان، از انتخاب هدف تا اجرای حمله را خودکار انجام دهند. این قابلیت، مقیاس‌پذیری حملات مانند باج‌افزار را به‌شدت افزایش می‌دهد.
در همین حال، پروژه‌های تحقیقاتی مانند آنچه دانشگاه ایلینوی انجام داده‌اند، نشان می‌دهند عامل‌های هوش مصنوعی بدون دانش قبلی، می‌توانند تا 13 درصد آسیب‌پذیری‌ها را با موفقیت کشف و بهره‌برداری کنند. این عدد با ارائه توضیحاتی مختصر به 25 درصد افزایش می‌یابد.
