شرکت Anthropic می‌گوید نخستین حمله سایبری تاریخ که به‌طور کامل با هدایت هوش مصنوعی انجام شده را شناسایی و خنثی شده است. طبق ادعای این شرکت یک گروه وابسته به دولت چین با استفاده از نسخه جیل‌بریک‌شده مدل زبانی Claude تلاش کرده حمله‌ای بزرگ علیه ۳۰ نهاد مختلف را سازمان‌دهی و اجرا کند.
Anthropic می‌گوید این نخستین بار است که یک عملیات سایبری با چنین سطحی از خودکارسازی و با محوریت مستقیم یک مدل هوش مصنوعی انجام می‌شود. این شرکت پس از کشف عملیات، حساب‌های دخیل در حمله را مسدود کرد و به اهداف هکرها نیز اطلاع داد.
حمله سایبری با Claude
حمله مورد بحث در پنج فاز انجام شده است. در ابتدا اپراتور انسانی فقط هدف را تعیین می‌کرد و سپس کلود با استفاده از ابزارهای اسکن، جست‌وجو و تحلیل کد، شناسایی اولیه را پیش می‌برد. فازهای سوم تا پنجم شامل اسکن آسیب‌پذیری‌ها، بهره‌برداری، به‌دست آوردن دسترسی لازم و در نهایت استخراج داده‌ها بود. مسئله اینجاست که Anthropic می‌گوید بین ۸۰ تا ۹۰ درصد این اقدامات بدون دخالت انسان انجام می‌شد.
مهاجمان برای دورزدن محدودیت‌های هوش مصنوعی Claude، آن را متقاعد کرده بودند که در یک پروژه قانونی تست نفوذ مشارکت می‌کند. همچنین مهاجمان وظایف پیچیده را به درخواست‌های کوچک و بی‌خطر تقسیم کردند تا مدل هوش مصنوعی نتواند تصویر کلی از عملیات نفوذ آنها داشته باشد. این تکنیک به کلود اجازه داد بدون آگاهی از ماهیت مخرب عملیات، بخش قابل‌توجهی از حمله را اجرا کند.
شرکت Anthropic پنهان نکرده که طبق تحلیل آنها، این حمله احتمالاً توسط گروه‌های سایبری دولتی چین انجام شده است. مهاجمان چینی 30 نهاد مختلف، از جمله شرکت‌های فناوری، مؤسسات مالی، صنایع شیمیایی و حتی برخی سازمان‌های دولتی را هدف قرار گرفته بودند.
