انتشار جزئیات اولین حمله ای که توسط هوش مصنوعی انجام شد
سایت امن: شرکت آنتروپیک اولین حمله سایبری جاسوسی ای را گزارش کرده که حدودا بدون دخالت انسان و توسط هوش مصنوعی اجرا شده است. در این عملیات، هکرهای وابسته به دولت چین توانستند با فریب دادن کلود، ۳۰ شرکت و سازمان جهانی را هدف قرار دهند.
به گزارش سایت امن به نقل از ایسنا، در دنیای امنیت سایبری، نقطه عطفی رخداده است. شرکت آنتروپیک، سازنده ی هوش مصنوعی کلود، اعلام نمود که اولین حمله سایبری جاسوسی را که حدودا بدون دخالت انسان و توسط هوش مصنوعی اجرا شده است، شناسایی و خنثی کرده است. این حمله که در ماه سپتامبر ۲۰۲۵ (شهریور ۱۴۰۴) آغاز شد، نشان دهنده تغییر بنیادین در روش استفاده مهاجمان از فناوری هوش مصنوعی است.
چه اتفاقی رخ داد؟
طبق گزارش پخش شده در وب سایت شرکت آنتروپیک، یک گروه هکری وابسته به دولت چین که آنتروپیک آنرا GTG-1002 نامیده، ابزار Claude Code را دستکاری کرد و توانست به حدود ۳۰ هدف جهانی حمله کند. اهداف این حملات شامل شرکت های بزرگ فناوری، مؤسسات مالی، شرکت های تولید مواد شیمیایی و سازمان های دولتی بودند.
آن چه این حمله را متمایز می کند، میزان استقلال هوش مصنوعی در اجرای آنست. برعکس اقدامات مخرب سایبری سنتی که نیاز به نظارت مداوم انسانی دارند، در این عملیات هوش مصنوعی توانست ۸۰ تا ۹۰ درصد کارهای عملیاتی را بطور مستقل انجام دهد.
حمله چه طور انجام شد؟
بر طبق گزارش پخش شده، حمله در شش مرحله اصلی پیش رفت:
مرحله ۱: انتخاب هدف
اپراتورهای انسانی اهداف را مشخص کردند و سپس هوش مصنوعی را فریب دادند که گمان کند قسمتی از یک شرکت امنیت سایبری معتبر است و درحال انجام تست های دفاعی است. این «مهندسی اجتماعی» روی خود هوش مصنوعی، به مهاجمان اجازه داد تا مدتی بدون شناسایی عمل کنند.
مرحله ۲: شناسایی و نقشه برداری
کلود بطور خودکار زیرساخت های هدف را بررسی کرد، سرویسهای داخلی را کشف کرد و صدمه پذیری های احتمالی را شناسایی کرد. این عملیات در آن واحد روی چندین هدف انجام می شد.
مرحله ۳: کشف و اعتبارسنجی صدمه پذیری ها
هوش مصنوعی بطور مستقل کدهای حمله را تولید کرد، آنها را آزمایش کرد و قابلیت استفاده آنها را تأیید کرد. در این مرحله، فقط جهت تصمیم نهائی به تأیید انسانی نیاز بود.
مرحله ۴: جمع آوری اطلاعات ورود و حرکت جانبی
بعد از دریافت مجوز از اپراتورهای انسانی، کلود بطور سیستماتیک رمزهای عبور را جمع آوری کرد، آنها را روی سیستم های مختلف آزمایش کرد و نقشه کاملی از دسترسی های داخلی شبکه را ترسیم کرد.
مرحله ۵: استخراج داده و اطلاعات
در این مرحله، هوش مصنوعی بیشترین استقلال را داشت. داده ها را استخراج کرد، آنها را تحلیل و بررسی کرد و برمبنای ارزش اطلاعاتی دسته بندی کرد - همه این ها بدون راهنمائی دقیق انسانی.
مرحله ۶: مستندسازی
کلود بطور کامل خودکار، اسناد جامعی از حمله تولید کرد که شامل سرویسهای کشف شده، رمزهای عبور به دست آمده و روشهای فنی استفاده شده بود.
محدودیت های هوش مصنوعی در حمله
یکی از جنبه های تعجب آور این حمله، سرعت آن بود. در اوج فعالیت، هوش مصنوعی هزاران درخواست را انجام می داد و چندین عملیات در هر ثانیه اجرا می کرد؛ سرعتی که برای هکرهای انسانی نا ممکن است.
اما با توجه به این توانایی های قابل توجه، یک نقطه ضعف مهم هم مشاهده شد: کلود گاهی اطلاعات نادرست تولید می کرد (هالوسیناسیون). مثلا ادعا می کرد رمزهای عبوری به دست آورده که کار نمی کردند، یا اطلاعات محرمانه ای کشف کرده که در حقیقت عمومی بودند. این مشکل همچنان مانعی برای اقدامات مخرب سایبری کاملا خودکار است.
واکنش آنتروپیک
بعد از کشف این فعالیت مشکوک، آنتروپیک فوراً اقدامات زیر را انجام داد:
- حساب های کاربری مرتبط را مسدود کرد
- نهادهای صدمه دیده را آگاه کرد
- با مقامات مربوطه هماهنگی کرد
- سیستم های تشخیص خویش را ارتقا داد تا الگوهای جدید تهدید را بهتر شناسایی کند
شرکت همینطور پروتوتایپ هایی برای تشخیص پیشگیرانه اقدامات مخرب سایبری خودکار توسعه داده است.
پیامدهای امنیت سایبری
این حمله نشان میدهد که موانع انجام اقدامات مخرب سایبری پیچیده بطور قابل توجهی کم شده است. گروههای کم تجربه تر و با منابع محدودتر حالا می توانند حملاتی در این مقیاس انجام دهند.
این حمله حتی از نتایج "vibe hacking" که آنتروپیک در تابستان گزارش داده بود، پیشرفته تر است. در آن عملیات ها، انسان ها هنوز بطور فعال در هدایت حملات نقش داشتند، اما در این مورد، دخالت انسانی بسیار کمتر بود.
در این راستا، آنتروپیک سفارش می کند:
- آزمایش با هوش مصنوعی برای دفاع: تیم های امنیتی باید با استفاده از هوش مصنوعی در زمینه هایی مانند خودکار سازی مرکز عملیات امنیتی (SOC)، تشخیص تهدید، ارزیابی صدمه پذیری و پاسخ به حوادث آزمایش نمایند.
- سرمایه گذاری در حفاظ های امنیتی: توسعه دهندگان باید به سرمایه گذاری در ایمن سازی پلت فرم های هوش مصنوعی ادامه دهند.
- اشتراک اطلاعات تهدید: به اشتراک گذاری اطلاعات در صنعت، بهبود روش های تشخیص و کنترل های ایمنی قوی تر، حیاتی تر از همیشه است.
چرا هوش مصنوعی را توسعه بدهیم؟
این سؤال مهم مطرح می شود: اگر مدلهای هوش مصنوعی می توانند در این مقیاس برای اقدامات مخرب سایبری سو استفاده شوند، چرا باید به توسعه و انتشار آنها ادامه دهیم؟
پاسخ آنتروپیک این است که همان توانایی هایی که اجازه استفاده از کلود در این حملات را می دهند، آنرا برای دفاع سایبری هم حیاتی می کنند. وقتی اقدامات مخرب سایبری پیچیده بطور اجتناب ناپذیری رخ می دهند، هدف این است که کلود - که حفاظ های قوی در آن تعبیه شده - به متخصصان امنیت سایبری کمک نماید تا حملات را شناسایی، مختل و برای نسخه های آینده آن آماده شوند.
براستی، تیم اطلاعات تهدید آنتروپیک از کلود برای تحلیل و بررسی حجم عظیم داده های ساخته شده در همین پژوهش بهره برد.
این حمله نخستین مورد مستند شده از دسترسی موفق هوش مصنوعی عامل (agentic AI) به اهداف با ارزش بالا برای جمع آوری اطلاعات است. با عنایت به سرعت پیشرفت این توانایی ها، انتظار می رود چنین حملاتی در آینده مؤثرتر شوند.
آنتروپیک اعلام نموده که به انتشار گزارش هایی مانند این بطور منظم ادامه خواهد داد و در مورد تهدیدهایی که پیدا می کند شفاف خواهد بود. این شفافیت جهت کمک به صنعت، دولت ها و جامعه تحقیقاتی گسترده تر در تقویت دفاع های سایبری خود ضروریست.
گزارش فنی مورد اشاره در وب سایت این شرکت بوسیله این لینک دردسترس است که قسمتی از تلاشهای آنتروپیک برای شفافیت در مورد تهدیدهای امنیت سایبری در رابطه با هوش مصنوعی را نشان میدهد.
خلاصه اینکه داده ها را استخراج کرد، آنها را تجزیه و تحلیل کرد و برمبنای ارزش اطلاعاتی دسته بندی کرد - همه این ها بدون راهنمائی دقیق انسانی. - اشتراک اطلاعات تهدید: به اشتراک گذاری اطلاعات در صنعت، بهبود روش های تشخیص و کنترل های ایمنی قوی تر، حیاتی تر از همیشه است. با توجه به سرعت پیشرفت این قابلیت ها، انتظار می رود چنین حملاتی در آینده مؤثرتر شوند.
اگر پسندیدید لاک کنید:
(1)
(0)
تازه ترین مطالب مرتبط
نظرات بینندگان سایت امن در مورد این مطلب