عصر حملات سایبری جدید با ایجنت‌های هوش مصنوعی در راه است

آغاز یگان حملات سایبری شده توسط عاملهای هوش مصنوعی: تهدیدی نوین برای امنیت دیجیتال

آغاز یگان حملات سایبری شده توسط عاملهای هوش مصنوعی تهدیدی نوین برای امنیت دیجیتال, کارشناسان امنیت سایبری هشدار میدهند که عاملهای هوش مصنوعی (AI ) در حال تبدیل شدن به ابزارهای قدرتمند برای اجرای حملات گسترده و خودکار در فضای مجازی هستند.

اگرچه این عاملها برای انجام تسکهای پیچیده مانند برنامهریزی جلسات، خرید آنلاین و استدلال منطقی طراحی شدهاند، اما همین قابلیتها میتواند در دست مهارمان سایبری به سلاحهایی مخرب تبدیل گردد. تحول چشمانداز تهدیدات با ورود ایجنتهای هوشمند هوش مصنوعی عامل ( AI) دارای توانایی برنامهریزی، استدلال و اجرای ماموریتهای چندمرحلهای بدون نیاز به نظارت مداوم انسانی است.

پژوهشگران امنیتی پیشبینی میکنند که این سیستمها بهزودی قادر خواهند بود تا اهداف آسیبپذیر را بهصورت خودکار شناسایی، به سیستمها نفوذ کنند و دادههای حساس را استخراج نمایند. این موضوع مرزهای میان اتوماسیون مفید و تهدید امنیتی را به سرعت محو میکند.

تا کنون شاهد سوءاستفاده گسترده مجرمان از این تکنولوژی نبودهایم، با این حال شرکتهای پیشرو همچون در مطالعات خود ثابت کردهاند که عاملهای هوش مصنوعی میتوانند سناریوهای حمله را شبیهسازی و اجرا نمایند. متخصصان امنیت بر این باورند که بکارگیری مخرب این فناوریها در دنیای واقعی مسأله زمان است.

مارک استاکلی از شرکت بیان میدارد من فکر میکنم در نهایت در جهانی زندگی خواهیم کرد که اکثریت حملات سایبری توسط عاملهای هوش مصنوعی انجام میپذیرند. این دیدگاه نشاندهنده تغییر پارادایم در مقیاس و سرعت تهدیدات آینده است. در مواجهه با این چالش، تیم تحقیقاتی سیستمی با نام LLM توسعه داده است. این سامانه شامل سرورهای آسیبپذیر است که بهمنزلۀ طعمه برای شناسایی و ردیابی عاملهای هکر هوشمند عمل میکنند.

هدف اصلی، کشف حملات در مراحل اولیه و تدوین استراتژیهای دفاعی پیشگیرانه میباشد. برخلاف رباتهای سنتی، این عاملهای پیشرفته قادرند مسیرهای نفوذ را بهصورت هوشمندکا تجزیهوتحلیل کنند، از سیستمهای تشخیص نفوذ پنهان بمانند و رفتار خود را با محیط مقصد سازگار سازند.

از تاریخ اکتبر ۲۰۲۴ (مهر تا آبان ۱۴۰۳) و راهاندازی سیستم، بیش از ۱۱ میلیون تلاش ورود ثبت شده که برآوردها حاکی از آن است ۸ مورد از این تلاشها با احتمال بالا ازسوی عاملهای هوش مصنوعی و ۲ مورد بهصورت قطعی توسط ایجنتهای هوشمند انجام گرفته است.

خطر خودکمکی کامل چرخه حمله متخصصان هشدار میدهند که مقابله با ایجنتهای هوش مصنوعی میتواند به مرحلۀای برسد که در آن کل چرخه حمله — از انتخاب هدف تا استثمار نهایی — بدون هیچگونه دخالت انسانی و بهصورت کاملاً خودکار اجرا گردد. این ویژگی، مقیاسپذیری حملات از جنس باجافزار و کلاهبرداریهای پیچیده را بهصورتی بیسابقه افزایش خواهد داد. پژوهشهای دانشگاه ایلینوی نیز نتایج نگرانکنندهای را آشکار ساخته است.

براساس این مطالعات، عاملهای هوش مصنوعی حتی بدون دانش پیشین دربارۀ آسیبپذیریها، میتوانند تا ۱۳ درصد از آنها را با موفقیت کشف و استثمار نمایند. همچنین، با ارائه توضیحات مختصر در مورد ماهیت آسیبپذیری، نرخ موفقیت به ۲۵ درصد ارتقا مییابد که نشاندهنده قدرت یادگیری و تطبیق بالا در این سیستمهاست.