حملات سایبری مبتنی بر هوش مصنوعی در سازمان ها؛ تغییر واقعی یا اغراق؟

هوش مصنوعی در سال‌های اخیر از موضوع کنفرانس‌ها به ابزار روزمره تبدیل شده، و این فقط درباره‌ی مدافعان صدق نمی‌کند. مهاجم‌ها هم از آن استفاده می‌کنند. اما بین «استفاده می‌کنند» و «همه‌ی حمله‌ها را با AI انجام می‌دهند» فاصله‌ی زیادی هست، و بخش بزرگی از بحث‌های امروز همین‌جا گم می‌شود. بعضی تیترها مهاجمی همه‌چیزدان را تصویر می‌کنند که شواهدی برایش نیست، و بعضی دیگر موضوع را کلاً دست‌کم می‌گیرند. برداشت منطقی‌تر این است که AI فعلاً بیشتر شتاب‌دهنده است تا ابداع‌کننده. فیشینگ، کلاهبرداری و شناسایی هدف سریع‌تر، ارزان‌تر و صیقل‌خورده‌تر می‌شوند. اگر دنبال اطلاعات رسمی درباره‌ی راهکارهای امنیتی کسپرسکی برای سازمان هستید، صفحه‌ی گروه آتنا نماینده رسمی کسپرسکی در ایران نقطه‌ی شروع مناسبی است. در ادامه سعی می‌کنیم مرز بین ریسک مستند و سناریوی محتمل را روشن نگه داریم.

حمله‌ی مبتنی بر هوش مصنوعی یعنی چه؟

به حمله‌ای می‌گویند که در یک یا چند مرحله‌اش، مثل نوشتن پیام، شناسایی هدف، تولید محتوای جعلی یا تحلیل اطلاعات، از مدل‌های هوش مصنوعی کمک گرفته شده باشد. این با «حمله‌ای که کاملاً توسط AI هدایت می‌شود» فرق دارد. در بیشتر نمونه‌های شناخته‌شده، انسان هنوز در حلقه است و AI بخشی از کار را سریع‌تر یا بهتر انجام می‌دهد. دو معنای دیگر هم گاهی با این عبارت قاطی می‌شود. یکی حمله با کمک AI، که موضوع اصلی این مقاله است. دیگری حمله علیه خود سامانه‌های AI، مثل دست‌کاری ورودی مدل یا سرقت داده‌های آن. هر دو واقعی‌اند ولی راه مقابله‌شان یکی نیست. برای آشنایی پایه‌ای با مفاهیم امنیتی به زبان ساده، محتوای کسپرسکی فارسی می‌تواند نقطه‌ی شروع باشد، هرچند برای تصمیم‌های فنی باید سراغ مستندات رسمی رفت.

حملات سایبری و راهکار های گروه آتنا

فیشینگ؛ جایی که تغییر از همه‌جا ملموس‌تر است

سال‌ها یکی از راه‌های ساده‌ی تشخیص فیشینگ، غلط‌های املایی و جمله‌بندی عجیب بود. مدل‌های زبانی این نشانه را تضعیف کرده‌اند. نوشتن یک ایمیل روان و رسمی، به زبان‌های مختلف و با لحن مناسب، دیگر مهارت خاصی نمی‌خواهد. پس معیار «متن بد نوشته شده» دیگر قابل اتکا نیست. نکته‌ی عملی این است که ایمیل خوش‌نوشت لزوماً قابل‌اعتماد نیست. باید به زمینه نگاه کرد. این درخواست انتظار می‌رفت؟ فرستنده از مسیر معمول تماس گرفته؟ چیزی عجله‌ی غیرعادی دارد، مثل پرداخت فوری یا تغییر شماره‌حساب؟ همین سؤال‌های ساده هنوز مؤثرترین فیلترند. و فیشینگ موفق معمولاً فقط شروع ماجراست. بعدش اعتبارنامه‌ای لو می‌رود یا برنامه‌ای روی دستگاهی اجرا می‌شود. اینجا لایه‌ی دیده‌بانی نقطه‌ی پایانی معنا پیدا می‌کند. راهکارهایی مثل EDR Foundation کسپرسکی در دسته‌ی ابزارهای EDR قرار می‌گیرند که به‌جای تکیه‌ی صرف به ظاهر ایمیل، رفتار روی دستگاه را ثبت و بررسی می‌کنند. اینکه هر نسخه دقیقاً چه قابلیت‌هایی دارد و برای سناریوی شما کافی است یا نه، باید از مستندات رسمی روشن شود، نه از برداشت کلی.

مهندسی اجتماعی، جعل هویت و Deepfake

مهندسی اجتماعی یعنی فریب آدم‌ها، نه سیستم‌ها. AI چند چیز را در این حوزه ارزان‌تر کرده: تحلیل اطلاعات عمومی یک فرد برای ساختن پیام شخصی، تقلید سبک نوشتاری، و تولید محتوای صوتی و تصویری جعلی. فرض کنید مهاجم می‌خواهد خودش را جای مدیر مالی جا بزند. قبلاً باید زمان زیادی صرف شناسایی می‌کرد. حالا بخشی از آن را می‌شود سریع‌تر انجام داد. Deepfake یعنی صدا یا تصویر ساختگی که شبیه یک آدم واقعی است.

نمونه‌هایی از سوءاستفاده‌ی صوتی و تصویری در گزارش‌های عمومی آمده، ولی نباید از آن‌ها نتیجه گرفت که هر تماس یا ویدیوی مشکوکی جعلی است، یا که این روش در سطح گسترده رایج شده. میزان شیوع واقعی‌اش را نمی‌توان با قطعیت گفت. چیزی که می‌شود گفت این است که «صدا و تصویر آشنا» دیگر برای احراز هویت کافی نیست. نتیجه‌ی عملی ساده است. هر درخواست حساس مالی یا دسترسی، حتی اگر از زبان مدیر ارشد باشد، باید با کانال دوم تأیید شود. تماس برگشتی با شماره‌ی ثبت‌شده، یک رمز یا عبارت از پیش توافق‌شده، یا تأیید از طریق سامانه‌ی رسمی. اینجا زحمت کمی لازم است ولی جلوی خسارت بزرگ را می‌گیرد. و این قاعده باید برای همه یکسان باشد، حتی برای مدیرعامل، وگرنه استثنا می‌شود نقطه‌ی ورود.

خودکارسازی، مقیاس و شخصی‌سازی

بخش دیگر ماجرا سرعت و حجم است. جمع‌آوری اطلاعات از منابع باز، دسته‌بندی اهداف، نوشتن متن‌های متفاوت برای افراد مختلف و حتی کمک در نوشتن بخشی از کد، همگی کارهایی‌اند که AI می‌تواند سریع‌تر کند. نتیجه این است که حمله‌ی شخصی‌سازی‌شده، که قبلاً فقط برای اهداف مهم صرف می‌کرد، حالا برای تعداد بیشتری ممکن می‌شود. اینجا هم باید محتاط بود. گزارش‌ها بیشتر از افزایش بهره‌وری مهاجم حرف می‌زنند تا ظهور توانایی کاملاً تازه. یک مهاجم ضعیف ناگهان ابرمهاجم نمی‌شود. اما مهاجم متوسط می‌تواند کارش را سریع‌تر و در مقیاس بزرگ‌تر انجام دهد. و این یعنی کیفیت متوسط حمله‌ها بالا می‌رود و فاصله‌ی بین «حمله‌ی انبوه» و «حمله‌ی هدفمند» کمتر می‌شود.

گروه آتنا نماینده کسپرسکی برای محافظت از حملات هوش مصنوعی

خطر از داخل؛ وقتی کارکنان ابزار AI استفاده می‌کنند

همه‌ی ریسک از بیرون نیست. کارمندی که برای خلاصه‌کردن یک قرارداد، آن را در یک ابزار عمومی AI می‌چسباند، یا برنامه‌نویسی که بخشی از کد اختصاصی را برای رفع اشکال وارد می‌کند، ممکن است بی‌خبر اطلاعات حساس را از سازمان خارج کند. نیت بدی در کار نیست، ولی داده بیرون رفته است. اینکه ابزار چطور داده‌ها را نگه می‌دارد، استفاده می‌کند یا حذف می‌کند، به سرویس و شرایط استفاده‌اش بستگی دارد و باید از خود ارائه‌دهنده پرسید. مشکل اصلی غالباً بی‌اطلاعی است، نه سوءنیت. اگر سازمان هیچ راهنمایی نداده باشد، کارمند خودش تصمیم می‌گیرد، و تصمیمش معمولاً بر اساس راحتی است. بخشی از ماجرا هم «هوش مصنوعی سایه‌ای» است: ابزارهایی که کارکنان بدون اطلاع تیم امنیت استفاده می‌کنند و کسی نمی‌داند چه داده‌ای به آن‌ها رفته.

تهدیدهای مرتبط با خود سامانه‌های AI

سازمان‌هایی که خودشان از مدل‌ها یا دستیارهای هوشمند استفاده می‌کنند، سطح حمله‌ی تازه‌ای هم اضافه کرده‌اند. چند مثال شناخته‌شده در ادبیات امنیتی هست. تزریق دستور (Prompt Injection) یعنی متنی که در ورودی یا در محتوای بازیابی‌شده پنهان شده و رفتار مدل را عوض می‌کند. نشت اطلاعات از طریق پاسخ‌های مدل. دسترسی بیش از حد دستیارهای متصل به سیستم‌های داخلی. و مسموم‌سازی داده‌های آموزشی یا مرجع. این‌ها دسته‌بندی‌های شناخته‌شده‌اند، ولی میزان وقوعشان در دنیای واقعی و شدت آن‌ها در هر سازمان فرق می‌کند. نکته‌ی مهم این است که اگر به یک دستیار هوشمند دسترسی به ایمیل، فایل‌ها و سامانه‌ها بدهید، آن دستیار خودش یک حساب با مجوز است. همان اصل حداقل دسترسی که برای کارمند اعمال می‌کنید، برای این ابزار هم لازم است.

نقش تحلیل رفتار و پایش

وقتی متن فیشینگ یا صدای جعلی از ظاهر قابل‌تشخیص نباشد، تشخیص به رفتار منتقل می‌شود. ورود از مکان یا ساعت غیرعادی، دسترسی ناگهانی به منابعی که کاربر معمولاً سراغشان نمی‌رود، انتقال حجم زیاد داده، یا ایجاد قواعد پنهان در صندوق ایمیل، همگی نشانه‌اند. هیچ‌کدام به‌تنهایی قطعی نیست، ولی الگو می‌سازد. نکته‌ی عملی این است که پایش رفتاری به خط پایه نیاز دارد. باید بدانید رفتار عادی چیست تا انحراف را ببینید. و هشدارها باید به دست کسی برسد که بتواند بررسی‌شان کند. ابزار بدون تیم، فقط انباشتن هشدار است.

سیاست استفاده‌ی امن از ابزارهای AI

سیاست خوب کوتاه و مشخص است. چه ابزارهایی مجازند؟ چه نوع داده‌ای را هیچ‌وقت نباید وارد کرد، مثل اطلاعات مشتریان، کد منبع، اسناد محرمانه و اعتبارنامه‌ها؟ برای کارهای حساس، آیا نسخه‌ی سازمانی با تعهدات مشخص حفاظت از داده لازم است؟ و اگر کسی اشتباه کرد، به چه کسی گزارش بدهد؟ بخش آخر مهم است. کارمندی که می‌ترسد تنبیه شود، اشتباهش را پنهان می‌کند. فرهنگ گزارش‌دهی بدون سرزنش، زمان واکنش را کوتاه می‌کند. و سیاست را به‌روز نگه دارید، چون ابزارها سریع عوض می‌شوند و سندی که یک سال پیش نوشته شده شاید دیگر به واقعیت نخورد.

محصولات کسپرسکی در ایران با گروه آتنا

آموزش کارکنان

آموزش باید با تغییر تهدید عوض شود. قدیم می‌گفتیم دنبال غلط املایی بگردید. حالا باید بگوییم دنبال زمینه و رفتار بگردید. چرا این درخواست اکنون آمده؟ آیا مسیر معمول رعایت شده؟ آیا فشار زمانی غیرعادی هست؟ چند نکته‌ی عملی کمک می‌کند. شبیه‌سازی‌های دوره‌ای که واقعی به نظر برسند. مثال‌های بومی از خود سازمان، نه نمونه‌های عمومی. و تمرین واکنش به درخواست‌های مشکوک مالی که از «مدیر» می‌آید. بیشتر از همه، به کارکنان اجازه بدهید بگویند «این را باید دوباره تأیید کنم» بدون اینکه احساس کنند مزاحم شده‌اند. بدون این اجازه، هر آموزشی بی‌اثر است.

برنامه‌ی آمادگی سازمانی

تهدید نوظهور یعنی چیزی که هنوز کاملاً نمی‌شناسیم. پس برنامه‌ی آمادگی باید انعطاف‌پذیر باشد، نه وابسته به یک سناریوی مشخص. اول، دارایی‌ها و داده‌های حساس را بشناسید. دوم، فرایندهای تأیید دومرحله‌ای برای تصمیم‌های پرریسک مالی و دسترسی تعریف کنید. سوم، سیاست استفاده از AI را بنویسید و درباره‌اش آموزش بدهید. چهارم، پایش و تحلیل رفتار را تقویت کنید. و بعد، سناریوها را تمرین کنید. «اگر کسی با صدای مدیرعامل درخواست انتقال وجه کند چه می‌کنیم؟» یا «اگر کارمندی داده‌ی حساس را در ابزار بیرونی گذاشته باشد؟» جواب‌های روی کاغذ تا وقتی تمرین نشده‌اند، معمولاً در عمل کار نمی‌کنند. سالی یک یا دو بار مرور، کفایت می‌کند.

جمع‌بندی

هوش مصنوعی تهدید تازه‌ای نیست که همه‌چیز را عوض کند، ولی شتاب‌دهنده‌ای است که کیفیت و مقیاس حمله‌های آشنا را بالا می‌برد. جواب هم نه ترس است نه بی‌تفاوتی. مدیریت دسترسی، تأیید چندکاناله، پایش رفتاری، سیاست روشن استفاده از ابزارها و آموزشی که با واقعیت روز هماهنگ باشد، همان پایه‌هایی است که از قبل هم لازم بود. فقط حالا کمبودشان زودتر خودش را نشان می‌دهد.

اشتراک گذاری و حمایت

دیدگاهتان را بنویسید