تهدید واقعی Shadow AI دیگر نشت داده نیست؛ کنترل دسترسی است

چگونه عامل‌های هوش مصنوعی به یکی از بزرگ‌ترین چالش‌های امنیت سازمانی تبدیل شده‌اند؟

در سال‌های اخیر، نگرانی اصلی سازمان‌ها درباره هوش مصنوعی به نشت داده‌ها محدود می‌شد. بسیاری از تیم‌های امنیتی نگران بودند که کارکنان اطلاعات حساس شرکت را در ابزارهای عمومی هوش مصنوعی وارد کنند و در نتیجه، داده‌های محرمانه در معرض افشا قرار گیرد. به همین دلیل، سیاست‌های محدودکننده، راهکارهای جلوگیری از نشت داده (DLP) و حتی مسدودسازی برخی سرویس‌های هوش مصنوعی به بخشی از استراتژی امنیتی سازمان‌ها تبدیل شد.

اما با ظهور عامل‌های هوش مصنوعی (AI Agents)، ماهیت تهدیدات تغییر کرده است. امروز مهم‌ترین سؤال دیگر این نیست که کاربران چه داده‌ای را وارد ابزارهای هوش مصنوعی می‌کنند؛ بلکه این است که چه عامل‌هایی در محیط سازمان فعال هستند، به چه منابعی دسترسی دارند و چه اقداماتی را می‌توانند به‌صورت خودکار انجام دهند.

از ابزارهای کمکی تا هویت‌های عملیاتی

نسل جدید سیستم‌های مبتنی بر هوش مصنوعی صرفاً ابزارهای پاسخ‌گو یا تولیدکننده محتوا نیستند. این سیستم‌ها می‌توانند به سرویس‌های مختلف متصل شوند، داده‌ها را پردازش کنند، دستورات اجرایی صادر کنند و حتی بدون دخالت مستقیم انسان فرآیندهای سازمانی را مدیریت نمایند.

امروزه کارکنان و تیم‌های مختلف سازمانی در حال ساخت و استقرار انواع عامل‌های هوشمند هستند؛ از دستیارهای برنامه‌نویسی و اتوماسیون‌های داخلی گرفته تا عامل‌هایی که به سیستم‌های CRM، مخازن کد، سرویس‌های ابری و پایگاه‌های داده متصل می‌شوند.

همین موضوع باعث شده است که Shadow AI به یکی از مهم‌ترین چالش‌های امنیت سایبری در سازمان‌ها تبدیل شود.

چرا Shadow AI از Shadow IT خطرناک‌تر است؟ در گذشته، یک نرم‌افزار غیرمجاز صرفاً محلی برای ذخیره یا انتقال اطلاعات بود. اما عامل‌های هوش مصنوعی نقش یک «کاربر فعال» را ایفا می‌کنند.

یک عامل هوشمند می‌تواند: به APIهای سازمانی متصل شود. از حساب‌های سرویس و کلیدهای دسترسی استفاده کند. اطلاعات حساس را بازیابی کند. تنظیمات زیرساخت را تغییر دهد. فرایندهای خودکار را اجرا کند. داده‌ها را ایجاد، ویرایش یا حذف نماید.

به بیان دیگر، این عامل‌ها تنها مصرف‌کننده اطلاعات نیستند؛ بلکه توانایی انجام عملیات را نیز دارند. به همین دلیل، هر عامل هوشمند در عمل یک هویت جدید در اکوسیستم سازمان محسوب می‌شود.

مشکل اصلی: دسترسی‌های بیش از حد

بیشتر چارچوب‌های امنیتی فعلی برای کاربران انسانی طراحی شده‌اند. در حالی که عامل‌های هوش مصنوعی رفتارهایی پویا و غیرقابل پیش‌بینی دارند.

برای مثال، یک عامل مسئول مدیریت رخدادهای عملیاتی ممکن است در یک فرآیند واحد:

لاگ‌ها را بررسی کند؛ وضعیت زیرساخت را ارزیابی نماید؛ تنظیمات را تغییر دهد؛ تیکت پشتیبانی ایجاد کند؛ و تیم‌های مرتبط را مطلع سازد.

برای جلوگیری از اختلال در عملکرد این عامل‌ها، توسعه‌دهندگان معمولاً سطح دسترسی گسترده‌ای در اختیار آن‌ها قرار می‌دهند. نتیجه این رویکرد، ایجاد مجموعه‌ای از هویت‌های ماشینی با مجوزهای گسترده و اغلب بدون نظارت است.

در بسیاری از موارد، عامل‌ها از همان سطح دسترسی سازنده خود استفاده می‌کنند و حتی پس از تغییر نقش یا خروج مالک اولیه از سازمان نیز فعال باقی می‌مانند.

سازمان‌ها باید چه چیزی را شناسایی کنند؟ مدیریت Shadow AI تنها با شناسایی ابزارهای هوش مصنوعی امکان‌پذیر نیست. سازمان‌ها باید بتوانند تصویری کامل از تمامی عامل‌های فعال و دسترسی‌های آن‌ها داشته باشند.

برخی از مهم‌ترین پرسش‌هایی که تیم‌های امنیتی باید پاسخ دهند عبارت‌اند از:

۱. عامل‌ها در چه محیط‌هایی ایجاد یا نصب شده‌اند؟

پلتفرم‌های هوش مصنوعی، ابزارهای توسعه، سرویس‌های SaaS، افزونه‌های مرورگر و حتی نرم‌افزارهای داخلی می‌توانند میزبان عامل‌های هوشمند باشند.

۲. مالک هر عامل چه کسی است؟

هر عامل باید دارای مالک مشخص و مسئولیت‌پذیر باشد. نبود مالکیت مشخص، مدیریت ریسک را تقریباً غیرممکن می‌کند.

۳. عامل به چه منابعی دسترسی دارد؟

دسترسی به پایگاه‌های داده، مخازن کد، سامانه‌های ابری و ابزارهای ارتباطی باید به‌طور دقیق مستندسازی و پایش شود.

۴. از چه هویت‌ها و اعتبارنامه‌هایی استفاده می‌کند؟

حساب‌های سرویس، توکن‌های OAuth، کلیدهای API و نقش‌های IAM باید به‌صورت مستمر مورد بازبینی قرار گیرند.

۵. رفتار واقعی عامل چیست؟

تنها دانستن تنظیمات کافی نیست؛ باید مشخص شود عامل در عمل چه اقداماتی انجام داده و آیا از محدوده مأموریت خود فراتر رفته است یا خیر.

۶. آیا عامل هنوز مورد استفاده قرار می‌گیرد؟

بسیاری از عامل‌های ایجادشده هرگز استفاده نمی‌شوند اما دسترسی‌های آن‌ها همچنان فعال باقی می‌ماند. این موضوع یکی از رایج‌ترین نقاط ضعف امنیتی در محیط‌های مدرن است.

مسیر بلوغ امنیت عامل‌های هوش مصنوعی

سازمان‌ها برای مدیریت ریسک‌های ناشی از Shadow AI باید چهار مرحله را طی کنند: کشف و شناسایی تمامی عامل‌های فعال تعیین مالکیت و جمع‌آوری اطلاعات زمینه‌ای ارزیابی دسترسی‌ها و اعتبارنامه‌ها اعمال کنترل‌های خودکار برای حذف دسترسی‌های غیرضروری و مدیریت چرخه عمر عامل‌ها

هدف از این اقدامات، جلوگیری از استفاده از هوش مصنوعی نیست. تجربه نشان داده است که ممنوعیت کامل، تنها باعث انتقال استفاده از این فناوری به محیط‌های غیررسمی و خارج از دید تیم‌های امنیتی می‌شود.

رویکرد موفق، «استفاده کنترل‌شده و مدیریت‌شده» از هوش مصنوعی است؛ رویکردی که در آن نوآوری و امنیت در کنار یکدیگر قرار می‌گیرند.

با گسترش عامل‌های هوش مصنوعی، مفهوم Shadow AI وارد مرحله جدیدی شده است. تهدید اصلی دیگر صرفاً نشت داده نیست؛ بلکه دسترسی‌هایی است که سازمان‌ها به عامل‌های هوشمند اعطا می‌کنند.

در آینده نزدیک، سازمان‌هایی موفق‌تر خواهند بود که عامل‌های هوش مصنوعی را همانند کاربران انسانی مدیریت کنند؛ با مالکیت مشخص، حداقل سطح دسترسی، نظارت مستمر و مدیریت کامل چرخه عمر. در نهایت، امنیت مؤثر در عصر هوش مصنوعی یعنی کنترل هوشمندانه دسترسی‌ها، نه محدود کردن فناوری.