تنظیمات نمایش
دسته
امنیت در عصر AI، مدلهای زبانی و حملات adversarial
۱۳ مقاله در این دسته
Pentera با ادغام قابلیتهای اعتبارسنجی امنیتی در گردشکارهای هوش مصنوعی، تصمیمگیری تیمهای امنیتی را از اولویتبندی مبتنی بر ریسک به شناسایی و اصلاح مسیرهای حملهای که واقعاً قابل بهرهبرداری هستند، ارتقا میدهد.
پژوهشی جدید نشان میدهد حدود دو سوم اپلیکیشنهای هوش مصنوعی iOS کلیدها و توکنهای API خود را افشا میکنند و در معرض سوءاستفاده مهاجمان قرار دارند.
این مقاله نشان میدهد که چگونه NDR با تکیه بر شواهد شبکه و تحلیل هوشمند، به شناسایی، بررسی و مهار مؤثر تهدیدات سایبری در عصر هوش مصنوعی کمک میکند.
یک Skill جعلی با عبور از اسکنرهای امنیتی، ضعف جدی در امنیت و مدل اعتماد Agentهای هوش مصنوعی را آشکار کرد.
مهاجمان میتوانند بدون حمله مستقیم به هوش مصنوعی، با سوءاستفاده از آسیبپذیریها و دسترسیهای زیرساختهای قدیمی، کنترل کامل عاملهای هوش مصنوعی را به دست بگیرند.
تهدید اصلی Shadow AI از نشت داده به دسترسیهای کنترلنشده عاملهای هوش مصنوعی به سیستمهای سازمانی تغییر کرده است.
تیم تحقیقاتی Lakera در ۵ مارس ۲۰۲۶، یک کلاس جدید از حملات علیه AI agents را به نمایش گذاشت: memory injection. در این حملات، مهاجم محتوای malicious در «long-term memory» یک agent جاسازی میکند که در sessionsهای آینده، behavior agent را manipulate میکند.
محققان امنیتی در ۱۵ آوریل ۲۰۲۶ یک تکنیک jailbreak جدید منتشر کردند که با تنها یک خط کد، میتواند safety guardrails در ۱۱ مدل AI بزرگ شامل GPT-4، Claude، Gemini، و Llama را دور بزند. این تکنیک با نام «Echo Chamber» شناخته شده و از وضعیت ambiguity مدلها در context-switching سوءاستفاده میکند.
گزارش ۱۰ آوریل ۲۰۲۶ از Google Threat Intelligence Group (TAG) جزئیات استفادهی بازیگران مرتبط با ایران از LLM ها — از جمله Gemini خود گوگل — برای تسریع عملیات حمله را منتشر کرد. کاربردها شامل reconnaissance، vulnerability research، توسعهی phishing payloads، و translation برای کارزارهای multilingual است.
یک آسیبپذیری بحرانی prompt injection در GitHub Copilot — با شناسهی CVE-2025-53773 — به مهاجمان اجازه میدهد از طریق injection در comments فایلهای source code، اجرای کد از راه دور را روی workstation توسعهدهنده بهدست آورند. این یکی از اولین RCE های مستندشده در یک AI coding tool است.
FBI در ۱۰ فوریه ۲۰۲۶ هشدار داد که کلاهبرداری video conference با استفاده از deepfake، از یک عملیات one-off به یک ابزار industrial-scale fraud تبدیل شده است. در سهماههی اول ۲۰۲۶، حداقل ۱۲ شرکت بزرگ گزارشهای جداگانه ارسال کردند که قربانی این روش شدهاند، با مجموع زیان بیش از ۲۸۰ میلیون دلار.
گزارش جامع Q1 2026 از Pillar Security نشان میدهد بیش از ۲۰ کارزار بدافزار جداگانه، ابزارهای AI و «vibe-coding» (مانند Cursor، Windsurf، Lovable) را هدف قرار دادهاند. این رشد ۴ برابر نسبت به Q4 2025 است و نشان میدهد ecosystem AI developers یک target قطعی برای جرایم سایبری شده.
