iفین تک (ای فین تک - آی فین تک)

نقطه عطفی در امنیت GenAI

در بحبوحه افزایش تهدیدات سایبری ناشی از هوش مصنوعی مولد (Generative AI)، شرکت‌های فعال در حوزه امنیت سایبری با چالش‌هایی بی‌سابقه روبه‌رو شده‌اند. به گزارش iفین‌تک، در کنفرانس امنیتی معتبر RSA Conference 2025 که در سان‌فرانسیسکو برگزار شد، شرکت Adversa AI به‌عنوان برنده جایزه "نوآوری در امنیت GenAI" معرفی شد؛ افتخاری که جایگاه این استارت‌آپ نوظهور را در میان بزرگان امنیت سایبری جهانی تثبیت کرد.

معرفی Adversa AI: تمرکز بر دفاع در عصر هوش مصنوعی

Adversa AI یک شرکت امنیتی مستقر در تل‌آویو است که تمرکز خود را بر تحلیل، شناسایی و جلوگیری از حملات adversarial به سیستم‌های هوش مصنوعی معطوف کرده است. از سال 2021، این شرکت با هدف ارتقاء ایمنی سیستم‌های مبتنی بر یادگیری ماشین و GenAI پا به عرصه گذاشت و در مدت کوتاهی، به عنوان یکی از پیشگامان حوزه "AI Security" شناخته شد.

راهکارهای این شرکت عمدتاً بر محافظت از مدل‌های زبانی بزرگ (LLMs)، سیستم‌های تشخیص تصویر و صدا و همچنین پیش‌بینی‌گرهای صنعتی مبتنی بر AI متمرکز هستند.

جایزه امنیت GenAI در RSAC 2025: اهمیت و معیارها

در سال ۲۰۲۵، RSAC برای نخستین‌بار بخش ویژه‌ای را به امنیت GenAI اختصاص داد. این اقدام در پاسخ به رشد فزاینده استفاده از مدل‌های مولد در حملات فیشینگ، جعل هویت (Deepfake)، تولید بدافزار و دستکاری اطلاعات انجام شد.

معیارهای داوری در این بخش شامل:

• نوآوری تکنولوژیک

• کاربردپذیری در صنایع مختلف

• مقیاس‌پذیری

• تأثیر در کاهش ریسک‌های امنیتی GenAI

Adversa AI توانست با ارائه راهکاری جامع و مقیاس‌پذیر برای دفاع در برابر حملات "prompt injection"، جعل داده‌ها و هک مدل‌های زبانی، نظر داوران را جلب کند.

راهکارهای Adversa AI چه تفاوتی ایجاد می‌کنند؟

1. تشخیص خودکار آسیب‌پذیری‌های LLM

Adversa پلتفرمی توسعه داده که می‌تواند پیش از بهره‌برداری عمومی از مدل‌های زبانی، آن‌ها را از نظر آسیب‌پذیری امنیتی تحلیل و رتبه‌بندی کند. این ابزار به‌طور خاص تهدیداتی نظیر استخراج داده، استفاده سوء از قابلیت تولید محتوا و دستورهای مخرب را شناسایی می‌کند.

2. افزایش ایمنی مدل‌ها با الگوریتم‌های adversarial training

یکی از نقاط قوت Adversa، استفاده از تکنیک‌های "آموزش مقاوم" است که مدل‌ها را در برابر حملات متنی، صوتی و تصویری مقاوم‌تر می‌سازد. این رویکرد به سازمان‌ها کمک می‌کند تا مدل‌های خود را پیش از حملات واقعی، در محیطی ایمن آزموده و تقویت کنند.

3. ابزار شبیه‌سازی حملات با GenAI

Adversa پلتفرمی را ارائه داده که به کارشناسان امنیتی اجازه می‌دهد سناریوهای واقعی حملات مبتنی بر GenAI را شبیه‌سازی کنند. این شبیه‌سازی به‌طور خاص در محیط‌های صنعتی، بانکی و دولتی کاربرد دارد.

واکنش صنعت و تحلیلگران به موفقیت Adversa AI

تحلیل iفین‌تک نشان می‌دهد که پیروزی Adversa در RSAC 2025، تنها یک موفقیت فردی نیست، بلکه نشانه‌ای از ضرورت یک تغییر بنیادین در نگاه به امنیت هوش مصنوعی مولد است. کارشناسان متعددی از جمله متخصصان OpenAI، Microsoft و Google DeepMind در حاشیه کنفرانس تأکید کردند که مدل‌های GenAI بدون طراحی دفاعی مناسب، می‌توانند به سلاحی خطرناک تبدیل شوند.

همچنین نشریه Wired در تحلیلی نوشت: «Adversa نه‌تنها مشکل را شناسایی کرده، بلکه یک راه‌حل عملی و قابل‌اجرا برای آن پیشنهاد داده است.»

چالش‌های آینده: مقررات‌گذاری و مقیاس‌پذیری

در کنار تحسین، برخی نگرانی‌ها نیز مطرح شده‌اند. یکی از چالش‌های اصلی پیش‌روی Adversa و سایر شرکت‌ها، نبود چارچوب‌های قانونی جامع برای امنیت GenAI است. همچنین مسئله مقیاس‌پذیری این راهکارها در صنایع بزرگ مانند خدمات مالی، سلامت و انرژی نیاز به بررسی‌های گسترده‌تری دارد.

هوش مصنوعی امن، یک ضرورت استراتژیک

برنده‌شدن Adversa AI در RSAC 2025 یک پیام روشن به صنعت فناوری است: توسعه هوش مصنوعی بدون امنیت، ریسک‌های غیرقابل‌کنترلی به‌دنبال دارد. به گزارش iفین‌تک، تمرکز بر ایمنی در طراحی مدل‌های GenAI باید به یکی از اصول اصلی سازمان‌ها و قانون‌گذاران بدل شود. آینده هوش مصنوعی به توانایی ما در کنترل آن بستگی دارد و Adversa تنها آغاز این مسیر است.