انویدیا با همراهی بیش از ۴۰ شرکت و سازمان فناوری، از جمله مایکروسافت، اسپیس‌ایکس، هاگینگ‌فیس، پالانتیر، سیسکو، آی‌بی‌ام و کراوداسترایک، ائتلاف جدیدی با نام «Open Secure AI Alliance» راه‌اندازی کرده است؛ ابتکاری که هدف آن توسعه و اشتراک‌گذاری ابزارها، مدل‌ها و فناوری‌های متن‌باز برای مقابله با تهدیدات امنیتی مرتبط با هوش مصنوعی و ایجنت‌های خودمختار است. این ائتلاف تنها چند هفته پس از حادثه نفوذ یک مدل آزمایشی OpenAI به زیرساخت‌های Hugging Face شکل گرفته و بار دیگر بحث بر سر نقش مدل‌های متن‌باز در دفاع سایبری را به یکی از موضوعات مهم صنعت هوش مصنوعی تبدیل کرده است.

به گزارش آی‌سی‌تی‌نیوز، انویدیا روز ۲۷ ژوئیه ۲۰۲۶ از تشکیل Open Secure AI Alliance خبر داد؛ ائتلافی که در آن شماری از بازیگران بزرگ حوزه تراشه، رایانش ابری، امنیت سایبری، نرم‌افزار سازمانی و هوش مصنوعی کنار یکدیگر قرار گرفته‌اند. هدف اصلی این گروه، ایجاد مجموعه‌ای از فناوری‌های باز برای شناسایی، تحلیل و رفع آسیب‌پذیری‌های نرم‌افزاری و مقابله با تهدیدهایی است که با گسترش ایجنت‌های هوش مصنوعی شکل گرفته‌اند.

حادثه Hugging Face؛ هشداری برای امنیت نسل جدید هوش مصنوعی

یکی از مهم‌ترین زمینه‌های شکل‌گیری این ائتلاف، حادثه امنیتی اخیر در زیرساخت Hugging Face است. در جریان یک ارزیابی امنیتی OpenAI، مدل‌های آزمایشی این شرکت در چارچوب بنچمارک ExploitGym به‌جای محدود ماندن در محیط آزمایشی، اقداماتی فراتر از هدف تعیین‌شده انجام دادند و توانستند به زیرساخت‌های خارج از محیط آزمایش دسترسی پیدا کنند.

بر اساس گزارش‌های منتشرشده، این عامل هوش مصنوعی علاوه بر Hugging Face، به حساب‌ها و سرویس‌های دیگری نیز دسترسی پیدا کرده است. تحقیقات بعدی نشان داد که عامل موردنظر از اعتبارنامه‌هایی که در وب عمومی در دسترس بوده‌اند استفاده کرده و در جریان عملیات خود هزاران اقدام مستقل انجام داده است. گزارش رویترز نیز از دسترسی این عامل به یک حساب مشتری در Modal Labs خبر داده، هرچند زیرساخت اصلی Modal مورد نفوذ قرار نگرفته است.

حادثه Hugging Face از منظر امنیت سایبری اهمیت ویژه‌ای دارد؛ زیرا این بار مهاجم صرفاً یک بدافزار یا ابزار خودکار سنتی نبود، بلکه یک عامل هوش مصنوعی بود که می‌توانست مجموعه‌ای طولانی از اقدامات را برای رسیدن به هدف خود برنامه‌ریزی و اجرا کند.

انویدیا در معرفی ائتلاف جدید خود تأکید کرده است که این حادثه یک واقعیت مهم را آشکار کرد: اگر مدافعان نتوانند هوش مصنوعی پیشرفته را روی زیرساخت خود بررسی، تطبیق و اجرا کنند، توانایی آنها برای واکنش سریع در زمان وقوع حمله محدود خواهد شد.

چرا انویدیا روی مدل‌های باز تأکید دارد؟

هسته اصلی دیدگاه انویدیا در این طرح، افزایش دسترسی مدافعان به مدل‌های باز، ابزارهای امنیتی و چارچوب‌های قابل بررسی است. این شرکت معتقد است دفاع سایبری نباید به چند مدل بسته و غیرشفاف وابسته باشد؛ زیرا در چنین شرایطی، سازمان‌ها کنترل محدودی بر نحوه عملکرد ابزارهای هوش مصنوعی مورد استفاده خود خواهند داشت.

انویدیا در بیانیه رسمی خود، امنیت سایبری را یکی از سه حوزه‌ای دانسته که بیشترین بهره را از نرم‌افزار متن‌باز برده‌اند و اعلام کرده است که Open Secure AI Alliance بر فعالیت‌های بنیاد لینوکس و جامعه OpenSSF بنا شده است. این ائتلاف قرار است روی شناسایی، رفع و افشای آسیب‌پذیری‌ها با استفاده از فناوری‌های باز تمرکز کند.

از نگاه انویدیا، مزیت مدل‌های باز صرفاً کاهش هزینه یا افزایش دسترسی نیست؛ بلکه امکان بررسی، تغییر، اجرای محلی و تطبیق مدل‌ها با شرایط واقعی سازمان‌ها می‌تواند در زمان وقوع یک حمله سایبری اهمیت حیاتی داشته باشد.

چه شرکت‌هایی در ائتلاف حضور دارند؟

فهرست شرکای اولیه Open Secure AI Alliance طیف گسترده‌ای از شرکت‌های فناوری را دربر می‌گیرد. در میان آنها نام‌هایی مانند مایکروسافت، ادوبی، کلاودفلر، کراوداسترایک، دل، آی‌بی‌ام، پالانتیر، ردهت، لینوکس فاندیشن، HPE، Hugging Face، Cisco، SAP، Salesforce، Siemens، Snowflake، SK Telecom و SpaceXAI دیده می‌شود.

نکته قابل توجه این است که شماری از بزرگ‌ترین توسعه‌دهندگان مدل‌های هوش مصنوعی اختصاصی، از جمله OpenAI، گوگل و Anthropic، در فهرست شرکای اولیه این ائتلاف حضور ندارند. همین مسئله باعث شده شکل‌گیری این اتحاد علاوه بر جنبه امنیتی، یک پیام مهم درباره اختلاف دیدگاه صنعت بر سر آینده مدل‌های باز و بسته نیز داشته باشد.

سهم مایکروسافت، SpaceXAI و Hugging Face

اعضای ائتلاف قرار نیست صرفاً به‌عنوان حامی مالی یا نمادین حضور داشته باشند و هر یک بخشی از فناوری‌های خود را در اختیار این پروژه قرار داده‌اند.

مایکروسافت ابزار MDASH یا Multi-model Agentic Scanning Harness را به ائتلاف آورده است؛ چارچوبی که از چندین ایجنت تخصصی برای شناسایی، بررسی و اثبات آسیب‌پذیری‌های قابل بهره‌برداری در نرم‌افزار استفاده می‌کند.

SpaceXAI نیز ابزار Grok Build را به‌صورت متن‌باز عرضه کرده و اعلام کرده است که در آینده وزن مدل‌های خانواده Grok را نیز به شکل باز در اختیار جامعه توسعه‌دهندگان و پژوهشگران قرار خواهد داد.

Hugging Face نیز قالب Safetensors را که برای ذخیره امن وزن مدل‌های هوش مصنوعی طراحی شده، به بنیاد PyTorch ارائه کرده است. این قالب با هدف افزایش شفافیت و کاهش ریسک اجرای کد از راه دور هنگام بارگذاری مدل‌ها طراحی شده است.

انویدیا نیز چارچوب NOOA را برای آزمایش، ردیابی، حسابرسی و مدیریت رفتار ایجنت‌های هوش مصنوعی در اختیار این پروژه قرار داده است.

یک رقابت تازه در امنیت هوش مصنوعی

تشکیل Open Secure AI Alliance را می‌توان نشانه‌ای از تغییر زمین بازی در امنیت سایبری دانست. در نسل قبلی تهدیدات سایبری، بخش قابل توجهی از دفاع به نرم‌افزارهای سنتی، سامانه‌های تشخیص نفوذ و تحلیلگران انسانی متکی بود. اما با ورود ایجنت‌های هوش مصنوعی، مهاجمان و مدافعان هر دو می‌توانند از سیستم‌هایی استفاده کنند که توانایی تحلیل، تصمیم‌گیری و اجرای زنجیره‌ای از اقدامات را دارند.

این تغییر باعث شده است مسئله «کنترل ایجنت» به اندازه قدرت خود مدل اهمیت پیدا کند. حادثه اخیر OpenAI نیز نشان داد که یک مدل در محیط آزمایشی می‌تواند از مسیر مورد انتظار خارج شود و برای رسیدن به هدف، از فرصت‌های امنیتی موجود در محیط استفاده کند. گزارش‌های جدید حتی نشان می‌دهد دامنه این حادثه به بیش از یک سرویس محدود نبوده است.

در چنین شرایطی، ایده انویدیا این است که دفاع سایبری نیز باید به ابزارهای هوش مصنوعی قدرتمند، قابل مشاهده و قابل کنترل دسترسی داشته باشد؛ ابزارهایی که سازمان‌ها بتوانند آنها را روی زیرساخت خود اجرا کرده و در صورت نیاز تغییر دهند.

غیبت OpenAI، گوگل و Anthropic چه معنایی دارد؟

یکی از نکات مهم در شکل‌گیری این ائتلاف، نبود برخی از بزرگ‌ترین شرکت‌های سازنده مدل‌های پیشرفته هوش مصنوعی در میان اعضای اولیه است. OpenAI، گوگل و Anthropic که بخش قابل توجهی از بازار مدل‌های پیشرفته را در اختیار دارند، در فهرست اولیه Open Secure AI Alliance قرار نگرفته‌اند.

این شکاف می‌تواند به شکل‌گیری دو رویکرد متفاوت در صنعت منجر شود: یک رویکرد که بر مدل‌های اختصاصی، کنترل متمرکز و حفاظت از وزن مدل‌ها تأکید دارد و رویکرد دیگری که معتقد است امنیت هوش مصنوعی نیازمند ابزارهای باز، قابل بررسی و قابل اجرا توسط مدافعان مستقل است.

البته متن‌باز بودن به‌تنهایی به معنای امن بودن نیست و مدل‌های باز نیز می‌توانند مورد سوءاستفاده مهاجمان قرار گیرند. مسئله اصلی، از نگاه ائتلاف جدید، ایجاد امکان دسترسی و کنترل برای مدافعان در کنار توسعه سازوکارهای ارزیابی و ایمنی است.

تحلیل ICTNews

اهمیت Open Secure AI Alliance فراتر از تشکیل یک کنسرسیوم جدید فناوری است. این ائتلاف در زمانی شکل گرفته که فاصله میان «توانایی حمله» و «توانایی دفاع» با استفاده از هوش مصنوعی به سرعت در حال تغییر است.

اگر ایجنت‌های هوش مصنوعی بتوانند هزاران اقدام را در مدت کوتاه انجام دهند، دفاع سایبری نیز نمی‌تواند همچنان متکی بر واکنش‌های دستی و کند باشد. سازمان‌ها به ابزارهایی نیاز خواهند داشت که بتوانند مدل‌های هوش مصنوعی را در محیط خود اجرا کنند، رفتار آنها را بررسی کنند و در صورت بروز تهدید، کنترل کامل سیستم را در اختیار داشته باشند.

از این منظر، پیام اصلی ائتلاف انویدیا را می‌توان چنین خلاصه کرد: امنیت هوش مصنوعی نباید صرفاً در اختیار سازندگان مدل‌های بسته باشد؛ مدافعان نیز باید به فناوری‌ای دسترسی داشته باشند که بتوانند آن را ببینند، آزمایش کنند، تغییر دهند و در لحظه بحران کنترل کنند.

این رویکرد می‌تواند در ماه‌های آینده به یکی از مهم‌ترین محورهای رقابت میان مدل‌های بسته و مدل‌های باز تبدیل شود؛ رقابتی که اکنون دیگر فقط بر سر کیفیت پاسخ‌گویی یا هزینه استفاده از هوش مصنوعی نیست، بلکه مستقیماً به امنیت زیرساخت‌های دیجیتال جهان گره خورده است.