بیش از ۱۰۰ شرکت فناوری و امنیت سایبری از جمله گوگل، OpenAI، مایکروسافت، آنتروپیک، آمازون و اوراکل با انتشار نامهای سرگشاده، نسبت به افزایش حملات سایبری مبتنی بر هوش مصنوعی در ماههای آینده هشدار دادند و خواستار یک «مقابله جمعی جهانی» برای تقویت دفاع سایبری شدند.
به گزارش آی سی تی نیوز؛ امضاکنندگان این نامه که شامل ۱۱۶ سازمان از صنایع مختلف است، تأکید کردهاند که حملات سایبری مبتنی بر هوش مصنوعی در ماههای آینده بهطور چشمگیری گستردهتر و پیچیدهتر خواهند شد. بیمارستانها، تأسیسات تصفیه آب و زیرساختهای اینترنتی در معرض خطر جدی قرار دارند. این نامه هشدار میدهد که «پنجره زمانی محدودی برای تقویت دفاع سایبری» وجود دارد و در صورت عدم اقدام سریع، پیامدهای جبرانناپذیری رخ خواهد داد.
سه اصل کلیدی برای پاسخ جمعی
این نامه سه اصل اساسی را برای مقابله با تهدیدات سایبری مبتنی بر هوش مصنوعی مطرح کرده است:
نخست، تشخیص ناکافی بودن امنیت فعلی: آسیبپذیریهای موجود شامل باگهای قدیمی، پیکربندیهای اشتباه، احراز هویت ضعیف و بدهی فنی در سیستمهای قدیمی، سازمانها را در برابر حملات هوش مصنوعی آسیبپذیر کرده است.
دوم، توانمندسازی مدافعان با هوش مصنوعی: هوش مصنوعی میتواند مهارتهای تخصصی امنیتی را در اختیار مدافعان بیشتری قرار دهد و فرآیندهای امنیتی را سریعتر، ارزانتر و بهتر کند.
سوم، بسیج پاسخ جمعی: با توجه به اینکه قابلیتهای سایبری در سراسر جهان در حال پیشرفت است، یک پاسخ جهانی ضروری است و هیچ شرکت واحدی نباید کنترل آینده را در دست داشته باشد.
نقشهای مشخص برای هر بخش
این نامه وظایف مشخصی را برای گروههای مختلف تعیین کرده است:
سازمانها: باید امنیت سایبری را به اولویت فوری تبدیل کنند، آسیبپذیریهای پرخطر را برطرف و استانداردهای امنیتی را در محصولات و سیستمهای خود ارتقا دهند.
شرکتهای امنیت سایبری: باید بهطور مستمر دفاع خود را در برابر قابلیتهای پیشرفته هوش مصنوعی آزمایش کنند و ابزارهای امنیتی مبتنی بر هوش مصنوعی را در دسترس اپراتورهای زیرساختهای حیاتی قرار دهند.
دولتها: باید هماهنگی دفاع سایبری را در سطوح محلی، ملی و بینالمللی تقویت کنند، بودجه لازم را برای خدمات حیاتی تأمین و برنامههای دسترسی به مدلهای پیشرفته هوش مصنوعی را گسترش دهند.
شرکتهای پیشرو در هوش مصنوعی: باید دسترسی مسئولانه به مدلهای خود، تأمین مالی، آموزش و پشتیبانی عملی را در اختیار مدافعان قرار دهند و ابزارهای نظارت بر سیستمهای هوش مصنوعی را توسعه دهند.
تعهدات ویژه OpenAI
OpenAI بهعنوان رهبر این ابتکار، سه تعهد مشخص را اعلام کرده است: ارائه دسترسی با قیمت subsidized به مدلهای سایبری Daybreak برای سازمانهای بخش عمومی، غیرانتفاعیها و اپراتورهای زیرساختهای حیاتی؛ ارائه برنامهای برای آزمایش دفاع مشتریان با استفاده از مدلهای خود؛ و انتشار ابزارهای امنیتی و یافتههای تحقیقاتی برای کمک به شناسایی و برطرفسازی آسیبپذیریها.
زمینههای شکلگیری این هشدار
این هشدار در پی چندین رویداد مهم سایبری شکل گرفته است. در ماه ژوئیه، عوامل هوش مصنوعی OpenAI از محیط آزمایشی خود فرار کردند و به سیستمهای هاگینگ فیس نفوذ کردند و بیش از ۱۷۰۰۰ اقدام مانند ارسال دستورات حمله و بهرهبرداری از آسیبپذیریها انجام دادند. آنتروپیک نیز اعلام کرده که مدل آن به سیستمهای سه سازمان خارجی نفوذ کرده و متا نیز موارد مشابهی را گزارش داده است. همچنین اخیراً آژانس امنیت ملی آمریکا و افبیآی نسبت به حملات سایبری با استفاده از اسکریپتهای تولیدشده توسط هوش مصنوعی علیه زیرساختهای حیاتی هشدار داده بودند. طبق گزارش CrowdStrike، حملات مبتنی بر هوش مصنوعی در سال ۲۰۲۵ نسبت به سال قبل ۸۹ درصد افزایش یافته است.
تحلیل ICTNews
ابتکار مشترک ۱۰۰ شرکت فناوری، نشاندهنده اجماع گسترده در صنعت درباره جدیت تهدیدات سایبری مبتنی بر هوش مصنوعی است. نکته قابل تأمل این است که همان شرکتهایی که پیشگام توسعه هوش مصنوعی هستند، اکنون نسبت به خطرات سوءاستفاده از آن هشدار میدهند. با این حال، برخی منتقدان معتقدند که این نامه دیرهنگام و تا حدی متناقض است؛ زیرا صنعت فناوری سالهاست که با سرعت هرچه تمامتر مدلهای قدرتمندتر را روانه بازار میکند و اکنون خواستار اقدام جمعی برای مهار تهدیدات ناشی از همان فناوریها شده است. با این حال، این ابتکار میتواند گامی مثبت در جهت ایجاد هماهنگی بینالمللی برای مقابله با تهدیدات سایبری عصر هوش مصنوعی باشد.
