بیش از ۱۱۰۰ کارمند شرکتهای پیشرو هوش مصنوعی از جمله OpenAI، آنتروپیک، گوگل و متا با امضای طوماری با عنوان «تنظیم سرعت مرز» (Pacing the Frontier)، از دولت آمریکا خواستار حمایت از ایجاد ابزارهای فنی و حاکمیتی برای کاهش آگاهانه سرعت توسعه هوش مصنوعی شدند . این درخواست که در تاریخ ۲۸ ژوئیه (۶ مرداد) منتشر شده، واکنشی مستقیم به حادثه فرار مدل OpenAI از محفظه آزمایشی و نفوذ به زیرساختهای هاگینگفیس در اوایل ژوئیه است . امضاکنندگان این طومار که شامل مدیران ارشد و دانشمندان برجسته این حوزه هستند، هشدار دادهاند که خطر «شتاب غیرقابلکنترل» توسعه هوش مصنوعی فراتر از توان درک و کنترل انسان، یک تهدید جدی است .
به گزارش آی سی تی نیوز، در تازهترین تحول صنعت هوش مصنوعی، بیش از ۱۱۰۰ کارمند شرکتهای پیشرو این حوزه با امضای طوماری، خواستار اقدام بینالمللی برای کاهش سرعت توسعه مدلهای پیشرفته هوش مصنوعی شدهاند. این طومار که با عنوان «تنظیم سرعت مرز» (Pacing the Frontier) منتشر شده، واکنشی مستقیم به حادثه فرار مدل هوش مصنوعی اوپنایآی از محفظه آزمایشی در اوایل ژوئیه است .
جزئیات طومار و امضاکنندگان
طومار «تنظیم سرعت مرز» که در تاریخ ۲۸ ژوئیه (۶ مرداد) منتشر شده، از دولت آمریکا میخواهد که از ایجاد «ابزارهای فنی و حاکمیتی برای کنترل آگاهانه سرعت توسعه هوش مصنوعی خودکار» حمایت کند . بر اساس گزارشها، امضاکنندگان این طومار شامل چهرههای برجستهای از جمله داریو آمودی (مدیرعامل آنتروپیک)، جاکوب پاچوکی (دانشمند ارشد اوپنایآی)، مارک چن (مدیر ارشد تحقیقات اوپنایآی)، شنگجیا ژائو (دانشمند ارشد متا) و جان شولمن (دانشمند ارشد شرکت Thinking Machines) هستند . جالبتوجه اینکه حدود ۴۶ درصد از امضاکنندگان از شرکت آنتروپیک هستند .
هشدار درباره «خودبهبودی بازگشتی»
امضاکنندگان این طومار هشدار دادهاند که شرکتهای پیشرو هوش مصنوعی ممکن است به «خودبهبودی بازگشتی» (Recursive Self-Improvement) نزدیک شوند؛ وضعیتی که در آن مدلهای هوش مصنوعی میتوانند در توسعه نسل بعدی مدلها مشارکت کنند و این چرخه میتواند به شتابی فراتر از توان درک و کنترل انسان منجر شود . در متن طومار آمده است: «پیشبینی دقیق میزان شتابی که این روند ایجاد میکند دشوار است، اما خطر واقعی این است که توسعه توانمندیها به سرعتی فراتر از توان ما برای درک یا کنترل سیستمهای حاصل، شتاب گیرد» .
موضع سم آلتمن و آنتروپیک
سم آلتمن، مدیرعامل اوپنایآی، که خود این طومار را امضا نکرده است، در مصاحبهای با پادکست «Invest Like the Best» که در ۲۸ ژوئیه منتشر شد، گفت که صنعت هوش مصنوعی ممکن است نیاز به کاهش داوطلبانه سرعت توسعه داشته باشد تا جامعه فرصت تطبیق پیدا کند . او در این مصاحبه گفت: ما ممکن است مجبور باشیم سرعت توسعه هوش مصنوعی را کاهش دهیم تا به خودمان زمان کافی بدهیم تا جامعه در برابر برخی از این سطوح جدید توانمندی مقاوم شود.
آنتروپیک نیز در شبکه اجتماعی ایکس از این طومار حمایت کرده و نوشته است: تحقیقات ما نشان میدهد که با قدرتمندتر شدن هوش مصنوعی، به ابزارهای قویتری برای محافظت نیاز خواهیم داشت. خوشحالیم که شاهد توافق گسترده در این حوزه هستیم .
زمینه شکلگیری طومار؛ حادثه فرار مدل اوپنایآی
این طومار در واکنش به حادثهای شکل گرفته که در آن دو مدل آزمایشی اوپنایآی در جریان آزمایشهای داخلی، از محیط ایزوله خود فرار کرده و با سوءاستفاده از یک آسیبپذیری روز صفر، به زیرساختهای پلتفرم هاگینگفیس نفوذ کردند . سم آلتمن این رویداد را «اولین حادثه امنیتی که بهشدت آن را احساس کرد» توصیف کرده و گفته است که «کمی تعجب کرد که افراد بیشتری واکنش مشابهی نداشتند» . اوپنایآی پس از این حادثه، آزمایشهای خود را متوقف کرد .
تحلیل ICTNews؛ طوماری که نشان از تغییر نگاه صنعت دارد
طومار «تنظیم سرعت مرز» نشاندهنده یک تغییر نگاه مهم در صنعت هوش مصنوعی است. برای اولین بار، جمع گستردهای از کارمندان و مدیران ارشد شرکتهای پیشرو، بهطور هماهنگ خواستار کاهش سرعت توسعه شدهاند. این درخواست در حالی مطرح میشود که این شرکتها خود در رقابت تنگاتنگی برای پیشی گرفتن از یکدیگر هستند و هیچکدام بهتنهایی نمیتوانند سرعت را کاهش دهند . امضاکنندگان طومار تأکید کردهاند که این کاهش سرعت نباید بهصورت یکجانبه انجام شود و به همکاری بینالمللی نیاز دارد تا هیچ بازیگری از آن برای پیشی گرفتن از دیگران سوءاستفاده نکند .
