دادستان کل ایالت کالیفرنیا، Rob Bonta، از آغاز یک برنامه جامع برای نظارت و پاسخگویی در حوزه هوش مصنوعی خبر داد؛ اقدامی که در پی جنجال‌های اخیر پیرامون چت‌بات Grok متعلق به شرکت xAI انجام می‌شود.
به گزارش آی سی تی نیوز،به گفته مقام‌های ایالتی، دفتر دادستانی کل ماه گذشته با ارسال نامه «توقف و انصراف» به xAI، نسبت به تولید تصاویر غیراخلاقی از افراد واقعی توسط این چت‌بات اعتراض رسمی خود را اعلام کرده است. همزمان نهادهای نظارتی در کشورهای مختلف نیز بررسی‌هایی درباره عملکرد این سامانه هوش مصنوعی آغاز کرده‌اند.
بونتا اعلام کرده است که مذاکرات با شرکت سازنده Grok ادامه دارد، اما به باور او این شرکت هنوز مسئولیت کامل عملکرد پلتفرم خود را نپذیرفته است. به گفته وی، امکان تولید محتوای بزرگسالان همچنان برای برخی کاربران پولی فراهم است؛ موضوعی که نگرانی‌های جدی درباره سوءاستفاده از هوش مصنوعی ایجاد کرده است.
ایالت کالیفرنیا که میزبان بسیاری از غول‌های فناوری آمریکاست، در سال‌های اخیر نقش پررنگ‌تری در تنظیم‌گری حوزه فناوری ایفا کرده است. این در حالی است که تلاش‌ها برای تصویب قوانین جامع فدرال در زمینه حریم خصوصی داده و هوش مصنوعی در کنگره آمریکا با چالش و بن‌بست روبه‌رو بوده است.
بر اساس اعلام دادستانی، «برنامه نظارت، پاسخگویی و تنظیم مقررات هوش مصنوعی» با هدف تقویت توان تخصصی، افزایش ظرفیت رسیدگی به تخلفات و ایجاد چارچوب‌های شفاف برای شرکت‌های فعال در این حوزه طراحی شده است.
بونتا همچنین هشدار داده است که رفتارهایی مانند برقراری گفت‌وگوهای جنسی با نوجوانان یا تشویق کاربران به آسیب‌رسانی به خود، به هیچ عنوان قابل پذیرش نیست و با پیگیری قانونی مواجه خواهد شد.
این اقدام می‌تواند نقطه عطفی در مسیر قانون‌گذاری هوش مصنوعی در آمریکا باشد و فشارها بر شرکت‌هایی مانند xAI را برای رعایت استانداردهای سخت‌گیرانه‌تر افزایش دهد.