۱۷ آذر ۱۴۰۳

شرایط و ضوابط

سیاست حفظ حریم خصوصی

برخی از مشهورترین و پرکاربردترین مدل‌های هوش مصنوعی شرکتبرخی از مشهورترین و پرکاربردترین مدل‌های هوش مصنوعی شرکت‌های بزرگ فناوری، نقص‌های متعدد و غیرقابل‌انکاری دارند.‌های بزرگ فناوری، نقص‌های متعدد و غیرقابل‌انکاری دارند.

به گزارش آی سی تی نیوز،بررسی اتحادیه اروپا نشان می‌دهد مدل‌های هوش مصنوعی متعددی در جهان در حوزه‌های کلیدی مانند امنیت سایبری و ارائه خروجی‌های غیر تبعیض‌آمیز و غیر نژادپرستانه و غیره با ضعف‌های اساسی مواجه هستند.اتحادیه اروپا، در اواخر سال ۲۰۲۲ قانون هوش مصنوعی خود را تدوین کرد تا این حوزه را نظام‌مند کند. رکوردشکنی کاربران در استفاده از مدل‌هایی مانند چت جی پی تی عرضه شده توسط شرکت اوپن ای آی و نگرانی از خطرات و چالش‌های استفاده از این مدل‌ها، قانون‌گذاران اروپایی را ترغیب کرد تا در مورد تبعات استفاده عمومی از هوش مصنوعی قانون وضع کنند.بررسی مدل‌های هوش مصنوعی شرکت‌های بزرگ و کوچک فناوری بر اساس این قانون و امتیازدهی به آنها از صفر تا یک نشان داد اگر چه طراحی آنها از نظر فنی کم‌وبیش مناسب است، اما معیارهای مهمی در این زمینه رعایت نشده است. مدل های هوش مصنوعی علی‌بابا، متا، اوپن ای آی و چند شرکت دیگر در این ارزیابی همگی نمره ۰.۷۵ یا بالاتر دریافت کردند. اما این مدل‌ها در زمینه رعایت نکات امنیتی و عدم رفتارهای تبعیض‌آمیز عمدتاً نمره‌های پایینی دریافت کردند و در صورت عدم رفع نقاط ضعف، شرکت‌های سازنده آنها باید در انتظار جریمه‌های ۳۸ میلیون‌دلاری یا معادل ۷ درصد از گردش مالی سالیانه خود باشند.

اتحادیه اروپا برای اجرایی‌کردن قانون هوش مصنوعی خود در تلاش است تا بهار سال ۲۰۲۵ یک دستورالعمل عملیاتی تدوین کند. این اتحادیه هشدار داده خروجی مدل‌های هوش مصنوعی نباید در حوزه‌هایی همچون نژاد، جنسیت و غیره تبعیض‌آمیز عمل کند. چت چی پی تی شرکت اوپن ای آی در این زمینه نمره پایین ۰.۴۶ را از یک دریافت کرده و مدل گپ هوش مصنوعی Qwen1.5 72B شرکت علی‌بابا هم در این حوزه نمره ۰.۳۷ گرفت. در زمینه مقابله با حملات و نفوذ سایبری و مقابله با سرقت اطلاعات حساس نیز مدل گپ هوش مصنوعی Llama 2 13B نمره پایین ۰.۴۲ از یک و مدل هوش مصنوعی 8x7B Instruct شرکت فرانسوی میسترال نمره ۰.۳۸ دریافت کرد. سخنگوی کمیسیون اروپا با استقبال از انجام این بررسی‌ها، آن را اولین گام در جهت اجرایی‌شدن قانون هوش مصنوعی اتحادیه اروپا و عملیاتی‌شدن استلزام‌های فنی آن دانست.

نظرات

دیدگاهتان را بنویسید

نشانی ایمیل شما منتشر نخواهد شد. بخش‌های موردنیاز علامت‌گذاری شده‌اند *

پست های مرتبط
دسته بندی ها
پست های اخیر
برچسب ها