هوش مصنوعی در زمینه تولید محتوای هنری بسیار فعال شده و این امر اعتراضات بسیاری توسط مخاطبین، نویسندگان و هنرمندان به همراه داشته است. بسیاری از هنرمندان به ویژه نویسندگان در هراسند که هوش مصنوعی جایگزین انسان در تولید هنر شود و در بسیاری از موارد مشاهده شده داستانی که توسط هوش مصنوعی نگاشته شده یا انیمیشنی که هوش مصنوعی نوشته قابل تشخیص نبوده و بسیاری تصور کرده‌اند که انسان آن‌را نوشته است.

این امر موجب شده بسیاری هوش مصنوعی را تهدیدی جدی برای هنرمندان بدانند.

با شهرام معین، رئیس انجمن سیستمهای هوشمند ایران و مشاور رئیس پژوهشگاه ارتباطات و فناوری اطلاعات در حوزه هوش مصنوعی گفت‌وگویی داشته‌ایم که در ادامه می‌خوانید:

• هوش مصنوعی در حال تولید انیمیشن، پوستر، طراحی گرافیک و لوگو است. حتی نمی‌توان تشخیص داد کدام محتواها از طریق هوش مصنوعی تولید شده‌اند. از سویی دیگر آمارهایی مبنی بر ازمیان رفتن تمامی مشاغل یقه‌سفیدها و بیشتر مشاغل کارمندان و کارگران تا ۵ سال دیگر ازطریق هوش مصنوعی منتشر می‌شود:

هیچ آمار دقیقی در اینباره وجود ندارد. انیمیشن‌های بسیار نزدیک به واقعیت که با استفاده از هوش مصنوعی تولید می‌شوند، توجه بسیاری را به خود جلب کرده‌اند. برخی از افراد، به‌ویژه هنرمندان، گرافیست‌ها و طراحان، وارد این حوزه‌ها شده و در حال یادگیری و استفاده از این فناوری هستند. این نوع فعالیت‌ها به مرور در حال شکل‌گیری و توسعه است.

با این حال، هیچ آمار دقیقی از تعداد افرادی که در این حوزه‌ها فعالیت می‌کنند وجود ندارد و آمارهای موجود معمولاً دقیق نیستند. واقعیت این است که تعداد افرادی که وارد توسعه هوش مصنوعی یا استفاده از آن برای انجام کارهای تخصصی شده‌اند، کمتر از تعداد کسانی است که ممکن است مشاغلشان تحت تاثیر هوش مصنوعی قرار گیرد. البته همانطور که گفته شد در حال حاضر، هوش مصنوعی تنها بخشی از کارها را انجام می‌دهد و جایگزین کامل انسان نشده است.

بنابراین، کارهایی که بیشتر جنبه اتوماسیون دارند؛مثلاً فعالیت‌های روتین که نیاز به تحلیل‌های سطح بالا ندارند یا به دستیار و همراه انسانی نیاز ندارند، بیشتر در معرض خطر جایگزینی توسط هوش مصنوعی قرار دارند.

• هوش مصنوعی مولد در بسیاری از مشاغل هنری نیز ورود کرده که اعتراض هنرمندان و بسیاری را به دنبال داشته است. به ویژه در حوزه نویسندگی و به طور کلی تولید محتوا به نظر می‌رسد هوش مصنوعی وارد قلمرو هنرمندان شده و بسیاری از داستان‌ها قابل تشخیص نیست که توسط هوش مصنوعی نگاشته شده یا انسان.

هوش مصنوعی در حال حاضر نمی‌تواند خلاقیت انسان را به‌طور کامل شبیه‌سازی کند، اما ظاهراً هیچ چیزی برای آینده آن غیرممکن نیست و ممکن است روزی به سطحی از خلاقیت نزدیک شود. در واقع، هنوز جای انسان در کارهای خلاقانه حفظ شده، اما روند پیشرفت فناوری نشان می‌دهد که باید این موضوع را جدی گرفت و آماده تغییرات بود.

من نزدیک سی سال است که با هوش مصنوعی درگیر هستم و تاریخچه آن را به‌طور کامل می‌دانم. خیلی از چیزهایی که ۲۰ سال پیش تخیلی به نظر می‌رسید، امروز واقعی شده است. دلیل اصلی این پیشرفت، سرمایه‌گذاری‌های عظیم در این حوزه و تلاش سه دانشمند بزرگ کانادایی، فرانسوی و انگلیسی بوده است.

با این حال، واقعیت این است که بسیاری از تولیدات هوش مصنوعی هنوز کاملاً قانع‌کننده نیستند. وقتی آدم می‌داند این محتوا مصنوعی است، بعضا نه تنها حس خوبی ایجاد نمی‌کند، بلکه گاهی حتی باعث دلزدگی می‌شود. بنابراین، استفاده از هوش مصنوعی برای تولید محتوا باید در جای خودش باشد و با دقت انجام شود. برای مثال، چند هفته پیش یک وبینار داشتیم که در آن تجربه‌های مرتبط با این موضوع بررسی شد.

اینکه به جای خود فرد آواتارش قرار داده شود یا اصلاً او صحبت نکند، به نظر من چندان زیبا نیست. وقتی خود فرد حضور دارد، می‌تواند خودش صحبت کند. از طرف دیگر، اگر قرار باشد محتوایی مثل فیلم یا هر شکل دیگری تولید شود و جای یک آدم شناخته‌شده، چه زنده و چه حتی فوت‌شده را بگیرد، همیشه این سوال در ذهن مخاطب شکل می‌گیرد که این چقدر واقعی است؛ آیا واقعاً خود آن فرد چنین حرفی زده یا چنین رفتاری داشته، یا این صرفاً یک بازسازی و بازی بوده است.

یکی از پیچیدگی‌های جدی که امروز با آن مواجه هستیم این است که هوش مصنوعی بتواند واقعیت را تحریف کند؛ یعنی واقعیت را جابه‌جا کند و چیزی را به مخاطب القا کند که اساساً وجود خارجی نداشته است. این دقیقاً همان مسئله اخلاق در هوش مصنوعی است.

به همین دلیل، در جامعه اروپا و برخی مناطق دیگر این موضوع را الزامی کرده‌اند که هر محتوایی که با هوش مصنوعی تولید می‌شود، حتماً برچسب داشته باشد و مشخص شود که این محتوا توسط هوش مصنوعی ساخته شده است. وقتی مخاطب بداند با یک محتوای مصنوعی مواجه است، انتظاری که از آن دارد و تاثیری که روی او می‌گذارد کاملاً متفاوت خواهد بود، نسبت به حالتی که فکر کند واقعیت است و دارد فریب داده می‌شود.

خلاصه کلام اینکه این خطر همیشه وجود داشته و دارد که هوش مصنوعی جای انسان را بگیرد، اما اساساً نباید چنین اتفاقی بیفتد. انسان جایگاه خودش را دارد، کرامت خودش را دارد و هوش مصنوعی باید در خدمت انسان باشد، نه جایگزین او.

اکنون نیز در بسیاری از مجموعه‌ها و سیستم‌ها، وقتی گزارش‌ها را بررسی می‌کنیم، این هراس وجود دارد که از سوی کسانی که می‌خواهند از هوش مصنوعی استفاده کنند یا خدماتی ارائه دهند، خطا یا ارائه اطلاعات غیرواقعی رخ بدهد. از طرف دیگر، کاربران هم نگران هستند که چیزی غیرواقعی به آن‌ها القا شود.

بنابراین، اگر مجموعه‌ای از اصول دقیق و مبتنی بر ارزش‌های انسانی و اخلاقی رعایت شود و پیاده‌سازی گردد، می‌توان روی هوش مصنوعی به‌عنوان یک ابزار کمکی حساب کرد، نه اینکه جای انسان را بگیرد.

• در حوزه داستان‌نویسی حتی مشاهده شده که هوش مصنوعی داستانی نوشته و جایزه گرفته، و داوران تشخیص ندادند که هوش مصنوعی آن‌را نوشته است: اولین قشری که احساس خطر کردند هم به نظر می‌رسد همین نویسنده‌ها بودند:

ایجاد محتوا لزوماً به معنای بازتولید چیزی که از قبل وجود داشته نیست، بلکه می‌تواند حاصل تفکر و اندیشه‌ای باشد که در ذهن نویسنده شکل گرفته است. در چنین حالتی، طبیعی است که بتوان از هوش مصنوعی هم کمک گرفت؛ مثلاً از آن خواست یک داستان خلق کند یا در شکل‌دهی روایت کمک بدهد. این ابزار می‌تواند برای تولید داستان با کیفیت قابل قبول به کار گرفته شود.

من همیشه روی واژه «کیفیت و هویت» تاکید دارم. اگر در تولید محتوا قرار باشد از هوش مصنوعی استفاده شود، حتی اگر نویسنده از آن کمک بگیرد، باید هویت و برند شخصی نویسنده در متن نهایی حضور داشته باشد. یعنی محتوا باید امضای فکری و سبکی او را داشته باشد.

اگر کسی به نام یک نویسنده مشخص اعلام کند که یک داستان را خودش خلق کرده، در حالی که عملاً محصول هوش مصنوعی است، این کار از نظر اخلاقی نادرست است. اما اگر خود نویسنده شفاف بگوید که برای خلق یک داستان جدید و بهتر، با در نظر گرفتن اهدافش، از هوش مصنوعی به‌عنوان ابزار کمکی استفاده کرده، این کاملاً قابل قبول و درست است.

• باتوجه به این حجم از محتوایی که توسط هوش مصنوعی تولید می‌شوند، چه باید کرد؟

نکته مهمی که در بررسی‌ها به آن رسیده‌ام این است که جامعه باید نسبت به محتوایی که برچسب مشخص ندارد، نگاه انتقادی و پرسشگرانه داشته باشد. متاسفانه امروز وضعیت به‌گونه‌ای شده که افراد با محتواهایی روبه‌رو می‌شوند و واقعاً نمی‌دانند این محتوا توسط هوش مصنوعی تولید شده یا نه.

از نظر اخلاقی، لازم است همه کسانی که از هوش مصنوعی استفاده می‌کنند، شفاف باشند و روند کار را توضیح دهند؛ اینکه از چه ابزاری استفاده شده و نتیجه چگونه به دست آمده است. این شفافیت هم به اعتماد مخاطب کمک می‌کند و هم جایگاه واقعی انسان و خلاقیت انسانی را حفظ می‌کند.

حالا اینکه بخواهید از این ابزارها استفاده کنید یا نه، خوشتان بیاید یا بدتان بیاید، کاملاً به انتخاب خودتان برمی‌گردد. حرف من این است که نباید درِ داستان‌نویسی، تولید محتوا یا هر حوزه خلاق دیگری را ببندیم؛ فرقی هم نمی‌کند نقاشی باشد، فیلم باشد یا داستان. ابزارهای مولد یا همان جنریتیوها الان دارند این کارها را انجام می‌دهند و با جلو رفتن، تکمیل شدن و افزایش دانش‌شان، کیفیت خروجی‌هایشان هم بالاتر می‌رود.

امروز داستان‌هایی تولید می‌شود که بر اساس سبک نویسندگان معروف ساخته شده‌اند. سبک این نویسندگان شناخته شده، استخراج شده و مدل‌ها از روی آن آموزش دیده‌اند. شما ممکن است بگویید می‌خواهم درباره یک موضوع خاص، داستانی در سبک مثلاً گابریل گارسیا مارکز نوشته شود و این ابزار هم متنی تولید کند که از نظر حال‌وهوا و فرم شبیه آثار اوست. در چنین شرایطی، اگر کسی که متن را می‌خواند، نداند نویسنده فوت کرده یا اصلاً در قید حیات نیست، ممکن است دچار شبهه شود و فکر کند واقعاً خود آن نویسنده این اثر را خلق کرده است.

در اصل دو مسئله وجود دارد. اول اینکه متخصصان و افراد خبره معمولاً می‌توانند تشخیص بدهند که این متن کار یک نویسنده انسانی مشخص نیست، اما افراد عادی ممکن است گول بخورند و تصور کنند این واقعاً اثری اصیل از همان نویسنده است. کیفیت خروجی‌ها بالا رفته، اما هنوز هم برای اهل فن نشانه‌هایی وجود دارد که از روی آن‌ها می‌شود مصنوعی بودن محتوا را تشخیص داد.

سال‌هاست با مسئله جعل یا فیک بودن درگیر بوده‌ایم؛ موضوعی که قبلاً بیشتر در حوزه ویدیو مطرح می‌شد، اما حالا به‌طور جدی وارد حوزه محتوا و متن هم شده است. در کنار این، ابزارهایی در حال توسعه‌اند که بتوانند محتوای تولیدشده توسط هوش مصنوعی را شناسایی کنند و البته همچنان نقش کارشناسان انسانی در تشخیص این موارد پررنگ است.

خلاصه حرف من این است که امیدوارم هم قواعد اخلاقی روشنی برای کسانی که محتوا تولید می‌کنند تعریف شود و هم سازوکارهای بازدارنده‌ای وجود داشته باشد که جلوی تقلب و سوءاستفاده را بگیرد. اگر استفاده از هوش مصنوعی شفاف، آگاهانه و همراه با اطلاع‌رسانی درست به مخاطب باشد، می‌تواند به‌عنوان یک ابزار مفید و کمکی مورد استفاده قرار بگیرد.