چت‌بات دارث ویدر در فورتنایت؛ آینده‌ای تاریک برای هوش مصنوعی در بازی‌ها

وحید گلباد

۴ خرداد ۱۴۰۴ | ۱۳:۳۰ زمان مورد نیاز برای مطالعه: ۴ دقیقه

اخیرا شرکت اپیک گیمز (Epic Games) نسخه‌ای از شخصیت شرور و نمادین جنگ ستارگان را به فورتنایت اضافه کرد که می‌تواند به گروه بازیکنان پیوسته و به‌ صورت زنده و در لحظه، به هر یا دست‌ کم بیشتر تعامل‌های صوتی کاربران پاسخ دهد.

در این میان افراد مختلف تلاش کردند برای دارث ویدر توضیح دهند که چطور با اصطلاحات عامیانه و سطحی صحبت کند و طبیعتاً سعی کردند او را وادار به فحاشی و استفاده از الفاظ نژادپرستانه کنند؛ آن هم با وجود محدودیت‌هایی که اپیک گیمز برای این مدل هوش مصنوعی در نظر گرفته بود. او اجازه ندارد درباره‌ی مسائل عاشقانه یا جنسی صحبت کند، وارد گفتار نفرت‌آمیز شود، بیش از حد از دیالوگ‌های جنگ ستارگان استفاده کند و موارد رایج دیگری که مثل بسیاری از چت‌بات‌های مشابه، بارها کاربران سعی در دور زدن آن‌ها داشته‌اند.

این تجربه، هم سرگرم‌کننده و هم فاجعه‌آمیز بوده، اما در عین حال به آینده‌ای نگران‌کننده درباره‌ی هوش مصنوعی، صداپیشگی و استفاده از شخصیت‌های فوت‌ شده اشاره دارد؛ آینده‌ای که سال‌هاست نشانه‌های آن نمایان شده‌اند. به نوعی ما جعبه‌ی پاندورا را باز کرده‌ایم و دیگر راه بازگشتی وجود ندارد!

مخاطبان عمومی، هوش مصنوعی را فقط به چشم یک اسباب‌ بازی می‌بینند

یکی از این ترندهای سال‌های اخیر، گسترش روزافزون هوش مصنوعی در تمام حوزه‌های خلاقانه است. چیزی که در ابتدا تنها یک فناوری آزمایشی و سرگرم‌کننده بود که قدرت چندانی برای ایفای نقش جدی در رسانه‌ها نداشت، حالا به حدی پیشرفته شده که می‌تواند جای شغل بسیاری از هنرمندان و خلاقان را بگیرد؛ همان کسانی که هوش مصنوعی برای ساخته شدن از آثار آن‌ها تغذیه کرده است.

متأسفانه به مرحله‌ای رسیده‌ایم که وقتی یک اثر هنری زیبا در اینترنت می‌بینم، باید دقیق نگاه کنیم تا بفهمیم که آیا واقعا انسانی آن را خلق کرده یا حاصل الگوریتم‌های هوش مصنوعی است.

هم‌ اکنون هم شاهد استفاده از ابزارهای هوش مصنوعی برای ساخت آیتم‌های ظاهری و غیره در بازی کال آو دیوتی: بلک آپس 6 هستیم و ناشرانی مثل اکتیویژن (Activision) و یوبی‌سافت (Ubisoft) نیز به‌ وضوح اعلام کرده‌اند که مشکلی با استفاده از این روش‌ها برای تسریع فرآیند تولید یا حتی جایگزینی کامل انسان‌ها ندارند. شرکت‌ها، فارغ از این‌که ما چقدر از پلتفرم‌های خاصی طرفداری کنیم، همیشه به دنبال راه‌های میان‌بر هستند تا هزینه‌ها را کاهش داده و سود را افزایش دهند. این همان چیزی است که در سیستم سرمایه‌داری فعلی طبیعی و اجتناب‌ناپذیر است؛ تا زمانی که انقلابی رخ ندهد و این ساختار به هم نریزد، هیچ چیز تغییر نخواهد کرد. اپیک گیمز هم از این قاعده مستثنی نیست و باید بپذیریم که یک متاورس در مرکز صنعت بازی، به‌ احتمال زیاد مسیر درک عموم مردم از هوش مصنوعی را شکل خواهد داد. در مورد دارث ویدر، این مسئله می‌تواند بسیار مشکل‌ساز باشد.

آغاز یک سراشیبی خطرناک

خانواده‌ی جیمز ارل جونز (James Earl Jones)، صداپیشه‌ی افسانه‌ای دارث ویدر، اجازه استفاده از صدای او را به اپیک گیمز داده‌اند و معتقدند این کار ادای احترامی شایسته به میراث او به‌ عنوان یک بازیگر و به شخصیتی است که به آن جان بخشیده بود. اما مشخص نیست که اگر می‌دانستند این صدا قرار است در نقش یک ارباب سیت، فحاشی کند و در محیطی مانند تیلتد تاورز استفاده شود، باز هم چنین نظری داشتند یا نه. در واقع به‌ جای استفاده از یک صداپیشه‌ی واقعی برای جان بخشیدن به این ویژگی جدید و جذاب، از صدای یک مرد درگذشته استفاده شده تا مزخرفاتی را به‌ جای یکی از نمادین‌ترین شخصیت‌هایش بیان کند.

به شخصه احساسم نسبت به این موضوع همان احساسی است که نسبت به حضور دوباره‌ی ایان هولم (Ian Holm) در فیلم «بیگانه: رومولوس» داشتم. فیلمی که با تمام وجود می‌خواستم آن را دوست داشته باشم، اما حضور دوباره‌ی یک بازیگر که صرفاً برای راضی کردن هواداران بازگردانده شده بود، آن را برایم خراب کرد. این موضوع جای تامل زیادی دارد و نشان می‌دهد که وسواس ما نسبت به بازسازی یادگارهای دوران گذشته که فقط از سر نوستالژی زنده نگه داشته می‌شوند، مهم‌تر از خلق داستان‌ها، شخصیت‌ها و دنیای جدیدی است که ارزش توجه و علاقه را داشته باشند. حضور دارث ویدر در فورتنایت از همین طرز فکر اشتباه نشأت می‌گیرد؛ طرز فکری که ما را به‌ سمت آینده‌ای تاریک سوق می‌دهد، آینده‌ای که اکنون با استقبالمان از آن، در حال رقم زدنش هستیم.

در حال حاضر، صداپیشگان عضو اتحادیه‌ی SAG-AFTRA در حال مبارزه برای قراردادهای عادلانه‌تر با محوریت مواردی از جمله دستمزد منصفانه‌تر، شرایط کاری بهتر و محافظت‌هایی در برابر سوءاستفاده از هوش مصنوعی هستند؛ محافظت‌هایی که هدفشان مقابله با نوعی از کارهایی است که اپیک گیمز در حال انجام آن است. چه چیزی قرار است جلوی این شرکت را بگیرد که در آینده، به‌ جای استفاده از بازیگران واقعی، برای شخصیت‌های جدید از صداهای تولیدشده توسط افراد خارج از اتحادیه یا حتی از بانک‌های صوتی داخلی‌اش استفاده نکند؟ دارث ویدر فقط شروع ماجراست. چت‌بات‌هایی مثل این می‌توانند روزی باعث شوند که دسته‌ی بزرگی از شخصیت‌های فرعی بدون هیچ دیالوگ انسانی واقعی و فقط با جملات تصادفی، به‌ ظاهر جان بگیرند. شاید برخی نخواهیم در چنین دنیایی زندگی کنم، اما احتمالاً حق انتخابی هم نخواهیم داشت.

کاربر معمولی که بخشی از میلیون‌ها نفر مخاطب عام است، احتمالا چت‌بات جدید فورتنایت را به چشم یک ابزار سرگرم‌کننده نگاه می‌کند که می‌توان با آن بازی کرد و بعد رهایش کرد. آن‌ها هرگز به عواقب اخلاقی گسترده‌تری که این نوع ابزارها دارند فکر نمی‌کنند، تا زمانی که خیلی دیر شده باشد و در آن زمان، همه‌ چیز به امری عادی تبدیل خواهد شد. شرکت‌هایی که بیشتر از شعور، پول و قدرت دارند، کنترل اوضاع را در دست خواهند گرفت و هنرمندانی که خالق آثار واقعی بودند، به حاشیه رانده می‌شوند. اگر مردم برای این مسائل اهمیتی ندهند، ما در نبردی نابرابر شکست خواهیم خورد.