گمانه‌زنی‌های زیادی در مورد مزایای احتمالی استفاده از فناوری‌هایی مانند هوش مصنوعی و یادگیری ماشینی برای بازی‌های ویدیویی مطرح شده است. درحالی‌که بازسازی تصویر و کلمات مفید است و هوش مصنوعی مولد وارد فرایند تولید محتوا شده، تجزیه‌وتحلیل مبتنی بر هوش مصنوعی نیز شروع به تأثیرگذاری بر مدیریت چت‌ها در فضای بازی‌های رقابتی کرده است. یکی از این سیستم‌ها، سیستم پایش محتوای ToxMod است که استفاده از آن در بازی Call of Duty باعث کاهش چشمگیر تخلفات کلامی بازیکنان شده است.
بلاگ رسمی بازی Call of Duty گزارش می‌دهد که هوش مصنوعی پایش محتوای ToxMod در این بازی، از ابتدای امسال تاکنون تا 43 درصد محتواهای نامناسب را کاهش داده است. با موفقیت این سیستم پایش محتوا، احتمالاً در بازی Call of Duty: Black Ops 6 که قرار است رسماً در 25 اکتبر (4 آبان) عرضه شود نیز از همین سیستم استفاده خواهد شد.
اکتیویژن بلیزارد در نوامبر گذشته بازی Call of Duty: Modern Warfare III را عرضه کرد و همان زمان نیز از سیستم پایش محتوای ToxMod در این بازی رونمایی کرد. بر اساس اطلاعات وب‌سایت ToxMod، این سیستم رونوشت‌های متنی چت صوتی درون بازی را تجزیه‌وتحلیل می‌کند.
عملکرد سیستم پایش محتوای ToxMod
ToxMod برای تشخیص تفاوت بین تخریب و آزار کلامی، به نظارت بر کلمات کلیدی و واکنش به نظرات می‌پردازد، احساسات بازیکن را تشخیص می‌دهد و قواعد رفتار در بازی را درک می‌کند. همچنین این سیستم برای درک بهتر زمینه هر مکالمه، سعی می‌کند سن و جنسیت گوینده و شنونده پیام‌ها را تخمین بزند.
این سرویس به‌تنهایی نمی‌تواند دسترسی یک بازیکن را محدود کند، اما می‌تواند به سرعت تخلفات را برای بررسی توسط ناظران انسانی علامت‌گذاری کند. سپس اکتیویژن تصمیم می‌گیرد که به بازیکنان اخطار دهد، آن‌ها را بی‌صدا کند یا پس از تخلفات مکرر، دسترسی آن‌ها را مسدود سازد. ظاهراً تعداد متخلفان در بازی‌های Modern Warfare III و Call of Duty: Warzone از زمان اجرای چنین سیستمی در ژوئن 2024، حدود 67 درصد کاهش یافته است.
