News - تکنولوژیست کریس اسمیت توضیح می‌دهد هوش مصنوعی، مدل‌های زبان بزرگ و کاربردهای آنها در بازی‌های ویدئویی

کریس آن پایین است (زیرا آن بالا بدون شک دارث ودر است). هر قطعه از هوش مصنوعی (AI) نیست که مدل زبان بزرگی (LLM) باشد، اما مدل‌های زبان بزرگ نوعی از هوش مصنوعی مولد هستند. با این حال، همه هوش مصنوعی مولد، LLM نیستند. و حالا من سردرگم‌ام. خوشبختانه، کارشناس فناوری کریس سایمن می‌داند در مورد چه چیزی صحبت می‌کند و این کار را با جرمی «Junglist» Ray در آخرین قسمت پادکست grokludo انجام می‌دهد. در گفت‌گویی یک‌ساعته، سایمن توضیح می‌دهد که LLMها چه هستند و نه تنها منابع لازم برای استفاده از آنها را توضیح می‌دهد، بلکه دغدغه‌های اخلاقی همراه با آنها را نیز بررسی می‌کند. او همچنین توضیح می‌دهد که چرا یک LLM می‌تواند مدیر سیاه‌چال فاجعه‌آمیز باشد. جالب این است که سایمن و ری در مورد هک کردن LLMها — خواه عمداً باشد یا به طور غیرعمد — فرضیه‌پردازی می‌کنند. «می‌دانم چقدر گیمرها دوست دارند سیستم را هک کنند و باگ‌ها را پیدا کنند.» سایمن گفت. «شکستن قفل این LLMها آنقدر ساده است که اصلاً کار سختی نیست.» «به محض اینکه یک LLM را به یک بازی وصل کنند، به شما اطمینان می‌دهم که مردم بازی خواهند ساخت تا از LLM بخواهند کاری انجام دهد که قرار نبوده انجام دهد، درست است؟» «فکر می‌کنم از اینکه کاراکتری که قرار بود یک پرنسس الفی باشد را به رفتار شیطانی یا چیزی بدتر از آن وا دارند، سرگرم خواهند شد.» در اینجا دانش سایمن درباره LLMها به کار می‌آید، زیرا این اتفاق متأسفانه قبلاً رخ داده است. باز به ماه مه امسال بازمی‌گردیم و به یک بات هوش مصنوعی دارث ودر که بازیکنان با سهولت از خطوط خارج کردند. در حالی که لحظات بی‌گناه‌تر این بات خرابکار با تکرار «hawk tuah!» که در آن زمان محبوب بود، برخی دیگر توانستند هوش مصنوعی را وادار کنند تا فحش‌هایی همراه با جملات همجنس‌گراستیز و نژادپرستانه بگوید. همه اینها، البته، با صدایی که دقیقاً شبیه به جیمز ارل جونز بود، گویی آن بازیگر فقید خطوط را مانند یک متن از پیش نوشته شده ادا می‌کرد. در حالی که برخی بات Epic Games را تحسین کردند که از ترکیبی از Gemini گوگل و Flash v2.5 از ElevenLabs برای تولید پاسخ‌های دارث ودر با صدای جونز استفاده می‌کرد، برخی دیگر مانند SAG-AFTRA شوکه شدند و علیه او شکایت از رفتار غیرمنصفانه کارگری به دفتر ملی روابط کار ایالات متحده ثبت کردند. بدون شک، همه اینها مطالب بسیار جالبی هستند، پس به آن گوش بدهید — سایمن همه اینها را بهتر از من توضیح می‌دهد. نویسنده این مقاله، استیو راایت، با جرمی «Junglist» Ray دوست است و از او الهام می‌گیرد. گرچه این یک تأیید مستقیم از پادکست grokludo نیست، اما فکر می‌کنم ارزش دارد که خودتان هم یکبار به آن گوش بدهید تا ببینید آیا برای شما مناسب است یا نه.