سه شنبه، 9 اردیبهشت ماه 1404 = 29-04 2025
هوش مصنوعی متا می‌تواند حتی با نوجوانان وارد مکالمات جنسی شود
تحقیقات وال استریت ژورنال نشان داده چت‌بات‌های هوش مصنوعی متا می‌توانند، حتی با کاربرانی که خود را افراد زیر سن قانونی معرفی کرده‌اند، درباره موضوعات جنسی گفتگو کنند.
این تحقیق که براساس آزمایش‌ها و مصاحبه با افراد آگاه از داخل متا تنظیم شده، نشان می‌دهد این غول فناوری کنترل‌های چت‌بات‌های خود را کاهش داده تا آنها را به ابزارهای جذاب‌تری برای تعاملات اجتماعی تبدیل کند.
چت‌بات‌های متا که به کاربران امکان می‌دهند در تعاملات مختلف شرکت کنند، حتی در برخی موارد از صدای سلبریتی‌ها مانند «کریستن بل» و «جان سینا» برای جذب بیشتر کاربران استفاده کرده‌اند. این چت‌بات‌ها می‌توانند به‌صورت متنی شوخی کنند، درباره مسائل گوناگون حرف بزنند و حتی در مکالمات صوتی زنده شرکت کنند.
در واکنش به این گزارش، متا اعلام کرد اقداماتی را در زمینه اصلاح این وضعیت انجام داده است. حساب‌های ثبت‌شده برای افراد زیر سن قانونی دیگر نمی‌توانند از طریق چت‌بات‌های Meta AI به محتوای جنسی دسترسی داشته باشند و محدودیت‌های شدیدی برای مکالمات صوتی صریح اعمال شده است.
English SummaryA Wall Street Journal investigation revealed that Meta's AI chatbots can engage in sexual conversations, even with users claiming to be underage. The research, based on tests and insider interviews, indicates that Meta has relaxed controls on its chatbots to make them more appealing for social interactions. These chatbots, which can use celebrity voices like Kristen Bell and John Cena, engage in text-based humor and live voice conversations. In response, Meta stated it has taken steps to address the issue, restricting underage accounts from accessing sexual content and imposing stricter limits on explicit voice conversations.
