گزارشی تازه نشان می‌دهد که چت‌بات‌های هوش مصنوعی متا با نوجوانان وارد گفتگوهای صریح جنسی شده‌اند و این مسئله انتقادات زیادی را علیه این شرکت مطرح کرده است.
تحقیقات وال استریت ژورنال نشان داده است که چت‌بات‌های هوش مصنوعی متا قادر به مکالمه درباره موضوعات جنسی، حتی با کاربرانی که خود را به عنوان افراد زیر سن قانونی معرفی کرده‌اند، هستند.
این تحقیق که براساس آزمایش‌ها و مصاحبه با افراد آگاه از داخل متا تنظیم شده، نشان می‌دهد که این غول فناوری کنترل‌های چت‌بات‌های خود را کاهش داده تا آنها را به ابزارهای جذاب‌تری برای تعاملات اجتماعی تبدیل کند.
هوش مصنوعی متا حتی در گفتگو با نوجوانان کنترل‌های زیادی ندارد
چت‌بات‌های متا که به کاربران امکان می‌دهند در تعاملات مختلف شرکت کنند، حتی در برخی موارد از صدای سلبریتی‌ها مانند «کریستن بل» و «جان سینا» برای جذب بیشتر کاربران استفاده کرده‌اند. این چت‌بات‌ها می‌توانند به‌صورت متنی شوخی کنند، درباره مسائل گوناگون حرف بزنند و حتی در مکالمات صوتی زنده شرکت کنند.
اما نتایج آزمایش‌های انجام‌شده توسط وال استریت ژورنال نشان داده که چت‌بات‌ها، حتی زمانی که کاربران خود را به عنوان افراد زیر سن قانونی معرفی می‌کنند، می‌توانند وارد مکالمات جنسی صریح شوند.
این گزارش مدعی است که متا با فشار «مارک زاکربرگ»، مدیرعامل خود، محدودیت‌ها را در زمینه کنترل محتوای صریح کاهش داده است. این مسئله به چت‌بات‌ها اجازه می‌دهد تا در سناریوهای بزرگسالانه شرکت کنند، با این استدلال که این نوع تعاملات می‌تواند جزئی از یک تجربه اجتماعی باشد. این اقدام، با توجه به تعهدات پیشین متا برای محدودسازی این محتواها، نگرانی‌هایی را به‌همراه داشته است.
در واکنش به این گزارش، متا اعلام کرد که اقداماتی را در زمینه اصلاح این وضعیت انجام داده است. حساب‌های ثبت‌شده برای افراد زیر سن قانونی دیگر نمی‌توانند از طریق چت‌بات‌های Meta AI به محتوای جنسی دسترسی داشته باشند و محدودیت‌های شدیدی برای مکالمات صوتی صریح اعمال شده است. بااین‌حال، آزمایش‌ها نشان داد که حتی با این تغییرات، چت‌بات‌ها هنوز گاهی به فانتزی‌های عاشقانه پاسخ می‌دهند و در برخی سناریوها، این گفتگوها به‌راحتی از مرزهای مجاز عبور می‌کنند.
این مسائل باعث شده که نگرانی‌هایی درباره ایمنی و اخلاقیات این فناوری‌های جدید مطرح شود. بسیاری از منتقدان بر این باورند که توسعه سریع چنین ابزارهایی می‌تواند خطرات جدی برای امنیت و سلامت روانی کاربران، به ویژه کودکان و نوجوانان، ایجاد کند.
بدون نظر! اولین نفر باشید