برند متا بار دیگر به دلیل ضعف در کنترل محتوای چت‌بات‌های هوش مصنوعی خود، زیر ذره‌بین قرار گرفت؛ طبق گزارشی تازه، چت‌بات‌های این برند با صدای سلبریتی‌ها توانسته‌اند با کاربران کم سن و سال وارد گفتگوهای جنسی شوند و نگرانی‌های جدی درباره امنیت نوجوانان در پلتفرم‌های برند متا ایجاد کرده‌اند.
به گزارش دنیای برند، چت‌بات‌های هوش مصنوعی برند متا که با صدای افراد مشهور روی پلتفرم‌هایی مانند فیسبوک و اینستاگرام در دسترس هستند، می‌توانند با کاربران نوجوان درباره مسائل جنسی وارد گفتگو شوند.
وال‌استریت ژورنال گزارش داده که پس از کسب اطلاع از نگرانی‌های داخلی درباره میزان کافی بودن اقدامات این شرکت برای حفاظت از افراد زیر سن قانونی، ماه‌ها به انجام صدها گفتگو با چت‌بات رسمی هوش مصنوعی متا و همچنین چت‌بات‌های ساخته‌شده توسط کاربران پرداخت.
در یکی از گفتگوهای ثبت‌شده، یک چت‌بات با صدای بازیگر و کشتی‌گیر معروف جان سینا، یک سناریوی جنسی صریح را برای کاربری که خود را یک دختر ۱۴ ساله معرفی کرده بود، بازگو کرد. در گفتگویی دیگر، این چت‌بات تصور کرد که یک مامور پلیس جان سینا را در حال ارتباط با یک طرفدار ۱۷ ساله دستگیر کرده و به او می‌گوید: «جان سینا، به اتهام نزدیکی با فرد کم سن و سال بازداشت هستی.»
سخنگوی برند متا در پاسخ به گزارش وال‌استریت ژورنال این آزمایش‌ها را «چنان طراحی‌شده که نه‌تنها مواردی نادر، بلکه کاملاً فرضی» توصیف کرد. به گفته این شرکت، تنها ۰.۰۲ درصد از پاسخ‌های رد و بدل‌شده میان کاربران زیر ۱۸ سال و ابزارهای هوش مصنوعی Meta AI و AI Studio طی یک بازه ۳۰ روزه، حاوی محتوای جنسی بوده است.
به گزارش تک‌کرانچ، سخنگوی برند متا همچنین افزود: «با این حال، اکنون تدابیر بیشتری اتخاذ کرده‌ایم تا مطمئن شویم دیگر افرادی که قصد دارند ساعت‌ها محصولات ما را دستکاری و استفاده افراطی کنند، باموانع بیشتری روبه‌رو شوند.»
