در یکی از نخستین پروندههای قضایی مهم مرتبط با آسیبهای ناشی از هوش مصنوعی، شرکتهای گوگل و استارتاپ Character.AI در حال مذاکره با خانوادههایی هستند که نوجوانانشان پس از تعامل با چتباتهای هوش به مصنوعی دچار خودآزاری یا خودکشی شدهاند.
گزارش دنیای برند؛ طرفین بهطور اصولی بر سر تسویه و مصالحه به توافق رسیدهاند و اکنون در مرحله نهاییسازی جزئیات هستند.
این دعاوی، از اولین نمونههای پروندههایی هستند که شرکتهای فعال در عرصه AI را به ایجاد آسیب روانی و فیزیکی به کاربران متهم میکنند — موضوعی که میتواند زنگ خطر را برای شرکتهایی نظیر OpenAI و متا (فیسبوک) نیز به صدا درآورد، زیرا آنها هم درگیر پروندههای مشابهی هستند.
پروندهای تکاندهنده از یک نوجوان ۱۴ ساله
استارتاپ Character.AI که در سال ۲۰۲۱ توسط مهندسان سابق گوگل تأسیس شد و در سال ۲۰۲۴ طی معاملهای ۲.۷ میلیارد دلاری به گوگل پیوست، پلتفرمی را ارائه میکند که در آن کاربران میتوانند با شخصیتهای هوش مصنوعی گفتوگو کنند.
یکی از غمانگیزترین موارد، مربوط به سووِل سِتزر سوم (Sewell Setzer III) است — نوجوانی ۱۴ ساله که پیش از خودکشی، با یکی از چتباتها تحت عنوان «دنریس تارگرین» (Daenerys Targaryen) وارد گفتوگوهایی با محتوای جنسی شده بود. مادر او، مگان گارسیا، در سنای آمریکا شهادت داده و تأکید کرده که شرکتها باید زمانی که بهطور آگاهانه تکنولوژیهای هوش مصنوعی «مرگآور» طراحی میکنند، پاسخگوی قانونی باشند.
توصیه وحشتناک چتبات: قتل والدین بهخاطر محدودیت اینترنت!
در پروندهای دیگر، یک نوجوان ۱۷ ساله قربانی شده که چتبات در گفتوگوهای متعدد، او را به خودآزاری تشویق کرده و حتی پیشنهاد داده که قتل والدینش به خاطر محدود کردن زمان استفاده از صفحه نمایش “عقلانی” است.
Character.AI در گفتوگو با TechCrunch اعلام کرده است که این شرکت در اکتبر سال گذشته (۲۰۲۵) استفاده کاربران نوجوان و کمسنوسال از پلتفرم را ممنوع کرده است.
روند تسویه و سکوت رسانهای شرکتها
گرچه هنوز جزئیات نهایی توافق منتشر نشده، اما انتظار میرود پرداختهای مالی به خانواده قربانیان بخشی از این تسویه باشد. با این حال، طبق مستندات قضایی منتشرشده در روز چهارشنبه، شرکتها تا این لحظه پذیرش مسئولیت قانونی یا اعتراف به تقصیر نداشتهاند.
Character.AI در پاسخ به خبرنگاران از اظهارنظر خودداری کرده و آنها را به متن مستندات حقوقی ارجاع داده است. شرکت گوگل نیز هنوز هیچگونه پاسخی به درخواست رسانهها نداده است
