داووت شوارتز، مدیر ارشد فناوری ریپل، علناً شکایتی را که سرویس چت هوش مصنوعی Character.AI را به سهل انگاری متهم کرده بود، رد کرد. شوارتز در رسانه‌های اجتماعی ادعا کرد که این شکایت از نظر قانونی بی اساس است و ادعا می‌کند که فعالیت‌های این پلتفرم تحت حفاظت اولین متمم در ایالات متحده است. این شکایت توسط مادر سوگوار 14 ساله سول ستزر، که طبق گزارش‌ها قبل از مرگ غم انگیزش به شدت با پلتفرم درگیر بود، راه اندازی شد.
اقدام قانونی انجام شده توسط مادر ستزر شامل اتهامات جدی مانند سهل انگاری، مرگ نادرست، شیوه‌های تجاری گمراه کننده و مسئولیت محصول است. دعوی ادعا می‌کند که Character.AI نتوانسته اقدامات ایمنی ضروری را برای محافظت از مخاطبان جوان خود انجام دهد. اشاره شده است که ستزر قبل از مرگ نابه‌هنگام خود به طور منظم با ربات‌های چت طراحی شده برای تقلید از شخصیت‌های رسانه ای شناخته شده تعامل داشت.
با توجه به این شکایت، Character.AI به روز رسانی‌های پروتکل‌های ایمنی خود را فاش کرده است، از جمله معرفی فیلترهای محتوای محدود سنی و ابزارهایی برای شناسایی چت‌های مضر استفاده می‌شوند. این شرکت بابت این حادثه ناگوار ابراز تأسف عمیق کرد و به خانواده ستزر تسلیت گفت. شوارتز بر پیچیدگی تعادل آزادی بیان و پاسخگویی شرکتی تأکید کرد و استدلال کرد که مبانی حقوقی این دعوی ناقص است.
وقایع پیرامون این پرونده به ملاحظات مهمی در مورد اخلاق شرکتی و ایمنی کاربر منجر می‌شود، از جمله:
- ضرورت اجرای اقدامات ایمنی موثر برای شرکت‌های فناوری
- چالش‌های موجود در حفظ آزادی بیان و در عین حال محافظت از کاربران آسیب پذیر
- نقش چارچوب‌های قانونی در نظارت بر فناوری‌های هوش مصنوعی و تأثیرات آن‌ها بر جامعه.
پاسخ‌های Character.AI و Schwartz بحث‌های تازه‌ای را در مورد مسئولیت‌های شرکت‌های فناوری و تعهدات آن‌ها برای محافظت از کاربران و در عین حال حمایت از حقوق اساسی برانگیخته است. این بحث‌ها از آنجایی که فناوری به تکامل خود ادامه می‌دهد و با زندگی روزمره در هم می‌پیوندد، حیاتی هستند.
