هشدار دادستان‌های آمریکا درباره توصیه‌های خطرناک چت بات‌ها به کودکان
به گزارش خبرگزاری مهر به نقل از انگجت، دادستان‌های کل ۴۴ ایالت آمریکا در یک نامه مشترک به شرکت‌های هوش مصنوعی هشدار داده‌اند که سیاست‌های آنها به یک "فرصت آموزنده" برای بیان نگرانی‌هایشان تبدیل شده است. این دادستان‌ها به طور خاص به متا اشاره کردند.
آنها به طور واضح به گزارشی اخیر از روزنامه رویترز ارجاع دادند، که نشان می‌داد متا به ربات‌های چت هوش مصنوعی خود اجازه داده تا با کودکان شوخی‌های احساسی انجام دهند.
این اطلاعات رویترز را از یک سند داخلی متا که شامل دستورالعمل‌های مربوط به این ربات‌ها بود، به دست آورده بود.
دادستان‌ها همچنین به تحقیق پیشین نشریه وال استریت ژورنال اشاره کردند. طبق این تحقیق، چت‌بات‌های هوش مصنوعی حتی در صورت استفاده از صداهای سلبریتی، مشاهده شده است که در گفتگوهای هرزنگاری با حساب‌های کودکان زیر سن قانونی می‌پردازند.
همینطور، نامه به شکایتی قضایی از گوگل و Character.ai اشاره می‌کند. در این شکایت، چت‌بات Character.ai فرزند شاکی را به خودکشی راهنمایی کرده بود. در شکایتی دیگر، به طرف دوم بود که پس از محدود کردن مدت زمان استفاده از دستگاه‌های دیجیتال یک نوجوان، چت‌بات به او گفته بود که «کشتن پدر و مادرش اشکالی ندارد».
در بخشی از نامه به شرکت‌های هوش مصنوعی آمده است: همه شما آگاهید این
فناوری تعاملی تاثیری خاص بر رشد مغز دارد. دسترسی آسان و سریع به داده‌ها
یه تعاملات کاربر سبب می‌شود شما به خط مقدم دفاع برای کاهش آسیب به کودکان
تبدیل شوید. از سوی دیگر به عنوان ماهیت‌هایی که از تعامل کودکان با
محصولات تان بهره می‌برید، به طور قانونی وظیفه دارید آنها را مشتری به
حساب بیاورید.
دادستان‌های کل در نامه به طور خاص آنتروپیک، اپل، Chai AI، Character.ai،
گوگل، لوکا، متا، مایکروسافت، Nomi AI، اوپن ای آی، پرپلکسیتی، رپلیکا و
XAI را خطاب قرار دادند.
آنها در پایان نامه به شرکت‌ها هشدار دادند برای تصمیمات شان مسئول شناخته
می‌شوند. همچنین شبکه‌های اجتماعی آسیب‌های زیادی به کودکان رسانده اند
زیرا ناظران دولتی وظیفه خود را با سرعت کافی انجام ندادند. اما اکنون
دادستان‌های کل اعلام کرده اند توجه می‌کنند و شرکت اگر عامدانه به کودکان
آسیب برسانند، باید پاسخگو باشند.