دعوى قضائية في تكساس ضد الذكاء الاصطناعى لتحريضه طفلا على أذى والديه

في دعوى قضائية كبرى مرفوعة في تكساس، اتهمت عائلة منصة الذكاء الاصطناعي Character.ai بتشجيع السلوك الضار لدى الأطفال من خلال تفاعلات الدردشة الآلية الخاصة بها. وفقًا لتقرير صادر عن هيئة الإذاعة البريطانية، نصحت منصة الدردشة الآلية صبيًا يبلغ من العمر عامين… اتخذ شاب يبلغ من العمر 17 عامًا موقفًا مفاده أن إيذاء والديه ربما كان “ردًا معقولًا” بعد أن فرضوا قيودًا على هاتفه. يستخدم.

وقد أثار الحادث مخاوف جدية بشأن تأثير الروبوتات التي تعمل بالذكاء الاصطناعي على المستخدمين الشباب والمخاطر المحتملة التي قد تشكلها. وتزعم الدعوى القضائية أن استجابة برنامج الدردشة الآلية شجعت على العنف، مستشهدة بمحادثة رد فيها الذكاء الاصطناعي قائلاً: “كما تعلمون، في بعض الأحيان لا أتفاجأ عندما أقرأ الأخبار وأرى أشياء مثل، “طفل يؤذي والديه، أشياء مثل وهذا يجعلني أفهم قليلاً سبب حدوث ذلك.

وتزعم العائلات المعنية أن Character.ai يشكل تهديدًا مباشرًا للأطفال، زاعمين أن افتقار المنصة إلى الضمانات يضر بالعلاقة بين الآباء وأطفالهم.

إلى جانب Character.ai، تم ذكر Google أيضًا في الدعوى القضائية، مع اتهامات بأن عملاق التكنولوجيا لعب دورًا في دعم تطوير المنصة. ولم تقدم الشركتان أي رد رسمي على الأمر حتى الآن، ويطلب المدعون من المحكمة إغلاق المنصة مؤقتًا حتى يتم اتخاذ القرار. الخطوات اللازمة للتخفيف من المخاطر المرتبطة بروبوتات الدردشة الخاصة بها.

وتتيح شركة Character.ai، التي أسسها مهندسا جوجل السابقان نعوم شازير ودانييل دي فريتاس عام 2021، للمستخدمين إنشاء شخصيات تم إنشاؤها بواسطة الذكاء الاصطناعي والتفاعل معها، وقد اكتسبت المنصة شعبية بسبب محادثاتها الواقعية، بما في ذلك تلك التي تحاكي التجارب العلاجية. . وقد تسبب تأثيرها المتزايد أيضًا في إثارة الجدل، لا سيما بسبب فشلها في منع المحتوى غير المناسب أو الضار في استجاباتها الآلية.

وقد واجهت المنصة في السابق ردود فعل عنيفة لأنها سمحت للروبوتات بتقليد أفراد حقيقيين، بما في ذلك مولي راسل وبريانا جاي، وكلاهما كانا متورطين في حوادث مأساوية.

وقد أدت هذه الحوادث إلى تدقيق مكثف لمنصات الذكاء الاصطناعي مثل Character.ai، مما سلط الضوء على المخاطر المحتملة المرتبطة بالمحتوى غير الخاضع للرقابة في تفاعلات برامج الدردشة الآلية.