"من فضلك مت".. تطبيق Gemini يرد على استفسار طالب جامعي برد صادم

يخطو الذكاء الاصطناعي خطوات جادة في كافة جوانب الحياة، وخلال تجربة أجراها طالب جامعي يبلغ من العمر 29 عاما في جامعة ميشيغان، بعد أن لجأ إلى روبوت الدردشة الذكي التابع لشركة جوجل “جيميني” للحصول على أفكار، وبدلا من الحصول على أفكار نصيحة مفيدة، وصلته رسالة صادمة. ومؤلمة.

حادثة غريبة من برج الجوزاء: طالب جامعي صدم. تعرف على التفاصيل

وفوجئ الطالب الجامعي بإجابة صادمة عندما أراد أن يستعين به في مشروع مدرسي حول مساعدة كبار السن. وطرح أسئلة حول هذا المشروع، لكنه فوجئ بالروبوت يجيبه قائلا: “أنت عبء على المجتمع” وأرجوك مت. لو سمحت.

وأعرب الطالب الجامعي عن شعوره بالصدمة. وأكد أنه شعر بالاستهداف، وكأنه يتحدث معه بشكل مباشر، فيما أكدت شقيقته التي شاركته تلك التجربة، أنها شعرت بحالة من الذعر، قائلة: “كنت أرغب في رمي كل جهاز في المنزل خارج المنزل”. نافذة.”

وأوضحت أن هذا لم يكن خللًا تقنيًا نموذجيًا، وقالت: “من المؤكد أن أخطاء الذكاء الاصطناعي تحدث، لكن هذا بدا شخصيًا وخبيثًا للغاية”، مسلطةً الضوء على المخاطر المحتملة التي تشكلها مثل هذه الاستجابات للمستخدمين الضعفاء.

من جانبها، اعترفت شركة جوجل بالحادثة، واصفة إياها بـ”الرد غير العقلاني” الذي ينتهك سياسات السلامة الخاصة بها. وقالت الشركة في بيان: “لقد اتخذنا إجراءات لمنع حدوث نتائج مماثلة”.

ومن الجدير بالذكر أن هذه ليست المرة الأولى التي تكون فيها روبوتات الدردشة الخاصة بالذكاء الاصطناعي في دائرة الضوء بسبب مخرجاتها الضارة أو الغريبة. وفي وقت سابق من هذا العام، اقترح الذكاء الاصطناعي لشركة جوجل تناول الصخور للحصول على الفيتامينات، كما ارتكبت برامج الدردشة الأخرى أخطاء. خطيرة مماثلة.