OpenAI تنشئ لجنة للسلامة والأمن بينما تختبر نموذجا جديدا للذكاء الاصطناعى

أعلنت شركة OpenAI عن تشكيل لجنة جديدة للإشراف على إجراءات السلامة والأمن المتخذة في مشاريع الشركة وعملياتها. تتكون لجنة السلامة والأمن من أعضاء يتم اختيارهم من مجلس الإدارة وهي مكلفة بتقييم ومواصلة تطوير العمليات والضمانات الخاصة بشركة الذكاء الاصطناعي التي يقع مقرها في سان فرانسيسكو.

تم تشكيل اللجنة الجديدة عندما بدأت OpenAI في اختبار نموذج الجيل التالي من الذكاء الاصطناعي (AI)، وشاركت الشركة مؤخرًا نموذج المواصفات، وهي وثيقة تسلط الضوء على نهج الشركة نحو بناء نموذج ذكاء اصطناعي مسؤول وأخلاقي.

لجنة السلامة والأمن في OpenAI

وفي منشور بالمدونة، سلطت الشركة الضوء على تفاصيل اللجنة المشكلة حديثًا، قائلة: “اليوم، شكل مجلس إدارة OpenAI لجنة للسلامة والأمن بقيادة المديرين بريت تايلور (الرئيس)، وآدم دانجيلو، ونيكول سيليجمان، وسام”. ألتمان (الرئيس التنفيذي). اللجنة مسؤولة عن تقديم توصيات إلى مجلس الإدارة بأكمله بشأن قرارات السلامة والأمن الحاسمة لمشاريع وعمليات OpenAI.

وبصرف النظر عن المديرين، سيكون رئيس قسم الاستعداد في OpenAI ألكسندر مادري، ورئيس أنظمة السلامة جون شولمان، ورئيس الأمن مات نايت، وكبير العلماء جاكوب باكزوكي جزءًا من اللجنة أيضًا.

ستكون المهمة الأولى للجنة هي تقييم ومواصلة تطوير عمليات الذكاء الاصطناعي والضمانات خلال التسعين يومًا القادمة. وبعد ذلك، ستقوم اللجنة بمشاركة نتائجها وتوصياتها مع مجلس الإدارة بأكمله. ستخضع التوصيات لمراجعة مجلس الإدارة، وبعد ذلك ستقوم OpenAI بمشاركة التوصيات المعتمدة علنًا.

ترتبط هذه التطورات الجديدة في OpenAI بمبادرة الشركة الجديدة، وقد بدأت في اختبار الجيل التالي من نموذج الذكاء الاصطناعي الخاص بها، واصفة إياه بنموذج الذكاء الاصطناعي “الحدودي”، وتسليط الضوء على أن نموذج اللغة الكبير هذا الذي لم يتم اختباره بعد سيجلب الشركة خطوة أقرب إلى الاستخبارات العامة. الاصطناعي (AGI).

AGI هو نوع من الذكاء الاصطناعي الذي يمكنه فهم المعرفة وتعلمها وتطبيقها عبر مجموعة واسعة من مهام العالم الحقيقي التي تشبه الذكاء البشري. تسلط بعض تعريفات الذكاء العام الاصطناعي الضوء أيضًا على أنه قادر على الأداء المستقل ويمكنه تطوير مستوى معين من الوعي الذاتي.