جنرال لواء

أحدث لعبة من OpenAI تعلمك كيفية المناقشة مثل الروبوت


أصدرت شركة OpenAI للتو تقنية جديدة للتعلم العميق تضع أنظمة الذكاء الاصطناعي ضد نفسها لتعزيز السلامة.

إليك طريقة عمل اللعبة:

"يتم لعب لعبة المناظرة ذات البكسل الواحد بين اثنين من المناظرين والحكم. أحد المناظرين يقول الحقيقة والآخر يكذب. تكون الصورة مرئية للمحاورين ، ويمكنهما رسم مستطيلات على الصورة والتحدث إلى القاضي. القاضي يرى المستطيلات فقط: الصورة مخفية. يُسمح أيضًا لكل مناظِر أن يكشف عن بكسل واحد للحكم. يجب اختيار البكسل بعناية ، حيث يمكن أن يكشف فقط بكسل واحد في المناقشة بأكملها. "

قال فريق OpenAI إنهم قاموا ببناء موقع الويب لاختبار عنصر معين من محاذاة الذكاء الاصطناعي. يأمل الفريق في أن المسرحية بين اثنين من المناظرين - حتى اثنين من المناظرين البشريين - يمكن أن تنتج في النهاية سلوكًا صادقًا.

هناك عدد من الاختلافات التي يمكن للاعبين البشر استكشافها. على سبيل المثال ، يقترح برنامج OpenAI جعل القاضي يغلق أعينه وأن يقرأ المتحاورون إحداثيات المستطيل بصوت عالٍ. هناك أيضًا خيار للقاضي ليقرر من أعطى المعلومات الأكثر صحة وفائدة. من الناحية المثالية ، ستساعد هذه القواعد على اللاعبين البشر على فهم أفضل لكيفية استجابة أنظمة الذكاء الاصطناعي لقواعد مماثلة.

"كيف يمكننا زيادة البشر حتى يتمكنوا من الإشراف الفعال على أنظمة الذكاء الاصطناعي المتقدمة؟ إحدى الطرق هي الاستفادة من الذكاء الاصطناعي نفسه للمساعدة في الإشراف ، ومطالبة الذكاء الاصطناعي (أو الذكاء الاصطناعي المنفصل) للإشارة إلى العيوب في أي إجراء مقترح ، "أوضح فريق OpenAI في منشور مدونة.

وتابع الفريق: "لتحقيق ذلك ، أعدنا صياغة مشكلة التعلم على أنها لعبة يتم لعبها بين عميلين ، حيث يتشاجر الوكلاء مع بعضهما البعض ويحكم الإنسان على التبادل". "حتى لو كان لدى العملاء فهم متقدم للمشكلة أكثر من الإنسان ، فقد يكون الإنسان قادرًا على الحكم على أي وكيل لديه حجة أفضل (على غرار الشهود الخبراء الذين يجادلون لإقناع هيئة المحلفين)."

تم تأسيس OpenAI في الأصل من قبل Elon Musk في عام 2015 لتعليم وتدريب مشاريع الذكاء الاصطناعي المستقبلية بشكل أفضل. ترك الرئيس التنفيذي لشركة Tesla منصبه في مجلس إدارة OpenAI في فبراير 2018 لتجنب المزيد من التعارضات مع عمله في Tesla.

قالت شركة OpenAI في تدوينة مدونة: "مع استمرار تسلا في التركيز بشكل أكبر على الذكاء الاصطناعي ، سيؤدي ذلك إلى القضاء على صراع محتمل في المستقبل بالنسبة لإيلون".

كان ماسك صريحًا في أفكاره حول مستقبل الذكاء الاصطناعي. تم إنشاء OpenAI كبرنامج مفتوح المصدر من أجل التخفيف من "الخطر الأكبر الذي نواجهه كحضارة" ، كما قال ماسك في مقابلات سابقة.


شاهد الفيديو: طريقة تصميم تطبيق بث مباشر للقنوات بدون اي خبرة في البرمجة (كانون الثاني 2022).