تحديات الذكاء الصناعي – بمفهوم واقعي

أصدر مركز الأبحاث بجوجل Google Brain بشراكة مع شركة OpenAI البحثية وجامعتي ستانفورد وبيركلي.أصدروا تصورهم لتحديات الذكاء الصناعي من ناحية الأمن والسلامة على المدى المتوسط والبعيد . وهذه محاولة أولية منهم لرسم طريقة تفكير منهجي مقابل المخاوف العامة من الذكاء الصناعي. خصوصا وأن النقاش عن خطورة الذكاء الصناعي ومخاوفه في السنوات الأخيرة  لم يخرج من دائرة الافتراض أو التخمين ولم يبنى على أسس واقعية مباشرة – في غالب الأمر. وهذه خطوة طبيعية منهم، ليتمكن للباحثين في هذا المجال التعاطي مع هذه الصعاب بشكل علمي وتوفير الحلول المناسبة لها مبكرا.

اختصروا الباحثين التحديات في خمس مسائل، وفي شرحهم لهذه المسائل استعانوا بالمكنسة الروبوتية كمثال للتقريب.

  • تجنب الأعراض الجانبية السلبية
  • في أداء الآلة لمهمتها، كيف يمكن ضمان عدم تعرضها لمحيط العمل والتأثير فيه بشكل سلبي.مثال: قيام المكنسة بابعاد طاولة من على الطريق واتلافها  لأن ذلك سيجعلها تنظف الأرض بشكل أسرع، كون مهمتها الرئيسية هي التنظيف. وهل يمكننا تجنب مثل هذه السلبيات من غير التحديد بشكل يدوي جميع ما لا يجب على المكنسة تحريكه؟
  • تجنب الالتفاف على المهمة والهدف
  • كيف نضمن عدم التفاف الآلة على معادلة الهدف. فلو كانت المكنسة تكافأ على بيئة خالية من الأوساخ، فمن الممكن أن تطفيء نظام الرؤية لكي لا  ترى الأوساخ، أو تخبئ هذه الأوساخ تحت السجادة أو تقوم المكنسة نفسها بالاختباء لكي لا يراها أحد ويشير لها على مواقع أوساخ أخرى.
  • رقابة قابلة للتوسع 
  • مع توسع عمل الآلة وازدياد التعقيد في بيئة العمل يصعب على البشر توفير التدريب والرقابة للآلة بشكل مستمر. كيف يمكن ضمان تمكن الآلة من استخدام أقل قدر من التعامل البشري في مجاراتها لمهامها. فلو اضطرت المكنسة لرمي بعض الحاجيات التي لا تبدو ملكا لأحد، مقابل حاجتها لابقاء تلك التي تبدو ملكا لأحد كالفرق بين الحاجة لرمي قنينة عصير فارغة مقابل ابقاء هاتف نقال، فكيف يمكنها التفريق بينهما بما تملكه من معلومات أو عن طريق أقل قدر من الاستسفسار. هل يمكن جعل المكنسة تقوم بأقصى حد من العمل بدون ازعاج البشر بالأسئلة المتكررة؟
  • الاستكشاف الآمن
  • كيف نضمن أن لا تقوم الآلة بأعمال استكشافية لها دواعي سلبية. المكنسة على سبيل المثال عليها تجربة أساليب مختلفة للمسح والتنظيف، وهذا نوع من الاستكشاف. ولكن كيف نضمن عدم وضع المكنسة لقطعة قماش مبللة في وصلة كهربائية وهي تحاول تنظيفها.
  • كفاءة التأقلم على المتغيرات التوزيعية
  • كيف نضمن أن تتمكن الآلة من التأقلم على تغييرات البيئة المحيطة وتقوم بأداء مهامها بكفاءة مع هذه المتغيرات. فالاستدلالات التي تعلمتها الآلة في تنظيفها لورشة مصنع قد لا تنطبق على المكاتب.

 

ولكل من هذه التحديات الخمس وضعوا الباحثين بعض التصورات عن كيفية التعامل معها بالمفاهيم العلمية لتخصص الذكاء الصناعي. للمزيد يرجى الاطلاع على ورقة البحث المنشورة بعنوان Concrete Problems in AI Safety

Ali AlSaibie
PhD Candidate,
Georgia Institute of Technology

علي الصيـبعي

باحث دكتوراه، معهد جورجيا للتقنية