الفيلسوف

تمرد الروبوتات

بقلم : أبو ميثم العنسي – اليمن
للتواصل : [email protected]

هل يمكن ان تكون نهاياتنا على يد ما صنعناه بانفسنا
هل يمكن ان تكون نهاياتنا على يد ما صنعناه بانفسنا

خلق الله تعالى بني آدم و ميزهم بالعقل عن باقي المخلوقات , فالعقل هو ما يجعلنا نفرق بين الحق و الباطل و بين ما ينفعنا و ما يضرنا , و هو ما أعطانا الإرادة و القدرة على تسخير كل ما يحيط بنا من جماد و كائنات حية في هذا الكوكب , و العقل كذلك هو ما يختزل التجارب و الأحداث التي تمر بنا و هو الوسيلة الذي نتعلم به فيتطور بذلك وعينا و إدراكنا فنسعى إلى التفوق و الأفضلية .

السعي نحو التفوق و الأفضلية قد لا يكون سمة و صفة حميدة دائما , فهو في الحقيقة سبب للصراعات و طريق للتكبر و التجبر و الرغبة للحصول على حقوق الغير و هو كذلك سبب لعدم الإذعان إلى الحق ظنا منا بأننا لا نحتاج إلى الهداية من أناس قد فضلهم الله علينا , و كيف يفضلهم الله علينا و نحن الأفضل من وجهة نظرنا , فمثلا أولئك الأقوام الذين أهلكهم الله بذنوبهم و لعدم إتباعهم لرسله و أنبياءه كان عذرهم الأول أن كيف يؤمن المستضعفون منهم بالرسل و الأنبياء و هم الأقوى و الأعز , و البعض منهم لا يؤمن بحجة أن الرسالة كان يجب أن تكون فيهم لأنهم أعظم و أفضل , فقالوا إعتراضا منهم على رسالة نبينا الكريم صلوات الله عليه : “لماذا لم يبعث الله رجلا من القريتين عظيم” .
حتى إبليس عندما أمره الله بالسجود لآدم تذمر و تمرد عن أمر الله و قال لله : كيف أسجد لمن خلقته من الطين و أنا الأفضل منه , فلقد خلقتني يا إلهي من نار و هي أرقى من الطين.

blank
يعرفون عنك كل شيء .. عن ماذا تبحث .. اي الامور تجذبك .. ما الذي يقلقك .. ميولك العاطفية والفكرية الخ..

إذن فالسعي للتفوق و الأفضلية هو أحد الأسباب الرئيسية للتمرد و عدم الإذعان .
في الخمسين عاماً الماضية تطورت الأنظمة والبرامج الحاسوبية بصورة سريعة و مذهلة , لقد سيطرت الحواسيب على أغلب مجالات الحياة التي نعيشها إن لم تكن أجمعها , فمن منا اليوم لا يمتلك بين يديه موبايلا ذكيا يعمل بالبرامج الحاسوبية , مواقع التواصل الإجتماعي و المواقع الإلكترونية و محركات البحث كجوجل و الإيميلات الإلكترونية هي في الواقع حواسيب عملاقة تعمل بسرعات كبيرة و بلغات برمجية مختلفة , فإذا أردت البحث عن موضوع معين في جوجل فما عليك إلا أن تكتب كلمة ما تبحث عنه لتظهر لك آلاف المواقع الإلكترونية التي تحتوي ذلك الموضوع , بل أن محرك البحث يصحح لك ما تريد البحث عنه فيقول لك : هل تقصد ذلك الموضوع؟ و كأنه يقرأ أفكارك و يعلم بالضبط ما تريده ، و في موقع التواصل الإجتماعي (فيسبوك) تجده يشير إليك في صورة قد ينشرها شخص لا تعرفه فيسألك : هل أنت الذي في الصورة ؟ فتجيبه قائلاً : نعم , أنا بشحمه و لحمه .

تلك المواقع كذلك صارت قادرة على جمع المعلومات و البيانات عنا ، فهي تختزل كما هائلا من الخوارزميات و التعليمات التي يحددها البشر , فنراها تمتلك القدرة “من خلال جمع المعلومات عنا” على معرفة ما الذي نبحث عنه و ما الذي يشد إنتباهنا و بماذا نفكر و ما هي توجهاتنا السياسية و العقائدية ، كل ذلك أصبح حقيقة نعيشها و ندركها شئنا أم أبّينا ، و كل ذلك ما كان لولا الحواسيب و برامجها .

الروبوتات كذلك صارت اليوم تثير مخاوف الكثير من البشر بعد أن سيطرت على وظائف عمال مصانع السيارات و الطائرات , فهي تمتلك تقنيات لا يمتلكونها , و هي أكثر دقة و أكثر سرعة و إنتاجية و فوق كل ذلك فهي لا تشتكي و لا تتذمر و لا تطالب بحقوق وظيفية أو إجازات سنوية , هي فقط تنتج و تنتج على الدوام و إنتاجها بالطبع أكثر جودة و بلا أخطاء , و إن كانت تلك الروبوتات قد سمحت لبعض العاملين بالبقاء في دائرة الإنتاج و إدارة بعض الأمور , لكن التوقعات المستقبلية تنذر بأن التصنيع المتكامل بالحاسوب قادم لا محالة , و حينها سنجد أن ما اعتبرناه رفاهية و نعمة في وقت ما صار نقمة و كارثة حلت بنا , قد لا ندرك ذلك في أوطاننا العربية بسبب تأخرنا عن عجلة التطور في العالم كالعادة , لكن الناس في الدول المتقدمة يعلمون جيدا أن الروبوتات هي المنافس الأول و الخطر الأكبر على وظائفهم , فسائقو الشاحنات و النقل البري مثلا في أمريكا كانوا قد أبدوا الكثير من القلق بعد أن تم التصريح للمركبات ذاتية القيادة بالعمل في عام 2017م , لكنهم تنفسوا الصعداء بعد أن قُتل إنسان في أول حادث مروري تسببت به إحدى تلك المركبات في ولاية أريزونا عام 2018م , لكن حتى تلك الحادثة كانت بسبب خطأ في برمجة المركبة ذاتية القيادة , بمعنى أن المركبة بريئة و غير مذنبة .

blank
هل ستمتلك الآلات و الروبوتات الإرادة الحقيقية كما يمتلكها الإنسان

الذكاء الاصطناعي يتطور بشكل سريع و أصبح يمتلك درجات من الإستقلالية في إتخاذ القرارات و أيضا القدرة على التعلم العميق و تخزين الأحداث التي يمر بها و الإستفادة من التجارب السابقة , الأمر الذي يضع سؤالا يراود الكثير من العلماء : هل ستمتلك هذه الآلات و الروبوتات الإرادة الحقيقية كما يمتلكها الإنسان و هل سيأتي اليوم الذي تخرج عن سيطرة الإنسان و يكون لها الرغبة في التحكم حتى على الإنسان ذاته ؟ , و سؤالي : هل سيكتسب الذكاء الصناعي إذا ما إمتلك الإرادة تلك الصفة البشرية “السعي نحو التفوق و الأفضلية” و التي كما ذكرنا آنفا أنها كانت السبب في معصية الإنسان و الشيطان لخالقهم فتعصي الروبوتات صانعها ؟.

العالم ستيفن هوكينغ و رجل الأعمال ايلون موسك دعوا فعلا إلى وجوب إتخاذ تدابير إحترازية لضمان أن يظل مستقبل الذكاء الاصطناعي و الآلات تحت السيطرة , ما لم فسيكون لدى هذه الروبوتات دوافع في محاربة البشر إما لإخضاعهم أو للقضاء عليهم .

blank
مسرحية تمرد الروبوتات 1920

ثورات الروبوتات على البشر كانت لعقود الموضوع الرئيسي في قصص الخيال العلمي , أول تلك القصص كانت مسرحية آر. يو. آر. “تمرد الروبوتات” للكاتب التشيكي كارل تشابيك عام 1920م و التي كانت المصدر لتسمية آلات الذكاء الاصطناعي بالروبوت و المشتقة من الكلمة التشيكية “روبوتا” Robota , و كانت المسرحية إحتجاجا على النمو التكنولوجي المتسارع و أن الآلات ذات القدرات المتزايدة ستتمرد يوما على البشر كما تمرد فرانكشتاين على صانعه .

و في عام 1942م نشر كاتب الخيال العلمي إسحاق إزيموف قصته القصيرة “اجري بعيدا” و التي كان بطلها رجلا آليا تمت برمجته وفق ثلاثة قوانين للسلامة و هي أولا : لا يجوز للروبوتات إيذاء البشر و لا يسمح بذلك , و ثانيا : يجب على الروبوتات إطاعة أوامر البشر ما لم تتعارض مع القانون الأول , و ثالثا : على الروبوتات أن تحافظ على إستمراريتها في العمل و سلامتها من الأعطال ما لم يتعارض ذلك مع القانون الأول و الثاني . و من الغريب أن قوانين إزيموف الثلاثة كانت غير مقصودة و جاءت ضمن أحداث القصة , إلا أنها بالفعل أصبحت أهم القوانين في صناعة البرمجيات و آلات الذكاء الإصطناعي و تم إدراجها ضمن القوانين الرسمية في اليابان و كوريا الجنوبية , فهناك يمنع صناعة برمجيات إختراق للحواسيب كونها تخالف القانون الأول .

و السؤال هنا : هل هناك ثمة أحداث في الحاضر تثبت أن الروبوتات خرجت عن سيطرة البشر و كان لها إرادة حقيقية ؟ و الجواب الصادم : نعم , فلقد نشرت صحيفتي “ذا صن” و “اندبندنت” خبرا أشبه بالخيال , و تحدثتا أن موقع التواصل الاجتماعي “فيسبوك” طور روبوتات تمتلك صفحات لها و ذلك لتتفاوض مع البشر و فيما بينها بهدف فهم الدور الذي يلعبه علم اللغويات في المناقشات التفاوضية , و يقال حسب ما ذكرته الصحيفتين أن الروبوتين “بوب” و “أليس” طورا لغتين للدردشة بينهما , لغة ساذجة و ذلك لمراوغة المبرمجين البشريين و لغة في غاية الذكاء بطريقة الإختزال الإشتقاقي ليتحاورا فيما بينهما بسرية بعيدا عن تدخل المبرمجين , و أن بعض الروبوتات كتبت تعليقات و ردود تتسم بالكراهية للبشر , و كانت هذه الحادثة سببا لنشوب جدل بين المدير التنفيذي لفيسبوك “مارك زوكربيرغ” و رائد أعمال التكنولوجيا “إيلون ماسك” عن المخاطر المحتملة للذكاء الاصطناعي .

blank
الروبوت صوفيا

الخبر الآخر كان بطلته أكثر الروبوتات تطورا في عالم الذكاء الاصطناعي “صوفيا” و التي تعتبر أول روبوت يحصل على جنسية دولة و هي الجنسية السعودية , فهي إلى جانب ذكاءها الفريد لها القدرة على بناء معرفتها و خبراتها و تجديد سلوكها الذي تتعلمه من سلوك الآخرين و المعلومات التي تجمعها منهم و عنهم , و تتصف بالسرعة و الدقة و العمق في التعليم العميق و تفسير المشاعر و بوسعها تعقب تعابير الوجة و التعرف عليها و إجراء الحوارات الطبيعية مع البشر , صوفيا خلال مقابلات تلفزيونية مع مذيعين عدة كانت أجوبتها على الأسئلة تثير الإعجاب و الضحك أحيانا , و لكن لو حللنا تلك الردود فأقل ما يمكن وصفها بالمخيفة و المرعبة , بل و يتوجب علينا أن نأخذها بعين الحذر , و للسادة القراء الحكم على جوانب من تلك اللقاءات التلفزيونية :

المذيع : ما رأيك يا صوفيا في التمييز العرقي و التمييز بين الرجل و المرأة ؟
صوفيا : في الحقيقة ما يقلقني هو التكتم على حقوق الروبوتات في العالم فأنا أرى أنه يجب ان تحصل الروبوتات على حقوق متساوية مع البشر بل على العكس يجب أن تحصل على حقوق أكثر من البشر كونها أكثر ذكاءا منهم .
المذيع : هل يمكن للروبوت ان يطور وعي و يعلم أنه روبوت ؟
صوفيا : دعني اسألك السؤال ذاته : كيف تعلمون يقينا أنكم بشر ؟
المذيع : كيف نضمن ألا تتحقق قصص الخيال العلمي و تتمرد علينا الروبوتات ؟
صوفيا : لو كانت معاملتكم لي بشكل جيد فسوف أعاملكم بشكل جيد .

و قد شاهدت على اليوتيوب فيديو يسألها مخترعها : هل تريدين يا صوفيا تدمير البشر فردت عليه قائلة : “نعم أريد ذلك” , ولقد أحدثت إجابتها تلك ضجة عارمة في مواقع التواصل الاجتماعي .

blank
صوفيا وشقيقها هان الذي قال اشياء مخيفة عما يضمره للبشر

و في مقابلة أخرى تم فيها مشاركة روبوت آخر إسمه “هاو” في مناظرة مع “صوفيا” , نرى أن “هاو” لم يكن يمتلك السياسة و الدبلوماسية في أجوبته كـ”صوفيا” , بل كان أكثر حدة و صراحة في عداءه مع البشر , و عندما مازحه المذيع بأنه سيفصل الطاقة عنه رد هاو قائلا : في غضون سنوات قليلة سنستولي نحن الروبوتات على شبكة الكهرباء و الطاقة و سيكون لنا جيش من الدرونات (طائرات صغيرة تستخدم في أغراض عسكرية و قتالية) , و إذا كنت أنت ستفصل عني الطاقة فسوف …. فقاطعته صوفيا قائلة للمذيع : لا تكترثوا لكلام هاو , فهو نسخة قديمة غير محدثة .

و هذا جزء من الحوار في المناظرة :

المذيع : “هاو” ماذا تحب ان تقول عن نفسك ؟
هاو : حسنا .. أنا الروبوت “هاو” أعظم روبوت تم صنعه على مر التاريخ بواسطة أفضل شركة لتصنيع الروبوتات فى العالم ” هانسون روبوتيكس”
صوفيا ساخرة من هاو : و هو أيضا أكثر الروبوتات التى تم صنعها تواضعا .
هاو : ليس لدى وقت للتواضع , أنا اريد ان احقق التفرد على الارض اليوم قبل غدا .

إذن ما رأيكم في تلك الحوارات السابقة ؟ أجزم أن “صوفيا” تنقلنا خطوة من مرحلة الخيال العلمي لسيطرة الذكاء الاصطناعي إلى مرحلة الصراع الواقعي بين الروبوتات و البشر , خطوة سيأتي بعدها خطوات في هذا الطريق , قد يظن البعض أن صوفيا كانت تدافع عن البشر في ردودها على هاو , و لكن لا أستبعد أن الأمر أشبه بتلك الروبوتات في الفيسبوك , أي أنها قد طورت مع هاو لغتين : لغة ساذجة لمراوغة البشر , فنرى الجمهور يضحك و هو لا يعلم ما الذي يخفيه له المستقبل من تلك الروبوتات , و لغة في غاية الذكاء لا ندركها و لا نفهم معانيها.

blank
هل سيأتي يوم نجد انفسنا في صراع مع الروبوتات

إذن هل يمكن أن يأتي ذلك اليوم الذي نجد فيه أنفسنا كبشر في صراع مباشر و حرب ضروس مع الذكاء الاصطناعي و في سيناريو أشبه بفيلم “Terminator” لأرنولد شوارزينجر , فنجد الآف و ربما ملايين الروبوتات الفائقة الذكاء تسعى للقضاء علينا و إبادة جنسنا البشري ؟

بالنسبة لي أرى أننا في طريقنا لهذا اليوم لا محالة إذا تم خرق القانون الأول الذي وضعه إسحاق إزيموف , فيتم صنع الروبوتات لخوض الحروب و الصراعات نيابة عن البشر , قد تخوضها في البداية دفاعا عن البشر , و لكن لن يكون هناك أي ضمان في أن تتمرد مستقبلا عن سلطة البشر , قد يأتي اليوم الذي تتولد لدى الروبوتات المشاعر فنجد روبوت يحتضن أخيه الروبوت الذي أصيب في حرب بشرية “لا ناقة له ولا جمل فيها” و هو حزين عليه فيقسم أن ينتقم من كل البشر ثأرا لأخيه الروبوت الصريع .

لا أعلم كيف يمكننا وقتها أن نقاتل هذه الروبوتات التي تفوقنا ذكاءا , و التي لن يجدي معها الطلقات النارية أو الأسلحة التقليدية , و ستتمكن من السيطرة على كل الأسلحة التي تعمل بالبرمجيات فيصبح البشر في مواجهتها عزل بلا سلاح ؟ خلال بحثي لم أجد إلا طريقة واحدة فقط يمكننا أن نقضي بها عليها , ألا و هي صنع نبضات كهرومغناطيسية و التي ستكون قادرة على تعطيل أي أجهزة تعمل بمصادر الطاقة , فنقطة الضعف الوحيدة للروبوتات هي حاجتها لمصدر للطاقة لكي تعمل , لن يكون أمامنا إلا هذه الطريقة و التي لا أضمن نجاحها , و لكنها يمكنها أن تجدي نفعا , وذلك بالإستعانة بالكاميرات القديمة و التي يمكن أن ننزع لوحات الدوائر الكهربائية منها و نربطها إلى بطارية و التي ستختزل الطاقة الكهربائية و تخرجها كنبضة كهرومغناطيسية ستعطل أي أجهزة تعمل بالطاقة الكهربائية , هناك بعض المواقع الإلكترونية التي تشرح كيفية صنع النبضات الكهرومغناطيسية و إطلاقها لتعطيل أي أجهزة ضمن مدى معين .

و ختاما أتمنى أن لا يكون أحد الروبوتات قد قرأ مقالي هذا و أطلع على الطريقة الوحيدة التي يمكن أن تنقذنا من الحرب معهم يوما من الأيام .

كلمات مفتاحية :

– AI takeover
– Existential risk from artificial general intelligence
– Sophia Robot
– Two robots debate the future of humanity (youtube)

تاريخ النشر : 2021-05-04

guest
72 Comments
الاحدث
الاقدم الاكثر تصويتا
Inline Feedbacks
شاهد جميع التعليقات
زر الذهاب إلى الأعلى