الذكاء الاصطناعي وخطورته: حين تصاب الآلة بـ"الهذيان"

خطورة الذكاء الاصطناعي: حين تصاب الآلة بالهذيان! مصدر الصورة Getty Images

قد يلحظ الراكب إشارة التوقف ويصاب بالهلع عندما تُسرع السيارة التي يجلس بداخلها بدلا من التوقف. يفتح الراكب فمه ليصرخ في السائق ويطالبه بالتوقف فورا. حينها، وهو يرى قطارا مسرعا يقترب منه، يتذكر أنه لا يوجد سائق على الإطلاق. وبسرعة 125 ميلا في الساعة، يدهس القطار السيارة ذاتية القيادة ويأتي عليها وعلى من فيها.

هذا سيناريو خيالي، لكنه يسلط الضوء على عيوب حقيقية في أنظمة الذكاء الاصطناعي بشكلها الحالي. وقد شهدت السنوات القليلة الماضية أمثلة كثيرة لأخطاء وقعت فيها الآلة، حيث رأت وسمعت خلافا للواقع. مع حدوث "تشويش" يعرقل أنظمة التعرف لديها، تُصاب الآلة بحالة من "الهذيان". وفي السيناريو الأسوأ، يمكن أن تبلغ خطورة "الهذيان" حد المثل السابق، كأن لا تعي إشارة التوقف رغم كونها بادية للعيان.

هذه الظاهرة الغريبة تحدث بسبب ما يُطلق عليه العاملون بمجال الذكاء الاصطناعي "النماذج المعاكسة" أو على نحو أكثر بساطة "الأحداث الغريبة".

ويقول أنيش أتالي، خبير الكمبيوتر بمعهد ماساتشوستس للتكنولوجيا في كامبريدج، إن "الأمر يحدث بسبب مدخلات من المفترض أن تستقبلها الشبكة بطريقة معينة، غير أن أمرا غير متوقع يطرأ على آلية التعرف".

مصدر الصورة Kevin Eykholt et al
Image caption بعض الملصقات الصغيرة على إشارة التوقف تلك كفيلة بالتشويش على نظام التعرف البصري للكمبيوتر رغم أن العين البشرية لا تخطئها

هلاوس بصرية

وحتى الآن، تركزت جهود الخبراء على أنظمة التعرف البصري. وقد أظهر أتالي إمكانية التلاعب بصورة قطة مثلا، وهو ما لا تخطئه العين البشرية، بحيث تراها الآلة نوعا من الخضروات عبر ما يعرف بالشبكات العصبية الصناعية، والتي تعتمد على أسلوب تعلم آلي عبر أنظمة حسابية (خوارزميات) تمثل عصب الذكاء الاصطناعي الحالي. وتستخدم أنظمة التعرف البصري تلك في الهواتف الذكية للتعرف على صور الأصدقاء تلقائيا وتحديد عناصر في الصورة.

وفي الآونة الأخيرة، حوّل أتالي وزملاؤه انتباههم إلى الأجسام، حيث تمكن الفريق، عبر تغيير ملمس ولون بعضها، من خداع الذكاء الاصطناعي فرآها بشكل مغاير لحقيقتها تماما. ومن الأمثلة على هذا رؤية كرة بيسبول على أنها قدح من القهوة، أو مجسم سلحفاة باعتباره بندقية. وتوصل الفريق إلى 200 مثال لمجسمات أخطأ الكمبيوتر في التعرف عليها، وهو ما يثير قلقا حقيقيا مع دخول تطبيقات آلية إلى بيوتنا وتسيير طائرات ذاتية القيادة في سمائنا ومركبات ذاتية القيادة في شوارعنا.

يقول أتالي إن الأمر اكتشف في البداية بدافع الفضول وحب الاستطلاع، لكن سرعان ما أثير القلق بشأن أمن وسلامة تلك الأنظمة على البشر، ومنها على سبيل المثال السيارات ذاتية القيادة التي دخلت الآن حيز التجارب الميدانية، معتمدة على شبكات معقدة للتعلم لمساعدتها على التعرف على محيطها والسير على الطرق.

لكن باحثين تمكنوا العام الماضي من عرض حالات أخطأت فيها "شبكات عصبية صناعية" للذكاء الاصطناعي في قراءة علامات التوقف باعتبارها علامات للحد الأقصى للسرعة، وذلك بمجرد وضع ملصقات صغيرة على العلامة.

مصدر الصورة MIT
Image caption قد يخطئ الذكاء الاصطناعي فيرى سلحفاة مثلا على أنها بندقية، وهو ما قد يحمل تبعات خطيرة حال تطبيقه في الواقع

هلاوس سمعية

وهناك أشكال أخرى للتعلم الآلي، بخلاف التعرف البصري، معرضة أيضا لظواهر غريبة.

يقول نيكولاس كارليني، الخبير بإدارة فريق "غوغل براين" القائم على تطوير الآلات الذكية، إنه "في كافة المجالات، بدءا من تصنيف الصور مرورا بالتعرف التلقائي على الكلام ووصولا إلى الترجمة، يمكن التشويش على الشبكات العصبية الصناعية لتخطئ في تصنيف المدخلات"، ويشير إلى أن إضافة بعض المدخلات الصوتية في الخلفية قد تؤدي إلى أن تقرأ الآلة عبارات صوتية بشكل خاطئ.

وبالنسبة لكارليني، فإن تلك "النماذج المعاكسة" تثبت قطعا أن التعلم الآلي "لم يصل لمستوى القدرة البشرية حتى في أبسط المهام".

فهم أعمق

وتحاكي الشبكات العصبية الصناعية بشكل ما الطريقة التي يتعامل بها المخ البشري مع المعلومات البصرية، وأسلوب تعلمه منها. فمثلا يدرك الطفل الصغير ما هي "القطة" بالتعرف مرارا على هذا الكائن، حتى يبدأ في ملاحظة أنماط معينة فيدرك أن جسما له أربعة أرجل وفراء ناعم وأذنان مدببتان وعينان مسحوبتان وذيل طويل مشعر هو "قطة". ويحدث ذلك من خلال متتاليات من الخلايا العصبية بالجزء البصري من القشرة الدماغية للطفل تطلق نبضاتها العصبية إزاء تفاصيل بصرية من خطوط أفقية ورأسية، وهو ما يُمكّن الطفل من تكوين "صورة" عصبية للعالم والتعلم منها.

ويحدث الأمر نفسه في حالة الشبكات العصبية الصناعية المستخدمة في التعلم الآلي، إذ تمر البيانات تباعا عبر خلايا صناعية حتى تبدأ الشبكة - بعد التدرب على مئات بل آلاف الأمثلة للشيء ذاته - في رصد أنماط تمكنها من توقع ما تراه. وتعتمد الأنظمة الأكثر تعقيدا من تلك الآلية، أو ما يعرف بالتعلم العميق، على تمرير البيانات بمتتاليات أكثر.

مصدر الصورة MIT
Image caption بإدخال تغيير بسيط على الملمس خدع باحثون الآلة بجعلها ترى مجسما لكرة بيسبول على أنها قدح من القهوة

ورغم معرفة خبراء الكمبيوتر بكيفية عمل الشبكات الصناعية، فإنهم لا يعرفون بالضرورة أدق تفاصيل معالجة تلك الشبكات للبيانات. ويقول أتالي "لا نفهم حاليا تلك الشبكات بما يكفي لتفسير الظواهر المعاكسة ولا كيفية علاجها".

ويقول ألكسندر مادري، أحد خبراء الكمبيوتر بمعهد ماساتشوستس للتكنولوجيا، إن "أطر التعلم الآلي لدينا تهدف بالأساس للوصول إلى 'متوسط' أداء جيد".

وللتغلب على تلك المشكلة، قد يلزم تدريب الشبكات الصناعية على نماذج أصعب للهدف حتى تصبح أكثر قدرة على التعرف على الشاذ منها. ورغم ذلك، يظل بالإمكان تغيير مظهر صورة أو مجسم ما للتشويش على الآلة.

ولكي تصل آلية تصنيف الصور للنجاح المطلوب، يجب أن تصل لمستوى الإدراك البشري لأوجه التشابه، فتدرك أن رسما بسيطا يرسمه طفل لقطة، وصورة ملتقطة لقطة، وقطة حقيقية؛ هي جميعا تعبر عن الشيء نفسه. ورغم التطور الضخم الذي حققته الشبكات الآلية للتعلم العميق، فإنها لا ترقى لقدرة المخ البشري من حيث تصنيف الأمور وإدراك البيئة المحيطة والتعامل مع الأمور غير المتوقعة.

ولتطوير آلات ذكية تكلف بمهام ناجحة في الواقع، يلزم العودة مجددا للمخ البشري لتحقيق فهم أفضل لكيفية عمله.

إدراك العلاقات

ورغم أن الشبكات العصبية الصناعية تستوحي عملها من القشرة الدماغية للإنسان، مازال هناك فارق ضخم بين الاثنين، إذ أن المخ البشري لا يتعرف فحسب على الملامح البصرية كالأطر والمجسمات، بل يقوم أيضا بتشفير للعلاقات التي تربط تلك الملامح بعضها ببعض، فيدرك أن إطارا ما هو جزء من شيء أكبر، وهو ما يجعلنا ندرك مغزى ما نراه.

ويقول سايمون سترينغر، الذي يعمل بمؤسسة أوكسفورد لعلم الأعصاب النظري والذكاء الاصطناعي، إننا حين ننظر إلى قطة نرى كافة الملامح التي تتكون منها القطة والعلاقات التي تربطها. وهذا الترابط بين المعلومات هو ما يجعلنا ندرك العالم من حولنا، لكن تلك الخاصية الأساسية غير موجودة في الجيل الحالي من شبكات الذكاء الاصطناعي.

مصدر الصورة Getty Images
Image caption ندرك بسهولة أن ما نسمعه موسيقى، لكن يمكن التلاعب في المدخلات فتفسر الآلة الموسيقى على أنها حديث كلامي

وقد أغفل القائمون على تصميم أطر الذكاء الاصطناعي خصائص عدة للخلايا العصبية البيولوجية رغبة منهم في التبسيط. وقد بدأت عيوب ذلك تتضح. وتتواصل الخلايا العصبية للإنسان فيما بينها عبر تأخير نقل النبضات، وتتنوع من حيث معدل نقلها للمعلومات بين سريع وبطيء. وكثير من الخلايا العصبية يطلق نبضاته اعتمادا على توقيت ما يتلقاه بدوره من نبضات.

ويقول جيفري باورز، عالم الأعصاب بجامعة بريستول والباحث في أوجه النشاط المخي التي تفتقر إليها الشبكات العصبية الصناعية حاليا، إن "الشبكات الصناعية تعتمد على توحيد خلاياها، لكن خلايا المخ تتعدد في أشكالها، وهو ما يدفعني للاعتقاد بأنه لابد أن لذلك صلة وظيفية وثيقة".

ومن الاختلافات الأخرى أنه بينما تعتمد الشبكات العصبية الصناعية على انتقال الإشارات عبر متواليات في اتجاه واحد، فإن الخلايا العصبية بالقشرة المخية تنقل الإشارات من أعلى إلى أسفل كما تنقلها بالاتجاه الآخر، أي من أسفل إلى أعلى، حسبما يقول سترينغر الذي يعمل في مختبره على تطوير محاكاة بالكمبيوتر للمخ البشري من أجل الوصول إلى فهم أفضل لكيفية عمله.

ويتعاون الفريق العلمي لسترينغر مع مختبر لعلوم الدفاع والتقنيات بإنجلترا لتطوير الجيل القادم من الشبكات العصبية الصناعية التي يمكن تطبيقها عسكريا، كرصد الدبابات المعادية بكاميرات ذكية تثبت بمُسيَّرات ذاتية.

ويهدف سترينغر للوصول بذكاء الآلة إلى ذكاء فئران التجارب في غضون عشرين عاما، ويقول إن الوصول إلى الذكاء البشري قد يستغرق وقتا أطول من ذلك بكثير.

ومن جهته، يقول مادري "لقد اتضح أن المخ البشري يختلف كثيرا عن طريقة عمل نماذج التعلم الآلي العميق الحالية"، وأن الارتقاء لمستوى المخ البشري سيتطلب أمدا غير معروف.

وحتى ذاك الوقت، علينا ألا نولي ثقة عمياء للذكاء الاصطناعي والسيارات ذاتية القيادة التي ستصبح أكثر انتشارا في المستقبل - فالآلة أيضا معرضة للإصابة ب"الهذيان".

يمكنك قراءة الموضوع الأصلي على موقع BBC Future

-----------------------------------------------------

يمكنكم استلام إشعارات بأهم الموضوعات بعد تحميل أحدث نسخة من تطبيق بي بي سي عربي على هاتفكم المحمول.

المزيد حول هذه القصة