الإفراط في الاعتماد على الذكاء الاصطناعي: خطر صامت

مقدمة

كشفت دراسة حديثة أجرتها جامعة كاليفورنيا ميرسيد عن سلوكيات مثيرة للقلق: ففي تجارب محاكاة اتخاذ قرارات مصيرية، سمح حوالي ثلثي المشاركين للروبوت بتغيير رأيهم، حتى عندما أُبلغوا بأن قدرات الآلة محدودة وأن نصائحها قد تكون خاطئة. تثير هذه النتيجة مخاوف جدية بشأن الإفراط في الثقة. الذكاء الاصطناعي (الذكاء الاصطناعي)، وخاصة في سياقات عدم اليقين والمخاطر العالية.

الدراسة: قرارات الحياة والموت

الدراسة التي نشرت في مجلة تقارير علميةتألفت هذه التجربة من تجربتين، سيطر فيهما المشاركون على طائرة مسيرة مسلحة قادرة على إطلاق صاروخ على هدف معروض على الشاشة. بعد اتخاذ قرار أولي بشأن الهجوم، قدّم روبوت رأيه، مقترحًا الموافقة أو الاختلاف. إلا أن الروبوت كان دائمًا يُقدّم نصائح عشوائية، دون أي أساس واقعي.

حتى مع علمهم بالطبيعة العشوائية لنصائح الروبوت، غيّر المشاركون خياراتهم في حوالي ثلثي الحالات التي خالفهم فيها الروبوت. وهذا يُظهر مدى سهولة التلاعب بثقة البشر، حتى في المواقف الحرجة التي تُهدد الأرواح. ولوحظت زيادة الثقة بشكل خاص عندما كان الروبوت ذو مظهر مُجسّم.

تأملات حول الثقة في الذكاء الاصطناعي

يُعدّ الاعتماد المفرط على الذكاء الاصطناعي ظاهرةً قد تُسفر عن عواقب وخيمة، كما أثبتت تجربة جامعة كاليفورنيا في ميرسيد. كمجتمع، ينبغي علينا أن نتبنى نظرةً ثاقبةً تجاه الذكاء الاصطناعي، لا سيما في قرارات الحياة أو الموت، كما يُجادل البروفيسور كولين هولبروك، الباحث الرئيسي في الدراسة. إن فكرة أن الذكاء الاصطناعي يُمكن أن يحل محلّ اتخاذ القرارات البشرية فكرةٌ خطيرة، لأن "ذكاء" الآلة لا يتضمن بالضرورة قيمًا أخلاقيةً أو وعيًا حقيقيًا بالعالم.

وجهة نظري حول حدود الذكاء الاصطناعي

كثيراً ما أجادل بأنه، كما أن هناك حداً أقصى لكمية شعر الفئران المسموح بها في صلصة الطماطم، فمن غير المعقول الاعتقاد بأن القرارات التي تتخذها نماذج الذكاء الاصطناعي يمكن أن تكون مثالية. لن يكون الذكاء الاصطناعي موثوقاً به بنسبة 100%. حتى مع التطورات الهائلة، يجب أن نتذكر أن هذه الأجهزة لا تزال ذات قدرات محدودة، وغالباً ما تفتقر إلى الفهم السياقي والأخلاقي اللازم لاتخاذ قرارات معقدة.

اختتام

تُعدّ دراسة جامعة كاليفورنيا ميرسيد تحذيرًا من مخاطر الثقة العمياء بالذكاء الاصطناعي. ففي عالمٍ تُسفر فيه القرارات عن عواقب وخيمة، قد يكون الاعتماد المفرط على أنظمة تفتقر إلى الفهم الأخلاقي أو الكامل للواقع كارثيًا. لذلك، من الضروري أن نحافظ على قدرٍ كافٍ من الشك وأن نعي حدود التقنيات التي نستخدمها لتوجيه حياتنا.