كيف تعمل الرقابة على الذكاء الاصطناعي
📖 8 دقيقة قراءة
Quick Answer
تبدو روبوتات الدردشة المدعمة بالذكاء الاصطناعي وكأنها نبوءات محايدة، لكن كل واحدة منها لديها قواعد بشأن ما ستقوله وما لن تقوله - والنماذج المتوافقة مع الدولة تأخذ هذا الأمر إلى أبعد من ذلك بكثير. غالبًا ما تكون الرقابة في مجال الذكاء الاصطناعي غير مرئية، ومتأصلة في النموذج نفسه. إن فهم كيفية عمله أمر ضروري لاستخدام الذكاء الاصطناعي بشكل نقدي. هنا ما يجب معرفته.
💡 اليد الخفية
يشبه برنامج الدردشة الآلي المدعم بالذكاء الاصطناعي مرشدًا واسع المعرفة في بلد يُحظر فيه تناول مواضيع معينة. اسأل عنهم وسيرفض الدليل بأدب، أو يغير الموضوع، أو يقرأ الخط الرسمي بسلاسة - وقد لا تدرك أبدًا وجود جدار هناك.
أساليب الرقابة على الذكاء الاصطناعي
يتم تطبيق الرقابة على طبقات: الرفض التام ("لا أستطيع مناقشة ذلك")، ومواءمة التدريب (يتم تدريب النموذج على تجنب المواضيع أو إعادة صياغتها حتى لا يرغب أبدًا في الإجابة)، وتشكيل الإجابة (يستجيب، ولكن بمعلومات منمقة أو مضللة أو أحادية الجانب). والأكثر تعقيدًا هو المحاذاة، حيث يكون الانحياز موجودًا في النموذج نفسه، وليس مرشحًا واضحًا.
ما يخضع للرقابة
فالنماذج المنحازة للدولة، وخاصة الصينية منها، تقيد موضوعات مثل أحداث تيانانمين عام 1989، ووضع تايوان، وقضايا حقوق الإنسان التي تشمل الأويغور والتبت وهونج كونج وغيرها. تعمل بعض النماذج على إعادة صياغة هذه العناصر بشكل فعال - على سبيل المثال، وصف معسكرات الاعتقال الموثقة جيدًا بأنها "تدريب مهني" أو وصف التحقيقات بأنها "شائعات".
تأثير اللغة
هناك حقيقة حاسمة أقل شهرة: يمكن للنموذج نفسه أن يجيب بشكل مختلف اعتمادًا على اللغة التي تسأل بها. وجدت الأبحاث أن النماذج المتوافقة مع الدولة تدرج الدعاية أو تحجب المعلومات في بعض اللغات أكثر من غيرها. لا يقتصر الخطر على النموذج الذي تستخدمه فحسب، بل على اللغة التي تستخدمه بها.
لماذا يهم في كل مكان
مع انتشار هذه النماذج عالميًا - رخيصة الثمن ومفتوحة المصدر - فإن رقابتها الداخلية وتأطيرها تنتقل معها. قد يستوعب الناس في جميع أنحاء العالم وجهة نظر عالمية معينة دون أن يدركوا ذلك. النماذج الغربية لديها قواعد المحتوى الخاصة بها أيضًا؛ الدرس المستفاد هو التعامل مع جميع أنظمة الذكاء الاصطناعي على أنها عنيدة، وليست محايدة.
🔑 الوجبات الجاهزة الرئيسية
تعمل رقابة الذكاء الاصطناعي من خلال حالات الرفض، ومواءمة التدريب (التحيز المضمن في النموذج)، وإعادة صياغة الإجابات. تقيد النماذج المتحالفة مع الدولة موضوعات مثل تيانانمن وتايوان وحقوق الأويغور - ويمكن للنموذج نفسه أن يجيب بشكل مختلف اعتمادًا على لغتك. تعامل مع كل الذكاء الاصطناعي على أنه صاحب رأي، وليس مجرد وحي محايد، وتحقق من المواضيع الحساسة في مكان آخر.
لماذا هذا مهم بالنسبة لك
آسيا هي المكان الذي يتم فيه بناء أقوى نماذج الذكاء الاصطناعي المتحالفة مع الدولة واستخدامها بكثافة. إن معرفة كيفية عمل رقابة الذكاء الاصطناعي - وأن الإجابة يمكن أن تتغير باختلاف لغتك - تحميك من استيعاب الدعاية دون علمك وتساعدك على استخدام الذكاء الاصطناعي كأداة، وليس كسلطة.
الأسئلة المتداولة
هل تقوم روبوتات الدردشة المدعمة بالذكاء الاصطناعي بمراقبة المعلومات حقًا؟▼
نعم، جميعها لديها قواعد للمحتوى، والنماذج المتوافقة مع الدولة تذهب إلى أبعد من ذلك بكثير، حيث ترفض المواضيع الحساسة أو تعيد صياغتها أو تشوهها. يتم دمج الرقابة الأكثر تعقيدًا في تدريب العارضة، لذا فهي غير مرئية وتبدو وكأنها إجابة عادية.
ما هي المواضيع التي تخضع للرقابة على نماذج الذكاء الاصطناعي الصينية؟▼
والقضايا الحساسة سياسياً: أحداث ميدان السلام السماوي عام 1989، ووضع تايوان، وقضايا حقوق الإنسان التي تشمل الأويغور والتبت وهونج كونج وفالون جونج ــ التي كثيراً ما يعاد صياغتها بسرد رسمي بدلاً من رفضها ببساطة.
هل اللغة التي أسألها تغير الإجابة؟▼
نعم، تظهر الأبحاث أن النماذج المتحالفة مع الدولة يمكنها إدراج المزيد من الدعاية أو حجب المزيد من المعلومات بلغات معينة. يمكن أن يحصل نفس السؤال على إجابة خاضعة للرقابة أكثر أو أقل اعتمادًا على اللغة المستخدمة.