কিভাবে AI সেন্সরশিপ কাজ করে
📖 8 মিনিট পড়া
Quick Answer
এআই চ্যাটবটগুলিকে নিরপেক্ষ ওরাকলের মতো মনে হয়, তবে তাদের প্রত্যেকেরই নিয়ম রয়েছে যে এটি কী বলবে এবং কী বলবে না — এবং রাষ্ট্র-সংযুক্ত মডেলগুলি এটিকে আরও এগিয়ে নিয়ে যায়। AI-তে সেন্সরশিপ প্রায়ই অদৃশ্য থাকে, মডেলের গভীরে বেক করা হয়। এআইকে সমালোচনামূলকভাবে ব্যবহার করার জন্য এটি কীভাবে কাজ করে তা বোঝা অপরিহার্য। এখানে কি জানতে হবে.
💡 লুকানো হাত
একটি এআই চ্যাটবট একটি দেশের জ্ঞানী গাইডের মতো যেখানে নির্দিষ্ট বিষয় নিষিদ্ধ। তাদের সম্পর্কে জিজ্ঞাসা করুন এবং গাইড হয় নম্রভাবে প্রত্যাখ্যান করেন, বিষয় পরিবর্তন করেন বা মসৃণভাবে অফিসিয়াল লাইনটি আবৃত্তি করেন - এবং আপনি কখনই বুঝতে পারবেন না যে সেখানে একটি প্রাচীর ছিল।
এআই সেন্সরশিপের পদ্ধতি
সেন্সরশিপ স্তরগুলিতে প্রয়োগ করা হয়: সরাসরি প্রত্যাখ্যান ("আমি এটি নিয়ে আলোচনা করতে পারি না"), প্রশিক্ষণ সারিবদ্ধকরণ (মডেলটি বিষয়গুলি এড়াতে বা রিফ্রেম করার জন্য প্রশিক্ষিত হয় যাতে এটি কখনই উত্তর দিতে চায় না), এবং উত্তর-আকৃতি (এটি প্রতিক্রিয়া দেয় তবে অলঙ্কৃত, বিভ্রান্তিকর, বা একতরফা তথ্য সহ)। সবচেয়ে পরিশীলিত হল প্রান্তিককরণ — পক্ষপাতটি মডেলের মধ্যেই রয়েছে, একটি সুস্পষ্ট ফিল্টার নয়।
কি সেন্সর পায়
রাষ্ট্র-সংযুক্ত মডেল, বিশেষ করে চীনারা, 1989 সালের তিয়ানানমেন ঘটনা, তাইওয়ানের অবস্থা এবং উইঘুর, তিব্বত, হংকং এবং অন্যান্যদের সাথে জড়িত মানবাধিকার সংক্রান্ত বিষয়গুলিকে সীমাবদ্ধ করে। কিছু মডেল সক্রিয়ভাবে এগুলিকে পুনর্বিন্যাস করে — উদাহরণস্বরূপ, ভাল নথিভুক্ত আটক শিবিরগুলিকে "বৃত্তিমূলক প্রশিক্ষণ" হিসাবে বর্ণনা করা বা তদন্তকে "গুজব" হিসাবে লেবেল করা।
ভাষার প্রভাব
একটি গুরুত্বপূর্ণ, কম পরিচিত সত্য: আপনি যে ভাষায় জিজ্ঞাসা করেন তার উপর নির্ভর করে একই মডেল ভিন্নভাবে উত্তর দিতে পারে। গবেষণায় দেখা গেছে যে রাষ্ট্র-সংযুক্ত মডেলগুলি অন্যদের তুলনায় কিছু ভাষায় প্রচার বা তথ্য আটকে রাখে। ঝুঁকি শুধুমাত্র আপনি কোন মডেল ব্যবহার করেন তা নয় - এটি আপনি কোন ভাষায় এটি ব্যবহার করেন।
কেন এটা সব জায়গায় গুরুত্বপূর্ণ
যেহেতু এই মডেলগুলি বিশ্বব্যাপী ছড়িয়ে পড়েছে — সস্তা, সক্ষম এবং ওপেন সোর্স — তাদের অন্তর্নির্মিত সেন্সরশিপ এবং তাদের সাথে ফ্রেমিং ভ্রমণ। বিশ্বব্যাপী লোকেরা এটি উপলব্ধি না করেই একটি নির্দিষ্ট বিশ্বদর্শন গ্রহণ করতে পারে। পশ্চিমা মডেলেরও তাদের নিজস্ব বিষয়বস্তুর নিয়ম রয়েছে; পাঠ হল সমস্ত AI কে মতামতযুক্ত হিসাবে বিবেচনা করা, নিরপেক্ষ নয়।
🔑 মূল গ্রহণ
এআই সেন্সরশিপ প্রত্যাখ্যান, প্রশিক্ষণ সারিবদ্ধকরণ (মডেলে বেক করা পক্ষপাতিত্ব), এবং পুনরায় শব্দযুক্ত উত্তরের মাধ্যমে কাজ করে। রাষ্ট্র-সংযুক্ত মডেলগুলি তিয়ানানমেন, তাইওয়ান এবং উইঘুর অধিকারের মতো বিষয়গুলিকে সীমাবদ্ধ করে — এবং একই মডেল আপনার ভাষার উপর নির্ভর করে ভিন্নভাবে উত্তর দিতে পারে৷ সমস্ত AI কে মতামতযুক্ত হিসাবে বিবেচনা করুন, কখনই নিরপেক্ষ ওরাকল নয় এবং অন্য কোথাও সংবেদনশীল বিষয়গুলি যাচাই করুন।
কেন এটা আপনার জন্য গুরুত্বপূর্ণ
এশিয়া হল যেখানে সবচেয়ে শক্তিশালী রাষ্ট্র-সংযুক্ত AI মডেল তৈরি করা হয় এবং সবচেয়ে বেশি ব্যবহৃত হয়। AI সেন্সরশিপ কীভাবে কাজ করে তা জানা — এবং উত্তরটি আপনার ভাষার সাথে পরিবর্তিত হতে পারে — আপনাকে অজান্তে প্রোপাগান্ডা শোষণ করা থেকে রক্ষা করে এবং AI কে একটি হাতিয়ার হিসেবে ব্যবহার করতে সাহায্য করে, কর্তৃপক্ষ নয়।
প্রায়শই জিজ্ঞাসিত প্রশ্ন
এআই চ্যাটবট কি সত্যিই তথ্য সেন্সর করে?▼
হ্যাঁ — সকলেরই বিষয়বস্তুর নিয়ম রয়েছে, এবং রাষ্ট্র-সংযুক্ত মডেলগুলি আরও অনেক বেশি এগিয়ে যায়, সংবেদনশীল বিষয়গুলিকে প্রত্যাখ্যান, রিফ্রেমিং বা বিকৃত করে৷ সবচেয়ে পরিশীলিত সেন্সরশিপ মডেলের প্রশিক্ষণে বেক করা হয়, তাই এটি অদৃশ্য এবং একটি স্বাভাবিক উত্তরের মতো মনে হয়।
চাইনিজ এআই মডেলগুলি কোন বিষয়গুলি সেন্সর করে?▼
রাজনৈতিকভাবে সংবেদনশীল বিষয়গুলি: 1989 সালের তিয়ানানমেন ঘটনা, তাইওয়ানের অবস্থা, এবং উইঘুর, তিব্বত, হংকং এবং ফালুন গং জড়িত মানব-অধিকার সংক্রান্ত বিষয়গুলি — প্রায়শই কেবল প্রত্যাখ্যান না করে সরকারী বর্ণনার সাথে পুনর্বিন্যাস করা হয়।
আমি যে ভাষা জিজ্ঞাসা করি তা কি উত্তর পরিবর্তন করে?▼
হ্যাঁ — গবেষণা দেখায় যে রাষ্ট্র-সংযুক্ত মডেলগুলি আরও প্রচার করতে পারে বা নির্দিষ্ট ভাষায় আরও তথ্য আটকে রাখতে পারে। একই প্রশ্ন ব্যবহৃত ভাষার উপর নির্ভর করে কম বা বেশি সেন্সরযুক্ত উত্তর পেতে পারে।