人工智能审查如何运作
📖 8 最小阅读量
Quick Answer
人工智能聊天机器人感觉就像中立的预言机，但它们中的每一个都有关于它会说什么和不会说什么的规则——而与国家一致的模型在这方面更进一步。人工智能中的审查制度通常是无形的，深深植根于模型本身。了解它的工作原理对于批判性地使用人工智能至关重要。以下是需要了解的内容。
💡 隐藏的手
人工智能聊天机器人就像一个知识渊博的导游，在一个禁止某些主题的国家。当你询问这些问题时，导游要么礼貌地拒绝，要么改变话题，要么流畅地背诵官方台词——你可能永远不会意识到那里有一堵墙。
AI审查的方法
审查制度是分层应用的：彻底拒绝（“我不能讨论这个”）、训练对齐（模型被训练来避免或重新构建主题，因此它永远不想回答）和答案塑造（它做出回应，但带有修饰的、误导性的或片面的信息）。最复杂的是对齐——偏差存在于模型本身，而不是明显的过滤器。
哪些内容会受到审查
与国家结盟的模式，尤其是中国的模式，限制了诸如 1989 年天安门事件、台湾地位以及涉及维吾尔族、西藏、香港和其他地区的人权问题等话题。一些模型积极地重新构建这些——例如，将有据可查的拘留营描述为“职业培训”，或将调查标记为“谣言”。
语言效果
一个鲜为人知的重要事实：同一个模型可能会根据您提出问题的语言做出不同的回答。研究发现，在某些语言中，与其他语言相比，与国家一致的模型会更多地插入宣传或隐瞒信息。风险不仅在于你使用哪种模型，还在于你使用它的语言。
为什么它在任何地方都很重要
随着这些廉价、功能强大且开源的模型在全球范围内传播，它们内置的审查制度和框架也随之传播。世界各地的人们可能会在没有意识到的情况下吸收某种特定的世界观。西方模式也有自己的内容规则；我们的教训是，将所有人工智能视为固执己见，而不是中立。
🔑 要点
人工智能审查制度通过拒绝、训练调整（模型中存在偏见）和改写答案来发挥作用。与国家保持一致的模型限制了天安门、台湾和维吾尔族权利等话题——而且同一个模型可能会根据你的语言给出不同的答案。将所有人工智能视为固执己见，绝不是中立的神谕，并在其他地方验证敏感话题。
为什么这对您很重要
亚洲是最强大的国家级人工智能模型的建立和使用最广泛的地方。了解人工智能审查制度是如何运作的——以及答案可能会随着你的语言而改变——可以保护你不会在不知不觉中吸收宣传，并帮助你将人工智能用作工具，而不是权威。
常见问题
人工智能聊天机器人真的会审查信息吗？▼
是的，所有内容都有内容规则，而与国家一致的模型则走得更远，拒绝、重构或扭曲敏感话题。最复杂的审查制度已融入模型的训练中，因此它是不可见的，感觉就像一个正常的答案。
中国人工智能模型审查哪些主题？▼
政治敏感问题：1989 年的天安门事件、台湾的地位以及涉及维吾尔族、西藏、香港和法轮功的人权问题——经常用官方叙述重新表述，而不是简单地拒绝。
我问的语言会改变答案吗？▼
是的——研究表明，国家一致的模型可以在某些语言中插入更多宣传或隐瞒更多信息。根据所使用的语言，同一问题可能会得到或多或少经过审查的答案。