人工智能内容来源和区块链
📖 10 最小阅读量
Quick Answer
我们已经进入了一个眼见不再为实的时代。人工智能可以生成从未发生过的事件的逼真图像、一个人说出他们从未说过的话的视频、一个与真实声音无法区分的声音。对于信任、新闻、选举、法院来说，这是一个文明问题，更具体地说，对于加密货币来说，深度造假会引发诈骗。最有前途的防御措施之一扭转了这个问题：不是试图检测每一个假货，而是通过密码来证明什么是真实的。这就是“内容来源”，而加密货币的核心技术是其核心。
💡 防篡改印章和签名
出处就像信件上的蜡封和签名，但不可伪造。真实的发件人不会试图找出每封伪造的信件（随着伪造者的改进，这是一场无休止的、失败的游戏），真正的发件人会在每封真实的信件上签名并盖章，这样任何人都可以验证它确实来自他们并且没有被篡改。应用于媒体：真正的内容不是追逐每一个深度造假，而是在其源头进行加密签名，任何后来的篡改都会破坏密封。您验证真实的，而不是寻找假货。
为什么检测假货是一场失败的游戏
对深度造假的本能反应是建立检测器来发现它们。问题是结构性的：检测是一场军备竞赛，造假者往往会获胜，因为每个检测器都成为训练材料，使下一个假货无法检测。随着生成式人工智能的改进，明显的伪影消失，检测精度下降。依靠“我们只会检测假货”是一台跑得更快的跑步机。这就是为什么认真的工作已经从检测虚假转向证明真实性，这个问题发挥了密码学的优势，而不是对抗它们。
内容来源意味着什么
内容来源是有关媒体来源及其变化方式的可验证信息：谁或什么创建了它、何时、使用什么设备或工具以及此后是否经过编辑。领先的标准是 C2PA（内容来源和真实性联盟），它得到了主要科技和媒体公司的支持，它将来源元数据的防篡改“营养标签”附加到内容上。至关重要的是，它可以标记某些东西是人工智能生成的还是相机捕获的。目标不是禁止假货，而是让任何人检查他们所看到的东西的可验证来源和历史。
区块链和密码学的用武之地
支撑起源的技术与保护加密的加密签名相同。内容在创建时（由摄像机、创建者、新闻机构）使用私钥进行签名，产生防篡改签名，任何人都可以使用相应的公钥进行验证，这正是应用于媒体的比特币签名模型。区块链作为不可变的、去中心化的注册表增加了价值：一个带有时间戳的、不可更改的记录，表明特定内容存在并在给定时间由给定密钥签名，没有中央机构可以在以后重写它。一些项目将内容哈希值和来源记录精确地锚定在链上，以实现这种中立、永久的可验证性。
加密连接：打击深度造假诈骗
对于加密货币用户来说，这并不是抽象的，它直接攻击困扰该领域的深度伪造背书骗局。如果公众人物或交易所以加密方式签署其真实的公告和内容，那么默认情况下，未签名或签名损坏的“背书”就很容易受到不信任。更广泛地说，可验证的创建者身份（包括加密原生身份系统）可以让受众确认消息确实来自其声称的人。可以让您验证比特币交易的相同加密技术可以让您验证视频是否确实来自它所显示的人，从而将加密货币的无中介信任模型转变为针对合成媒体的防御。
诚实的界限
出处很强大，但不是灵丹妙药。只有当创作者真正签署他们的内容并且平台显示并检查出处时，这才有帮助，采用是困难的部分，而今天的大多数内容根本没有出处。签名证明了来源和完整性，而不是事实：签名的视频可以验证其来源，但来源仍然可能在撒谎或摄像机指向舞台场景。不良行为者将发布未签名的内容并利用长期采用期间的漏洞。可用性、密钥管理、标准一致性仍然不成熟。将出处视为解决方案中一个重要的、不断增长的部分，与媒体素养和怀疑论并列，而不是结束深度造假的转变。求真不追假，方向是对的；推出是一条漫长的路。
🔑 要点
当人工智能可以伪造任何媒体时，检测假货就是一场失败的军备竞赛，因此严肃的防御措施是证明真实性：内容来源。 C2PA 标准将防篡改的“营养标签”（来源、编辑、人工智能或相机）附加到媒体上，该标签建立在相同的加密签名基础上，该签名可保护加密内容，在创建时使用私钥对内容进行签名，并可使用公钥进行验证。区块链添加了一个不可变的、中立的注册表，记录内容何时存在以及谁签名。对于加密货币来说，这直接打击了深度伪造的背书诈骗：签名的真实内容使得未签名的“背书”很容易被怀疑。限制：它只有在创作者签名和平台检查的情况下才有效（采用很难），并且它证明了起源，而不是事实。
为什么这对您很重要
随着深度造假诈骗和合成媒体虚假信息在亚洲的语言和平台上迅速传播，基于加密货币核心的加密签名的内容来源，为该地区的用户、创作者和针对他们的加密诈骗提供了相关的防御。它展示了加密货币的无中介信任模型应用于人工智能时代最重要的问题之一。
常见问题
在人工智能时代，区块链如何帮助证明内容的真实性？▼
通过加密签名和不可变记录，加密背后的技术相同。内容可以在创建时使用私钥进行签名，从而生成任何人都可以使用公钥进行验证的防篡改签名（正是应用于媒体的比特币模型）。区块链添加了一个带有时间戳的、不可更改的注册表，证明特定内容存在并在给定时间由给定密钥签名，没有中央机构能够重写它。您验证什么是真实的，而不是试图检测每一个假货。
什么是 C2PA/内容来源？▼
内容来源是可验证的信息，包括媒体来自何处、如何更改、谁创建了它、何时、使用什么工具、是否经过编辑以及是否是人工智能生成的或相机捕获的。 C2PA（内容来源和真实性联盟）是领先的标准，得到主要科技和媒体公司的支持，为内容贴上防篡改的“营养标签”。目的是让任何人检查媒体的可验证来源和历史，而不是猜测它是否是假的。
溯源技术可以阻止 Deepfake 诈骗吗？▼
它是解决方案的一个强大部分，但不是一个完整的解决方案。如果公众人物和交易所以加密方式签署其真实内容，则未签名或签名损坏的“背书”就很容易受到不信任，从而直接削弱深度造假背书骗局。但它只在创作者签名和平台检查来源的情况下才有效（采用是困难的部分），今天的大多数内容都是未签名的，签名证明来源和完整性，而不是来源说的是实话。它与媒体素养一起工作，而不是作为一个独立的开关。
继续阅读
整个中心的相关主题
📚 来源和进一步阅读
本指南中使用的权威参考文献和主要来源。