منبع محتوای هوش مصنوعی و بلاک چین
📖 10 دقیقه خواندن
Quick Answer
ما وارد عصری شده ایم که دیدن دیگر باور کردن نیست. هوش مصنوعی میتواند تصویری واقعی از رویدادی ایجاد کند که هرگز اتفاق نیفتاده است، ویدیویی از فردی که کلماتی را که هرگز نگفته است، و صدایی غیرقابل تشخیص از صدای واقعی ایجاد کند. این یک مشکل تمدنی است، برای اعتماد، روزنامهنگاری، انتخابات، دادگاهها، و به طور مشخص، برای رمزارزها، جایی که دیپفیکها باعث کلاهبرداری میشوند. یکی از امیدوارکنندهترین دفاعها، مشکل را برمیگرداند: به جای تلاش برای شناسایی هر جعلی، به صورت رمزنگاری ثابت کنید که چه چیزی معتبر است. این «منشأ محتوا» است و فناوری اصلی کریپتو در آن نقش اساسی دارد.
💡 مهر و امضای ضد دستکاری
منشأ مانند مهر و امضای مومی روی نامه است، اما غیرقابل جعل. به جای تلاش برای شناسایی هر نامه جعلی (یک بازی بی پایان و بازنده با پیشرفت جاعلان)، فرستنده معتبر هر نامه واقعی را امضا و مهر و موم می کند تا هر کسی بتواند تأیید کند که واقعاً از آنها آمده و تغییری نکرده است. در رسانه ها اعمال می شود: به جای تعقیب هر دیپ فیک، محتوای واقعی به صورت رمزنگاری در منبع خود امضا می شود و هر گونه دستکاری بعدی مهر و موم را می شکند. شما به جای شکار جعلی، واقعیت را تأیید می کنید.
چرا تشخیص تقلبی یک بازی بازنده است
پاسخ غریزی به دیپ فیک ساختن آشکارسازهایی است که آنها را شناسایی می کند. مشکل ساختاری است: تشخیص یک مسابقه تسلیحاتی است که جعلی ها تمایل دارند برنده شوند، زیرا هر آشکارساز به مواد آموزشی تبدیل می شود تا تقلبی بعدی غیرقابل کشف شود. با بهبود هوش مصنوعی مولد، مصنوعات آشکار ناپدید می شوند و دقت تشخیص کاهش می یابد. تکیه بر "ما فقط تقلبی ها را شناسایی خواهیم کرد" تردمیلی است که سریع تر می دود. به همین دلیل است که تلاش جدی از کشف دروغ به اثبات اصالت تغییر کرده است، مشکلی که به جای مخالفت با نقاط قوت رمزنگاری بازی می کند.
منشأ محتوا به چه معناست
منشأ محتوا اطلاعات قابل تأییدی است درباره اینکه یک قطعه رسانه از کجا آمده و چگونه تغییر کرده است: چه کسی یا چه چیزی آن را ایجاد کرده است، چه زمانی، با چه دستگاه یا ابزاری، و اینکه آیا از آن زمان تاکنون ویرایش شده است یا خیر. استاندارد پیشرو C2PA (ائتلافی برای منشأ و اعتبار محتوا) است که توسط شرکتهای بزرگ فناوری و رسانه پشتیبانی میشود، که یک "برچسب تغذیه" بدیهی از ابردادههای منشأ به محتوا میبندد. مهمتر از همه، می تواند مشخص کند که آیا چیزی توسط هوش مصنوعی تولید شده است یا توسط دوربین گرفته شده است. هدف ممنوعیت تقلبی نیست، بلکه اجازه دادن به هر کسی که منشاء و تاریخچه قابل تأیید آنچه را که به آن نگاه می کند بررسی کند.
جایی که بلاک چین و رمزنگاری وارد می شوند
فناوری زیربنای منشأ همان امضای رمزنگاری است که رمزارز را ایمن می کند. محتوا با یک کلید خصوصی در نقطه ایجاد (توسط یک دوربین، یک سازنده، یک سازمان خبری) امضا میشود، و امضای غیرقابل دستکاری تولید میکند که هر کسی میتواند با کلید عمومی مربوطه تأیید کند، دقیقاً مدل امضای بیتکوین که در رسانهها اعمال میشود. بلاک چین ها به عنوان یک رجیستری غیرمتمرکز و غیرقابل تغییر ارزش می افزایند: رکوردی با مهر زمانی و غیرقابل تغییر که یک قطعه خاص از محتوا وجود داشته و در زمان معینی توسط یک کلید مشخص امضا شده است، بدون هیچ مرجع مرکزی که بتواند بعداً آن را بازنویسی کند. چندین پروژه دقیقاً برای این قابلیت تأیید خنثی و دائمی، هشهای محتوا و سوابق منشأ را در زنجیره ایجاد میکنند.
اتصال کریپتو: مبارزه با کلاهبرداری های دیپ فیک
این برای کاربران کریپتو انتزاعی نیست، مستقیماً به کلاهبرداریهای تأیید عمیق جعلی که فضا را آزار میدهند حمله میکند. اگر یک شخصیت عمومی یا صرافی به صورت رمزنگاری اعلانها و محتوای واقعی خود را امضا کند، «تاییدات» بدون امضا یا شکسته امضا بهطور پیشفرض به راحتی قابل اعتماد میشوند. به طور گستردهتر، هویت خالق قابل تأیید (از جمله سیستمهای هویت رمزنگاری شده) به مخاطبان اجازه میدهد پیامی را که واقعاً از طرف کسی که ادعا میکند دریافت کرده است، تأیید کنند. همان رمزنگاری که به شما امکان میدهد تراکنش بیتکوین را تأیید کنید، میتواند به شما اجازه دهد تأیید کنید که یک ویدیو واقعاً از طرف شخصی است که به نظر میرسد نشان میدهد، و مدل اعتماد بدون واسطه کریپتو را به دفاعی در برابر رسانههای مصنوعی تبدیل میکند.
محدودیت های صادقانه
منشأ قدرتمند است اما گلوله نقره ای نیست. تنها زمانی کمک میکند که سازندگان محتوا و پلتفرمهایشان را امضا کنند و منشأ نمایش را بررسی کنند، پذیرش بخش سخت آن است و اکثر محتواهای امروزی اصلاً منشأ ندارند. امضاها منشأ و یکپارچگی را ثابت میکنند، نه حقیقت را: یک ویدیوی امضا شده بهطور قابل تأیید از منبع آن است، اما منبع ممکن است همچنان دروغ بگوید یا دوربین به سمت صحنهای نمایشدادهشده نشانه رفته باشد. بازیگران بد محتوای بدون امضا را منتشر می کنند و در طول دوره طولانی پذیرش از شکاف استفاده می کنند. و قابلیت استفاده، مدیریت کلید، همسویی استانداردها، نابالغ باقی میماند. منشأ را در کنار سواد رسانه ای و شک و تردید به عنوان یک بخش ضروری و رو به رشد راه حل تلقی کنید، نه تغییری که به دروغ های عمیق پایان می دهد. جهت، راستی آزمایی واقعی به جای تعقیب جعلی، درست است. راه اندازی یک راه طولانی است.
🔑 غذای کلیدی
وقتی هوش مصنوعی میتواند هر رسانهای را جعل کند، شناسایی تقلبیها یک مسابقه تسلیحاتی بازنده است، بنابراین دفاع جدی در حال اثبات صحت است: منشأ محتوا. استاندارد C2PA یک "برچسب تغذیه" آشکار (منشا، ویرایش، هوش مصنوعی یا دوربین) را به رسانه ها متصل می کند که بر اساس همان امضای رمزنگاری شده است که رمزارزها را ایمن می کند، محتوای امضا شده در هنگام ایجاد با یک کلید خصوصی، قابل تأیید با کلید عمومی. بلاک چین ها یک رجیستری غیرقابل تغییر و خنثی از زمان وجود محتوا و امضای آن را اضافه می کنند. برای کریپتو، این مستقیماً با کلاهبرداریهای تأیید عمیق جعلی مبارزه میکند: محتوای اصیل امضاشده باعث میشود تا به «تاییدات» بدون امضا آسانتر بیاعتماد شود. محدودیتها: فقط در صورتی کار میکند که سازندگان امضا کنند و پلتفرمها را بررسی کنند (پذیرش سخت است)، و منشأ را ثابت کند، نه حقیقت را.
چرا این برای شما مهم است
از آنجایی که کلاهبرداریهای جعلی عمیق و اطلاعات نادرست رسانهای مصنوعی به سرعت در زبانها و پلتفرمهای آسیا گسترش مییابد، منشأ محتوا که بر اساس امضای رمزنگاری در هسته رمزنگاری ساخته شده است، دفاعی مناسب برای کاربران منطقه، سازندگان و کلاهبرداریهای رمزنگاری که آنها را هدف قرار میدهند، ارائه میکند. این نشان می دهد که مدل اعتماد بدون واسطه کریپتو برای یکی از مهم ترین مشکلات عصر هوش مصنوعی اعمال می شود.
سوالات متداول
چگونه بلاک چین می تواند به اثبات واقعی بودن محتوا در عصر هوش مصنوعی کمک کند؟▼
از طریق امضای رمزنگاری و سوابق تغییرناپذیر، همان فناوری پشت رمزارز. محتوا را میتوان با یک کلید خصوصی در هنگام ایجاد امضا کرد، و امضای غیرقابل دستکاری تولید کرد که هر کسی میتواند با کلید عمومی تأیید کند (دقیقاً مدل بیتکوین برای رسانهها اعمال میشود). یک بلاک چین یک رجیستری با مهر زمانی و غیرقابل تغییر اضافه میکند که ثابت میکند یک قطعه خاص از محتوا وجود دارد و در زمان معینی توسط یک کلید مشخص امضا شده است، بدون اینکه هیچ مقام مرکزی قادر به بازنویسی آن باشد. شما به جای اینکه سعی کنید هر جعلی را شناسایی کنید، تأیید می کنید که چه چیزی معتبر است.
منشأ C2PA / محتوا چیست؟▼
منشأ محتوا اطلاعات قابل تأییدی است درباره اینکه رسانه از کجا آمده و چگونه تغییر کرده است، چه کسی آن را ایجاد کرده، چه زمانی، با چه ابزاری، ویرایش شده است، و اینکه آیا توسط هوش مصنوعی تولید شده است یا توسط دوربین گرفته شده است. C2PA (ائتلاف برای منشأ و اصالت محتوا) استاندارد پیشرو است که توسط شرکتهای بزرگ فناوری و رسانه پشتیبانی میشود و یک "برچسب تغذیه" آشکار به محتوا چسبانده است. هدف این است که به هر کسی اجازه دهیم منشا و تاریخچه قابل تأیید رسانه را بررسی کند نه اینکه حدس بزند که آیا جعلی است یا خیر.
آیا فناوری منشأ می تواند کلاهبرداری های دیپ فیک را متوقف کند؟▼
این بخش قدرتمندی از راه حل است اما یک راه حل کامل نیست. اگر شخصیتهای عمومی و صرافیها به صورت رمزنگاری محتوای واقعی خود را امضا کنند، «تأییدات» بدون امضا یا شکسته امضا به راحتی قابل اعتماد میشوند و مستقیماً کلاهبرداریهای تأیید عمیق جعلی را کاهش میدهند. اما فقط در جایی کار میکند که سازندگان امضا کنند و پلتفرمها منشأ را بررسی کنند (پذیرش بخش سخت است)، بیشتر محتواهای امروزی بدون امضا هستند، و امضاها منشأ و یکپارچگی را ثابت میکنند، نه اینکه منبع حقیقت را میگوید. این در کنار سواد رسانه ای کار می کند، نه به عنوان یک سوئیچ مستقل.
به خواندن ادامه دهید
موضوعات مرتبط در سراسر هاب
📚 منابع و ادامه مطلب
منابع معتبر و منابع اولیه استفاده شده در این راهنما.