AI Content Provenance at Blockchain
๐ 10 min basahin
Quick Answer
Pumasok na tayo sa panahon kung saan ang nakikita ay hindi na naniniwala. Ang AI ay maaaring bumuo ng isang photorealistic na imahe ng isang kaganapan na hindi kailanman nangyari, isang video ng isang tao na nagsasabi ng mga salita na hindi nila sinabi, isang boses na hindi makilala mula sa isang tunay. Isa itong problema sa sibilisasyon, para sa tiwala, pamamahayag, halalan, korte, at, napakakonkreto, para sa crypto, kung saan ang mga deepfakes ay nagtutulak ng mga scam. Ang isa sa mga pinaka-maaasahan na depensa ay binabaligtad ang problema: sa halip na subukang tuklasin ang bawat pekeng, patunayan ng cryptographic kung ano ang tunay. Ito ay "content provenance", at ang pangunahing teknolohiya ng crypto ay sentro nito.
๐ก Isang tamper-proof na selyo at lagda
Ang pinagmulan ay parang wax seal at pirma sa isang liham, ngunit hindi mapapalitan. Sa halip na subukang makita ang bawat huwad na liham (isang walang katapusang, natatalo na laro habang umuunlad ang mga palsipikado), pinipirmahan at tinatakan ng tunay na nagpadala ang bawat tunay na liham para ma-verify ng sinuman na sa kanila nga talaga ito nanggaling at hindi binago. Inilapat sa media: sa halip na habulin ang bawat deepfake, ang tunay na nilalaman ay pinirmahan nang cryptographic sa pinagmulan nito at ang anumang pakikialam sa ibang pagkakataon ay masira ang selyo. I-verify mo ang totoo, sa halip na manghuli ng peke.
Bakit ang pagtuklas ng mga peke ay isang talo na laro
Ang likas na tugon sa mga deepfakes ay ang pagbuo ng mga detector na makikita ang mga ito. Ang problema ay structural: ang detection ay isang arm race na malamang na manalo ang mga faker, dahil ang bawat detector ay nagiging training material para gawin ang susunod na pekeng undetectable. Habang umuunlad ang generative AI, nawawala ang mga artifact, at bumababa ang katumpakan ng pagtuklas. Ang pag-asa sa "we'll just detect the fakes" ay isang treadmill na tumatakbo nang mas mabilis. Ito ang dahilan kung bakit ang seryosong pagsisikap ay lumipat mula sa pagtuklas ng kasinungalingan patungo sa pagpapatunay ng pagiging tunay, isang problema na gumaganap sa mga lakas ng cryptography sa halip na laban sa kanila.
Ano ang ibig sabihin ng pinagmulan ng nilalaman
Ang pinagmulan ng nilalaman ay nabe-verify na impormasyon tungkol sa kung saan nanggaling ang isang piraso ng media at kung paano ito nagbago: sino o ano ang lumikha nito, kailan, gamit ang anong device o tool, at kung na-edit ito mula noon. Ang nangungunang pamantayan ay ang C2PA (ang Coalition for Content Provenance and Authenticity), na suportado ng mga pangunahing kumpanya ng tech at media, na naglalagay ng tamper-evident na "nutrition label" ng provenance metadata sa content. Higit sa lahat, maaari nitong markahan kung ang isang bagay ay binuo ng AI o nakuhanan ng camera. Ang layunin ay hindi upang ipagbawal ang mga pekeng ngunit upang hayaan ang sinuman na suriin ang nabe-verify na pinagmulan at kasaysayan ng kung ano ang kanilang tinitingnan.
Kung saan pumapasok ang blockchain at cryptography
Ang teknolohiyang pinagbabatayan ng pinagmulan ay ang parehong cryptographic signing na nagse-secure ng crypto. Nilalagdaan ang content gamit ang isang pribadong key sa punto ng paglikha (ng isang camera, isang creator, isang news organization), na gumagawa ng isang tamper-evident na lagda na maaaring i-verify ng sinuman gamit ang kaukulang pampublikong key, eksaktong modelo ng lagda ng Bitcoin na inilapat sa media. Ang mga blockchain ay nagdaragdag ng halaga bilang isang hindi nababago, desentralisadong registry: isang timestamped, hindi nababagong tala na mayroong isang partikular na bahagi ng nilalaman at nilagdaan sa isang partikular na oras ng isang ibinigay na susi, na walang sentral na awtoridad na maaaring muling isulat ito sa ibang pagkakataon. Ang ilang mga proyekto ay nag-anchor ng mga hash ng nilalaman at mga talaan ng pinanggalingan sa kadena nang eksakto para sa neutral at permanenteng pagpapatunay na ito.
Ang koneksyon sa crypto: paglaban sa mga malalalim na scam
Hindi ito abstract para sa mga gumagamit ng crypto, direktang inaatake nito ang mga deepfake-endorsement scam na sumasalot sa espasyo. Kung pinirmahan ng isang pampublikong pigura o exchange ang kanilang mga tunay na anunsyo at nilalaman, kung gayon ang mga "endorsement" na hindi nilagdaan o sinira ang lagda ay magiging madaling hindi magtiwala bilang default. Sa mas malawak na paraan, ang nabe-verify na pagkakakilanlan ng creator (kabilang ang mga crypto-native identity system) ay nagbibigay-daan sa mga madla na kumpirmahin ang isang mensahe na tunay na nanggaling sa kung sino ang inaangkin nito. Ang parehong cryptography na nagbibigay-daan sa iyong i-verify ang isang transaksyon sa Bitcoin ay maaaring magbigay-daan sa iyong i-verify na ang isang video ay talagang nagmula sa taong ito ay lumilitaw na ipinapakita, na ginagawang isang depensa laban sa synthetic media ang modelo ng trust-without-intermediaries ng crypto.
Ang matapat na mga limitasyon
Ang Provenance ay makapangyarihan ngunit hindi isang pilak na bala. Nakakatulong lang ito kung talagang pinirmahan ng mga creator ang kanilang content at mga platform na magpapakita at susuriin ang provenance, ang pag-ampon ang mahirap na bahagi, at karamihan sa content ngayon ay walang anumang provenance. Ang mga lagda ay nagpapatunay ng pinagmulan at integridad, hindi katotohanan: ang isang nilagdaang video ay napatunayang mula sa pinagmulan nito, ngunit ang pinagmulan ay maaaring nagsisinungaling pa rin o ang camera ay nakatutok sa isang nakatanghal na eksena. Ang mga masasamang aktor ay magpa-publish ng hindi nilagdaan na nilalaman at sasamantalahin ang puwang sa mahabang panahon ng pag-aampon. At ang kakayahang magamit, pangunahing pamamahala, pagkakahanay ng mga pamantayan, ay nananatiling hindi pa gulang. Ituring ang pinanggalingan bilang isang mahalaga, lumalagong bahagi ng solusyon, kasama ng media literacy at pag-aalinlangan, hindi isang switch na nagtatapos sa mga deepfakes. Ang direksyon, i-verify ang totoo sa halip na habulin ang peke, ay tama; ang rollout ay isang mahabang kalsada.
๐ Key takeaway
Kapag ang AI ay maaaring pekein ang anumang media, ang pag-detect ng mga peke ay isang natatalo na karera ng armas, kaya ang seryosong depensa ay nagpapatunay ng pagiging tunay: content provenance. Ang pamantayan ng C2PA ay nag-a-attach ng tamper-evident na "nutrition label" (pinagmulan, mga pag-edit, AI-o-camera) sa media, na binuo sa parehong cryptographic signing na nagse-secure ng crypto, content na nilagdaan sa paggawa gamit ang isang pribadong key, na mabe-verify gamit ang pampublikong key. Ang mga blockchain ay nagdaragdag ng hindi nababago, neutral na pagpapatala kung kailan umiiral ang nilalaman at kung sino ang pumirma nito. Para sa crypto, direktang nilalabanan nito ang mga scam sa deepfake-endorsement: ang pinirmahang tunay na nilalaman ay ginagawang madaling hindi pagkatiwalaan ang mga hindi napirmahang "endorsement". Mga Limitasyon: gagana lang ito kung pumirma ang mga creator at titingnan ang mga platform (mahirap ang pag-ampon), at pinatutunayan nito ang pinagmulan, hindi ang katotohanan.
Bakit ito mahalaga para sa iyo
Habang mabilis na kumakalat ang mga deepfake na scam at disinformation ng synthetic-media sa mga wika at platform ng Asia, ang pinagmulan ng nilalaman, na binuo sa cryptographic signing sa pangunahing bahagi ng crypto, ay nag-aalok ng depensang nauugnay sa mga user, creator at crypto scam ng rehiyon na nagta-target sa kanila. Ipinapakita nito ang modelo ng trust-without-intermediaries ng crypto na inilapat sa isa sa pinakamahalagang problema sa edad ng AI.
Mga madalas itanong
Paano makakatulong ang blockchain na patunayan na totoo ang nilalaman sa panahon ng AI?โผ
Sa pamamagitan ng cryptographic signing at immutable records, ang parehong teknolohiya sa likod ng crypto. Maaaring pirmahan ang content gamit ang pribadong key sa paggawa, na gumagawa ng isang tamper-evident na lagda na mabe-verify ng sinuman gamit ang pampublikong key (eksaktong modelo ng Bitcoin na inilapat sa media). Ang isang blockchain ay nagdaragdag ng timestamped, hindi nababagong registry na nagpapatunay na mayroong isang partikular na piraso ng nilalaman at nilagdaan sa isang partikular na oras ng isang ibinigay na susi, na walang sentral na awtoridad na makakapag-rewrite nito. Ibe-verify mo kung ano ang tunay sa halip na subukang tuklasin ang bawat peke.
Ano ang C2PA / content provenance?โผ
Ang pinagmulan ng nilalaman ay nabe-verify na impormasyon tungkol sa kung saan nanggaling ang media at kung paano ito binago, sino ang gumawa nito, kailan, gamit ang anong tool, kung ito ay na-edit, at kung ito ay binuo ng AI o nakuhanan ng camera. Ang C2PA (Coalition for Content Provenance and Authenticity) ay ang nangungunang pamantayan, na sinusuportahan ng mga pangunahing kumpanya ng tech at media, na naglalagay ng tamper-event na "nutrition label" sa content. Ang layunin ay hayaan ang sinuman na suriin ang isang piraso ng napapatunayang pinagmulan at kasaysayan ng media sa halip na hulaan kung ito ay peke.
Maaari bang ihinto ng provenance technology ang mga deepfake na scam?โผ
Ito ay isang malakas na bahagi ng solusyon ngunit hindi isang kumpletong pag-aayos. Kung pinirmahan ng mga pampublikong pigura at palitan ang kanilang tunay na nilalaman, ang mga "endorsement" na hindi nilagdaan o sinira ang lagda ay magiging madaling hindi pagkatiwalaan, na direktang nakakabawas sa mga scam sa deepfake-endorsement. Ngunit ito ay gumagana lamang kung saan ang mga creator ay pumipirma at ang mga platform ay nagsusuri ng pinagmulan (ang pag-aampon ay ang mahirap na bahagi), karamihan sa nilalaman ngayon ay hindi pinirmahan, at ang mga pirma ay nagpapatunay ng pinagmulan at integridad, hindi na ang pinagmulan ay nagsasabi ng totoo. Gumagana ito kasama ng media literacy, hindi bilang isang standalone switch.
Ituloy ang pagbabasa
Mga kaugnay na paksa sa buong hub
๐ Mga mapagkukunan at karagdagang pagbabasa
Mga awtoritatibong sanggunian at pangunahing mapagkukunan na ginamit sa gabay na ito.