全球社交、科技巨頭Meta（Facebook、Instagram等母公司）在官網(wǎng)宣布，開源數(shù)字水印產(chǎn)品Stable Signature，并公開論文。

據(jù)悉，Stable Signature是由Meta和INRIA（法國(guó)國(guó)家信息與自動(dòng)化研究所）聯(lián)合開發(fā)而成，可將數(shù)字水印直接嵌入到AI自動(dòng)生成的圖片中，防止其非法用途。

而數(shù)字水印也是目前增強(qiáng)生成式AI安全的重要手段之一，微軟、谷歌等科技巨頭已經(jīng)在產(chǎn)品中使用。

Stable Signature生成的數(shù)字水印不受裁剪、壓縮、改變顏色等破壞性操作影響，能追溯到圖片的初始來(lái)源，可應(yīng)用于擴(kuò)散、生成對(duì)抗網(wǎng)絡(luò)等模型，例如，著名文生圖開源項(xiàng)目Stable Diffusion。

開源地址：https://github.com/facebookresearch/stable_signature

論文地址：https://arxiv.org/abs/2303.15435

Stable Signature技術(shù)原理

Stable Signature的技術(shù)原理并不復(fù)雜，開發(fā)人員用Alice訓(xùn)練了一個(gè)主生成模型并進(jìn)行了微調(diào)，以確定Bob給定的水印，用于識(shí)別AI圖片的版本、公司、用戶、特征等屬性。

Bob用于接收不同的擴(kuò)散模型版本并生成圖片，并攜帶水印。而這些水印可以由Alice或第三方AI進(jìn)行分析，以查看圖像是否由AI生成。

為了實(shí)現(xiàn)上述目標(biāo)，開發(fā)人員使用了兩大步驟來(lái)完成。

1）訓(xùn)練兩個(gè)卷積神經(jīng)網(wǎng)絡(luò)。一種將圖像和隨機(jī)消息編碼為水印圖像，另一種則從水印圖像的增強(qiáng)版本中提取消息，目的是使編碼和提取的消息匹配。訓(xùn)練完成后，只保留水印提取器。

2）對(duì)生成模型的潛在解碼器進(jìn)行微調(diào)以生成包含固定簽名的圖像。在此微調(diào)過(guò)程中，會(huì)對(duì)批量圖像進(jìn)行編碼、解碼和優(yōu)化，以最大限度地減少提取的消息與目標(biāo)消息之間的差異，并保持感知圖像質(zhì)量。

這種優(yōu)化過(guò)程快速有效，只需要小批量和很短的時(shí)間即可獲得高質(zhì)量的結(jié)果。

Stable Signature性能評(píng)估

在性能評(píng)估過(guò)程中，開發(fā)人員發(fā)現(xiàn)Stable Signature不受裁剪、壓縮、改變顏色等破壞性操作影響，同時(shí)在被動(dòng)檢測(cè)方面有兩大技術(shù)優(yōu)勢(shì)。

1）可以控制并減少誤報(bào)的情況：誤報(bào)是指我們將人類制作的圖片，誤認(rèn)為是AI生成的圖片。鑒于在線共享的非AI生成圖片的普遍性，這一點(diǎn)至關(guān)重要。

例如，最有效的現(xiàn)有檢測(cè)方法可以發(fā)現(xiàn)大約50%的編輯過(guò)的生成圖片，但仍然產(chǎn)生大約1/100的誤報(bào)率。

換句話說(shuō)，在一個(gè)每天收到10億張圖片的用戶生成內(nèi)容平臺(tái)上，為了僅檢測(cè)到一半的生成圖片，大約有1000萬(wàn)張圖片會(huì)被錯(cuò)誤地標(biāo)記。

而Stable Signature 可以實(shí)現(xiàn)10-10 的誤報(bào)率（可以設(shè)置為特定的期望值），提供高精準(zhǔn)圖片檢測(cè)。

2）Stable Signature的水印方法，允許用戶追蹤同一模型的不同版本的圖片，這種能力對(duì)于識(shí)別AI圖片非常重要。

Meta表示，Midjourney、Stable Difusion等文本生成圖片生成式AI產(chǎn)品非常火爆，已經(jīng)被大量用戶應(yīng)用在各種業(yè)務(wù)場(chǎng)景。但也有很多人將其使用在非法用途，例如，通過(guò)Midjourney生成一張名人的合成照片，然后用于新聞造謠。

通過(guò)Stable Signature將數(shù)字水印嵌入到AI圖片中，可極大避免此類事件的發(fā)生。

本文素材來(lái)源Meta官網(wǎng)，如有侵權(quán)請(qǐng)聯(lián)系刪除

繼續(xù)閱讀：

未經(jīng)允許不得轉(zhuǎn)載：RPA中國(guó) | RPA全球生態(tài) | 數(shù)字化勞動(dòng)力 | RPA新聞 | 推動(dòng)中國(guó)RPA生態(tài)發(fā)展 | 流 > Meta開源數(shù)字水印Stable Signature，極大增強(qiáng)生成式AI安全