每經(jīng)記者 蔡 鼎 實(shí)習(xí)記者 岳楚鵬 每經(jīng)編輯 蘭素英
一直被外界寄予極高期望的權(quán)限OpenAI文生視頻AI模型Sora自今年2月首次展示以來(lái)，就沒(méi)有任何關(guān)于何時(shí)正式發(fā)布的被故消息了。當(dāng)?shù)貢r(shí)間11月26日，意泄一些據(jù)稱(chēng)參與了Sora測(cè)試的權(quán)限藝術(shù)家泄露了該模型的訪(fǎng)問(wèn)權(quán)限（API），以抗議OpenAI對(duì)他們的被故壓榨行為。
當(dāng)日，意泄公共AI模型社區(qū)Hugging Face突然出現(xiàn)了一個(gè)文生視頻的權(quán)限項(xiàng)目。項(xiàng)目團(tuán)隊(duì)使用他們的被故身份驗(yàn)證令牌（可能來(lái)自早期訪(fǎng)問(wèn)系統(tǒng)）創(chuàng)建了一個(gè)前端，讓所有Hugging Face的意泄用戶(hù)可以使用Sora生成視頻。
通過(guò)這一前端，權(quán)限用戶(hù)可以通過(guò)輸入簡(jiǎn)短的被故文字描述來(lái)生成分辨率高達(dá)1080p的10秒視頻。但項(xiàng)目創(chuàng)建三個(gè)小時(shí)后，意泄OpenAI就關(guān)閉了所有藝術(shù)家對(duì)Sora的權(quán)限早期訪(fǎng)問(wèn)權(quán)限。目前該項(xiàng)目已無(wú)法使用。被故在短短的意泄三小時(shí)內(nèi)，用戶(hù)通過(guò)這一項(xiàng)目生成了87個(gè)視頻并發(fā)布了出來(lái)。
目前OpenAI并沒(méi)有公開(kāi)確認(rèn)所謂的Sora泄露是否屬實(shí)。但是OpenAI強(qiáng)調(diào)，參與其“研究預(yù)覽”是“自愿的，沒(méi)有義務(wù)提供反饋或使用該工具”。
OpenAI暫停Sora訪(fǎng)問(wèn)權(quán)限這一舉動(dòng)也暴露出AI行業(yè)的透明度問(wèn)題。隨后，該藝術(shù)家團(tuán)體發(fā)布了一個(gè)公開(kāi)信網(wǎng)站，鼓勵(lì)任何與他們有相同觀(guān)點(diǎn)的人簽署這封公開(kāi)信。截至發(fā)稿，這封信已經(jīng)收到550個(gè)簽名，包括馬斯克。
藝術(shù)家們怒了
當(dāng)?shù)貢r(shí)間11月26日，一小群參與Sora測(cè)試的藝術(shù)家在Hugging Face泄露了Sora的訪(fǎng)問(wèn)權(quán)限，以表達(dá)對(duì)OpenAI的不滿(mǎn)。項(xiàng)目團(tuán)隊(duì)使用他們的身份驗(yàn)證令牌（可能來(lái)自早期訪(fǎng)問(wèn)系統(tǒng)）創(chuàng)建了一個(gè)前端，讓所有Hugging Face的用戶(hù)可以使用Sora生成視頻。
此前，OpenAI向數(shù)百名藝術(shù)家開(kāi)放了Sora的早期使用權(quán)，以測(cè)試這款新的AI視頻生成器。但部分藝術(shù)家認(rèn)為，OpenAI利用了他們的無(wú)償勞動(dòng)，并利用他們來(lái)提升公司形象。
為引起外界對(duì)OpenAI這一行為的關(guān)注，他們?cè)诠睞I模型社區(qū)Hugging Face上發(fā)布了一個(gè)在線(xiàn)項(xiàng)目，允許公眾使用Sora生成視頻。
隨項(xiàng)目同時(shí)發(fā)布的還有一封言辭激烈的公開(kāi)信。在信中，藝術(shù)家們將OpenAI比作“中世紀(jì)的封建領(lǐng)主”，譴責(zé)他們利用了藝術(shù)家的無(wú)私貢獻(xiàn)，卻并沒(méi)有給出合理的報(bào)酬?！拔覀儷@得了Sora的使用權(quán)，并承諾成為早期測(cè)試者、紅隊(duì)成員和創(chuàng)意合作伙伴。然而，我們認(rèn)為，我們被引誘進(jìn)行‘藝術(shù)洗白’，以告訴世界Sora對(duì)藝術(shù)家來(lái)說(shuō)是一個(gè)有用的工具?！?/p>
這封信充斥著對(duì)OpenAI的不滿(mǎn)，藝術(shù)家們寫(xiě)道：“我們不是你的無(wú)償研發(fā)人員。我們不是你的免費(fèi)錯(cuò)誤測(cè)試人員、PR（公關(guān)）傀儡、訓(xùn)練數(shù)據(jù)和驗(yàn)證令牌?！?/p>
盡管參與模型測(cè)試的藝術(shù)家有數(shù)百名，但只有少數(shù)作品進(jìn)行展映，而且報(bào)酬極為有限，與OpenAI獲得的巨大公關(guān)和營(yíng)銷(xiāo)價(jià)值相比，簡(jiǎn)直是微不足道。更讓這些藝術(shù)家們憤怒的是，“每個(gè)影片都需要OpenAI團(tuán)隊(duì)的批準(zhǔn)才能分享。這個(gè)早期訪(fǎng)問(wèn)計(jì)劃似乎更多關(guān)注的是公關(guān)和廣告，而不是創(chuàng)作表達(dá)和批評(píng)?！?/p>
他們?cè)谛胖袕?qiáng)調(diào)，“我們并不反對(duì)將AI技術(shù)作為藝術(shù)工具使用（如果我們反對(duì)，可能就不會(huì)參加這個(gè)項(xiàng)目）。我們不同意的是藝術(shù)家項(xiàng)目的推出方式，以及該工具在可能公開(kāi)發(fā)布之前的呈現(xiàn)方式。我們發(fā)布這個(gè)聲明，希望OpenAI能變得更加開(kāi)放，對(duì)藝術(shù)家更加友好，并在支持藝術(shù)方面不只是公關(guān)作秀。”
他們還呼吁其他藝術(shù)家使用開(kāi)源的視頻生成工具來(lái)抵制OpenAI這種閉源公司?！伴_(kāi)源視頻生成工具讓藝術(shù)家能夠在沒(méi)有門(mén)檻、商業(yè)利益或服務(wù)于任何公司的公關(guān)目的下，探索前衛(wèi)藝術(shù)。我們也鼓勵(lì)藝術(shù)家使用自己的數(shù)據(jù)集來(lái)訓(xùn)練自己的模型。”
但在藝術(shù)家們上線(xiàn)Sora API項(xiàng)目后三小時(shí)，OpenAI迅速切斷了訪(fǎng)問(wèn)權(quán)限。OpenAI發(fā)言人Niko Felix稱(chēng)，公司將暫停所有用戶(hù)對(duì)Sora的訪(fǎng)問(wèn)，同時(shí)調(diào)查情況。但是他拒絕說(shuō)明這個(gè)項(xiàng)目是不是真鏈接到了Sora模型?！癝ora仍處于研究預(yù)覽階段，我們正努力在創(chuàng)造力與更廣泛的強(qiáng)大安全措施之間取得平衡。”
Felix同時(shí)說(shuō)道：“我們alpha版本的數(shù)百名藝術(shù)家塑造了Sora的發(fā)展，幫助確定新功能和保障措施的優(yōu)先級(jí)。參與是自愿的，沒(méi)有提供反饋或使用該工具的義務(wù)。我們很高興為這些藝術(shù)家提供免費(fèi)訪(fǎng)問(wèn)權(quán)限，并將繼續(xù)通過(guò)贈(zèng)款、活動(dòng)和其他計(jì)劃為他們提供支持。我們相信AI可以成為一種強(qiáng)大的創(chuàng)意工具，并致力于讓Sora既實(shí)用又安全?！?/p>
AI研發(fā)被指缺乏透明度
在OpenAI暫停Sora訪(fǎng)問(wèn)權(quán)限后，該藝術(shù)家團(tuán)體發(fā)布了一個(gè)公開(kāi)信網(wǎng)站，鼓勵(lì)任何與他們有相同觀(guān)點(diǎn)的人簽署這封公開(kāi)信。
截至發(fā)稿，這封信已經(jīng)收到550個(gè)簽名，與OpenAI極其不對(duì)付的馬斯克也在其中。
這次事件在A(yíng)I行業(yè)中并不常見(jiàn)，因?yàn)樵缙跍y(cè)試人員的反饋受到公司的嚴(yán)格控制，而且嚴(yán)厲的批評(píng)很少公開(kāi)。通常，公司會(huì)親自挑選外部人員提前訪(fǎng)問(wèn)系統(tǒng)，在某些情況下，公司會(huì)要求這些用戶(hù)簽署保密協(xié)議或獲得批準(zhǔn)，然后才能公開(kāi)分享系統(tǒng)生成的任何圖像、視頻或文本響應(yīng)。
但最近，越來(lái)越多的AI安全專(zhuān)家批評(píng)這種做法對(duì)獨(dú)立研究產(chǎn)生了寒蟬效應(yīng)，降低了透明度，并阻礙了對(duì)公司行為的問(wèn)責(zé)。斯坦福大學(xué)的基礎(chǔ)模型透明度指數(shù)顯示，沒(méi)有一家主要的基礎(chǔ)模型開(kāi)發(fā)商能夠提供足夠的透明度（最高得分54分，滿(mǎn)分100分），這揭示了AI行業(yè)缺乏透明度。
OpenAI的員工此前也指責(zé)公司強(qiáng)迫員工簽署“封口協(xié)議”，不允許離職員工發(fā)表對(duì)公司的負(fù)面言論，否則公司可以收回員工已有股權(quán)。離職員工也不得對(duì)外公開(kāi)這些協(xié)議內(nèi)容。
為此，今年6月，OpenAI以及谷歌DeepMind的一批員工聯(lián)合發(fā)布了一份名為《對(duì)AI發(fā)出警告》的公開(kāi)信。
公開(kāi)信預(yù)警，AI技術(shù)存在加劇不平等、操縱和誤導(dǎo)信息，失去控制并威脅人類(lèi)的風(fēng)險(xiǎn)。AI公司技術(shù)迭代的同時(shí)產(chǎn)生了大量安全相關(guān)的非公開(kāi)信息，它們沒(méi)有主動(dòng)披露的動(dòng)機(jī)。監(jiān)管部門(mén)對(duì)此難以形成有效制約，只能由現(xiàn)任或前任員工要求它們向公眾負(fù)責(zé)。
上述員工在公開(kāi)信中對(duì)包括OpenAI在內(nèi)的AI公司提出了4點(diǎn)呼吁：⒈不強(qiáng)迫員工簽訂禁止批評(píng)公司的協(xié)議；⒉為公司現(xiàn)任和前任員工提供匿名的安全反饋機(jī)制；⒊允許現(xiàn)任和前任員工向董事會(huì)、監(jiān)管機(jī)構(gòu)、其他安全機(jī)構(gòu)提出對(duì)公司技術(shù)安全的擔(dān)憂(yōu)；⒋公司不對(duì)公開(kāi)分享風(fēng)險(xiǎn)相關(guān)機(jī)密信息的現(xiàn)任和前任員工進(jìn)行報(bào)復(fù)。
正如Hugging Face的一則評(píng)論所說(shuō)，“AI并非憑空而來(lái)。它建立在創(chuàng)意人員的肩膀上，而這些創(chuàng)意人員往往沒(méi)有得到認(rèn)可。Sora泄密事件敲響了警鐘：沒(méi)有道德的創(chuàng)新就是剝削?！?/p>
