3月底，馬斯克在內(nèi)的許多社會名流共同簽署了一份公開信，希望包括OpenAI在內(nèi)的機構(gòu)至少把更高能力的AGI研發(fā)暫停6個月，從而讓人類社會達成某種基于AGI（通用人工智能）威脅的協(xié)議。 

這封信雖然文本不長，但是涵蓋了非常廣泛的內(nèi)容，內(nèi)含的問題很豐富。 

比如，人類該如何算這筆賬——AGI讓信息渠道充斥宣傳甚至謊言；如果是人類本來就喜歡和滿意的工作，是否應(yīng)該被AI取代？而這些效率提升，是否值得我們冒著“失去對文明控制”的風(fēng)險？而人類針對AGI的監(jiān)管體系又應(yīng)該如何搭設(shè)？ 

這封信最終的結(jié)果是引發(fā)了硅谷規(guī)?？涨暗挠^點撕裂的大討論。畢竟如果以GPT3.5進入人類社會視野為起點，對于AGI的發(fā)展，人類還有太多的盲點沒有解決、有太多爭議沒有達成共識。但當人類還在爭吵時，AGI已經(jīng)開始在全球各地制造麻煩了，虛假信息和信息泄露都像是一個讓人不安的龐大黑箱。 

因此，最近一段時間以來，包括歐美日韓在內(nèi)的各個信息發(fā)達國家都開始了對大模型監(jiān)管的討論。而在4月11日，國家互聯(lián)網(wǎng)信息辦公室也發(fā)布了《生成式人工智能服務(wù)管理辦法（征求意見稿）》（以下簡稱《辦法》）。這份《辦法》的重要意義在于，它可以算是人類社會面對AGI監(jiān)管中最早的官方文件之一。 

而監(jiān)管視角往往是人們理解AGI中很獨特的一個角度：不同于科學(xué)家視角有很多參數(shù)上的復(fù)雜解釋體系、有諸多復(fù)雜的模型框架流派。監(jiān)管者是社會利益的代言人，也往往是站在社會整體的角度去思考。因此監(jiān)管者的思路也往往更接近大部分人樸素的直覺。但它同時又代表了核心專家群體的思考，所以它也能部分回應(yīng)新事物的很多討論。 

所以這份《辦法》其實可以成為很多人普通人去理解AGI的一個窗口，他可以幫助我們更好地理解和參與AGI討論。因為AGI既不是天使，也不是魔鬼。而祛魅后的AGI也將成為我們公共生活中的重要部分。 

一、“我是誰”：生成式人工智能 

如果站在硅谷的角度，AGI約等于大模型。它是通過優(yōu)化的模型、結(jié)構(gòu)語料庫和龐大的算力組合而成，帶有一點智慧體思想特征的計算機程序。《文件》對這個“新物種”的劃入到了“生成式人工智能”行業(yè)，即“基于算法、模型、規(guī)則生成文本、圖片、聲音、視頻、代碼等內(nèi)容的技術(shù)?！憋@然這是從AI與社會關(guān)系的角度出發(fā)。 

畢竟AGI未來的技術(shù)特征會改變，模型大小會浮動，但它最終要追求與社會之間互動的內(nèi)核不會變。而無論一個模型封閉開發(fā)多久，其最終目的都是要面向社會做內(nèi)容輸出。這其實是過去輔助決策、檢索、安全、支付等垂直AI與AGI很核心的不同。 

而從技術(shù)遠景來看，任何有廣泛用戶基礎(chǔ)的“生成式AI”，其大概率都會是有AGI底層能力的產(chǎn)品。而對于普通人來說，AGI（通用人工智能）這個名詞確實也有點太“魅惑”。許多人將AGI與人類智慧相類比，仿佛讓人看到了一張“賽博靈魂”，全然忘了AGI只是有一點智慧的苗頭，未來的發(fā)展其實還有巨大的不確定性。 

所以與其說我們未來是《西部世界》似的“AGI社會”，不如說我們將迎來一個“生成式人工智能”的世界，這可能更貼近我們這一代人的技術(shù)現(xiàn)實。 

二、“我屬于誰”：服務(wù)提供者 

在AGI倫理討論中存在一個經(jīng)典問題：大模型生成的內(nèi)容，版權(quán)到底是屬于大模型公司、還是屬于辛苦寫prompt（提示詞）的用戶？ 

《辦法》雖然沒有明確規(guī)定版權(quán)的歸屬，但在監(jiān)管上劃出了責(zé)任義務(wù)，可以供更多人參考。根據(jù)《辦法》：“利用生成式人工智能產(chǎn)品提供聊天和文本、圖像、聲音生成等服務(wù)的組織和個人（以下稱‘提供者’），包括通過提供可編程接口等方式支持他人自行生成文本、圖像、聲音等，承擔(dān)該產(chǎn)品生成內(nèi)容生產(chǎn)者的責(zé)任”。 

如果沿用這個思路，負責(zé)人其實既不屬于大模型的研發(fā)人員、也不屬于用戶，而是屬于連接大模型與用戶之間的服務(wù)提供者。當然，在大部分情況下AGI的開發(fā)者和API提供者應(yīng)該是同一個主體。但隨著技術(shù)生態(tài)的演進，不同層次的主體可能會變得多元化。

明確中間的服務(wù)提供者承擔(dān)責(zé)任，其實也符合“生成式人工智能”的官方定義。同時，這樣的權(quán)責(zé)劃分其實也倒逼未來上游產(chǎn)業(yè)鏈必須達成足夠好的內(nèi)容互信。 

三、AGI的“內(nèi)容權(quán)”：需要標識 

與版權(quán)問題類似的爭論是：AGI內(nèi)容是否可以與人類享受的內(nèi)容“同權(quán)”？ 

《辦法》明確對AGI內(nèi)容做出了限制，出現(xiàn)在了兩個地方：·“按照《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》對生成的圖片、視頻等內(nèi)容進行標識”?！疤峁┱邞?yīng)當根據(jù)國家網(wǎng)信部門和有關(guān)主管部門的要求，提供可以影響用戶信任、選擇的必要信息，包括預(yù)訓(xùn)練和優(yōu)化訓(xùn)練數(shù)據(jù)的來源、規(guī)模、類型、質(zhì)量等描述，人工標注規(guī)則，人工標注數(shù)據(jù)的規(guī)模和類型，基礎(chǔ)算法和技術(shù)體系等”。 

關(guān)于AGI內(nèi)容一直存在爭議。尤其在GPT內(nèi)測的時候，系統(tǒng)有時候表現(xiàn)得像是一個村口玩手機的大爺。它有時會直接給用戶一些包含價值判斷的觀點，卻沒有足夠說服力的信息佐證。如果《辦法》落地，AGI就會徹底告別“口說無憑”的跑火車式的內(nèi)容輸出，轉(zhuǎn)而衍生出一些搜索似的工具屬性。而像過去拿著AI合成作品去美術(shù)比賽拿獎的事情，也將徹底變成一段“黑歷史”。 

這其實與法律的精神相匹配，AI在內(nèi)容生成上是絕對的強者，他自然也需要承擔(dān)更多的舉證義務(wù)。而多模態(tài)的內(nèi)容形態(tài)可能存在巨大的內(nèi)容風(fēng)險，自然也需要相應(yīng)的制約機制。相反，如果讓AGI內(nèi)容與人類內(nèi)容完全同權(quán)，可能會對人類自己的內(nèi)容生態(tài)產(chǎn)生難以評估的影響。 

四、“監(jiān)管生態(tài)”：阿西羅馬原則 

在開頭針對OpenAI的公開信里有一個小細節(jié)，它提出應(yīng)該有一個審計的生態(tài)（ecosystem），而非體系（system）。而公開信也提到了阿西羅馬AI原則（Asilomar AI Principles），即先進AI對人類的影響會是一個文明級的，因此對它的規(guī)劃和管理所需要耗費的資源，應(yīng)該是與其本身耗費的資源相匹配的。 

換言之，如果生成式AI會是一個龐大的體系，那么就不能僅僅靠某個環(huán)節(jié)、某個主體完全實現(xiàn)監(jiān)管。除了繼續(xù)強調(diào)既有法律的監(jiān)管地位外，《辦法》中也強調(diào)了對生成式AI的全流程監(jiān)管。 

比如語料庫（“預(yù)訓(xùn)練數(shù)據(jù)”）必須合法合規(guī)、數(shù)據(jù)標記必須培訓(xùn)“清晰、具體、可操作的標注規(guī)則”、使用場景必須符合規(guī)范并承擔(dān)相應(yīng)責(zé)任、內(nèi)容本身需要被標注、用戶使用過程中要有明確的舉報反饋通道等等。 

既然AGI會成為龐大的生態(tài)底座，那么監(jiān)管者其實也需要用更多元化的方式去執(zhí)行監(jiān)管任務(wù)。因此盡管大模型有一定的黑箱屬性，但通過一整套組合拳，也足以倒推技術(shù)黑箱后的合規(guī)能力，從而達到“開箱”的目的。 

而為了進一步明確開發(fā)者責(zé)任，《辦法》中還加入了這么一條：“對于運行中發(fā)現(xiàn)、用戶舉報的不符合本辦法要求的生成內(nèi)容，除采取內(nèi)容過濾等措施外，應(yīng)在3個月內(nèi)通過模型優(yōu)化訓(xùn)練等方式防止再次生成。”換言之，如果監(jiān)管方只是想用“內(nèi)容過濾”的手段逃避進一步的模型優(yōu)化責(zé)任，在《辦法》中是違規(guī)的——AGI需要一個合規(guī)的靈魂而不只是合規(guī)的API。

五、“馴火” 

有很多人將AGI的發(fā)明比作“火”，人類學(xué)會了生火、享受火的文明成果，但同時也要花更漫長的時間去“馴火”。 

在前面提到的公開信里，提出一個好的AGI應(yīng)該滿足至少幾個標準，準確、安全、可解釋、透明、魯棒、對齊一致、值得信賴和忠誠的（accurate, safe, interpretable, transparent, robust, aligned, trustworthy, and loyal）。 

換言之，AGI絕不能像現(xiàn)在這樣，成為一個玄學(xué)般煉丹爐式的黑箱。它應(yīng)該對人類有更高確定性的利好。所以公開信提出了更多遠景的技術(shù)監(jiān)管設(shè)想，比如建立一個龐大算力規(guī)模的、專業(yè)垂直的監(jiān)管體系，達成某種底層的代碼公約等等。這些提議是否值得落地，還需要更多的行業(yè)討論。 

但一個相對具有確定性的事情是：就像人類在“馴火”的過程中才更加了解“火”一樣，人類社會只有不斷與AGI互動、博弈的過程中，或許才可以更加了解AGI。 

總結(jié)：人工智能技術(shù)是人類創(chuàng)造發(fā)明的高科技，經(jīng)過半個世紀的研發(fā)應(yīng)用，已經(jīng)逐漸普及到人類社會之中，在現(xiàn)實的社會生產(chǎn)方式、生產(chǎn)關(guān)系和管理體制環(huán)境狀態(tài)下，人工智能廣泛普及應(yīng)用，將會給每個人帶來“困難、痛苦與挑戰(zhàn)、機遇”。他是人類社會進化發(fā)展的一種必然，無法回避和逃離。解決問題的唯一有效方法、手段和途徑，即是建立構(gòu)筑營造與其相適應(yīng)匹配融洽的生產(chǎn)方式、生產(chǎn)關(guān)系和管理體制。否則，都是一種歷史徒勞。北京千景縱橫科技有限公司在計算機應(yīng)用領(lǐng)域努力發(fā)展，爭取在其有更多建樹。

北京千景縱橫科技有限公司經(jīng)過多年來對網(wǎng)站、小程序、以及APP的探索，已經(jīng)幫助每一個客戶快速開發(fā)出屬于自己的網(wǎng)站、小程序、APP，是萬千企業(yè)之選。

標簽：千景縱橫  千景網(wǎng)絡(luò)  北京網(wǎng)站建設(shè)  北京網(wǎng)站設(shè)計  北京小程序開發(fā)  官網(wǎng)制作  門戶網(wǎng)站開發(fā)  商城網(wǎng)站建設(shè)