ChatGPT的發(fā)展與治理

導語：回顧人類歷史，技術(shù)和倫理緊密交織，面對科林格里奇困境，筆者認為，社會倫理優(yōu)先于技術(shù)創(chuàng)新。

在新興技術(shù)的設(shè)計和開發(fā)過程中，應(yīng)優(yōu)先考慮和滿足為人類服務(wù)的倫理要求，最大限度利用技術(shù)創(chuàng)新造福人類。結(jié)合我國國情，對于AIGC的治理分為監(jiān)管治理、行業(yè)自律、企業(yè)自治、全民共治四個方面。

ChatGPT發(fā)展與治理面臨科林格里奇困境

ChatGPT是OpenAI推出的聊天機器人，通過自然對話方式與用戶交互，可以處理復雜語義任務(wù)，包括文本生成、自動問答、翻譯、代碼生成等，在人們的工作生活中存在著廣泛的應(yīng)用，這種應(yīng)用涉及多元主體，涵蓋多個領(lǐng)域。

本質(zhì)上而言，ChatGPT是AIGC（Artificial Inteligence Generated Content）人工智能生成內(nèi)容的一種。從技術(shù)角度看，AIGC的發(fā)展與應(yīng)用，是一個新技術(shù)形成新生產(chǎn)力的問題；從治理角度看，是一個牽一發(fā)而動全身的社會問題；從哲學角度看，其中蘊藏著人類與AI邊界的哲學問題。

綜合來看，ChatGPT的發(fā)展與治理是一個典型的科林格里奇困境（Collingridge's Dilemma），指的是一項技術(shù)如果因為擔心不良后果而過早實施控制，那么技術(shù)很可能難以爆發(fā)，反之如果控制過晚，技術(shù)已經(jīng)成為經(jīng)濟和社會結(jié)構(gòu)的一部分，就可能走向失控，再來解決問題就會變得更加昂貴、更加困難。

ChatGPT的技術(shù)分析

從技術(shù)角度對ChatGPT的算法分析并不容易理解，筆者嘗試從邏輯思維角度解釋ChatGPT技術(shù)。OpenAI的工程師們接到的任務(wù)是：要做一個擁有人類智能的機器；工程師們的思路如下：首先，要創(chuàng)建一個“大腦”；其次，要整理學習資料；再次，掌握學習方法；最后，學成歸來。這就是ChatGPT技術(shù)路線的邏輯框架。

第一步，構(gòu)建“大腦”。工程師認為這應(yīng)該是一個“通用大腦”，這就是通用人工智能AGI的構(gòu)想：AGI應(yīng)該是一個大系統(tǒng)，系統(tǒng)的核心是一個與任務(wù)無關(guān)的“通用”大模型，大模型依靠大算力從海量大數(shù)據(jù)中學習人類的知識，從而形成AI智能，這一步體現(xiàn)了工程師的系統(tǒng)思維，與通用復用的工程思維。

第二步，整理學習資料。人類知識的載體是文字、語言、圖畫等，所以，工程師選擇了大型語言模型LLM（Large Language Model）。在工程師眼中，大算力、大存儲、大數(shù)據(jù)使得大模型的工程實踐成為可能，隨著數(shù)據(jù)越來越豐富，算力越來越強，模型越來越大，效果也會越來越好，這體現(xiàn)了工程師們“力大磚飛”的實用思維，但并沒有從算法上對“力大磚飛”進行嚴格論證。

第三步，掌握學習方法。在當時的NLP（Natural Language Processing）領(lǐng)域，深度學習模型已經(jīng)遭遇瓶頸，通過增加模型層深來提升模型效果微乎其微，深度學習模型已經(jīng)逐步被預訓練模型所取代，預訓練模型的公式為：模型性能=預訓練性能（數(shù)據(jù)+任務(wù)）+微調(diào)性能（數(shù)據(jù)+任務(wù)）。

在預訓練模型范式下，存在BERT（Bidirectional Encoder Representations from Transformers）和GPT（Generative Pre-Training）兩種技術(shù)實現(xiàn)方式，兩者看似相似，實際上其底層邏輯卻截然不同。從十年前發(fā)表的論文來看，研究者大部分選擇了BERT技術(shù)，而工程師們大部分選擇了GPT技術(shù)。回頭看分析其原因，筆者認為研究者的思路一般是按部就班的：先是完成自然語言理解任務(wù)，而后是完成自然語言生成任務(wù)，這就是BERT技術(shù)。工程師則希望一步到位，越過自然語言理解任務(wù)，直接完成自然語言生成任務(wù)。

其具體的技術(shù)路線如下：GPT1使用預訓練方法來進行語言理解；GPT2采用了遷移學習技術(shù)高效利用預訓練信息進一步提高語言理解能力；GPT3解決了小樣本的泛化能力；GPT3.5通過指令遵循和tuning（微調(diào)）的技術(shù)進步，突破了人機交互的關(guān)鍵技術(shù)；GPT4則將上述技術(shù)實現(xiàn)工程化。

第四步，學成歸來。隨著大算力、大數(shù)據(jù)的“厚積薄發(fā)”，大模型“量變突破質(zhì)變”，大語言模型的智力涌現(xiàn)（Emergent Abilities of Large Language Models）出現(xiàn)了。

縱觀人類技術(shù)發(fā)展史，一項新興技術(shù)的成功分為三個步驟：一是實驗室中技術(shù)的成功；二是工程師們對技術(shù)成本的降低；三是產(chǎn)業(yè)應(yīng)用的試錯。目前，我們已經(jīng)進入了產(chǎn)業(yè)應(yīng)用的試錯階段。

ChatGPT的技術(shù)缺陷

盡管我們似乎看到，技術(shù)的進步在推動著ChatGPT的發(fā)展，但是由于技術(shù)的局限性，也導致ChatGPT存在一定技術(shù)缺陷。

應(yīng)用平民化，但建模貴族化。應(yīng)用平民化指的是ChatGPT提供了便捷的API接口，每個人都可以很方便地接入；建模貴族化指的是建模的成本太高了。ChatGPT的訓練需要大量的訓練樣本、大量的算力，這些背后更是數(shù)百名工程師以及大量內(nèi)容提供者。總體而言，在應(yīng)用平民化的同時，ChatGPT研究卻越來越貴族化。

AI“大而不便改”，使得人去適應(yīng)AI。在ChatGPT的1750億個參數(shù)中，以“某種方式”存儲著人類的知識，但這些參數(shù)的邏輯關(guān)系、學習過程等從技術(shù)上卻尚未完全明確。這些參數(shù)的修改主要是靠訓練，而訓練依賴的是昂貴的數(shù)據(jù)集，會產(chǎn)生“大而不便改”的缺陷。所以，這可能會產(chǎn)生一個“反直覺”的問題：究竟是人去適應(yīng)AI大模型，還是AI大模型去適應(yīng)人。以人和手機為例，從客戶體驗角度看，好像是手機在適應(yīng)人的操作，但本質(zhì)卻是人去適應(yīng)手機給我們帶來的生活方式！

智能缺陷：感知智能而非決策智能。從技術(shù)角度智能類型可以分為三類：基于貝葉斯公式的感知智能、基于先驗概率的決策智能、基于計算公式的計算智能。從前述ChatGPT的技術(shù)分析不難看出，ChatGPT是通過文本語言等訓練的模型，其智能類型是受限的，是局限在文字語言領(lǐng)域的感知智能，而非決策智能，更不是計算智能。

智能缺陷就是ChatGPT的使用邊界。例如，在金融機構(gòu)中，ChatGPT不是決策智能，若用于風險決策將受到限制；ChatGPT不是計算智能，若用于資本計量也將受到限制；ChatGPT是語言領(lǐng)域的感知智能，是可以以文字助手的身份嵌入大部分與文本相關(guān)的工作。

AI算法固有缺陷。提起ChatGPT有人可能會有疑問，為什么ChatGPT只提供了API接口而很少開源，這就揭示了ChatGPT作為一種人工智能算法的固有缺陷：算法黑箱、算法魯棒性、算法歧視等。算法黑箱，是指由于算法模型的黑箱運作機制，其運行規(guī)律和因果邏輯并不會顯而易見地擺在研發(fā)者面前。算法魯棒性，指的是算法運行容易受到數(shù)據(jù)、模型、訓練方法等因素的干擾。算法歧視，指的是算法以數(shù)據(jù)為原料，如果初始使用的是有偏見的數(shù)據(jù)，無形中會導致生成的內(nèi)容存在偏見或歧視，引發(fā)用戶對于算法的公平性爭議，這種歧視可能主要來自于資本對于訓練數(shù)據(jù)的控制。

ChatGPT靠數(shù)據(jù)訓練，其輸出的結(jié)果也是數(shù)據(jù)。從技術(shù)角度分析，在數(shù)據(jù)的處理過程中，開發(fā)公司對于數(shù)據(jù)安全的關(guān)注并不夠，所以，可能導致其存在數(shù)據(jù)安全缺陷，在與用戶數(shù)據(jù)交互的全過程中也可能存在風險與合規(guī)問題。

一是訓練數(shù)據(jù)的獲取，ChatGPT通過抓取互聯(lián)網(wǎng)上的信息獲得訓練數(shù)據(jù)，可能存在合規(guī)問題。

二是在個人信息收集階段，當用戶使用ChatGPT時，可能會輸入個人數(shù)據(jù)，根據(jù)《個人信息保護法》要求需要單獨授權(quán)。

三是在個人數(shù)據(jù)的加工使用階段，ChatGPT使用了RLHF（Reinforcement Learning from Human Feedback）的訓練方法，即以強化學習方式依據(jù)人類反饋優(yōu)化語言模型，用戶使用過程中的輸入和交互信息可能會用于持續(xù)迭代訓練，進一步被用于為其他用戶提供服務(wù)，從而可能構(gòu)成數(shù)據(jù)共享，這時已與用戶最初數(shù)據(jù)使用目的和范圍相悖，根據(jù)《個人信息保護法》要求需要重新授權(quán)。

四是數(shù)據(jù)泄露，用戶在使用過程中輸入的信息，以及企業(yè)用戶輸入的各類工作信息，可能導致公司敏感信息泄露。

五是算法缺陷導致數(shù)據(jù)主體行權(quán)困難，ChatGPT的算法黑箱與算法復雜性導致數(shù)據(jù)主體的基本權(quán)利，如更改權(quán)、刪除權(quán)、訪問權(quán)等行權(quán)困難。

ChatGPT的潛在風險

ChatGPT所引發(fā)的潛在社會問題主要來自工作崗位、“機器宣傳”、人與AI的邊界等方面，以及由此可能造成的一系列社會風險。

工作崗位被取代的潛在風險。ChatGPT推出以來，不少新聞報道或文章分析其會取代一些人的工作。ChatGPT本質(zhì)上是通過科技創(chuàng)新提高生產(chǎn)效率，是生產(chǎn)力的躍升，這與歷史上的生產(chǎn)力提升一樣，比如，蒸汽機替代馬車、電力的廣泛使用替代蒸汽機等，都是以更少的人力去生產(chǎn)商品，讓節(jié)約的人力進入新興行業(yè)，增加新的商品和服務(wù)供給。雖然會在短時間內(nèi)對人類的就業(yè)結(jié)構(gòu)產(chǎn)生沖擊，但由于人力資源的稀缺性，中長期不會導致大規(guī)模失業(yè)的問題，只是就業(yè)結(jié)構(gòu)發(fā)生了變化。

這種結(jié)構(gòu)變化可以用一句話來概括：一群人的工作是發(fā)展AI，一群人的工作是被AI所取代，取代你的不是AI，而是先掌握AI能力的人。

“機器宣傳”的潛在風險。ChatGPT為代表的AIGC的內(nèi)容生成，可以在短時間內(nèi)制造大量包括文字與圖片在內(nèi)的“新內(nèi)容”，其受制于訓練數(shù)據(jù)的分布。也就是說，雖然ChatGPT的技術(shù)是理性、中立、客觀的，但是由于訓練數(shù)據(jù)存在歧視，可能導致輸出結(jié)果存在歧視，導致“機器宣傳”可能存在風險，這種風險在技術(shù)中立的掩蓋下具有一定的隱蔽性。所以，需要大力推動人工智能工具理性與價值理性的雙向平衡，構(gòu)建內(nèi)容與監(jiān)管的融合統(tǒng)一。

“資本逐利”的潛在風險。在ChatGPT之前的一個熱點是元宇宙，ChatGPT火爆以后，元宇宙迅速降溫，給人的感覺是二者此消彼長。但從技術(shù)角度來看，AIGC客觀上為元宇宙中UGC（User Generated Content）創(chuàng)作提供了助力。元宇宙設(shè)想通過用戶創(chuàng)作內(nèi)容的方式來打造元宇宙，而AIGC本身就是內(nèi)容創(chuàng)作的輔助工具，通過AI和文本、繪圖、視頻的結(jié)合，形成了元宇宙內(nèi)容創(chuàng)作的新生態(tài)。之所以給人此消彼長的感覺，其原因有三，表面原因是元宇宙的應(yīng)用生態(tài)沒有形成，如VR游戲等依然看不到突破；次要原因是流量遷移，即元宇宙的流量向ChatGPT的遷移；根本原因是資本的短期逐利性，資本來了又走，是一個階段的結(jié)束也是另一個階段的開始。

潛在的法律風險。一是著作權(quán)。ChatGPT生成的文學作品、代碼等存在著著作權(quán)歸屬不清的問題。主要包括：我國現(xiàn)行知識產(chǎn)權(quán)法律體系均規(guī)定法律主體為享有權(quán)利、負有義務(wù)和承擔責任的人。

二是可能助長信息網(wǎng)絡(luò)犯罪活動罪。所謂幫信罪，即幫助信息網(wǎng)絡(luò)犯罪活動罪，我國《刑法》第二百八十七條明確規(guī)定，明知他人利用信息網(wǎng)絡(luò)實施犯罪，為其犯罪提供互聯(lián)網(wǎng)接入、服務(wù)器托管、網(wǎng)絡(luò)存儲、通信傳輸?shù)燃夹g(shù)支持，或者提供廣告推廣、支付結(jié)算等幫助。比如，犯罪分子使用ChatGPT的文字生成功能，形成極具說服力的釣魚電子郵件或消息，冒充人類或者組織騙取他人信息。

三是拒不履行信息網(wǎng)絡(luò)安全管理義務(wù)罪。ChatGPT的運營商，作為信息發(fā)布的網(wǎng)絡(luò)內(nèi)容服務(wù)提供者，需要履行信息網(wǎng)絡(luò)安全管理義務(wù)。若被監(jiān)管部門要求責令整改，而ChatGPT的運營商無法提供有效的管理措施，致使違法信息大量傳播，可能涉嫌拒不履行網(wǎng)絡(luò)安全管理義務(wù)的違法行為。而前文提及的ChatGPT“大而不便改”的缺陷，則加大了“運營商無法提供有效的管理措施”的可能性。

潛在的未知風險。人與AI能否“和諧”相處，關(guān)鍵是能否達成“共識”，這是一個潛在的未知風險。例如，人類認為：人具有創(chuàng)造性，AI無法開展創(chuàng)造性工作，但AI“認為”：AI使人類的創(chuàng)造力大幅提升。人類認為：畢加索的畫是抽象的創(chuàng)造性，但AI“認為”：畢加索的畫風不過是一個模型，通過參數(shù)調(diào)整會生成多幅畢加索的畫。人類認為：人類在利用AI擴展人的智能，但AI“認為”：AI在利用人展示它的智能。所以，當“機器宣傳”的能力超過了原有的信息渠道；當AIGC產(chǎn)生的文字超過了人類歷史積累的文字；當非人類情感的思想被機器開發(fā)出來；當AI“過度智能”變得比人類更聰明；當硅基生產(chǎn)力超越碳基生產(chǎn)力，人類如何掌握對人類文明的控制，這也是一個值得深思的哲學問題。

ChatGPT的治理

回顧人類歷史，技術(shù)和倫理緊密交織，面對科林格里奇困境，筆者認為，社會倫理優(yōu)先于技術(shù)創(chuàng)新。在新興技術(shù)的設(shè)計和開發(fā)過程中，應(yīng)優(yōu)先考慮和滿足為人類服務(wù)的倫理要求，最大限度利用技術(shù)創(chuàng)新造福人類。結(jié)合我國國情，對于AIGC的治理分為監(jiān)管治理、行業(yè)自律、企業(yè)自治、全民共治四個方面。

監(jiān)管治理：技術(shù)與內(nèi)容并重。我國正在形成相對完善的法律體系，由《網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理規(guī)定》《網(wǎng)絡(luò)數(shù)據(jù)安全管理條例（征求意見稿）》《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定（征求意見稿）》等政策法規(guī)強調(diào)對內(nèi)容的治理；《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》等強調(diào)對技術(shù)的治理，這體現(xiàn)了技術(shù)與內(nèi)容并重的治理思路。建議在上述治理成果的基礎(chǔ)上，進一步加強對ChatGPT內(nèi)容產(chǎn)業(yè)與應(yīng)用模型的方向性引導。

行業(yè)自律：倫理先行、統(tǒng)籌發(fā)展。國家新一代人工智能治理專業(yè)委員會在2021年發(fā)布了《新一代人工智能倫理規(guī)范》，提出將倫理道德融入人工智能研發(fā)和應(yīng)用的全生命周期。《中國關(guān)于加強人工智能倫理治理的立場文件》中明確寫到，人工智能治理應(yīng)堅持倫理先行，通過制度建設(shè)、風險管控、協(xié)同共治等推進人工智能倫理監(jiān)管；應(yīng)加強自我約束，提高人工智能在研發(fā)過程中的算法安全與數(shù)據(jù)質(zhì)量，減少偏見歧視；應(yīng)提倡負責任使用人工智能，避免誤用、濫用，加強公眾宣傳教育。建議成立行業(yè)聯(lián)盟，統(tǒng)籌龍頭企業(yè)、研究機構(gòu)和標準化組織等發(fā)揮協(xié)同優(yōu)勢，聯(lián)合制定公約、標準、指南、準則等行業(yè)制度規(guī)范，建立可信賴的AIGC技術(shù)框架、標準體系、評測機制等。

企業(yè)治理：主體責任與社會職責。《關(guān)于加強互聯(lián)網(wǎng)信息服務(wù)算法綜合治理的指導意見》明確提出強化企業(yè)主體責任。同時也需要企業(yè)踐行科技向善理念、積極履行社會職責，例如，社會倫理、安全底線、內(nèi)容治理等職責。建議加強企業(yè)與政府部門和行業(yè)組織的治理合作，為其提供可靠的技術(shù)能力，例如，內(nèi)容審核技術(shù)能力、緊急辟謠技術(shù)能力等。

全民共治：提升防范意識，營造良性發(fā)展環(huán)境。一是深化公眾對于AIGC技術(shù)濫用所帶來的風險和危害的認知；二是提高廣大群眾對于虛假信息的鑒別能力；三是鼓勵廣大群眾主動參與內(nèi)容與傳播等環(huán)節(jié)的輿論監(jiān)督。全面共治，共同營造良性發(fā)展的生態(tài)。