1月27日，路透社消息稱法國頂尖學府之一的巴黎政治學院宣布該校將禁止使用ChatGPT，對使用該軟件的處罰可能會嚴重到被學校開除，甚至被整個法國高等教育開除。

(資料圖片)

“ChatGPT軟件正在向全世界的教育工作者和研究人員提出一個涉及欺詐和剽竊的嚴肅問題，”巴黎政治學院在這份通知中稱，“在沒有透明參考的情況下，除特定課程目的外，學生不得使用該軟件制作任何書面作品或演示文稿。”

巴黎政治學院并不是第一所宣布禁用ChatGPT的學校。ChatGPT發布不到一個月，就引起了美國教育界的高度重視。多所美國中學及大學陸續宣布校內禁用ChatGPT，并通過減少課后作業的方式，避免學生利用家庭網絡訪問ChatGPT作弊。美國紐約市教育部，甚至要求全紐約市的學生和教師不要使用這款AI工具，并對下轄的教育部設備或互聯網設卡，限制訪問ChatGPT。

AI生成內容的倫理和法律問題，正在引發社會各界的廣泛討論與思考。

AI背后的學術隱憂

“ChatGPT很好玩，但它不是作者”，這是《Science》期刊主編Holden Thorp在1月26日發表的一篇關于人工智能的社論。Holden Thorp指出，“原創”是Science發表論文的基礎，而利用ChatGPT編寫文本的行為，等同于從ChatGPT中抄襲。

“我們正在更新編輯政策，要求作者不要使用ChatGPT（或任何其他人工智能工具）生成的文本、數據、圖像或是圖形。違反這一政策將被Science期刊視為學術不端行為，這與篡改圖像或抄襲無異。”不過Holden Thorp也表示，上述規定并不包含AI論文中以研究為目的生成的數據。

在AI學界，知名機器學習會議之一的ICML（International Conference on Machine Learning）最近也宣布禁止“發表包含從大型語言模型（LLM，Large Language Model）生成的文本（例如 ChatGPT）的論文（相關研究除外）”，以免出現“意想不到的后果和無法解決的問題”。

對于學術期刊和頂會論文來說，AI生成的內容最大的問題在于知識權屬和責任確定問題。作為論文作者，研究人員無疑要對論文的觀點和內容負責，而AI要如何對文章內容負責？如果AI生成的內容出現了謬誤、不恰當、造假，甚至是抄襲剽竊，又該如何追責呢？

考慮到“AI作弊”帶來的普遍問題，目前從OpenAI官方，到學術期刊出版商，以及“草根”開發者都在研究如何分辨一篇文章的“作者”到底是人還是機？

目前，OpenAI正在研發相應的AI檢測工具。OpenAI客座研究員Scott Aaronson在德克薩斯大學的一次演講中表示，他們正在通過給AI生成內容打“水印”來打擊作弊。這項技術將通過調整ChatGPT生成單詞的規則，在生成內容的特定位置制造“偽隨機”的特定單詞，讀者很難察覺，但就如同密電碼一樣，“握有密鑰”的人就輕易判斷這篇內容是否是ChatGPT生成的了。

《Nature》的出版商Springer Nature也正在開發可以檢測LLM的技術。而就在前不久，普林斯頓大學的一位22歲的華裔學生Edward Tian研究出了一款專門給ChatGPT挑毛病的應用GPTZero，可以通過檢測文本的“困惑性（Perplexity）”和“突發性（Burstiness）”這兩項指標，來判斷內容是人類創作還是機器生成。

AI引發版權問題

在校外，AI本身的“道德”問題，則讓美術“老師”們對新生的AI繪圖工具提出了嚴重的質疑，這直指另一個至關重要的問題——版權。

自從AIGC火了以后，很多行業的配圖工作變得輕松了許多。以媒體行業為例，嚴肅媒體對新聞配圖要求高，既要符合文意，又要對版權負責。所以無論是美術作品還是照片，要么是親手創作，要么來自授權圖庫，但很多文章受客觀條件限制，要找到一張符合要求的配圖并不容易。

有了AI繪圖以后，很多媒體人開始嘗試用AI畫配圖，甚至是直接繪制新聞人物的肖像。那發自己用AI做的圖，總不會侵權吧？這個問題，還真不一定。

2022年下半年，AIGC剛剛躥紅，就有一些小有名氣的藝術家對AI繪圖提出了抗議。2022年，Erin Hanson等眾多美國藝術家發起了反對Stable Diffusion的抗議行動，他們認為Stable Diffusion生成的部分畫作抄襲了他們的風格，而這種行為嚴重侵犯了他們的合法權益。

AIGC雖然叫做AI生成，但其本身并沒有創造能力，只能通過不斷學習人類的生產過程，照貓畫虎，AI繪圖就是典型。在AI訓練過程中，需要“投喂”大量的人類畫作，從而學習人類的構圖、繪畫技巧，實現AIGC（AI Generative Content，AI生成內容）。

不過在這個生成的過程中，AI學的實在太像了，以至于很多畫作直接與模型庫中的人類畫師風格完全一致。

“稍有名氣的畫師可能都遇到過作品被盜用、創意被侵權的事件。”一位國內某知名游戲公司的美術總監向虎嗅表示，雖然AI沒有完全盜用畫師的作品，但畫師對風格上的抄襲也是很難接受的，不論抄襲者是人類還是AI。“如果有人拿著與我繪圖風格完全一樣的畫，說是學習或是參考我覺得沒什么。但如果說這是他‘生成’的，那就跟聲明原創沒什么差別了。不管是否用于商業用途，我都會覺得被嚴重冒犯了?！?/p>

AI的抄襲、剽竊和作弊不應該只是道德問題，還需要法律法規的約束。而目前，AI在很多領域都存在法律盲區。

我國AI領域的立法還處于建章立制階段。當前已經出臺了兩部與AI相關的監管條例，分別是《互聯網信息服務算法推薦管理規定》和《互聯網信息服務深度合成管理規定》，并均已開始生效。除此以外，還有一些分散在《民法典》、《數據安全法》、《網絡安全法》、《個保法》、《網絡音視頻信息服務管理規定》、《網絡信息內容生態治理規定》等法律法規中的個別條款規定以及一些支持產業發展性質的文件，目前來說還沒有成為一個完整的體系。

“AI生成內容是一項新興的技術，法律的滯后性和穩定性導致目前還沒有專門對這種AI疑似抄襲的現象進行規制。”觀韜中茂律師事務所合伙人王渝偉表示，從國外行業實踐來看，越來越多的平臺和AI繪圖工具對作品版權作出了嚴格要求，謹防AI抄襲導致著作權侵權。在我國，目前還是應當根據《著作權法》，判斷AI生成內容與人類藝術家作品之間是否存在實質性相似，進而認定是否抄襲。

除了涉嫌抄襲藝術家作品的AIGC內容，在另一方面，即使是隨機生成的內容及畫作，也還是會涉及版權問題。

AI繪圖在抖音和小紅書上剛剛興起之時，即有腦洞大開的網友提出，可以把AI生成的圖片掛到付費圖庫作為收費資源，實現“躺賺”。

面對這樣的騷操作，Adobe選擇“有限制”地開放AI繪圖。只要符合特定標準，就允許在圖片庫Adobe Stock中上傳生成式 AI 藝術品進行售賣。但上傳前必須標記 AI 制作的內容，并且需要擁有其參考圖像或文本的商業版權。

作為一款開源模型，Stable diffusion的開發者Stability AI和RunwayML則認為既然開源，那么它也應該依此引用開源CC0協議，即版權歸公，同時任何人也可以自由地使用，包括商業使用。而對于DALL-E 2和Midjourney這樣并未開源的AIGC模型來說，生成內容的權屬則相對模糊。

目前AIGC市場上也存在很多版權亂象，一些基于Stable Diffusion開發應用的廠商聲稱，使用自己AI程序生成的圖片版權歸自己，甚至依此生產NFT向使用者兜售。

對此，王渝偉認為，AI應用的使用者，在使用這種應用進行創作時，生成的圖片如果符合獨創性的要件，就能夠構成《著作權法》上的作品。而廠商已明確告知了使用者著作權的歸屬問題，相當于在合同中已經進行了約定，所以這種作品的著作權應當歸屬于廠商。?并不是說AI應用基于開源模型開發，它所生成的作品就不存在著作權，還是應當根據《著作權法》的規定判定著作權歸屬。

“目前相關法律制定最大的障礙和阻力，可能是法律如何保持科技發展和倫理價值的平衡?！蓖跤鍌ヌ岢?，一方面，AI技術的高速發展，可能會與人類的基本倫理認知相違背，違反社會公序良俗；另一方面，法律的規制也不能對AI技術設置過于嚴苛的標準，影響AI的進一步發展。

本文作者：齊健，來源：虎嗅APP，原文標題：《ChatGPT很厲害，但還有關鍵問題懸而未決》

風險提示及免責條款 市場有風險，投資需謹慎。本文不構成個人投資建議，也未考慮到個別用戶特殊的投資目標、財務狀況或需要。用戶應考慮本文中的任何意見、觀點或結論是否符合其特定狀況。據此投資，責任自負。

關鍵詞： 管理規定 政治學院 信息服務