生成式人工智能知識產權導航
翻譯：胡俊超
校對：施晶俊宋巖
審核：崔崢
許多企業(yè)和組織正在迅速采用生成式人工智能(Generative AI，以下簡稱GenAI)工具來生成內容。這些工具既為協(xié)助企業(yè)業(yè)務運營帶來了巨大機遇，也因當前的不確定性而帶來了巨大的法律風險(包括知識產權問題)。
許多組織正在尋求適當的指南來幫助他們的員工減小這些風險。然而每種業(yè)務情況和法律語境都是獨特的，以下指導原則和檢查表就旨在幫助企業(yè)了解知識產權風險，學會正確提問，并考慮潛在的保障措施。
GenAI 帶來了許多風險和問題。企業(yè)和組織應該考慮實施合適的政策，并為員工提供有關技術機遇和限制的培訓。這種積極主動的方法對于應對使用GenAI 所帶來的挑戰(zhàn)至關重要。
一、什么是GenAI？
GenAI 工具能夠根據用戶的指令生成新的內容，比如對希望輸出內容做簡短的書面描述，可以生成文本、計算機代碼、圖像、音頻、聲音和視頻。示例性地，目前GenAI 工具包括ChatGPT、Midjourney、Copilot 和Firefly。
GenAI 基于機器學習，使用的海量數據通常包括數十億頁的文本或圖像訓練GenAI 工具。根據AI 工具開發(fā)人員的策略，訓練數據集可包括免費獲得的、不受限制的信息(純數據)、受保護的數據(如受版權保護的作品)或兩者的組合。
然后，經過訓練的AI 工具會根據人工輸入的指令，啟動一系列復雜的、達數十億次的計算，生成輸出內容。通常無法預測輸出內容，或判斷特定部分的訓練數據是否會對輸出內容產生影響，以及影響的程度。
二、問題概述
開發(fā)GenAI 的成本極其昂貴，可高達數千萬美元，因此大多數企業(yè)和組織都選擇采用第三方GenAI 工具，或使用自身數據對此類模型進行微調。一般的問題和商業(yè)風險包括：
(一)確定使用的案例
GenAI 可執(zhí)行多種任務。最佳使用案例仍在進化中，最佳使用案例因企業(yè)和組織而有所差異。
(二)合同條款的差異
GenAI 工具屬于新興技術，其商業(yè)合同條款的最佳實踐和標準仍在開發(fā)中。開發(fā)者許可AI 工具的條款存在較大差異：包括商業(yè)秘密和其他保密信息的處理、輸出內容的所有權、可獲得的賠償，以及通過實施員工監(jiān)控和培訓降低風險的用戶義務。
(三)訓練數據問題
一些GenAI 工具通過抓取互聯網材料進行訓練。這些材料包括版權作品、個人信息、生物識別數據，以及有害和非法內容。當前存在一些訴訟，涉及上述材料的抓取、下載和處理，以及經過訓練的AI 模型及其輸出內容是否侵犯知識產權、隱私和合同。關于知識產權所有者和AI 開發(fā)者之間利益平衡的問題爭議不斷。
(四)輸出內容問題
GenAI 可能會生成不當或非法的輸出內容，包括錯誤信息、知識產權侵權信息、深度偽造、個人信息、誹謗性的指控，以及歧視性、偏見性和有害的內容。盡管目前正在開發(fā)相關的技術保障措施，但由于涉及的計算極為復雜，預測AI 在所有情況下的行為頗具挑戰(zhàn)。此外，大多數國家的知識產權法律是在AI 出現之前制定的，這導致了AI 輸出內容權屬的不確定性。
(五)監(jiān)管環(huán)境的變化
政府和監(jiān)管機構正在考慮針對GenAI 制定新的法律、法規(guī)、政策和指南。這可能會對使用GenAI 的企業(yè)和組織提出新的要求。中國已出臺并開始實施特定的法規(guī)，而歐盟也計劃很快實施相應的規(guī)定。
以上這些問題清單并不全面，還有其他許多潛在挑戰(zhàn)，包括訓練和使用GenAI 的能源密集型特性。
許多國際組織，比如UNESCO、OECD 和AI 全球合作(the Global Partnership on AI)，已經出版了負責任使用AI的總則。企業(yè)和組織應當考慮實施員工政策，并且培訓GenAI，以鼓勵負責任地試驗和使用。
三、GenAI 和知識產權（IP）
GenAI 存在許多IP 觸點(touch points)和不確定性。雖然無法完全減輕知識產權風險，但以下考慮可能有助于企業(yè)和組織在這一不斷發(fā)展的技術領域中應對知識產權問題。
(一)機密信息
機密信息是指非公開可獲取的、可能具有或不具有商業(yè)價值的，以保密方式傳達，并受到合理保護的信息。商業(yè)秘密是其中一種類型。商業(yè)秘密是一種具有(潛在)經濟價值或因其秘密性而提供競爭優(yōu)勢的機密信息。如果這些信息被用于訓練或指令人工智能工具，使用GenAI 工具的企業(yè)和組織可能會無意中泄露商業(yè)機密或放棄商業(yè)敏感信息的保密。企業(yè)和組織應考慮采取技術、法律和實際保障措施相結合的方式來防止這種情況發(fā)生。
1. 風險
(1)GenAI 工具可根據用戶的指令進行保存和訓練。由于AI 供應商擁有指令信息的副本，如果用戶在指令中包含機密信息，可能會導致其機密性的喪失。此外，這些信息還可能成為模型的一部分，被其他用戶共享使用，而生成輸出內容。
(2)企業(yè)和組織使用其機密信息從頭開始訓練GenAI 工具或對現有工具進行微調時，信息存在被公眾獲取的風險。
(3)黑客可能會利用“指令注入攻擊”(prompt Injection)等技術來提取包括機密信息的訓練數據。
(4)GenAI 工具的私人提供商可以監(jiān)控和存儲指令信息，以檢查是否有不當使用的情況，這些指令有可能會被提供商
的員工審查。
2. 對策
(1)檢查GenAI 工具的設置，盡量降低提供商使用用戶的指令信息進行存儲或訓練的風險;
(2)考慮使用在私有云上運行和存儲的GenAI 工具;
(3)檢查AI 工具提供商是否會存儲、監(jiān)控和審查用戶的指令信息。要求提供商就機密信息提供適當的保護和保障。
(4)限制被授權使用機密信息的員工對GenAI 工具的訪問權限。
(5)制定員工政策，并就指令中包含機密信息的風險進行培訓。
(6)考慮讓信息安全專家審查和監(jiān)控GenAI 工具。
(二)知識產權侵權
許多GenAI 工具基于大量(有時高達數十億)受知識產權保護的項目進行訓練。當前存在若干未決的法律糾紛：抓取并使用這些作品用于訓練AI、經過訓練的AI 模型和輸出內容被控構成知識產權侵權。這些案例主要集中在著作權和商標上，但理論上也可能涉及其他知識產權，如工業(yè)設計、數據庫權利和專利。
AI 工具及其訓練和使用，以及輸出內容是否構成知識產權侵權，存在重大的法律不確定性。答案可能因不同的司法管轄區(qū)而異。企業(yè)和組織應考慮通過使用IP 合法工具、盡可能尋求賠償、審查數據集并實施技術和實際措施來降低侵權的風險。
1. 風險
(1)全球范圍內正在進行的訴訟都旨在確定使用受知識產權保護的項目訓練AI、使用這種經過訓練的AI 模型以及它們產生的輸出內容是否構成知識產權侵權。
(2)這種風險不僅限于AI 開發(fā)者，還可能涉及GenAI 工具的用戶。在許多國家，各種形式的知識產權侵權的責任，如復制版權作品，并不取決于被控侵權人的意圖或認知。
(3)法院仍在解決責任的問題，包括GenAI 開發(fā)者、提供商、客戶和用戶是否應承擔知識產權侵權、支付賠償金和銷毀侵權模型或輸出內容等。目前尚不清楚法院是否會下令禁止使用基于受知識產權保護的項目訓練的AI 模型。
(4)關于潛在的著作權侵權，一些國家的知識產權法律可能包括適用于GenAI 的例外情況，如公平使用、文本和數據挖掘、以及臨時復制。然而，由于各國之間缺乏協(xié)調，適用于GenAI 例外情況存在未知性，進而導致了侵權的不確定性。
(5)即使在法院作出了判決的情況下，判決結果也可能取決于案件的具體情況以及相關國家法律的規(guī)定。
2. 對策
(1)考慮使用僅基于已獲授權的、公共領域或用戶自有訓練數據訓練的GenAI 工具。
(2)在選擇AI 工具時，要考慮是否有供應商愿意為知識產權侵權，特別是著作權侵權提供賠償，并評估賠償的范圍和適用性。例如，該保護可能僅限于第三方補償，并以遵守合同限制和實施風險減輕措施為條件。
(3)在訓練或微調GenAI 時，應徹底審查數據集。確認知識產權所有權，審核AI 訓練的許可范圍，并確保符合知識共享許可、或公共領域狀態(tài)，以及相關司法轄區(qū)所適用的著作權例外。
(4)注意：監(jiān)管機構正在考慮制定規(guī)則，披露用于訓練模型的知識產權保護的具體規(guī)定。考慮保存AI 模型訓練過程的記錄文件。
(5)制定員工政策和培訓，最大限度地降低產生侵權輸出內容的風險。建議避免在指令中提及第三方企業(yè)名稱、商標、版權作品或特定作者/藝術家。
(6)考慮在使用輸出內容之前，檢查侵權情況。這些措施可能包括檢查抄襲、圖像搜索和自由實施調查(freedom to operate reviews)。
(7)根據具體情況評估對策、相關成本和商業(yè)風險。
(三)開源義務
由AI 生成的代碼可能需要履行開源義務。當某一軟件應用程序或代碼是開源時，意味著源代碼對公眾開放，用戶
通常被授予使用、修改和分發(fā)軟件的權利和自由。然而，這些權利和自由也伴隨著用戶必須遵守的義務如署名(attribution)，這些義務因管理軟件的特定開源許可而異。
企業(yè)和組織應該考慮其代碼是否存在上述風險，調查潛在的賠償保護，并制定技術和實際措施，以減少開源義務發(fā)
生的可能性。
1. 風險
(1)GenAI 可能是基于受開源要求約束的代碼進行訓練的，潛在地違反了商業(yè)使用或署名等義務限制。目前美國有一起相關法律糾紛正在進行。
(2)一些開源許可規(guī)定，任何包含開源代碼的代碼都必須遵守相同開源許可的要求。因此，這類代碼的用戶可能會無意中將開源義務引入其項目。
2. 對策
(1)考慮從僅基于許可示例進行訓練或實施技術保障的供應商處獲取GenAI 工具。
(2)考慮從提供開源侵權賠償的供應商處采購GenAI 工具，并檢查適用的保護范圍和條件。
(3)在訓練或微調GenAI 工具時，徹底審查訓練數據，確保其具有足夠的許可范圍。
(4)在項目中使用GenAI 時，采取風險與效益相結合的方式。如果確認代碼免于承擔開源義務至關重要，則應考慮禁止供應商和員工在這些項目中使用GenAI。
（四）深度偽造：肖像權和聲音權
許多國家均保護肖像和聲音，但保護形式不一，包括知識產權(如普通法國家的假冒行為)、不正當競爭法、人權、憲法、形象權等。
GenAI 有可能模仿特定主體的肖像或聲音，甚至存在以此目的的專門工具。企業(yè)和組織應考慮與此類功能相關的風險。
1. 風險
(1)未經授權使用或模仿聲音或肖像可能會導致侵犯知識產權或其他權利，并存在跨轄區(qū)法律框架不統(tǒng)一的問題。
(2)模仿肖像和聲音還可能產生名譽損害或法律訴訟的風險，如欺詐或誹謗。許多國家正在考慮針對深度偽造制定特定的法律法規(guī)。例如，中國已經通過了適用于“深度合成”的法規(guī)。
2. 對策
(1)制定員工政策并提供培訓，明確限制使用“深度偽造”GenAI 工具。對于已獲批準的GenAI 工具，執(zhí)行禁止在指令中提及特定個人的政策。
(2)在確實存在合法商業(yè)理由需合成某人的聲音或肖像時，應從當事人處獲得必要的同意和許可。
（五）AI 生成內容的知識產權和所有權
尚不清楚AI 工具生成的內容如文本、圖片、或其他創(chuàng)造性作品是否能夠受到知識產權保護，以及如果可以被保護，誰將擁有這些權利。即使AI 輸出內容不受知識產權保護，也可能存在管理其使用的合同條款。
GenAI 輸出內容的知識產權的存在與否，及其所有權尚不清楚。企業(yè)和組織應在合同中明確所有權，并考慮僅在輸出內容的知識產權所有權對其商業(yè)模式并非至關重要的項目中使用GenAI。
1. 風險
(1)大多數國家的知識產權法制定時并未考慮GenAI，這導致AI 生成內容是否可以擁有知識產權及其權利歸屬存在不確定性。這對于商標等某些知識產權可能不構成問題，但在著作權方面存在普遍的關注。
(2)最近將AI 系統(tǒng)“DABUS”作為發(fā)明人的專利申請，因為沒有確定人類發(fā)明人，已經被一些國家一致地駁回，理由是不能確認人類發(fā)明者。目前尚不清楚GenAI 是否可以在沒有人類發(fā)明者的情況下創(chuàng)造出發(fā)明，以及這些發(fā)明是否可以獲得專利權。
(3)美國版權局已發(fā)布指南指出，包含AI 生成材料的作品，必須有人類的創(chuàng)造性貢獻。其判決表明僅僅是用戶指令文本不能建立版權，比如指令僅僅“影響”輸出內容。然而，北京互聯網法院最近判決認為，用戶擁有AI 生成圖像的版權，因為他調整了指令和參數，使圖像反映了他的審美選擇和判斷。這些對AI 生成作品的版權的不同解釋，導致GenAI 輸出內容的版權的全球認可存在法律不確定性。
(4)一些國家(如印度、愛爾蘭、新西蘭、南非和英國)為“由計算機生成的作品”提供版權保護，無需人類作者。烏克蘭規(guī)定了計算機程序生成的“非原創(chuàng)物體”的相關權利。
2. 對策
(1)審查GenAI 工具的條款和條件，以了解輸出內容的知識產權權利歸屬。
(2)探索如何通過品牌名稱和標識等知識產權元素，或通過人類創(chuàng)造力參與、修改、創(chuàng)建新版本的輸出，來增強對AI 生成內容的控制或權利。
(3)記錄人類在發(fā)明或創(chuàng)造過程中的作用。
(4)如果可能，簽署關于計算機生成作品版權歸屬的協(xié)議。由于各國法律的差異，協(xié)議提高了確定性。
(5)在委托創(chuàng)作時，考慮要求保證不使用GenAI。
(6)考慮在不需要知識產權的情況下使用GenAI 技術，如內部使用、創(chuàng)意生成和短暫使用比如(個人)社交媒體帖子。
(六)清單
企業(yè)和組織可以采取多種措施來促進對GenAI 的負責任及合法使用。以下清單可能對希望制定負責任的做法并駕馭這一快速發(fā)展領域的企業(yè)和組織有用。
1.員工政策和培訓
實施員工政策和培訓，引導正確使用并鼓勵負責任地探索和使用GenAI，包括：
(1)了解GenAI 相關的機遇、風險和限制。
(2)避免在指令中使用機密信息。
(3)僅限被授予訪問權限的員工使用基于商業(yè)秘密訓練的GenAI。
(4)避免在指令中使用第三方IP，以最小化輸出內容的侵權風險。
(5)避免使用“深度偽造”GenAI 工具。
2. 風險監(jiān)控和風險狀況管理
(1)監(jiān)控普通法法律法規(guī)的變更。
(2)根據不斷變化的風險和法庭判決的情況，定期評估和更新政策。
(3)向企業(yè)明確傳達法律風險，以便根據業(yè)務風險偏好采取措施。
(4)維護AI 工具的清單，根據風險狀況進行分類，例如，對所有員工開放的白名單工具、使用機密信息的受限工具和禁止使用的工具。
3. 保存記錄
(1)考慮記錄AI 工具的訓練過程。
(2)要求員工標記AI 生成的輸出內容，并保存所使用的指令。
(3)記錄人類在創(chuàng)作過程中的作用。
4. AI 工具評估
(1)審查外購工具(包括基于內部數據訓練的工具)的條款、條件和設置，以便：
①了解提供商是否存儲指令。
②了解工具的訓練數據情況。
③使用適當授權或公共領域訓練數據的工具，或采取了技術保障措施以防止使用受保護數據的工具。
④確認提供商是否提供針對知識產權侵權的賠償及其條件。
(2)聘請信息安全專家評估和監(jiān)控GenAI 工具。
(3)探索部署在本地或私有云的私有GenAI 工具，以增強控制和安全保障。
①從提供商處獲取關于機密信息的適當保護和保證。
5. 數據評估
在訓練AI 時徹底審查數據集，并考慮知識產權所有權和許可范圍。
6. AI 生成內容
(1)審查GenAI 提供商關于生成內容的知識產權和所有權條款。
(2)使用AI 生成內容之前，檢查其是否侵犯知識產權。
(3)將人類的投入和創(chuàng)造力與AI 生成內容相結合，以保持對生成內容所有權的控制。
(4)創(chuàng)建關于生成內容所有權的協(xié)議。
(5)記錄人類在創(chuàng)作過程中的作用。
(6)獲得合成某人聲音或肖像的必要同意和許可。
四、延伸閱讀
WIPO 知識產權和前沿技術對話會是一個促進所有利益攸關方就包括AI 在內的前沿技術對知識產權的影響進行討論并分享的全球領先論壇。
第八屆WIPO 對話會的討論聚焦于生成式人工智能和知識產權，以幫助政策制定者了解潛在的政策選擇。關于第八屆WIPO 對話會的更多信息，包括日程安排、演示文稿和網絡播放，可以在會議頁面查看。
有關知識產權和前沿技術的更多信息可在世界知識產權組織網站獲取: www.wipo.int/ai。
五、下一步工作
為隨時了解下一屆WIPO 對話會情況，發(fā)送電子郵件至frontier.tech@wipo.int，注冊獲取知識產權和前沿技術司的時事通訊。
該文件由WIPO 知識產權和前沿技術司編寫，委托MattHervey (Growling WLG，英國)繪制。
中企檢測認證網提供iso體系認證機構查詢，檢驗檢測、認證認可、資質資格、計量校準、知識產權貫標一站式行業(yè)企業(yè)服務平臺。中企檢測認證網為檢測行業(yè)相關檢驗、檢測、認證、計量、校準機構，儀器設備、耗材、配件、試劑、標準品供應商，法規(guī)咨詢、標準服務、實驗室軟件提供商提供包括品牌宣傳、產品展示、技術交流、新品推薦等全方位推廣服務。這個問題就給大家解答到這里了，如還需要了解更多專業(yè)性問題可以撥打中企檢測認證網在線客服13550333441。為您提供全面檢測、認證、商標、專利、知識產權、版權法律法規(guī)知識資訊，包括商標注冊、食品檢測、第三方檢測機構、網絡信息技術檢測、環(huán)境檢測、管理體系認證、服務體系認證、產品認證、版權登記、專利申請、知識產權、檢測法、認證標準等信息，中企檢測認證網為檢測認證商標專利從業(yè)者提供多種檢測、認證、知識產權、版權、商標、專利的轉讓代理查詢法律法規(guī)，咨詢輔導等知識。
本文內容整合網站：中國政府網、百度百科、搜狗百科、360百科、知乎、市場監(jiān)督總局 、國家知識產權局
免責聲明：本文部分內容根據網絡信息整理，文章版權歸原作者所有。向原作者致敬！發(fā)布旨在積善利他，如涉及作品內容、版權和其它問題，請跟我們聯系刪除并致歉！
