中新經緯2月6日電 題：熱度“狂飆”的ChatGPT面臨哪些潛在法律風險？

作者 肖颯 北京大成律師事務所合伙人

(相關資料圖)

2023開年之初，全球科技巨頭微軟的巨額投資讓ChatGPT成為科技領域的“頂流”，并成功出圈。我們作為法律工作者，不禁要評估ChatGPT自身在實際運用中可能會帶來的法律安全風險。

事實上，ChatGPT似乎遠沒有部分消息宣傳的那樣“神”——其僅僅是Transformer和GPT等自然語言處理技術的集成，本質上依然是一個基于神經網絡的語言模型，而非一項“跨時代的AI進步”。

第一，人工智能在中國整體監管仍有待完善。

和許多新興技術一樣，ChatGPT所代表的自然語言處理技術也面臨著“科林格里奇窘境”(Collingridge dilemma)，即信息困境與控制困境。

所謂信息困境，即一項新興技術所帶來的社會后果不能在該技術的早期被預料到；所謂控制困境，即當一項新興技術所帶來的不利社會后果被發現時，技術往往已成為整個社會和經濟結構的一部分，致使不利的社會后果無法被有效控制。

在人工智能領域，尤其是自然語言處理技術領域的快速發展階段，該技術很可能會陷入“科林格里奇窘境”，而與此相對應的法律監管似乎并未“跟得上步伐”。

目前，中國尚無國家層面的人工智能產業立法，但深圳、上海等城市已有相關立法嘗試。相信未來各地均會出臺類似的人工智能產業立法。

在人工智能的倫理規制方面，國家新一代人工智能治理專業委員會亦在2021年發布了《新一代人工智能倫理規范》，提出將倫理道德融入人工智能研發和應用的全生命周期。

第二，ChatGPT帶來的虛假信息存在法律風險問題。

ChatGPT等AI聊天基礎存在的現實合規問題也急需重視。ChatGPT基于AI背后已有的自然語言文本信息(語料庫)進行概率統計，返回的答案也是“統計結果”，這就導致ChatGPT在許多問題上會“一本正經的胡說八道”，這種看似真實、實則離譜的虛假信息具有一定誤導性。

倘若ChatGPT應用到搜索引擎、客戶投訴系統等領域，其回復的虛假信息可能造成嚴重的法律風險。

實際上，這樣的法律風險已出現，2022年11月，幾乎與ChatGPT同一時間上線的Meta服務科研領域的語言模型Galactica，就因為真假答案混雜的問題，測試僅3天就被用戶投訴下線。

在技術原理無法短期突破前提下，ChatGPT及類似語言模型要應用到搜索引擎、客戶投訴系統等領域，就必須對其進行合規性改造，以最大程度降低相應的合規風險。

第三，ChatGPT會帶來知識產權的合規問題。

聊天AI，尤其是像ChatGPT這樣的大型語言模型知識產權問題應引起合規人員注意。

第一個合規難題是“文本數據挖掘”是否需要相應知識產權授權問題。正如前文所指，ChatGPT依靠巨量自然語言本文(或言語料庫)運轉，其需要將語料庫中內容復制到自有數據庫中，相應行為通常在自然語言處理領域被稱為“文本數據挖掘”。當相應文本數據可能構成作品前提下，文本數據挖掘行為是否侵犯復制權，當前仍存在一定爭議。

目前，中國著作權法并未將AI中的“文本數據挖掘”納入到合理適用范圍內，文本數據挖掘在中國依然需要相應知識產權授權。

第二個合規難題是ChatGPT產生的答復是否具有獨創性？我們認為，無論某一答復是AI完成還是人類完成，其都應當根據現有獨創性標準進行判定。

此時，其實還面臨另一個爭議，如果AI生成答復具有獨創性，那著作權人可以是AI嗎？顯然，包括中國在內的大部分國家知識產權法律下，作品的作者僅有可能是自然人，AI無法成為作品的作者。

第三個合規難題是ChatGPT倘若在自己的回復中拼接了第三方作品，其知識產權問題應當如何處理？

我們認為，如果ChatGPT的答復中拼接了語料庫中擁有著作權的作品(雖然依照其工作原理，這種情況概率較小)，按照中國現行著作權法，除非構成合理使用，否則必須獲得著作權人的授權后才可以復制。(中新經緯APP)

本文由中新經緯研究院選編，因選編產生的作品中新經緯版權所有，未經書面授權，任何單位及個人不得轉載、摘編或以其它方式使用。選編內容涉及的觀點僅代表原作者，不代表中新經緯觀點。

責任編輯：李惠聰