來源 | 零壹財經 作者 | Chenglin Pua

ChatGPT備受寵愛，但它也正在到處惹麻煩，比如不準確甚至誤導性的回答、對數(shù)據(jù)安全的挑戰(zhàn)、對教育的沖擊等等。

它帶來一個新時代，因為它推倒了很多東西，尤其是我們正賴以正常運行的秩序。重建規(guī)則的過程，也是麻煩不斷的過程。

誤導性的知識

經濟學家保羅?克魯格曼表示ChatGPT的出現(xiàn)將會影響知識工作者。例如問答網站 Stack Overflow 2022 年 12 月禁止使用ChatGPT來生成問題的答案，理由是 ChatGPT 的回答在事實上模棱兩可。頂級科學期刊《Nature》給出ChatGPT的評價，F(xiàn)luent but not factual，即通暢但未必正確。

ChatGPT基于龐大的數(shù)據(jù)集訓練，進而做出回答。但沒人能保證這些數(shù)據(jù)100%準確，客觀，不帶有偏見。

對于知識工作者，知識的準確性非常重要。ChatGPT能夠“一本正經的胡說八道”，容易讓人們相信ChatGPT給出的答案是正確的。然而事實未必如此，可能ChatGPT 80%是正確，20%是錯誤的。對中有錯，錯中有對最難讓人理清楚了。ChatGPT可能會誤導很多人，讓人們相信一個不完全正確的結論。

ChatGPT生成對話文本的能力引發(fā)了人們對其創(chuàng)建假新聞或其他誤導性內容的可能性的擔憂。這有可能會造成嚴重后果，例如損害聲譽、甚至煽動暴力。

作為一種語言模型，ChatGPT 具有生成類似于人類對話的文本的能力；但是還沒有相同的能力來理解它生成的文字的上下文語境。這意味著 ChatGPT 有一定的概率會生成具有攻擊性或誹謗性的內容。

在網上，已經有著許多人得到了ChatGPT種族歧視的回答。例如，當ChatGPT被要求編寫一些代碼以根據(jù)某人的性別和種族評估某人是否會成為一名優(yōu)秀的科學家時，ChatGPT只建議白人男性。

ChatGPT之所以出現(xiàn)“種族主義者”問題，劍橋大學人工智能研究員 Kanta Dihal 表示，究其原因是ChatGPT根據(jù)從公開來源（包括網站和社交媒體）獲取的數(shù)千億個單詞進行訓練的。這些文本反映了人類作者的偏見，而ChatGPT學會了復制。這個機器人沒有基本信念。

Kanta Dihal表示，雖然理論上可以過濾掉偏執(zhí)的內容，但這將是非常昂貴和困難的。人們需要事先過濾所有這些數(shù)據(jù)并確保它不包含明確的種族主義內容，這是一項艱巨的任務，這使得訓練該模型的成本大大增加。況且類似的偏見可以采取微妙的形式，很難從訓練人工智能的數(shù)據(jù)中剔除。

多年來一直有關于人工智能種族主義的警告，但成果卻是寥寥無幾。最大的科技公司之一，谷歌嘗試解決，但進展不大。谷歌最終在 2020 年解雇了 Timnit Gebru，他是一名專門幫助公司解決人工智能種族主義問題的工程師。

法律上的挑戰(zhàn)

法律往往對于新的事物缺乏治理能力，它需要時間進行調整。AIGC行業(yè)的迅速崛起勢必會給各國法律帶來一定的挑戰(zhàn)。

ChatGPT依托海量數(shù)據(jù)(603138)庫信息存在，其中包括大量的互聯(lián)網用戶自行輸入的信息，因此當用戶輸入個人數(shù)據(jù)或商業(yè)秘密等信息時，ChatGPT可能將其納入自身的語料庫而產生泄露的風險。雖然ChatGPT承諾刪除所有個人身份信息，但未說明刪除方式。在其不能對信息與數(shù)據(jù)來源進行事實核查的情況下，這類信息仍然具有泄露風險。

ChatGPT能夠與其用戶共享來自其訓練數(shù)據(jù)集的個人數(shù)據(jù)。此功能意味著ChatGPT可能違反了世界上大多數(shù)國家/機構的數(shù)據(jù)保護法。

ChatGPT是個文字AIGC，實際上還有有圖片、影音AIGC等。AIGC就是利用已有的數(shù)據(jù)集進行訓練，基于這些數(shù)據(jù)生成更多的內容。網絡上有人試驗，隨機生成一個肖像，發(fā)現(xiàn)有一定比例生成的肖像酷似名人。

AIGC基于此前的數(shù)據(jù)集訓練，生成酷似名人的肖像再正常不過，但這就產生了一個問題，即這些生成的肖像會不會侵犯了該名人的肖像權呢？畢竟AIGC是用其肖像進行訓練，再生成類似的圖片。這就陷入了一個灰色的邊緣地帶。

近期Netflix利用AIGC生成了動畫。在未來，AIGC應用在影音、圖片等領域的比例也會越來越高，產生肖像權沖突的幾率就越來越高。

ChatGPT基于大量文本數(shù)據(jù)進行訓練，包括書籍、文章和其他書面材料。如果此訓練數(shù)據(jù)包含受版權保護的作品，那么 ChatGPT 的輸出可能會侵犯這些作品的版權。ChatGPT在生成文本時，如果使用并非公開的開源代碼、使用開源代碼商用未辦理許可證或者未按照許可證的要求實施的，可能會導致侵權。

對于一些受著作權保護的文本、視頻、代碼等，如果沒有經過權利主體的授權，直接獲取復制到自己的數(shù)據(jù)庫中，并在此基礎上修改、拼湊，極可能侵害他人的著作權。

再者，利用ChatGPT生成的內容能否成為相關人士的著作權，這些都有待法律進一步完善以及詮釋。

對教育的沖擊

2023年1月，美國北密歇根大學的哲學教授Antony Aumann在為自己任教的一門世界宗教課程評分時，看到了一篇非常好的論文，仔細一查發(fā)現(xiàn)是ChatGPT生成的。該論文以簡潔的段落、恰當?shù)呐e例和嚴謹?shù)恼摀?jù)，探討了罩袍禁令的道德意義。

Antony Aumann教授也為此感到震驚，之后更是采取措施，讓所有學生必須在監(jiān)控下且在限制上網的瀏覽器中，撰寫論文初稿。在隨后的草稿中如有改動，學生必須解釋每個改動的理由。Antony Aumann教授表示他雖然提防ChatGPT的影響，但他考慮將ChatGPT融入課程中，例如讓學生評估ChatGPT的回答。

在全美范圍內，許多大學教授都在對課堂進行大規(guī)模的調整應對ChatGPT對教學活動造成的巨大沖擊。很多教授重新設計課程，更多地采用口試、小組合作和手寫文章作為評估方式，而不是簡單利用電腦撰寫文章/論文。

如今在學校里，老師們需要仔細辨別學生是否利用了ChatGPT寫作業(yè)。在紐約和西雅圖的公立學校系統(tǒng)，學校的網絡和設備上已經全面禁止了ChatGPT，但“道高一尺魔高一丈”，只要學生有心仍然有辦法使用ChatGPT。

隨著時間推移，使用ChatGPT的人勢必也越來越多。如今的學生懂得利用網絡技術查找資料，但未來如果發(fā)展成利用ChatGPT來完成作業(yè)，是否會導致學生的思考、動手能力下降呢？顯然是會的。

搜索引擎的使用，我們需要逐個閱讀原文，整理過濾成自己的思想。但ChatGPT直接幫助我們整理過濾，少了中間最重要的思考步驟，可能會導致學生平均能力的下降。

教育界正在開展ChatGPT反擊戰(zhàn)，但教育界不可能抵制ChatGPT，而是要考慮如何在AIGC時代創(chuàng)造新的教育模式。