在生成式AI的衝擊下，重新思考何謂「真實」

選民要如何得知，一段政治候選人發表冒犯性言論的影片是真的還是AI生成？當AI可以創造出令人目眩神迷的作品，大家還會願意為藝術家的心血掏腰包嗎？如果網路上會免費流傳以特定作家的風格寫成的故事，我們為什麼還要關注那些作家？

我在美國史丹佛大學（Stanford University）任職教授，也在那裡領導一項大型的生成式AI和教育計畫【譯注】作者在美國史丹佛大學的「DISTAL實驗室」（The Data Interactions & STEM Teaching and Learning Lab）率領一批研究人員和學生，從事與教育資料、STEM教育相關的研究、設計與開發工作。，而焦慮已經在我周遭蔓延開來。

隨著新興的生成式AI工具讓任何人都能更輕易地生產文本、圖像、音訊和影片，我相信未來會需要重新審視和調整對「可信度」的判斷方式。

慶幸的是，社會科學提供了一些指引。

可信度的多面向

早在生成式AI和ChatGPT嶄露頭角之前，人們就已經在探詢可信度的背後因素。

當房仲口若懸河地推銷物件，他們是在掏心掏肺還是只想趕快簽約？你認識的某個人打扮很時髦，但他穿的到底是真正的設計師時尚品牌，還是大量製造的盜版貨？隨著年紀漸長，要怎麼發掘真實的自我？

這些可不只是哲學習題。神經學研究顯示，若相信一件藝術品是真品，腦中的酬償中樞會活化，但觀賞一件被告知是贗品的作品，並不會產生同樣的效果。

可信度之所以重要，也因為這是鞏固信任、凝聚社會的元素。以社群媒體上的不實資訊危機為例，假新聞不知不覺傳播開來，真實新聞反而被當成假新聞，

簡言之，可信度很重要，對於個人和整體社會皆然。

但是，究竟是什麼因素，讓人覺得可以相信某件事物是真實的呢？

心理學家喬治．紐曼（George Newman）在一系列研究中探討這個問題。他發現可信度有三大面向。

其中一個面向是歷史可信度，亦即一個物件是不是真的來自某人宣稱的時代、地點和人物。17世紀荷蘭畫家林布蘭（Rembrandt）的真跡有歷史可信度，現代製造的贗品則沒有。

至於可信度的第二個面向，我舉個例子，有一間日本餐廳會供應美味道地的拿坡里披薩，雖然披薩不是在拿坡里製作或從義大利進口，廚師也可能完全沒有義大利血統，但披薩的原料、外觀和味道，完全符合拿坡里遊客對當地優質餐廳的期待。紐曼將這種可信度稱為範疇可信度。

最後一種可信度源於價值觀和信仰。很多選民會發現，那些說一套、做一套的政治人物和民選領袖身上缺乏這種可信度，而大學的招生委員則希望在學生的文章裡找到這種可信度。

在我自己的研究中，我也發現可信度與期望有關，也就是我們認為創作會牽涉到哪些工具和活動。

比方說，當你看到一件標榜是手作的訂製家具，你可能會假設那不是真的用手做的，製造過程會用到各種切割、塑形和接合的現代工具。同樣地，如果建築師使用電腦軟體來輔助繪製建築平面圖，你大概還是會認為產品是正當的、原創的。這是因為大家普遍認為，製造這些產品本來就會用到這些工具。

我們對於可信度的判斷通常都很迅速，不會就這些面向想這麼多，但現在有了生成式AI，就必須好好思考。

原因是，從前要花很多時間才能產出原創的新內容，所以大家總以為創作需要技藝，以為只有受過訓練的人費盡心血、心存善念才能做到。

這些假設如今都搖搖欲墜。

如何應對迫在眉睫的可信度危機

我們對於範疇可信度的依賴讓生成式AI蓬勃發展，因為它會製造看起來「貨真價實」的素材。

因此，在心裡把歷史可信度和範疇可信度分清楚很重要。只因為一段錄音聽起來就是德瑞克，並不代表那就是德瑞克錄製的音訊。所謂的「很像」，指的是這段音訊符合大家對「德瑞克的音樂」這個範疇的期待。有一篇大學寫作課的作業寫得很好，也不見得是學生在文書軟體上花好幾個小時精雕細琢而來。

如果有一隻鳥外表像鴨子、走路像鴨子、叫聲像鴨子【譯注】作者在反駁俗稱「鴨子測試」（Duck Test）的歸納法，據考察，這個典故最早源自美國詩人萊利（James Whitcomb Riley）（1849～1916）：“When I see a bird that walks like a duck and swims like a duck and quacks like a duck, I call that bird a duck.”（當我看到一隻走路像鴨子、游泳像鴨子、叫聲像鴨子的鳥，我稱之為鴨子。）這段文字日後在極端反共的美國麥卡錫主義時期，屢次遭到改編、運用，在罪證不足的情況下指控一個人是共產黨人士。，大家就必須想想，牠的源頭或許不是一顆蛋。

另外，很重要的是，未來每個人都要了解這些新的生成式AI工具有什麼能耐和局限。我認為學校和職場要能讓人學習與AI有關的知識，且能自由討論創作流程會如何隨著AI廣泛運用而改變。

未來，學生寫論文不一定要小心翼翼地組織每個句子，現在有很多工具都可以讓他們構思表達想法的方式。創造精彩的圖片也不再需要高超的手眼協調能力，或非得要精通Photoshop和Illustrator等修圖軟體才能辦到。

最後，在一個AI被當作工具運用的世界裡，社會必須思考如何建立護欄，可能是以法規的形式，也可能是在特定領域創造出一些行為準則，要求人們揭露什麼時候用了AI與使用的方式。

在寫作上，AI要列為共同作者嗎？特定類型的文件或學校的某些年級是否禁用AI？參賽者繳交藝術作品時是否要簽署未使用AI創作的聲明？還是說，我們需要區分出一個全新的比賽，特別邀請AI生成的作品參加？

這些問題都很棘手。生成式AI可能很容易就被當作不該容許的輔助工具，就像有些數學課會禁止使用計算機一樣。

然而，隔絕新科技恐怕會武斷地限制了人類的創造潛能。如果從前也把攝影視為一種不公平的科技運用，影像的表現力能達到今天的水準嗎？如果大家認為電腦動畫對可信度有危害，以至於皮克斯動畫無法角逐奧斯卡金像獎怎麼辦？

生成式AI的能耐已經讓很多人都吃了一驚，未來也會挑戰每個人轉換思考方式。不過，我相信人類可以運用AI來拓展可能性，創造出有趣、有價值的藝術、寫作和設計作品——而且，是可以讓人相信其真實性的作品。

（閱讀英文版，請點：〈Generative AI is forcing people to rethink what it means to be authentic〉。更多主題的英文文章，請見《少年報導者》「英文新聞」。）

＊原文〈Generative AI is forcing people to rethink what it means to be authentic〉刊載於國際研究型非營利媒體《對話》（The Conversation）網站，已獲授權翻譯刊載。

【讀報】本篇文章有讀報功能，中文讀報由邱紹雯錄製