（插畫／王家琛）

在生成式AI的衝擊下，重新思考何謂「真實」

刊出日期 2023.09.07

讀報

中文

‌
‌
‌
‌
‌

選民要如何得知，一段政治候選人發表冒犯性言論的影片是真的還是AI生成？當AI可以創造出令人目眩神迷的作品，大家還會願意為藝術家的心血掏腰包嗎？如果網路上會免費流傳以特定作家的風格寫成的故事，我們為什麼還要關注那些作家？
我在美國史丹佛大學（Stanford University）任職教授，也在那裡領導一項大型的生成式AI和教育計畫【譯注】，而焦慮已經在我周遭蔓延開來。
隨著新興的生成式AI工具讓任何人都能更輕易地生產文本、圖像、音訊和影片，我相信未來會需要重新審視和調整對「可信度」的判斷方式。
慶幸的是，社會科學提供了一些指引。
可信度的多面向
早在生成式AI和ChatGPT嶄露頭角之前，人們就已經在探詢可信度的背後因素。
當房仲口若懸河地推銷物件，他們是在掏心掏肺還是只想趕快簽約？你認識的某個人打扮很時髦，但他穿的到底是真正的設計師時尚品牌，還是大量製造的盜版貨？隨著年紀漸長，要怎麼發掘真實的自我？
這些可不只是哲學習題。神經學研究顯示，若相信一件藝術品是真品，腦中的酬償中樞會活化，但觀賞一件被告知是贗品的作品，並不會產生同樣的效果。
可信度之所以重要，也因為這是鞏固信任、凝聚社會的元素。以社群媒體上的不實資訊危機為例，假新聞不知不覺傳播開來，真實新聞反而被當成假新聞，
簡言之，可信度很重要，對於個人和整體社會皆然。
但是，究竟是什麼因素，讓人覺得可以相信某件事物是真實的呢？
心理學家喬治．紐曼（George Newman）在一系列研究中探討這個問題。他發現可信度有三大面向。
其中一個面向是歷史可信度，亦即一個物件是不是真的來自某人宣稱的時代、地點和人物。17世紀荷蘭畫家林布蘭（Rembrandt）的真跡有歷史可信度，現代製造的贗品則沒有。
至於可信度的第二個面向，我舉個例子，有一間日本餐廳會供應美味道地的拿坡里披薩，雖然披薩不是在拿坡里製作或從義大利進口，廚師也可能完全沒有義大利血統，但披薩的原料、外觀和味道，完全符合拿坡里遊客對當地優質餐廳的期待。紐曼將這種可信度稱為範疇可信度。
最後一種可信度源於價值觀和信仰。很多選民會發現，那些說一套、做一套的政治人物和民選領袖身上缺乏這種可信度，而大學的招生委員則希望在學生的文章裡找到這種可信度。
在我自己的研究中，我也發現可信度與期望有關，也就是我們認為創作會牽涉到哪些工具和活動。
比方說，當你看到一件標榜是手作的訂製家具，你可能會假設那不是真的用手做的，製造過程會用到各種切割、塑形和接合的現代工具。同樣地，如果建築師使用電腦軟體來輔助繪製建築平面圖，你大概還是會認為產品是正當的、原創的。這是因為大家普遍認為，製造這些產品本來就會用到這些工具。
我們對於可信度的判斷通常都很迅速，不會就這些面向想這麼多，但現在有了生成式AI，就必須好好思考。
原因是，從前要花很多時間才能產出原創的新內容，所以大家總以為創作需要技藝，以為只有受過訓練的人費盡心血、心存善念才能做到。
這些假設如今都搖搖欲墜。
如何應對迫在眉睫的可信度危機
我們對於範疇可信度的依賴讓生成式AI蓬勃發展，因為它會製造看起來「貨真價實」的素材。
因此，在心裡把歷史可信度和範疇可信度分清楚很重要。只因為一段錄音聽起來就是德瑞克，並不代表那就是德瑞克錄製的音訊。所謂的「很像」，指的是這段音訊符合大家對「德瑞克的音樂」這個範疇的期待。有一篇大學寫作課的作業寫得很好，也不見得是學生在文書軟體上花好幾個小時精雕細琢而來。
如果有一隻鳥外表像鴨子、走路像鴨子、叫聲像鴨子【譯注】，大家就必須想想，牠的源頭或許不是一顆蛋。
另外，很重要的是，未來每個人都要了解這些新的生成式AI工具有什麼能耐和局限。我認為學校和職場要能讓人學習與AI有關的知識，且能自由討論創作流程會如何隨著AI廣泛運用而改變。
未來，學生寫論文不一定要小心翼翼地組織每個句子，現在有很多工具都可以讓他們構思表達想法的方式。創造精彩的圖片也不再需要高超的手眼協調能力，或非得要精通Photoshop和Illustrator等修圖軟體才能辦到。
最後，在一個AI被當作工具運用的世界裡，社會必須思考如何建立護欄，可能是以法規的形式，也可能是在特定領域創造出一些行為準則，要求人們揭露什麼時候用了AI與使用的方式。
在寫作上，AI要列為共同作者嗎？特定類型的文件或學校的某些年級是否禁用AI？參賽者繳交藝術作品時是否要簽署未使用AI創作的聲明？還是說，我們需要區分出一個全新的比賽，特別邀請AI生成的作品參加？
這些問題都很棘手。生成式AI可能很容易就被當作不該容許的輔助工具，就像有些數學課會禁止使用計算機一樣。
然而，隔絕新科技恐怕會武斷地限制了人類的創造潛能。如果從前也把攝影視為一種不公平的科技運用，影像的表現力能達到今天的水準嗎？如果大家認為電腦動畫對可信度有危害，以至於皮克斯動畫無法角逐奧斯卡金像獎怎麼辦？
生成式AI的能耐已經讓很多人都吃了一驚，未來也會挑戰每個人轉換思考方式。不過，我相信人類可以運用AI來拓展可能性，創造出有趣、有價值的藝術、寫作和設計作品——而且，是可以讓人相信其真實性的作品。
（閱讀英文版，請點：〈Generative AI is forcing people to rethink what it means to be authentic〉。更多主題的英文文章，請見《少年報導者》「英文新聞」。）
＊原文〈Generative AI is forcing people to rethink what it means to be authentic〉刊載於國際研究型非營利媒體《對話》（The Conversation）網站，已獲授權翻譯刊載。
The Conversation簡介
《對話》（The Conversation）是一家非營利媒體，2011年在澳洲成立。網站內的文章都是由學者和記者合作撰稿，他們將複雜的資訊轉化為易懂的文章，供社會大眾閱讀，是世界上非常著名的研究型新聞媒體。

常用關鍵字

# 教育 # 科技 # 音樂 # 科普 # 藝術 # 中文讀報 # 動畫 # 攝影 # AI人工智慧 # 寫作 # 英文新聞 # 誰來讀新聞

誰幫我們完成這篇文章

維克多．R．李（ Victor R. Lee）

作者

我是「學習科學國際社會」（International Society of the Learning Sciences）的現任主席，致力於研究目前的學習空間能如何實現未來的STEM教育，涉及到學校、圖書館、博物館、線上和家裡的研究和設計工作。曾獲得國家科學基金會的職涯初期學者研究獎、國家教育研究院／斯賓塞基金會研究獎學金，以及美國教育研究協會的珍．霍金斯獎。資訊揭露聲明：維克多．R．李接受美國國家科學基金會、華勒斯基金會、斯賓塞基金會、美國博物館及圖書館服務中心與馬里納．埃克爾斯基金會的資助，也曾為Google公司的穿戴式技術提供諮詢。 My academic career has examined the future possibilities for STEM Education that could be made accessible in current learning spaces. This has involved research and design work that has been in school, libraries, museums, online, and at home. I have been recognized with the three top distinctions in my field for early career research (NSF CAREER Award, National Academy of Education/Spencer Foundation Fellowship, and the AERA Jan Hawkins Award). Currently, I serve as president of the International Society of the Learning Sciences. Disclosure statement: Victor R. Lee receives funding from the National Science Foundation, the Wallace foundation, the Spencer Foundation, the Institute of Museum and Library Services, and the Marriner S. Eccles Foundation. He has done some advisory work for Google on wearable technology.

了解更多