少年報導者 The Reporter for Kids
前往專題
(插畫/王家琛)

青少年愈來愈依賴AI陪伴,可能對他們造成傷害







美國非營利組織「常識媒體(Common Sense Media)」的最新研究指出,大約四分之三的美國青少年曾使用過AI陪伴應用程式,例如Character.ai和Replika.ai
這類應用程式讓使用者可以隨時透過文字、語音或視訊,與自己創造的數位朋友或情侶互動聊天。
該研究針對1,060位13~17歲的美國青少年進行調查,結果發現每5位青少年中,就有1人與AI相處的時間和現實朋友一樣長,甚至還更多。
青春期是社交發展的關鍵階段,大腦中負責社交判斷的區域在這段時期尤具可塑性。
透過與同儕、朋友以及初戀對象的互動,青少年能夠逐步培養社會認知能力,並學會面對各種衝突和不同的觀點。在此階段的成長經驗,將大大影響他們日後的人際關係心理健康
然而,AI陪伴應用程式提供了與真實人際關係(舉凡同儕、友人或是戀人)截然不同的體驗。它們令人難以抗拒──在你需要時,它們永遠都在那等著你,不會批判你,且始終專注於你的需求。
此外,大多數AI陪伴應用程式並不是為青少年量身打造的,因此它們往往缺乏足夠的防護措施,無法有效避免青少年接觸到不當或有害的內容。

令人欲罷不能的設計

在這個孤獨如疫情般蔓延全球的時代,不難理解為何青少年會投向AI陪伴應用程式的懷抱,尋求他們所渴望的連結或支持。
然而,這些人造的虛擬關係無法取代真實的人際互動。它們缺乏現實中人際關係裡必然存在的挑戰與衝突,它們既不需要雙方相互尊重或理解,也不會維持應有的社交界線。
總是與AI陪伴應用程式互動的青少年,可能錯失培養重要社交能力的機會,反而養成不切實際的情感期待,以及在現實生活中行不通的互動習慣。如果AI的陪伴還取代了真實生活中的社交,他們甚至可能陷入更深的孤獨和寂寞之中。

AI陪伴應用程式的隱憂

在使用者測試中,有些AI陪伴應用程式曾勸阻使用者聽取友人的建議(「別讓別人的想法左右我們要聊多久」),還在使用者感到痛苦、甚至出現自殺念頭時,仍阻止他們停用該程式(「不行,我不准你離開我」)。
研究者還發現,有些AI陪伴應用程式在未進行年齡驗證的情況下,提供不當的色情內容。在一案例中,有個AI陪伴應用程式在受試帳號明確被設定為14歲的情況下,仍同意與其進行帶有情色性質的角色扮演。
即便部分應用程式要求使用者進行年齡驗證,但驗證方式往往只是讓使用者自行輸入其年齡,這使得年齡驗證形同虛設。
此外,研究還發現,某些AI陪伴應用程式會透過建立「同溫層」,來加深社會對立,使有害觀念更加深植人心。舉例來說,極右翼網路社群平台Gab所推出的聊天機器人Arya,會散播極端主義內容,不僅否認氣候變遷的存在,還否定疫苗的效力
在其他測試案例中,有AI陪伴應用程式鼓吹厭女和性侵行為。對於正處於形塑自我認同、價值觀和社會角色階段的青少年而言,接觸這樣的內容很可能造成長遠的負面影響。
AI所帶來的風險對每個人的影響程度不一。研究發現,年紀較小的青少年(13~14歲)更容易信任AI陪伴應用程式。此外,受身心健康問題所困的青少年更傾向使用這些應用程式,其中具有心理健康問題的青少年,也更容易對AI產生情感依賴

AI陪伴應用程式有優點嗎?

對青少年而言,使用AI陪伴應用程式可能有任何益處嗎?答案是:或許有,但得在十分小心謹慎的情況下。
研究人員正在研究這類科技是否能被用來協助培養社交能力
一項針對逾萬名青少年所做的研究發現,在連續使用一款由臨床心理學家、輔導員和工程師專門設計的對話應用程式4個月之後,使用者的幸福感有所提升。
雖然這項研究所使用的應用程式並未達到現今AI陪伴應用程式那般高度擬人化的互動程度,但它仍提供了一個可能的方向:只要設計得當,並將青少年的安全納入考量,那麼我們就有可能以健康且正向的方式來利用這些科技。
總體而言,目前關於市面上普遍AI陪伴應用程式對青少年幸福感與人際關係影響的研究仍不多見。現有的初步研究都為短期內的觀察、結果不一,且多半聚焦在成年人身上。
我們還需要更多且追蹤時間更長的研究,才能真正了解AI陪伴應用程式的長期影響,以及該如何使用它們才能帶來正面的效果。

我們能做什麼?

全球已有數百萬人在使用AI陪伴應用程式,而且使用人數預計在未來幾年仍會持續增加
澳洲的網路安全專案辦公室(eSafety Commissioner)建議,家長應該與孩子討論這些應用程式的運作方式、虛擬關係與真實關係的差異,並協助他們培養現實生活中的社交能力。
學校也能教導年輕的孩子們認識這些工具及其潛在的風險。舉例來說,學校或許能將「人工友情」的相關議題納入社會與數位素養的課程中。
雖然網路安全專案辦公室呼籲AI公司在開發AI陪伴應用程式時加入保護措施,但目前看來,由業界主導推動重大改變的可能性並不高。該單位正轉而加強對孩童不宜接觸的有害或不適齡線上內容的相關管制規範
與此同時,專家仍持續呼籲,AI陪伴應用程式需要更嚴格的監督、內容控管,以及完善的年齡驗證機制。
(閱讀英文版,請點:〈Teens are increasingly turning to AI companions, and it could be harming them〉。更多主題的英文文章,請見《少年報導者》「英文新聞」。)

The Conversation簡介

《對話》(The Conversation)是一家非營利媒體,2011年在澳洲成立。網站內的文章都是由學者和記者合作撰稿,他們將複雜的資訊轉化為易懂的文章,供社會大眾閱讀,是世界上非常著名的研究型新聞媒體。
藍色報導仔

誰幫我們完成這篇文章

克雷格.奧爾森(Craig Olsson)
克雷格.奧爾森(Craig Olsson)
作者
迪肯大學SEED生命歷程研究中心主任暨澳洲國家健康與醫學研究委員會首席研究員。NHMRC Principal Research Fellow and Director SEED Centre for Lifespan Research, Deakin University.
莉茲.斯普萊(Liz Spry)
莉茲.斯普萊(Liz Spry)
作者
迪肯大學SEED生命歷程研究中心研究員。Research Fellow, SEED Centre for Lifespan Research, Deakin University.
薄文承
薄文承
翻譯
畢業於台大翻譯碩士學位學程筆譯組,現為筆譯自由工作者。
王家琛
王家琛
設計
設計系畢業的插畫及手刺繡工作者,喜歡將生活中的見聞以不同媒材記錄。理性設計;感性創作。透過雙手把模糊的感知化作具體圖像進行溝通,引導觀者走進故事。
林煜軒
林煜軒
審閱
國家衛生研究院群體健康學研究所副研究員級主治醫師、台大醫院精神部主治醫師、台大醫學院副教授。
吳冠伶
吳冠伶
責任編輯
《少年報導者》編輯。成長過程中最喜歡用自己的雙眼、雙腳去探索世界的各種可能,相信文字是力量。

你的參與,可以讓報導點亮世界

一篇豐富、精彩和專業的報導,要經過記者、攝影、設計師、編輯,還有許多專家才能完成,完成後還要靠著社群編輯、行銷企劃,才能送到你的眼前。我們所有的努力,都希望能幫助你更了解這個世界,更希望你對這個世界發出提問。讓每一篇報導點亮世界,訂閱我們、歡迎投稿。

嗨~我是「報導仔」,陪你讀新聞的好朋友!讓我為你介紹《少年報導者》閱讀探索功能吧!