記者／張清晏
從敬老優惠的假消息，到國際戰事的合成影像，這些案例看似雖互不相干但矛頭卻都指向同個問題，就是人工智慧都用於製造假資訊，且摻入真實素材加工，讓謊言套上可信任的包裝。對此，專家與學者都指出，雖然此類手法並非AI時代才出現，但因為技術的發達導致產製成本降低，使擴散變快且不易看穿，而這些案例的都共同顯示，正是因著社會信任不斷被侵蝕，培養查證能力與加強資訊素養已是刻不容緩的事情。
在面對AI造假內容爆炸多的世代中，事實查核中心就扮演最前線的角色。事實查核中心總編輯陳偉婷指出，每當民眾通報可疑的影像時，查核團隊會先以數位工具（以圖搜圖或地理定位等），確認是否為真實的影像，若懷疑是AI圖，也會以AI偵測工具確認。她進一步說，因為每個AI偵測工具的辨識敏感度不同，需要以多個工具偵測並綜合判斷，且也必須搭配人工檢視，觀測畫面有無過於精緻、不自然甚至是不合理破綻的地方作為判別依據，比如手指少一隻、關節處形狀怪異甚至是本來背景是紅色但影片中段的背景變藍色等現象，必要時也會諮詢專家的看法。
談到真假混合的內容，例如在虛構畫面中加入真實元素以混淆視聽，陳偉婷提到，這並不是AI興起後才有的現象，而是謠言長期以來慣用的操作手法。只是隨著AI發展，這類內容的製作更快、傳播成本更低，威脅也因此升高。不過近年民眾的辨識能力逐漸提升，當網路上出現明顯的合成影像時，常有人會在留言區提醒「這是AI生成內容」，顯示社群間的互相提醒有助於提升大眾的媒體識讀能力。儘管近年AI假訊息大量增加，但並非無法防範，只要保持警覺，並具備基本的識讀能力，就能降低受騙風險。
陳偉婷表示，AI假訊息也可能變成系統性的資訊攻擊的工具。近期YouTube上出現不少類似內容農場的頻道，主題涵蓋民生、健康、兩岸與台美關係等議題，不僅AI主播風格相近，連使用的模板也高度一致，顯示其內容具有明顯的同質性。例如，台鐵與高鐵曾因網路流傳「65歲老人隱藏優惠方案」的AI生成影片，而被迫發布聲明澄清事實，導致對該行業產生困擾。因此在面對日益普遍的AI造假技術，除了加強教育宣導與平台標示機制，如要求註明AI生成內容，更重要的是協助民眾建立判讀與信任資訊的能力，避免對整體資訊環境失去信心。
對此，《商傳媒》記者何映辰於2026年5月4日在〈AI生成假內容衝擊社會信任 辨識與防範對策成焦點〉的報導便指出，AI技術生成的假內容早已對社會信任形成不小的衝擊，從個人、國家甚至世界都能形成不少輿論與動盪。特別是社群媒體演算法助長了假敘事傳播，速度同時超越了事實查核報導。因此個人應藉由查證來源並使用逆向圖片搜尋工具如 Google Images 、TinEye 等辨別內容的真偽。政府更應建立預警、快速反應機制及加強相關法規教育才能建立對抗不實資訊的堅韌機制。
AI造假蔓延國際 莊伯仲：媒體要先做好把關
AI造假從日常生活蔓延到國際大事的情況，中國文化大學新聞學系教授莊伯仲表示，這個現象除了近期的美伊戰爭外，在兩伊戰爭、俄烏戰爭時就已經有相似現象出現。因為生成假訊息的成本一直在降低，不論時間或金錢皆如此，外加影音製作的軟體又更完備，所以這類假訊息只會更多。特別是這類遠在幾千公里外的戰事台灣因為沒有派駐記者去實地採訪，民眾自然容易受到這些外傳的假情報或合成影像影響。
莊伯仲說，弱勢的那一方相對更仰賴假訊息來做國內大內宣，例如伊朗使用誇大手法製作合成畫面虛張聲勢，例如偽造美軍基地受損畫面；而美國也有類似手法，如被伊朗重創的飛機，美方會說是機件故障或明明是被擊落的但說成是自行墜毀，只是弱勢那一方相對在使用這個手法上會更明確一些。由此可知，這類訊息正以病毒式行銷的方式擴散，因為相比古早時代，現代因為網路普及使得一傳十，十傳百，往往不到一個晚上就能傳遍全球且完全零成本。
在早已不是眼見為憑的時代中，莊伯仲強調，媒體要先作好查核把關，不是「撿到籃子裡面都是菜」。他舉例，2026年3月時曾流傳一段假影像，有一群台灣人在搭地鐵的時候與日本人合唱〈島嶼天光〉和歡呼Team Taiwan，但實際上都是假的合成影像，只是部分媒體未查證就隨意大爆特爆，從而使錯誤資訊擴散。在查證上面，AI也有協助查證的功能，像是有一些新聞媒體會把影像送給AI鑑定，讓它可以分析出來合成的機率。
莊伯仲建議，媒體應將AI鑑定納入日常編審，對可疑影像先以工具分析，並追溯原始來源，同時建立內部查核機制，杜絕未證實即轉發的行為。而從長遠的角度來說，不論如何唯有加深媒體素養教育，特別是資訊與網路的層面，才能在AI時代中提高警覺，並不再因為反覆接觸到假訊息導致麻木，浮現出了「真相不再重要」的想法。
造假頻傳 事實查核中心：建議以圖反搜並用AI交叉比對
AI生成假訊息案件頻傳，事實查核中心如何處理呢？接到民眾檢舉後，查核中心會啟動標準流程是先以圖反搜追溯來源，若無法確認則使用多種免費AI偵測工具交叉比對風險區間，再輔以肉眼檢視與專家諮詢，確認造假後對外發布查核報告。事實查核中心總編輯陳偉婷舉例指出，前陸軍退役少將于北辰的政論節目畫面曾遭擷取，並經由AI變造，讓他看似說出「解放軍如果登陸台灣還要投降」等荒謬言論。不過，查核人員仍可從嘴型與聲音是否同步、光影是否自然，及畫面有無跳接等細節中辨識異常。
由於假訊息常跨國流傳，事實查核中心也建立了國際合作機制。陳偉婷提到，台灣曾瘋傳的「蒙古跨年影片」，查核團隊就是透過蒙古事實查核組織協助，核對當地習俗與畫面本質內容後，確認影片的確由AI生成。另在日本京都男童失蹤案中，日本查核單位也曾主動聯繫台灣，查證是否真的有台灣媒體報導「中國人犯案」的不實傳言，以此共同打擊不實資訊。也因此各國查核組織透過國際事實查核聯盟共同開發AI聊天機器人，協助民眾即時辨識並查證假訊息。
此外，陳偉婷指出，近一年YouTube上出現大量類似內容農場的AI頻道中，裡面的影片其實已在說明欄標註「本影片內容經AI或數位編輯生成」，但許多民眾依然將影片轉傳給查核中心詢問真假，顯然仍有民眾不理解標註的意義和相關的法規。更棘手的是，有些有心的造謠者甚至刻意直接裁切掉浮水印來破壞規則，並流傳沒有浮水印的部分，蓄意破解民眾查證的渠道。
對此，她也認為，防範措施「防君子不防小人」，根本之道仍是持續推動媒體素養教育，讓民眾養成「先存疑、再查證」的習慣。她同時以「日本猴子Panchi」假影片為例，許多人在短影音平台看到感人動物故事後上當，但其實只要查詢動物園官方Twitter就能獲得正確資訊，因此遇上這類訊息感到困擾時，應先找尋該訊息的相關單位，這也是事實查核中心不斷向公眾傳達的核心方法。
