TL;DR:人工智能時代創造了一個悖論：當資訊變得無限擴展時，信任卻成為了最稀缺的資源。仔細分析數位景觀就會發現，無論是 Google 這樣的搜尋巨擘，還是現代企業，都在努力面對相同的基本挑戰：如何在信號容易被操控的世界中驗證真相。Google 拒絕使用容易被操縱的外部排名信號，以及業界競相建立「AI 驗證器」，都指向相同的結論。最終的競爭優勢將屬於那些能夠在自己的流程中建立一個強大的、由人工主導的「驗證層」，以確保準確性和價值的企業。
我是 Mercury Technology Solutions 的執行長 James。
人工智能革命帶來了令人振奮的自動化和效率浪潮。我們的工具現在可以草擬內容、建議關鍵字，以及以以前無法想像的規模產生元資料。但是，在這樣的速度之下，隱藏著一個殘酷的事實：人工智能仍然會出錯。而且當它出錯時，它會堅定不移。
這造成了信任危機。Google 正努力解決如何對充斥著容易偽造訊號的網路進行排名的問題。企業也在努力解決大規模部署 AI 產生內容的法律與聲譽風險。然而，這兩種困境都指向相同的策略結論：在一個自動化的世界中，可驗證的專業人類判斷已經成為任何數位策略中最有價值、最有防禦能力的資產。
第一部分：搜尋引擎的困境 - 尋求可控制的訊號
多年來，SEO 專業人士一直在爭論 Google 使用哪些外部信號進行排名。在最近的一次訪談中，Google 的 Gary Illyes 終於深刻地澄清了他們的核心理念。當被問到 Google 為什麼不使用社群媒體分享等訊號來做排名時，他的回答很直接：
"......我們需要能夠控制自己的信號。而如果我們看的是外部信號......那就不是我們所能控制的了"。
這句話揭示了任何大規模資訊系統的核心挑戰：容易被操控的訊號是不可靠的。幾十年來，Google 已經了解到，如果一個訊號可以被第三方操控，那麼它就不能被信賴為其排名演算法的核心元件。這個原則解釋了他們對一系列策略的懷疑，從過去容易被濫用的關鍵字元標籤，到最近的 llms.txt 協定提案，以及使用偽造作者署名來表示「權威」。
Google 的教訓很明顯：他們是透過學習不盲目相信未經驗證的外部聲稱而建立起自己的帝國。
第二部分：企業的困境 - 風險的自動化
企業現在面臨的正是同樣的信任問題，但卻是來自方程式的另一面。利用 AI 大規模製作內容的能力，也意味著我們可以在前所未有的層級自動處理法律與聲譽風險。
- AI 模組可能會產生幻覺，誤讀使用者的意圖，並斷言過時的事實。
- 商業利害關係是真實存在的，而且還在不斷增加。僅在美國，虛假廣告訴訟就激增，2024 年加州地方法院將審理超過 500 件案件，2023 年和解金額將超過 500 億美元。
隨著人工智能產生更多內容，虛假索賠的表面區域也成倍擴大。如果沒有強大的驗證系統，您不僅是在自動化內容創作，也是在自動化責任。
科技產業的回應 - 人工智能「驗證層」的不完美承諾
為了因應這項挑戰，科技產業正爭分奪秒地建立一個解決方案：「通用驗證器」，這是一個介於生成模型與使用者之間的人工智能事實檢查器，專門用來捕捉幻覺、邏輯漏洞和無法驗證的聲明。
研究結果令人期待。DeepMind 的 SAFE 系統能夠以 72% 的準確率匹配人類事實檢查員。雖然令人印象深刻，但對於金融、醫療保健或法律等受監管行業的高風險內容而言，近 30% 的錯誤率並不可接受。
這讓今日的企業領導者得出一個無法迴避的結論：唯一真正可靠的驗證者是，而且在可預見的未來仍會是，環路中的人。
策略性解決方案：建立您自己的內部「驗證層」
企業無法等待完美的 AI 驗證器出現。當務之急是立即在您自己的工作流程中建立此驗證功能。這並非妄想症，而是要在信任成為可衡量、浮出水面的指標時，走在曲線的最前端。
我們建議合作夥伴從設計品質保證流程開始，這個流程的運作方式就像驗證員一樣：
- Fact-Check by Default：在沒有經過人工專家嚴格的來源驗證之前，請勿發佈任何人工智能輔助的內容。讓這一步成為您工作流程中不可或缺的步驟。
- 追蹤 AI 錯誤模式：建立日誌，記錄您的 AI 工具最常失敗的地方和方式。它們在統計方面有困難嗎？它們是否會對產品功能產生幻覺？這些內部資料對於降低未來風險非常寶貴。
- 定義內部信任臨界值：針對不同類型的內容，記錄何種程度的正確性和驗證「足以」發佈。一篇博客文章可能與一份產品規格表的閾值不同。
- 建立稽核追蹤：維護清楚的記錄，記載誰檢閱了什麼、何時檢閱、為何檢閱。這可證明您已盡了應盡的努力，而且對於問責性而言是非常寶貴的。
結論：人類審判的護城河
Google 和現代企業所面臨的挑戰都指向相同的基本真理：在一個充滿無限、自動化資訊的世界中，可驗證、經人類驗證的專業知識是最稀少、最寶貴的資源。
人類專家的角色並沒有消失，而是在不斷演進。我們正在從逐行創造者轉變為策略審查員，也就是管理門檻、驗證聲明並最後判斷真實性的人。AI 驗證員即將出現，但您的工作不是被其取代；您的工作是管理它。
那些不將信任視為事後想法，而是將其視為內容和作業流程中的核心設計輸入的團隊和企業，將成為擁有下一階段數位領導地位的企業。
