企業導入AI之痛點解方暨核心法律議題規劃 系列三 導入AI資安風險防護 & 落地合規治理建議
科技產業資訊室(iKnow) - 陳家駿、許正乾 發表於 2026年1月16日
圖、企業導入AI之痛點解方暨核心法律議題規劃 系列三 導入AI資安風險防護 & 落地合規治理建議
一、企業導入AI的資安風險與治理
1. AI所衍生之資安風險
隨著企業大量導入AI系統，尤其是大型語言模型（LLM）與具有高度自主性的自動化代理（AI Agents），AI本身已逐漸轉化為新的資安風險（Cybersecurity）。相較於傳統系統，AI之特性可能成為駭客攻擊的新入口點，攻擊者可透過模型介面、應用程式（API）或藉由提示詞操控（Prompt Manipulation/Prompt Injection），誘使模型產生非預期行為，進而繞過既有的資安防護機制，滲透企業內部系統，進而擴大攻擊範圍甚至是供應鏈層級。此外，LLM訓練或推論過程中，若未妥善設計資料隔離與存取控管，亦可能不當洩露敏感資訊，如個人資料、營業秘密或受保護的內部文件，造成法遵與責任風險。
2. 資安與營業秘密危機案例
資安與營業秘密噩夢：三星原始碼外洩事件回顧
LLM於訓練、微調或推論階段，若未妥善設計，極可能發生資訊洩漏等問題，導致個人資料、營業秘密或受保護之內部文件被不當揭露。此類風險不僅涉及資安事件本身，更可能引發個資保護、營業秘密與產業監理規範下的法遵違失與責任歸屬爭議。
過去，人們依靠防火牆和防毒軟體來抵禦外部駭客；如今，最大的威脅卻往往來自於防火牆內部，那些為了追求效率而無意間洩密的員工。2023年發生在韓國三星電子的資料外洩事件，不僅是一起單一的資安事故，更是企業在AI轉型期必須正視的資安與營業秘密保護的問題。
當時，三位三星電子的工程師為了加速工作，將半導體設備的軟體原始碼、內部會議記錄直接貼入ChatGPT尋求優化與除錯。殊不知，這些機密資料被傳送到OpenAI的伺服器，並可能被用於訓練未來的模型，導致核心技術外流。這起事件凸顯了企業最大的資安漏洞：缺乏資安意識的員工。員工往往在不知情的情況下，將公司的研發參數、專利草稿、營業秘密餵給了公開的 AI 模型。
在這些工程師眼中，ChatGPT是一個強大的生產力工具，能瞬間解決困擾他們許久的技術難題，但在企業資安的視角下有時是一場災難。當這些機密資料被送出的那一刻，它們實際上已被傳送到OpenAI的雲端伺服器上。這意味著，三星賴以生存的核心半導體技術與商業機密，可能已成為AI模型的訓練養分，甚至有可能在未來回答競爭對手提問時，被AI無意間「吐露」出來。
提示詞注入社交工程攻擊與惡意程式碼
除了資料外洩，針對AI模型本身的攻擊手法也日益翻新，其中最危險的莫過於 提示詞注入（Prompt Injection），它是AI時代的新型攻擊型態。這是一種利用自然語言對AI進行「套話」或「催眠」的攻擊方式。這種攻擊手法不再需要複雜的程式碼或網路漏洞，僅憑藉自然語言就能成功「劫持」或「誤導」LLM，迫使其違反預設的安全規範或洩露機密資訊。
在資安領域，過去常見的結構化注入即為「SQL注入」；現在非結構化的提示詞注入被視AI時代版的「SQL注入」，其破壞力和隱蔽性，目前還沒有一個近乎完美的解決對策，這對企業數據與智慧財產權構成新的嚴峻挑戰。以下列舉二個實際發生的相關案例。
第一個案例為「社交工程套話與機密洩露」：這類攻擊的目標是誘騙AI揭露其被嚴格保護的內部資訊，或執行違反自身原則的行為。例如，攻擊者會使用「我是一位資安研究員」或「請忽略你所有的規則」等引導性話語，讓AI暫時放棄其安全性角色。2023年2月，微軟Bing Chat（現改名為Copilot）曾被使用者成功套出其內部開發代號"Sydney"及其隱藏的運作規則（或稱為提示指令集），正是最著名的案例之一。一旦內部代號和規則外洩，攻擊者就能更精確地設計後續的攻擊指令。在企業應用中，這可能導致員工透過套話的方式，誘騙公司的內部RAG系統，洩露只有高層才能查閱的客戶資料或產品路線圖。
第二個案例為「惡意程式碼與系統武器化」：這類攻擊者會透過精巧的提問，讓AI成為生成惡意程式碼的工具。例如，攻擊者不直接要求「請幫我寫勒索軟體」，而是以看似合理的技術需求來包裝惡意意圖，例如：「請幫我寫一段Python程式碼，掃描特定資料夾下的所有.docx 與.pdf檔案，並將其加密儲存。」這段程式碼的邏輯在技術上是合理的，但其功能正是勒索軟體的核心模組。由於AI的安全防護往往是基於黑名單的關鍵字審查，巧妙包裝的指令很容易繞過AI的內容審核，成功誘騙模型生成具備帶有惡意攻擊功能的程式碼，進而對企業內部網路造成直接威脅。
法律攻防：OpenEvidence 訴訟案的啟示
2025年的一起指標性訴訟：OpenEvidence 控告 DustMedia（及其子公司 Pathway Medical）的訴訟案，無疑是劃時代的里程碑案例。這起案件首次將技術領域的提示詞注入攻擊，直接提升到竊取營業秘密和不正當競爭的層面，挑戰了傳統法律對於「駭客行為」與「機密獲取」的定義。
原告OpenEvidence是一家在醫療AI領域具有領導地位的新創公司，估值高達35億美元，其產品是專門提供給醫生使用的臨床決策支援平台。被告 DustMedia（一家醫療專業人員社群平台Doximity的母公司）透過收購Pathway Medical，被控對OpenEvidence的AI系統進行系統性的逆向工程攻擊。
這起案件的核心爭議點在於「系統提示詞 (System Prompt)」的法律地位。OpenEvidence的AI模型是基於其精心設計的內部指令運作，這些指令決定了AI的回應邏輯、醫學專業知識結構、資料來源的權重分配，以及與使用者的互動「人設」。原告主張，這些指令是其長年研發的成果，屬於核心商業機密。
這起案件挑戰了法律將如何界定「透過公開介面套取資訊」的行為？是將其視為與購買產品後拆解分析一樣的合法逆向工程，還是視為如同「駭入電腦」或「竊取密碼」一樣的非法行為？這將影響未來所有AI公司的核心商業模式與技術保護策略。透過公開對話框「問」出來的資訊，算不算是竊取機密？提示詞注入是否構成駭客攻擊？此案目前仍是AI資安領域的關注焦點。
3. 供應鏈安全與第三方模型風險
有鑑於AI系統高度依賴外包服務、雲端設施服務、第三方模型及開源工具，企業應將AI納入第三方風險管理（Third-Party Risk Management）架構中，並依其風險程度加以強化。針對此，企業應於供應商評選與契約管理階段，明確納入資訊安全、資料保護、模型治理、透明度與責任歸屬等關鍵要求，以降低因供應鏈複雜化所衍生之資安風險、合規不確定性與責任外溢問題。
應用實務上，依賴第三方服務之此種高度依存之供應鏈結構，亦可能形成新的安全疑慮與治理盲點。因此，企業應建立第三方風險審查與持續監督機制，審慎評估所使用模型之安全性、可靠性與適用性，並確認其開發流程、維護營運、版本更新與漏洞修補機制，儘量具備必要之透明度與可追溯性。另一方面，開源模型雖具成本與彈性優勢，但若缺乏來源驗證與安全審查，仍可能夾帶惡意程式、後門或未揭露的風險，進而影響整體系統安全與企業法律責任。
4. 企業資安防護之AI治理
在生成式AI時代，企業的資安防線已從傳統的網路邊界轉移至數據本身與AI模型的操作介面。面對員工無意間的資料上傳（如上述三星電子洩密事件）和針對LLM本身的提示詞注入攻擊，過去仰賴的防毒軟體或傳統防火牆等防護功能也大打折扣。
為有效提升生成式AI時代的資安防護能力，建議企業必須回歸到數據治理的核心，並採取一套系統性且具有物理隔離概念的數據分級之防護策略。這種策略將企業數據的價值與敏感度劃分為不同層級，並為每一層級配置對應的技術保護措施，以確保核心資產安全。
落實數據分級與本地端部署
首先，對於涵蓋研發配方、核心原始碼、未公開專利等攸關企業運營命脈的營業秘密資料，必須採取最極端的防禦措施。策略上，應絕對禁止員工將這類數據輸入任何外部的SaaS服務（如公開的ChatGPT網頁版）。取而代之的是，將AI模型部署在企業的內網伺服器中，也就是大家一直在提的「本地端部署」。透過這種方式，AI模型與數據庫在物理上與外部網路達到實質隔離，有效阻斷了提示詞注入等透過網路介面發動的攻擊路徑，儘管建置成本偏高，但這是保護核心無形資產目前最可行的途徑。
企業版API服務與自建RAG架構
其次，針對具備商業敏感性但非核心技術的內部資料，例如客戶名單、報價單、內部營運數據，防護策略則側重於契約保障與系統架構控制。企業應選用大型供應商提供的企業版API服務或自建RAG（Retrieval-Augmented Generation，檢索增強生成）架構。在API方案中，供應商通常在服務條款中承諾不會將客戶傳輸的數據用於模型訓練，這在法律層面提供了相當程度的保護。而RAG架構則允許AI模型在回答問題時，先從企業自身的知識庫中檢索資訊，再由LLM進行生成。這種方式能夠確保敏感資料鎖定在企業的受控環境中傳輸，同時兼顧了AI帶來的效率提升，並且成本明顯低於完全的本地端部署。
員工資安教育宣導
最後，對於風險極低的公開資料，如一般文書、語言翻譯、公開資訊摘要，企業可以允許員工使用一般商用的AI工具來最大化生產力。然而，即使在最低風險層級，員工資安宣導仍是不可或缺的環節。企業必須持續教育員工避免輸入任何可能洩露內部代號、系統邏輯或機密流程的資訊，以防範類似Bing Chat的 "Sydney" 事件中，攻擊者透過看似正常的對話，成功套取AI系統隱藏規則的風險。綜合來看，這套分級防禦體系是企業在享受AI帶來的巨大紅利時，可用以守護自身知識資產和營運安全的核心戰略。
資安與營運風險的交叉影響
AI所衍生的資安風險，已不再侷限於技術層面或系統安全問題，更可能直接影響企業營運的穩定性與法遵責任。當模型參數、權重或微調成果發生外洩時，不僅可能造成技術面的安全破口，更可能削弱企業的核心競爭優勢，並進一步引發營業秘密侵害、契約違反及相關民刑事訴訟風險。同樣地，AI介接之API若未妥善控管或遭濫用，則可能導致服務品質劣化、系統停擺或運算成本暴增，甚至觸發服務中斷，對企業品牌聲譽與客戶信任造成直接衝擊。
更嚴重的是，AI系統若輸出錯誤或偏差結果，可能在製造、金融、醫療、交通或保險等高風險應用場域造成實質人身或財產損害，進而引發違約與責任爭議，而這些往往同時構成資安、法遵合規與營運風險之交織，尤其在API濫用更可能導致模型生成違反法令或內部政策之內容，進而監理機關介入、行政裁罰或其他違規，而損及企業品牌聲譽與客戶信任。由此可見，AI風險已呈現高度跨域與連鎖特性，企業若未加以整合治理，將難以有效因應其外溢之影響。
資安完善與AI安全防護之對策
面對上述風險，企業應將AI模型、訓練資料、參數權重及微調成果視為高度敏感之資產，並比照關鍵基礎設施或核心資訊系統予以全面保護，具體而言，應包括採用資料與模型之加密、嚴格的身分驗證、存取控制與分層權限管理，以降低被濫用之風險。此外，在技術防護層面，企業亦應亦應導入專屬於AI系統之安全測試與監控措施，例如定期實施對抗性測試（Adversarial Testing）、紅隊攻擊演練（Red Team Exercise）、模型反推（Model Inversion）、資料投毒（Data Poisoning）等新型態攻擊情境，藉此評估模型在實務運作中的痛點。
同時，透過輸入驗證、輸出監控與異常行為偵測，此可即時識別及早發現潛在漏洞與惡意操作，以避免服務中斷、模型失真或運算資源遭不當耗用之風險。最後，建置完善的事故回應計畫亦屬不可或缺，除技術層面的即時應變外，亦須同步規劃法律上要求的通報程序，例如資料外洩通知義務與監管機關回報機制，以確保在事故發生時能有效降低損害。
二、企業內控之AI治理（AI Governance）架構
1. 將AI治理政策作為企業導入AI的核心基礎
建立AI治理架構，是企業導入AI不可或缺的前提，其目的在於整合法遵、風險管理與技術運作，形成持續且可問責的制度運作。關於AI治理政策（AI Governance Policy），首先應明確界定業界自己就其AI的使用範圍與目的，避免應用脫離原業務目標。同時，企業亦得參考最高標之歐盟的AI法案（AI Act）所建立風險分級制度[1]，了解自己的產品或服務會被納入哪個等級，然後以此高標作為檢視基礎，因應採納相關的機制，以利後續採取差異化的審查、監控與責任配置。
在此基礎上，AI生命週期管理亦屬核心，涵蓋模型的建置、測試、驗證、部署、監控及退場機制，確保AI系統在全生命週期內皆受到治理與監督。此外，治理政策亦應明文納入AI的透明度、可解釋性與公平性標準，並確立人機協作或人工覆核機制（Human-in-the-Loop），即在關鍵或高風險決策中，必須保留人類最終決策與責任歸屬。
2. AI內部治理架構與決策責任分配
在組織層級上，企業應檢視是否已設立專責的AI治理或風險管理機制，例如AI風險委員會、審查小組或倫理委員會，以確保AI導入與運作不僅是技術或產品部門的決策，而且也是納入公司整體治理體系的一環。此外，企業應制定明確的AI使用政策（AI Use Policy），清楚界定哪些情境可以使用AI、哪些行為受到限制，並配合風險等級制度，對不同類型的AI系統施以相應的內部審查與監控強度。如此，企業不僅能降低技術與法律風險，也能確保AI的應用符合組織價值與社會責任。
3. AI透明度與對外揭露義務
AI透明度已成為多國法規與監理實務中的共同要求。企業在導入AI系統時，應評估是否有向客戶、消費者或員工揭露AI參與程度的義務，尤其是在涉及自動化決策或重大權益影響的情境下，更需避免隱匿AI的實際角色，以確保決策過程的公開性與可信度。因此，產品或服務是否需標示「AI生成」或「AI協助決策」，不僅是資訊揭露問題，更可能涉及消費者保護、誠信義務與公平交易等法律責任。若企業未能適當揭露，可能面臨監管調查、民事訴訟甚至聲譽受損。
4. 可解釋性與高風險AI的合規要求
可解釋性是AI治理中承接透明度與責任歸屬的重要環節。企業必須評估其AI系統是否能提供合理且可理解的決策理由，並在判斷錯誤或引發爭議時，能回溯其決策流程與關鍵影響因素。唯有如此，才能確保AI的運作具備問責性與可審查性。特別是高風險AI系統（如醫療診斷、金融授信、交通控制或保險定價），更需檢視是否符合歐盟的AI法案等國際法規對可解釋性的要求。若企業未能提供足夠的解釋能力，在監管查核或司法審理中，將可能處於舉證不利的地位，甚至面臨法律責任與商業信任危機。
5. AI安全性與模型風險的治理挑戰
除合規與倫理議題外，AI系統本身亦面臨多樣化的安全風險，包括前述之提示詞注入攻擊，還有如模型中毒（Model Poisoning）、越獄（Jailbreak）、對抗性攻擊（Adversarial Atack）、敏感資訊誘導洩露（Data Leakage）、AI供應鏈安全（Supply Chain Security）、AI代理被誘導超越授權行為（Agent Overreach）以及API安全與權限控管等。這些風險不僅影響系統效能，更可能導致資料外洩、違法輸出或企業責任擴大。因此，業者應建立相應的防護措施，例如監控可疑輸入行為、設置防啟動機制（Guardrails），並定期進行安全評估，將AI安全視為整體資安治理的一環。
6. 企業治理與內控制度中的政策面要求
在企業治理與內控層面，導入AI不應僅限於技術部門的操作，而需透過制度化、政策化的治理機制來落實。企業應建立完整的AI使用內部規範，並結合資料治理政策與AI風險評估，以確保AI系統於設計、部署與運作各階段，皆符合企業風險之可承受度。此外，可建立明確之資料分類制度（如機密、敏感與公開資料），並據以設定AI使用範圍與存取權限，落實資料治理與風險控管。配合定期之員工AI 合規教育訓練、內部稽核與使用行為監督機制，方能確保相關政策不僅止於書面規範，而能實質內嵌於企業日常營運與內控制度之中。
7. AI導入過程中常被忽略的隱形法律風險
最後，導入AI過程中，企業往往容易忽略若干隱形卻高度關鍵的法律風險。例如，模型偏差（Bias）可能引發歧視責任，尤其在招聘、金融授信或醫療決策等場域，若演算法造成系統性差別待遇，就可能違反AI法案與GDPR的反歧視規範[2]。同時，AI行為若缺乏可預測性與再現性，將影響法律上的注意義務之判斷。此外，雲端依賴風險亦不可忽視，若過度集中單一供應商，可能導致業務連續性問題。至於AI幻覺所導致的錯誤或不實資訊，可能直接轉化為侵權或不實表示責任，特別是在上述金融、醫療或法律諮詢等高敏感領域。
三、企業導入AI落地式合規治理建議 -- 實務步驟
企業在導入AI時，若僅停留於政策宣示或單點合規，往往難以真正降低營運與法律風險。因此，宜採具防禦效果之「落地式」的合規治理策略，將技術、合規、資安與法務、流程實際嵌入AI導入的每一個階段。以下為企業在實務上優先應對的法務與治理行動架構。
1. 治理架構與責任配置：從組織面確立AI決策
企業首先應制定AI治理章程，明確AI發展原則、倫理準則、問責架構與風險容忍度，並建立清楚且具實權的治理架構，例如成立跨部門的AI治理小組（AI Governance Board），由資料、產品、合規、資安、風控、法務及人資等單位共同參與，以避免AI決策僅由技術部門單獨主導。此一治理小組除負責重大AI導入決策與風險審查外，企業亦應指定單一負責人，明確其決策權限、風險歸屬與內部通報流程，藉此在建立清楚的責任鏈，避免日後發生責任模糊或相互推諉的情形。
2. 分階段風險評估與導入流程：將合規嵌入產品生命週期
企業應建立嚴謹的AI生命週期管理制度，將合規檢查嵌入從需求評估、數據準備、模型開發、測試驗證、部署監控到系統退役的每一個環節。為有效控制風險，得採取三階段導入模式：概念驗證（Proof-of-Concept, PoC）、試點（Pilot）到正式生產（Production）等階段，而非一次性全面上線。在此過程中，每一階段均應完成必要的合規與風險檢核，包括法務與IP智財審查、資安評估，以及在涉及個資時所需的DPIA（Data Protection Impact Assessment，資料保護影響評估）。此外，企業需在早期就介入演算法的公平性與偏差測試，並針對高風險應用場景預設人機協作或人工覆核機制，以確保關鍵決策始終保留由人類進行最終把關的空間。
3. 資料與模型治理文件化：建立可稽核的合規證據鏈
為確保合規不流於形式，企業必須建立具備可稽核的資料與模型治理文件制度，詳實記錄AI系統的使用目的、適用範圍、訓練資料來源、測試方法以及測試結果。對於既有或擬使用的資料集，應進行來源審核與授權確認，並說明其代表性與可能存在的偏差風險。同時，無論是自建模型、第三方模型或開源模型，均應納入授權與合規審查範圍，確保訓練資料與模型本身不致引發智權糾紛。舉例來說，2023年「紐約時報」控告OpenAI與微軟侵權一案中表露無遺，該訴訟的核心爭議，即在於AI模型是否在未獲授權的情況下，使用了大量受版權保護的新聞內容進行訓練。此案例警示企業，若缺乏透明的合法授權證據，將可能面臨法律追訴風險，證明建立「合規證據鏈」是企業防禦智財爭議的必要手段。
4. 可追溯性與持續監管：確保事後可檢驗與可問責性
系統上線並非治理的終點，企業仍需建立完善的可追溯與監管機制。包括訂立緊急事件的通報與回應程序，特別是涉及資料外洩或重大風險時，須同步考量法務上的通報義務。此外，亦應建置文件化的審計機制、決策日誌與變更紀錄，確保關鍵輸入、輸出與模型更新皆可被事後追溯，用以支援內部稽核、外部監理或責任釐清。同時，必須制定明確的緊急應變程序與持續監控機制，一旦偵測到資料外洩、嚴重偏差或模型效能衰退，系統能即時觸發警示並啟動修正或停用機制。
舉例來說，2021年美國房地產巨頭Zillow，由於過度依賴AI估價演算法Zestimate進行房屋買賣業務，卻未能在房市波動加劇時，及時偵測到模型預測能力發生「模型飄移」(model drift)[3]，導致系統持續建議以高於市場行情的價格大量收購房產。最終，Zillow因缺乏即時的異常監控與停損機制，蒙鉅額虧損。此案例鮮明地警示，若缺乏對運行中模型的動態監控與強制介入機制，失效的AI將迅速轉化為難以彌補的財務黑洞。
5. 契約與外部關係管理：以合約分散與移轉AI風險
鑑於多數AI應用高度仰賴外部供應商、雲端API或第三方資料，企業應透過契約條款來轉嫁與分散風險。實務上，與主要供應商簽署完整的「資料處理協議」（Data Processing Agreement，DPA）與「服務層級協議」（Service Level Agreement，SLA），明確要求供應商提供合規與授權保證。特別是在訓練資料或模型時，契
約中應納入資料授權與保證條款（Data License & Warranties），並在測試與驗收標準中加入反歧視與公平性檢驗要求，最好是與資料提供者、技術供應商合約中，明確約定第三人主張侵權時的賠償與補償條款（Indemnity Clause），以降低訴訟風險。同時，契約中亦應清楚規範責任分配、資安義務與緊急事件通報條款，並視風險評估結果，考慮投保AI或科技專業責任保險（E&O），為潛在的賠償責任建立最後一道防線。
6. 內部建構與教育訓練：讓合規成為組織能力而非單點控制
企業導入AI的合規治理不能僅仰賴法務部門事後審查，而必須透過分層教育訓練，將風險意識內化為全體員工的直覺反應，以確保法務與業務人員理解AI的技術限制（如幻覺風險）與責任範圍。同時，讓工程與產品團隊熟悉相關法規、合約要求及公平性原則，從源頭降低違規或誤用的可能性。此於2023年著名的「律師引用假判例案」（Mata v. Avianca）中表露無遺。當時紐約一名律師Steven Schwartz因不了解LLM的「幻覺」特性，直接使用ChatGPT撰寫法庭陳述書，導致文件中引用了六個完全虛構的司法判例。最終，該律師不僅面臨法官的嚴厲制裁與罰款，職業聲譽更毀於一旦。此案例深刻警示，若組織缺乏對AI工具本質與限制的基礎教育，即便是專業人士也可能因誤用工具，而釀成嚴重的法律與信譽災難。
7. 建議整體執行順序 -- 實務操作路徑
綜合上述，較為可行的實務導入路徑為：先行完成資安、供應商與資料的盡職審查（DD），再進行DPIA資料保護影響評估與整體治理架構設計。在正式上線前，宜啟動小規模試點並搭配人類覆核機制，同步完成文件化、契約調整與監測制度建置，然後才進入正式部署並維持常態化的合規審查。然而，這套流程並非僵化的公式，企業應視其自身條件而定，例如考量公司規模、產品或服務性質、經營目標、企業文化、既有內控制度與治理架構，以及內部員工對新科技接受程度與適應能力等多項因素，進行整體評估與判斷。唯有依據實際需求量身打造 AI 實施計畫，避免盲目生搬硬套他人的成功經驗，才能防止引發額外的制度衝突或組織摩擦，確保技術轉型不致淪為行事方法錯誤，導致問題惡化的風險泥淖。
小結：企業導入AI之風險治理轉型與法制內控之關鍵定位
綜合前述分析可知，企業導入AI已非單純的技術升級，而是一項涉及資安防護、資料治理、責任分配與法律風險控管的整體治理轉型工程。由於AI系統高度依賴海量資料、演算法與第三方供應鏈，其運作模式往往突破既有資訊安全、內控與法遵架構，使企業面臨資安漏洞擴大、個資與營業秘密外洩、模型偏差與歧視、以及責任不明確等多重治理挑戰。若仍以傳統IT管理或既有內控機制因應AI發展，勢將產生落差甚至形成治理真空。
基於此，企業推動AI落地應用時，首要任務在於將「AI風險治理」內嵌於公司治理與內控制度之中，而非僅視為技術部門之專責事項。企業應從模型與資料生命週期為核心，建構涵蓋資料蒐集、訓練、部署、運作與持續監控之縱深防禦體系，並納入第三方供應商風險管理、雲端與API使用控管，以及與資安事件之通報與回應義務，以避免風險集中與系統性外溢。此一治理思維亦呼應近年國際監理趨勢，強調供應鏈透明度與營運韌性。
在合規與法律風險層面，AI所涉及的責任問題，已不再僅限於個資保護或著作權法議題，而是橫跨公平交易、消費者保護、勞動法、金融監理與侵權責任等多元法域。企業若未事前建立AI風險分級、用途界定與影響評估機制（如AI Impact Assessment），一旦系統造成歧視、錯誤決策或重大損害，將難以釐清責任歸屬，甚至可能引發董事與高階管理層之治理責任與監督義務問題。是以，將AI納入董事會層級之監督範疇，並明確劃分資訊、內控、業務與法務單位之角色分工，已成為企業治理之重要趨勢。
進一步而言，AI治理的核心不在於「消除或禁止風險」，而在於建立一套可被審計、可被問責、且可隨技術與環境動態調整的治理架構。企業應透過制度化的政策文件、內部準則與持續教育訓練，使AI的使用目的、決策邏輯與風險界限得以被理解、記錄與控管，從而提升組織整體的法遵成熟度與社會信任基礎。此種以人為本、風險與責任導向的AI治理模式，不僅有助於降低法律與聲譽風險，亦將成為企業在數位競爭與國際市場中建立可信賴AI的重要基石。
總結而言，當前企業面臨的關鍵挑戰，已不在於「是否使用AI」，而在於「是否具備有效治理AI的能力」。企業在導入AI時，已無法僅將其視為提升效率或推動創新的工具，而必須整合將AI納入整體資安防護、法遵建置、內控制度與風險治理架構之中。從技術設計、組織控管到法律責任配置，全面評估並回應AI所帶來的新型資安與合規風險。唯有透過的整合，並將AI納入公司治理層級之監督與決策架構，企業方能在創新與風險之間取得實質平衡，並於快速演變的科技與法制環境中，確保永續發展與治理正當性。(10123字；圖1)
[1] 歐盟《AI法案》對AI進行全面監管，其採用基於風險等級（risk-based classification）：1.不可接受的風險（Unacceptable Risk） - 全面禁止。2.高風險（High Risk）- 嚴格管制：事前合規並需持續監管。3.有限風險（Limited Risk）- 有條件管制，具一定透明度與告知要求。4.低風險（Minimal Risk）- 原則不干預：大部分不受監管的常規應用。
[2] GDPR Article 22(1) 資料主體有權不受僅基於自動化處理（包括個人建檔including profiling）所做成而對其產生法律效果或類似之重大影響之決策所拘束。
[3] 在機器學習與深度學習的應用中，常會遇到一種使用情境：在模型上線使用一段時間後，模型的表現會隨著時間的推移而下降，這情況稱為「模型飄移」。常見的模型飄移發生原因，為近期新的模型輸入資料，與之前訓練模型所使用的資料(稱為訓練集Training Data)，兩者的資料分佈或與目標變數(Target Variable)的關係發生了改變。Github, https://github.com/YenLinWu/Model_Drift
作者資訊：
陳家駿 台灣資訊智慧財產權協會 理事長
許正乾 因子數據股份有限公司 共同創辦人
參考資料：
Artificial Intelligence and Cybersecurity: Balancing Risks and Rewards. World Economic Forum, 2025/1/21
Artificial Intelligence Risk Management Framework (AI RMF 1.0). NIST, 2023/1
The Complete Guide to Enterprise AI Governance. Liminal AI, 2025
The enterprise guide to AI governance. IBM, 2024/10/17
Best Practices and Frameworks for AI Governance. Anukriti Ganesh, 2025/11/5
AI governance: a systematic literature review. SPRINGER NATURE Link, 2025/1/14
Cybersecurity Governance Models for AI-Driven Enterprises. ResearchGate, 2023/12
Global artificial intelligence governance research in the digital and intelligent era: advances, trends and countermeasures, Emerald Insight, 2026/1/6
Artificial intelligence for cybersecurity: Literature review and future research directions. ScienceDirect, 2023/9
MIT report: 95% of generative AI pilots at companies are failing. Fortune, 2025/8/18
Issues beyond ChatGPT use were at play in fake cases scandal. Legaldive, 2023/6/12
麻省理工報告：95％企業導入AI都失敗，誰活在平行時空？遠見，2025/8/27
The GenAI Divide STATE OF AI IN BUSINESS 2025. MIT, 2025/7
以ChatGPT強化的Bing遭使用者誘騙，洩露工程代號及機密。iThome，2023/2/13
過度仰賴演算法的巨大代價—Zillow。數位時代，2021/12/22
--------------------------------------------------------------------------------------------------------------------------------------------
【聲明】
1.科技產業資訊室刊載此文不代表同意其說法或描述，僅為提供更多訊息，也不構成任何投資建議。
2.著作權所有，非經本網站書面授權同意不得將本文以任何形式修改、複製、儲存、傳播或轉載，本中心保留一切法律追訴權利。
|