認知安全之發展趨勢與研究策略：因應數位社會資訊威脅的新方向
科技產業資訊室(iKnow) - 謝采燁 發表於 2026年7月2日
圖、認知安全之發展趨勢與研究策略：因應數位社會資訊威脅的新方向
人工智慧（AI）、社群媒體（SNS）及各類數位資訊服務迅速擴展，人類社會在享受資訊高度流通的帶來便利的同時，也面臨生成式AI、深度偽造（Deepfake）、假訊息、網路釣魚及輿論操弄等新型態威脅。這些威脅不再僅以資訊系統或設備為攻擊目標，而是直接利用人類的認知偏誤、心理弱點及決策機制，影響個人、組織乃至整個社會的判斷與行為。日本JST研究開發戰略中心（CRDS）提出「認知安全（Cognitive Security）」戰略，旨在因應數位社會資訊大量流通的環境，協助資訊服務使用者進行自主且理性的決策，並保護個人及社會免受惡意資訊及偏頗資訊所造成的影響。主張建立以保護人類認知為核心的新型安全研究架構，協助使用者在數位社會中維持自主且正確的決策能力。
本戰略首先指出，現行資安防護多著重於資訊系統遭受攻擊前的預防措施，例如透過黑名單、AI辨識模型或網站封鎖等方式阻止惡意資訊傳播。然而，大量真假難辨的生成式AI內容透過SNS廣泛擴散，許多威脅已突破既有防護機制。另一方面，SNS的演算法亦容易形成「過濾泡泡（Filter Bubble）」及「回音室效應（Echo Chamber）」，針對人類「認知脆弱性」使使用者更容易持續接觸特定且偏頗的資訊，資訊同質化的情況日益加劇接觸多元資訊的機會將減少，恐有進一步加劇偏見與社會對立之情形。有鑒於此，未來研究不應僅著眼於阻止惡意資訊傳播，更應深入了解人類如何受到資訊影響，以及如何降低認知弱點遭利用的風險，建立兼顧資訊科技與人類心理的認知安全防護機制。
CRDS認為，目前相關問題已從個人層面擴大至社會與國家層級，例如釣魚郵件及網路詐騙持續增加，AI被廣泛應用於製作高擬真詐騙內容；深度偽造影片及假新聞降低民眾辨識真假的能力，甚至有影響金融市場、災害應變及民主選舉之疑慮。SNS上的假訊息、偏頗資訊及敘事操弄（Narrative Manipulation），更可能形成社會分裂，甚至成為國家安全的重要挑戰。因此，資訊安全已由傳統保護系統與資料，逐漸延伸至保護人的認知能力與社會信任機制，認知安全將成為未來資訊安全的重要發展方向。
為達成上述目標，提案提出兩項核心研究開發課題。第一項為建立數位社會中人類認知弱點的系統化架構，藉由建構「認知安全認知地圖（Cognitive Security Cognitive Map）」整理各種認知偏誤、心理因素與資訊威脅之間的關聯，進一步分析不同認知弱點形成原因，建立可模擬人類決策過程的認知模型，以預測未來可能出現的新型資訊威脅，使安全防護由被動回應轉向主動預測。第二項則是依據第一項研究成果，發展各種實際防護技術，包括依照不同使用者特性提供個人化防護、設計能主動提醒或協助辨識冒名詐騙的互動機制，以及發展因應敘事操弄、深度偽造與假訊息的新型防護方法，提升使用者面對資訊時的自主判斷能力。
未來資訊安全的核心已不僅是保護資訊系統，更重要的是維護人類在數位環境中的自主判斷能力。透過建立認知弱點研究基礎、發展新型防護技術、促進跨領域合作及推動長期研究布局，可逐步形成完整的認知安全生態系，降低假訊息、AI詐騙及資訊操弄對個人、社會與國家造成的影響，並建立可信賴且具韌性的數位社會。（1211字；圖1）
參考資料：
人々とAIの協調による“人々のためのセキュリティ活動”への進化。NTT株式会社，2025/9
情報攻撃にさらされる時代に注目「コグニティブセキュリティー」とは？Newswitch，2023/2/14
コグニティブセキュリティー～デジタル社会における自律的な意思決定の支援～CRDS，2026/3
--------------------------------------------------------------------------------------------------------------------------------------------
【聲明】
1.科技產業資訊室刊載此文不代表同意其說法或描述，僅為提供更多訊息，也不構成任何投資建議。
2.著作權所有，非經本網站書面授權同意不得將本文以任何形式修改、複製、儲存、傳播或轉載，本中心保留一切法律追訴權利。
|