人機共生時代的挑戰：數位社會中資料保護與社會信賴的治理新模式
科技產業資訊室(iKnow) - 謝采燁 發佈於 2025年6月20日
圖、人機共生時代的挑戰：數位社會中資料保護與社會信賴的治理新模式
《研究開發概觀報告：系統與資訊科學技術領域》由日本科學技術振興機構(JST)旗下研究開發戰略中心(CRDS)編製，旨在對系統與資訊科學技術領域的研究發展現況、未來趨勢及政策需求進行整體俯瞰，為政策擬定與科技投資提供依據。本報告針對人工智慧、機器人、資安等領域進行系統化整理，並提出依各領域提出優先研究主題與政策建議。
在人工智慧與大數據領域，報告指出系統與資訊科學中AI的研究開發方向可分為兩大潮流：「第4世代AI」與「可信任AI」。針對第3世代AI所面臨的問題加以突破，如需依賴大量資料與運算資源、難以靈活應對突發情境、無法進行高階意義處理與說明等，第4世代AI致力於克服深度學習的限制，探索更仿人類化的架構，如基礎模型、二重過程模型與身體性發展模型。另一方面，「可信任AI」則聚焦社會實踐階段中對AI信賴的需求，AI在社會中所需建立的「信任」（Trust）則從多重層面如真實性、資訊內容的可信度、行為可預測性與應對能力等加以綜合建構，需結合技術、制度與人文社會知識。為將第4世代AI與可信任AI的成果真正落實於社會各層面，還需發展一整套支撐社會系統的AI架構，包括大規模運算平台、資料基盤與共享生態系，以及多AI代理之間的分散式協調機制，亦成為重要的研究開發方向。
機器人技術方面，工業用機器人已能長時間準確作業，並開始模仿生物動作。近年「生物混合型機器人」與「身體性感知智慧」成為新興研究領域，機器人技術的發展趨勢從「技術進化」、「實社會應用」進化至「人機共生」，機器人逐步進入家庭與社會，手術機器人與掃地機器人的應用加速落地社會同時，「協作型機器人」的人機之間互動將比以往更加重要，需求也有所提升。因此，本報告強調以「人機共生」為願景，推動感知、操控與身體整合之深度學習與生體混合型機器人技術，建立能適應開放環境的機器人基礎學理，發展「以人為中心的機器人互動技術」列為國家應優先推動的研究開發課題之一。
在基礎設施、數位平臺與服務廣泛滲透社會的背景下，資安與信任的重要性日益提升，面對日益複雜的網路攻擊與供應鏈風險，不僅需要強化用於系統層面驗證重要訊息和系統訪問合法性、訪問權限安全性的「零信任」技術，也須關注影響人類認知與決策的「認知安全」議題。近年來，資訊服務中的「信任」成為新焦點，在保障隱私與促進資料活用之間，需兼顧資料與內容的安全性，面對資訊操控、假訊息與深偽技術等威脅，本報告建議需要建立數位社會中的信任框架，包括零信任架構、身份認證與可驗證數據流，從AI的信賴性延伸至整個數位社會的信任建構，「建立數位社會中的信任」將成為未來的重要發展方向。
《研究開發概觀報告：系統與資訊科學技術領域》不僅描繪日本系統與資訊科學技術的現況與前瞻方向，更呼籲從注重跨領域、文理合一具廣泛性和全面性的「總合知」出發，以技術為核心，融合倫理、社會與制度觀點，推動具社會價值與信任基礎的科技發展，為未來的智慧社會建構明確的藍圖。(1353字；圖1)
參考資料：
ゼロトラストとは～従来型セキュリティモデルとの違い～。NRI Secure
研究開発の俯瞰報告書 システム・情報科学技術分野。CRDS/JST，2024/9
--------------------------------------------------------------------------------------------------------------------------------------------