前瞻技術脈動：AI與機器人技術（202517）

關鍵字：；；；；；；；；

瀏覽次數：1072｜歡迎推文：

科技產業資訊室(iKnow) - 技術發展藍圖研析團隊發表於 2025年6月11日

圖、前瞻技術脈動：AI與機器人技術（202517）

Apple將ChatGPT引入iPhone進行人工智慧改革
蘋果公司在2024年度開發者展示會上宣布，將與OpenAI合作，把ChatGPT整合到Siri語音助手和操作系統中，以提升其能力，這是蘋果試圖在全球AI競賽中迎頭趕上的一項舉措。這個新的個性化AI系統被稱為「蘋果智慧(Apple Intelligence)」，將成為每個應用程式和蘋果產品的一部分，類似於微軟的AI助手Copilot，但使用者不需支付額外費用，並可提供更便捷的蘋果設備操作方式。蘋果的iPhone和Mac操作系統更新後將允許下載OpenAI的ChatGPT，這將被用來增強其他工具，包括文稿修改和內容生成，測試版預計在秋季提供。然而，Tesla和Twitter/X的老闆馬斯克因「資訊安全」問題，不允許這些公司使用搭載OpenAI的iPhone。蘋果決定整合OpenAI的ChatGPT技術，引發了廣泛討論。對於一向嚴密保護自己產品的蘋果來說，這是一個不尋常的舉動。多年來，蘋果一直拒絕讓用戶從App Store以外的地方下載應用程式，也不允許使用非Safari瀏覽器，直到歐盟法律迫使其改變。這是否意味著蘋果現在無法與ChatGPT競爭？關於人工智慧巨頭OpenAI的實力值得持續觀察。
參考資料：Apple brings ChatGPT to iPhones in AI overhaul. BBC News. 2024/06/11.

AI語音轉文本可產生暴力語言幻覺
康奈爾大學的研究團隊發現，OpenAI的語音轉文字系統Whisper在處理語速緩慢且有長時間停頓的語音時，可能會生成不存在的暴力語言或虛構的個人信息。研究中指出，Whisper在處理有語言障礙者的語音時，幻覺現象更為常見，導致誤認為真實語音的虛假內容，可能對AI應用於人力資源、法庭審判或醫療記錄等情境造成重大影響。研究團隊分析了超過13,000段來自AphasiaBank資料庫的語音片段，發現約有1%的轉錄內容包含完整的幻覺短語，甚至包含虛假的網站或不相關的語言，相關研究成果已發表於《arXiv》期刊中。
參考資料：AI speech-to-text can hallucinate violent language. TechXplore. 2024/06/11.

「機器人」一詞在社群媒體上越來越廣泛被應用作為侮辱性的用詞
研究人員發現，在社交媒體上稱某人為「機器人」的用法已從暗示他們是軟件程序演變為對人類的侮辱。雖然算法試圖透過檢測典型的自動帳戶行為模式來辨識社交媒體機器人，但其準確性尚不確定。分析2007年至2022年的推特數據後，研究顯示，自2017年以來，「機器人」一詞越來越多地被用來貶低和侮辱個人，這種用法往往帶有政治動機，左翼傾向的用戶更可能指責右翼傾向的個人是機器人。
參考資料：The word ‘bot’ is increasingly being used as an insult on social media. New Scientist. 2024/06/10.

GPT-4自主駭入零日安全漏洞的成功率達53%
研究團隊先前證明，GPT-4 能使用公共漏洞和暴露(Common Vulnerabilities and Exposures,CVE)列表，自主駭入87%具嚴重性的一日（或N-day）漏洞。由University of Illinois Urbana-Champaign研究團隊發表於《arXiv》的論文預印本指出，GPT-4使用階層式規劃(Hierarchical Planning)與工作特定代理(Task-Specific Agents)方法(HPTSA)來協調一組自我繁殖(self-propagating)的機器人團隊，能以53%的成功率自主駭入零日安全漏洞。與單一大型語言模型(LLM)代理在處理複雜任務時遭遇的困難不同，HPTSA使用一個「計畫代理」(planning agent)來管理和分配任務給專門的「子代理」(subagent)，顯著提高了效率。在涉及15個實際網路漏洞的測試中，該方法比單一LLM代理效率高出550%，成功破解了15個零日漏洞中的8個，而單獨的LLM代理只破解了3個。研究成果強調了透過自主系統提升網路安全的潛力，以及此類技術被惡意使用的風險。儘管如此，GPT-4的聊天機器人模式仍無法自行利用漏洞，為其道德界線提供了一定的保障。(1200字；圖1)
參考資料：GPT-4 autonomously hacks zero-day security flaws with 53% success rate. New Atlas. 2024/06/08.

歡迎來粉絲團按讚！

--------------------------------------------------------------------------------------------------------------------------------------------