與歐洲刑警組織及聯合國區域犯罪與司法研究院共同揭露 AI 威脅及反制建議

香港 - Media OutReach - 2020年11月20日 - 歐洲刑警組織（ Europol ） 、聯合國區域犯罪與司法研究院（ UNICRI ） 及 趨勢科技 今天發佈一份共同製作的研究報告，揭露歹徒如何利用今日的人工智能技術來犯案，並預測未來的可能發展。 報告點出了今日與未來一些可能運用 AI 技術的網絡攻擊，並提供相關建議給執法人員、政策制定單位以及其他機構，讓他們了解如何降低這類風險。

歐洲刑警組織網絡犯罪中心主任 Edvardas Šileris 表示：「 人工智能 為世界提升了效率、自動化與自主性。然而，隨著大眾對 人工智能被 濫用的疑慮不斷提高，我們有必要公開揭露這些威脅，並探討 人工智能 技術的一些發展潛力。這報告不僅有助我們預測 人工智能 可能會如何被濫用，也可以協助我們主動防範並降低這些威脅，如此才能真正釋放 人工智能 的潛力，讓 人工智能 系統發揮正面影響力。」

報告結論指出， 人工智能 既是網絡犯罪集團的攻擊手法，也是攻擊目標。雖然 Deepfake 是目前最為人熟知的 人工智能 攻擊手法，但我們未來仍然需要新的偵測技術來防範假訊息攻擊與網絡勒索，並防範專門以 人工智能 資料為目標的攻擊。

人工智能 可能 被 歹徒利用的方式包括：

• 製造難辨真偽的大規模社交工程攻擊。
• 開發文件內容辨識惡意程式以提升攻擊效率。
• 躲避影像辨識與語音生物辨識技術。
• 勒索程式攻擊，利用人工智能來篩選攻擊目標並躲避偵測。
• 資料污染，發掘偵測規則中的盲點。

UNICRI 人工智能與機器人中心主任 Irakli Beridze 指出：「隨著 人工智能 應用程式開始對現實世界發揮重大影響，它顯然將成為我們未來技術的基礎。然而，如同 人工智能 對人類社會具體而真實的貢獻一樣，其受到歹徒不法濫用的威脅也同樣存在。我們很榮幸能與 Europol 及趨勢科技合作，共同揭露人工智能技術的黑暗面，希望能藉此發揮拋磚引玉效果，激發更多關於這項重大議題的討論。」

此外，報告也警告，歹徒正開發一些 人工智能 系統來提升惡意程式的成效，並干擾惡意程式防護與臉部辨識系統的運作。

趨勢科技香港澳門區顧問總監李浩然表示：「網絡犯罪集團一直都搶先使用最新技術，而 人工智能 技術也不例外。正如報告指出， 人工智能 已經被用於猜測密碼、破解 CAPTCHA 認證、複製人類語音，以及其他眾多開發中的非法技術。我們很榮幸能與 Europol 及 UNICRI 攜手合作，共同提升大眾對這些威脅的認知，為人類打造一個更安全的數碼前景。」

以下是三家機構在結論中提供的幾項建議：

- 發揮人工智能的潛力，讓它成為打擊犯罪的工具，也讓網絡資訊保安產業與執法機關跟上時代洪流。

- 透過不斷研究來激發更多防禦技術的發展。

- 提倡並發展安全的人工智能設計架構。

- 減少政治化，讓人工智能應用於網絡資訊保安用途。

- 透過公私部門合作來建立跨領域專家群組。

參考完整報告： https://www.trendmicro.com/vinfo/hk/security/news/cybercrime-and-digital-threats/exploiting-ai-how-cybercriminals-misuse-abuse-ai-and-ml 。

關於 Europol 的歐洲網絡犯罪中心（EC3）

Europol 於 2013 年成立歐洲網絡犯罪中心（European Cybercrime Centre，EC3）來強化歐盟在網絡犯罪領域的執法力道以保障歐洲人民、企業及政府機關安全，免於網絡犯罪的危害。其工作重點是歐盟境內那些獲利龐大（如網絡詐騙）、嚴重傷害受害人（如網絡兒童性剝削）或是破壞重大基礎建設與資訊系統的組織性網絡罪行，包括網絡攻擊在內。Europol EC3 自成立以來即一直為打擊網絡犯罪而作出重大貢獻，參與了數百宗重要行動、多次支援現場行動部署，並協助了數以百計的拘捕行動。https://www.europol.europa.eu/about-europol/european-cybercrime-centre-ec3

關於 UNICRI

聯合國區域犯罪與司法研究院（UNICRI）成立於 1968 年，致力在其廣大轄區內透過各種研究、教育培訓、調查以及資訊蒐集、交換與傳播來促進犯罪防治、司法與新興資訊保安威脅政策的提升與落實，並適度地將這些政策納入更大的政策下，帶動社會與經濟的變革與發展，達成捍衛人權的目標。

2017 年，UNICRI 在荷蘭海牙成立了人工智能與機器人中心（Centre for Artificial Intelligence and Robotics），努力提升人類對人工智能、機器人與相關技術在犯罪防治、司法、法治及安全領域的了解。目的是要分享這些技術在良性應用上的潛力，協助消除任何不良影響與不法用途。www.unicri.it

關於趨勢科技

趨勢科技為網絡資訊保安方案全球領導廠商，致力建立一個安全的資訊交換世界。我們專為消費者、企業及政府機構設計的創新方案，能為數據中心、雲端環境、網絡及用戶端裝置提供多層式安全防護。我們的產品皆彼此整合、共享威脅情報，提供環環相扣的威脅防禦與中央化視野及監控能力，實現更好、更快的防護。趨勢科技全球共 6,000 多名員工遍佈 50 多國，並擁有全世界最先進的全球威脅情報，能妥善保護您的連網世界。如需更多資訊，請至：http://www.trendmicro.com.hk 。