【為什麼我們要編譯這篇文章】AI 解決方案全球滿地開花，利用高速精準運算的特性，能有效創造企業營收與營運效率。但 AI 好用卻也容易受騙，只要在訓練資料中參雜一些「雜質」或進入後台調整一些參數，就能有迅速破壞企業決策。

一家捷克新創 Resistant AI 開發機器學習產品，將幫助 AI 企業找出 AI 時代的資安新解方。（責任編輯：陳伯安）

隨著金融科技發展進步，許多交易、運算工作都交由 AI 系統來進行自動決策，也因全球走入數位化時代，預防網路駭客惡意攻擊的事前資安（Cybersecurity）準備顯得格外重要。 需要警惕的是，駭客也與時俱進，開發針對 AI、機器學習為攻擊目標的新時代網攻手段，致使企業面臨機密竊取、營運停擺的風險。

捷克ㄧ家資安新創 Resistant AI 致力於開發機器學習技術，以部署至 AI 決策系統上，以抵禦對抗式機器學習（Adversarial Machine Learning）、進階詐騙、目標性操弄等攻擊方式。據 TechCrunch 報導 ，Resistant AI 已獲得 275 萬美元種子輪融資，約 8,250 萬新台幣。

針對 AI 模組的資安防護，成高潛力市場

Resistant AI 於 4 月底進行種子輪融資，獲風險投資公司 Index Ventures 及 Credo Venture 領投，成功籌集 275 萬美元資金。Index Venture 的 CEO Jan Hammer 看好 Resistant AI 的潛力，他認為自動化、效率及可靠性是金融革新最根本的基石，隨著金融決策逐漸仰賴機器學習運作時，需要受到保護，而且這些攻擊不將只是在金融領域，可能也會快速擴及到其他領域上。

Hammer 透露，因疫情發展催使，未來將會有許多需要線上行為，有心人士已準備好利用這些漏洞進行犯罪，他認為 Resistant AI 解決方案的需求絕對會日益增長。

Resistant AI 的創辦人兼 CEO Martin Rehak 表示，許多企業開始學習如何部署 AI 來幫助生產及運作，相對同時許多駭客及網路罪犯也看到這樣的發展，也正積極尋找如何有規模的獲取利益及盜取金錢，而 Resistant AI 的工作就是要幫助企業保護他們的 AI 及機器學習模組。

Resistant AI 怎麼揪出欺騙 AI 的網攻？

Resistant AI 目前提供兩項主要產品，第一項為 Resistant Documents，可以透過機器學習系統標記、拒絕自動處理過程中出現的惡意或可疑的文檔，駭客有可能會透過不停偽造或更換銀行對帳單、薪資單、發票、購買訂單、KYC 文件（Know Your Customer）的名稱來欺騙演算法驅動的認證系統，企圖開啟銀行帳戶或是批准借貸，Resistant Documents 可以幫助跟拒絕惡意或可疑的來源。

另一項產品為 Resistant Transactions，則是透過 AI 偵測有問題的交易。多數 AI 系統的攻擊，需要透過廣泛的互動才會被發現有弱點，不過 Resistant Transactions 的獨特系統可在所有客戶要求如付款、轉帳或是申請信貸等需求時進行統計性的檢查，來辨認或阻止想要偷取系統模組內資訊、甚至是利用系統既有偏誤來誘導系統做出錯誤決定的攻擊。

創辦人曾開發 AI 資安解方，獲 Cisco 收購

其實 Resistant AI 的新創團隊並非新手，Rehak 及他的團隊曾於 2006 創立資安公司 Cognitive Security，專門提供 AI 資安解決方案對抗網路攻擊，而該公司於 2013 年被網路設備大廠思科（Cisco）收購，成功幫助思科強化資案策略的執行。

Rehak 在網路資安領域工作超過 12 年，他表示網路駭客對於 AI 系統漏洞的破解技術已經越來成熟，這也讓啟發他跟他的團隊創立現在的 Resistant AI 來提供解決方案。

Rehak 透露，目前他們的首要目標客戶是金融企業、金融科技新創，或是在金融交易過程中採用自動化程序的公司，金融系統是他們當前的重點，而跟機器學習相關的攻擊涉及到自動化流程、電子商務、社群媒體中的趨勢偵測演算法等，這次種子投資將幫助 Resistant AI 擴大規模，透過強化產品特色與功能，來達到市場對於金融資安領域的需求。