開發下一代網絡安全技術！白宮發起人工智能網絡安全挑戰賽

本周四，在拉斯維加斯舉行的BlackHat黑客大會上，拜登政府宣布啟動為期兩年的“人工智能網絡安全挑戰賽”（AIxCC），探索如何基于AI開發顛覆性的下一代網絡安全解決方案，用來保護美國最重要的軟件，包括運行互聯網和關鍵基礎設施的計算機代碼。

用AI開發下一代網絡安全技術

“人工智能網絡安全挑戰賽”由國防高級研究計劃局(DARPA)牽頭，Anthropic、谷歌、微軟和OpenAI合作。兩家公司將為參賽者提供業界最強大AI模型用于設計全新的和顛覆性的網絡安全方案，并為獲勝者提供近2000萬美元的高額獎金。為了確保廣泛的參與和公平的競爭環境，DARPA還將向想要參賽的小企業提供700萬美元經費。

AIxCC的預選賽將于2024年春季舉行，得分最高的隊伍（最多20支）將受邀參加DEFCON2024的半決賽。其中得分最高的隊伍（最多5支）將獲得獎金并繼續進入DEFCON2025舉行的決賽階段。決賽中得分前三名的選手將獲得額外的獎金。

白宮表示，頂級參賽者將開發下一代網絡安全解決方案，為美國乃至全球網絡安全市場帶來意義重大的變革。

根據一份新聞稿，AIxCC挑戰“將展示人工智能的潛在優勢，幫助保護整個互聯網和整個社會使用的（關鍵基礎設施）軟件，從美國的電網到驅動日常生活的交通系統。”

用AI加強關鍵基礎設施軟件安全

白宮科技政策辦公室主任阿拉蒂·普拉巴卡爾(AratiPrabhakar)在媒體吹風會上表示：“這項競賽將吹響號召各類創意人才積極參與加強美國企業和社會關鍵軟件安全的號角。”

普拉巴卡爾指出，近二十年來，DARPA不斷發起此類有獎挑戰賽，以廣泛吸引“企業中有才華的人參與競爭，解決極其困難的問題。這是政府和私營企業共同努力改變未來的發展方式之一，這也是白宮要求DARPA關注網絡安全人工智能這一關鍵議題的原因。”

Linux基金會的一個項目開源安全基金會(OpenSSF)將擔任挑戰顧問，這有助于確保獲勝的軟件代碼立即得到使用，保護美國最重要的軟件和美國人民的安全。

從AI安全到安全AI

DARPA信息創新辦公室項目經理PerriAdams表示，網絡防御者“的任務是保護令人畏懼的技術迷宮，而如今，他們沒有能夠實現大規模安全防護的工具。”盡管當今的IT技術存在大量漏洞，但最先進的人工智能技術在保護代碼方面已經展現出巨大潛力。”

新聞稿補充說，這一聲明是“拜登-哈里斯政府更廣泛承諾的一部分，旨在確保利用人工智能的力量來應對國家面臨的巨大挑戰，并安全、負責任地開發人工智能，以保護美國人免受傷害和歧視。”

上個月，拜登政府獲得了七家領先人工智能公司的自愿承諾，以管理人工智能模型的短期和長期風險。來自OpenAI、亞馬遜、Anthropic、谷歌、Inflection、Meta和微軟的代表在白宮簽署了此項承諾。這些承諾包括確保產品在向公眾推出之前是安全的——在發布之前對人工智能系統進行內部和外部安全測試，以及管理人工智能風險的信息共享。

今年早些時候，拜登政府宣布多家人工智能公司承諾將在DEFCON2023上參與對大型語言模型(LLM)的獨立公開評估（符合負責任的披露原則）。這項活動將于本周晚些時候開始，這也將是網絡安全行業首次對業界最頂尖的大語言模型進行公開評估，這有利于推進更安全、更透明的人工智能開發。

此外，白宮表示正在制定一項行政命令，并將尋求兩黨立法，以幫助美國在全球負責任的人工智能創新方面發揮引領作用。