綠盟科技入選首批“人工智能安全可信護航計劃”合作伙伴單位

近日，北京人工智能產業創新發展大會成功召開，國家工業信息安全發展研究中心聯合北京市門頭溝區政府、中關村發展集團、華為技術有限公司等共同發起了“人工智能安全可信護航計劃”，旨在聯合有關單位共同探索人工智能安全可信管理技術和方案。綠盟科技以自身在AI安全領域的多年積淀和突出能力，榮幸入選首批31家企業在內的合作伙伴成員單位，未來將參與AI安全可信相關理論研究、標準制定、評估評測等工作。

ChatGPT的爆火引發了社會各界對于人工智能未來的無限憧憬，但正如點亮現代科學史的核子技術既能提供無限能源也能成為毀滅武器一樣，任何事物都有其“雙面”性。如何保證人工智能被真善美應用是世界范圍內關注的焦點，G20先前已提出“G20 人工智能原則”，美國會議員近期也考慮對ChatGPT加強監管。

不可否認，人工智能存在潛在甚至未知的諸多風險，如機器學習框架存在漏洞，深度學習算法可解釋性差、數據易被污染、模型魯棒性弱、帶有偏見性、可能泄露隱私等，因此其安全性本身依賴創新技術來保證。綠盟科技多年來持續進行AI安全研究投入，在AI模型的魯棒性增強、AI系統安全防護、AI應用安全、AI系統的安全性評估與測試等創新技術領域研究儲備豐厚。基于這些能力，綠盟科技近年來承擔了包括人工智能魯棒性增強與安全測試、人工智能應用安全檢測及保護、人工智能安全監測與風險預警等多個方向的國家級科研項目。

一直以來，綠盟科技積極融入AI安全生態。入選本次護航計劃合作伙伴單位后，將堅持致力于全方位守好智能世界“安全底牌”，為人工智能系統和應用發展保駕“護航”。