全球頂級AI廠商一齊測試模型安全性，最大規模的AI黑客大賽即將開啟

自ChatGPT問世并風靡全球以來，這類大型語言模型已經逐漸成為了輔助提高生產力的工具，美國白宮更是直接將人工智能評價為這個時代最強大的技術之一。

同時，美國白宮也表示為了抓住它所帶來的機遇，首先必須降低它的風險，而公司對此負有基本責任，需要確保其產品在部署或公開之前是安全的。就在前不久，美國白宮宣布OpenAI、Google、Antrhopic、Hugging Face、Microsoft、Nvidia和Stability AI等頂級AI廠商將在DEF CON 31上齊聚一堂，開展對其生成式AI系統的公開評測。

DEF CON是全球頂級的安全會議，參會者近萬，除來自世界各地的極客、安全領域研究者、愛好者，還有全球許多大公司的代表以及美國國防部、聯邦調查局、國家安全局等政府機構的官員。

除此之外，據白宮新聞稿，美國國家科學基金會宣布提供1.4億美元的資金給人工智能研發，用于啟動七個新的國家人工智能研究所。這項投資將使美國的研究所總數達到25所，并將參與的組織網絡擴展到幾乎每個州。這些新研究院將推進人工智能研發，以推動氣候、農業、能源、公共衛生、教育和網絡安全等關鍵領域的突破。

白宮在一份聲明中說，這次的AI評測活動將為研究人員和公眾提供關于這些模型的關鍵信息，并使人工智能公司及開發人員能夠采取措施解決這些模型中發現的問題。按照大賽舉辦方 AI Village的說法，即將舉行的活動是“任何一組AI模型有史以來最大的紅隊演習”，成千上萬的人將參與到公共人工智能模型評估之中來。

據了解，DEF CON 31將于2023年8月10日至13日在拉斯維加斯凱撒論壇舉行。在DEF CON活動期間，參與者將能夠通過組織者提供的筆記本電腦定時訪問多個LLM。為激勵參賽者，大賽采用CTF形式的積分系統，積分最多者將會贏得高端英偉達GPU。