?美國國防創新部門（DIU）發布：負責任的人工智能指南
美國國防創新部門(DIU)于 11 月 15 日發布了其最初的“負責任的人工智能指南”(RAI)文件，旨在將美國國防部的人工智能道德原則落實到其商業原型設計和采購工作中。
“DIU 的 RAI 指南為 AI 公司、國防部利益相關者和項目經理提供了一個循序漸進的框架，可以幫助確保 AI 項目在 AI 開發周期的每一步都遵循公平、問責和透明的原則構建系統，”DIU 人工智能/機器學習產品組合技術總監 Jared Dunnmon 博士說。
在過去的 18 個月里，DIU 團隊與卡內基梅隆大學軟件工程研究所的研究人員一起工作，并與行業合作伙伴、聯合人工智能中心、學術界和政府官員進行了交談，并測試了這些指南以征求有用的反饋，Dunnmon說過。它們專門用于 DIU 程序。
他說，這些指導方針的目的是：
- 通過明確最終目標、調整預期以及承認風險和權衡，從一開始就加速計劃。
- 增強對 AI 系統的開發、測試和審查的信心，該系統的開發、測試和審查符合最高的公平性、問責制和透明度標準。
- 支持改變人工智能技術的評估、選擇、原型設計和采用方式，以避免潛在的不良后果。
- 提出對 AI 項目成功至關重要的問題和對話。
Dunnmon 說，這些指南提供了如何在現實世界的程序中實施負責任的人工智能考慮的示例，以努力創建一個用戶友好且更易于理解的文檔，以加快進程。
軟件技術公司 Quantifind 的聯合創始人約翰·斯托克頓 (John Stockton) 在他們的原型項目期間向 DIU 提供了有關指南的反饋，他說：“用戶希望這樣他們就可以信任并驗證他們的工具保護了美國的利益，而不會損害我們的集體價值觀。” “這些指導方針顯示出實際加速技術采用的前景，因為它有助于識別并提前解決潛在的阻礙問題。我們發現，通過加強內部控制和提高透明度，在政府之外，依靠這項努力也對我們有好處以及所有用戶(公共和私人用戶)都可以利用的信任模式。”
RAI 指南
負責任的人工智能報告提供了負責任的人工智能指南的摘要，該指南是 DIU 在其原型設計工作中努力實施國防部人工智能道德原則的結果。它還提供了詳細的案例研究，展示了 RAI 指南在實踐中的價值，同時確定了從這些努力中吸取的具體經驗教訓。
第一階段：規劃
規劃是指概念化和設計人工智能系統以解決給定問題的過程。在規劃階段，希望構建 AI 系統的人員定義其預期功能、創建它所需的資源以及將要部署的操作環境。
第二階段：開發
開發是指編寫和評估構成該系統的計算機代碼的迭代過程。在開發階段，國防部和/或公司人員在構建計劃的 AI 系統時專注于五條查詢線——數據模型操作、系統性能監控、輸出驗證、審計機制和治理角色。
第三階段：部署
部署是指在實踐中使用該系統解決問題的過程。部署階段側重于三組持續評估程序，這些程序必須在人工智能系統的整個生命周期中確定范圍并持續執行。
