ChatGPT是如何劫持民主進程（外專觀點）

幾周前剛剛推出的ChatGPT已經威脅要顛覆我們起草日常通信的方式，如電子郵件、大學論文和無數其他形式的寫作。

由OpenAI公司創建的ChatGPT是一個聊天機器人，可以自動回應書面提示，其方式有時非常接近于人類。

但是，盡管人們對人類在詩歌和情景喜劇劇本等形式中被機器取代的可能性感到不安，但一個更大的威脅正在出現：人工智能在民主進程中取代了人類——不是通過投票，而是通過游說。

ChatGPT可以自動編寫在監管過程中提交的評論。它可以寫信給編輯，在當地報紙上發表。它可以每天對新聞文章、博客條目和社交媒體帖子進行數百萬次的評論。它可以模仿俄羅斯互聯網研究機構在試圖影響我們2016年選舉時所做的工作，但沒有該機構所報告的數百萬美元的預算和數百名員工。

自動生成的評論并不是一個新問題。一段時間以來，我們一直在與機器人，即自動發布內容的機器作斗爭。五年前，據信至少有一百萬條自動起草的評論被提交給聯邦通信委員會，涉及關于網絡中立性的擬議法規。2019年，一名哈佛大學本科生作為測試，使用文本生成程序提交了1001條評論，以回應政府就醫療補助問題征求公眾意見的要求。那時，提交意見只是一個通過壓倒性數字的游戲。

各平臺在消除"協調的不真實行為"方面已經做得更好。例如，Facebook每年都會刪除超過10億個虛假賬戶。但這種信息只是一個開始。與其用支持性的電子郵件充斥立法者的收件箱，或用合成的語音電話支配國會總機，一個具有ChatGPT的復雜性但經過相關數據訓練的人工智能系統可以有選擇地針對關鍵立法者和影響者，找出決策系統中最薄弱的環節，并通過直接溝通、公共關系活動、利益交易或其他杠桿點，并無情地利用它們。

當我們人類做這些事情時，我們稱之為游說。在這一領域的成功代理人將精確的信息寫作與聰明的目標定位策略相結合。現在，阻止配備ChatGPT的說客執行類似于無人機戰役的游說策略的唯一原因，是缺乏精確的目標。但實際上，A.I.也可以提供這方面的技術。

一個能夠理解政治網絡的系統，如果與ChatGPT的文本生成能力相匹配，可以識別出對某一特定政策領域——例如公司稅收或軍事支出——具有最大影響力的國會議員。就像人類游說者一樣，這樣的系統可以針對坐在控制相關政策的委員會中的未決定的代表，然后在法案進入議會投票時將資源集中在多數黨的成員身上。

一旦確定了要針對的個人和游說策略，像ChatGPT這樣的人工智能聊天機器人就可以制作書面信息，用于信件、評論——任何有用的文字。人類說客也可以直接針對這些人。重要的是兩者的結合。實際上，編輯和社交媒體的評論只能讓你走到這么遠，同時，知道哪些立法者是目標本身并不足夠。

這種了解和瞄準網絡中的行為者的能力將為人工智能黑客創造一個工具，以難以置信的速度和范圍利用社會、經濟和政治系統的漏洞。立法系統將是一個特別的目標，因為攻擊決策系統的動機是如此強烈，因為訓練這種系統的數據是如此廣泛可用，因為人工智能的使用可能很難被發現——特別是如果它被戰略性地用來指導人類行為者。

訓練這種戰略目標系統所需的數據只會隨著時間的推移而增加。開放的社會通常會使其民主進程成為公共記錄，而且大多數立法者都渴望——至少在表現上是如此——接受并回應那些似乎來自其選民的信息。

也許人工智能系統可以發現哪些國會議員對領導層有很大的影響力，但他們的公眾形象仍然很低，對他們的注意力只有適度的競爭。然后，它可以準確地找出對該議員的公共立場有最大影響的超級公關公司或公共利益集團。也許，它甚至可以校準影響該組織所需的捐款規模，或直接向其成員發布有針對性的在線廣告，傳遞戰略信息。對于每個政策目標，都有合適的受眾；對于每個受眾，都有合適的信息在合適的時間。

與K街的高價游說公司已經構成的威脅相比，人工智能驅動的游說者的威脅更大，因為他們有可能加速。人類游說者依靠幾十年的經驗來尋找戰略解決方案，以實現政策結果。這種專業知識是有限的，因此也是昂貴的。

理論上，人工智能可以更快、更便宜地做同樣的事情。在一個公眾輿論和媒體敘事可能迅速變得根深蒂固的生態系統中，出場速度是一個巨大的優勢，就像在應對混亂的世界事件時足夠靈活的轉變。

此外，人工智能的靈活性可以幫助同時實現對許多政策和管轄區的影響。想象一下，一個由人工智能協助的游說公司可以嘗試在美國國會的每一項法案中進行立法，甚至在所有州的立法機構中進行立法。游說公司往往只在一個州內工作，因為在法律、程序和政治結構方面存在著如此復雜的變化。在人工智能的幫助下，瀏覽這些變化，可能會變得更容易跨越政治邊界行使權力。

正如教師將不得不根據ChatGPT改變他們給學生的考試和論文作業方式一樣，政府將不得不改變他們與說客的關系。

可以肯定的是，這項技術在民主領域可能也有好處；最大的好處是可及性。不是每個人都能負擔得起有經驗的說客，但人工智能系統的軟件接口可以提供給任何人。如果我們幸運的話，也許這種產生策略的人工智能可以通過給無權無勢的人提供這種游說的權力來重振民主的民主化進程。

然而，最大和最強大的機構可能會最成功地使用任何人工智能游說技術。畢竟，執行最好的游說策略仍然需要內部人員——能夠在立法機構的大廳里行走的人——和金錢。游說不僅僅是在正確的時間向正確的人提供正確的信息；它也是在正確的時間向正確的人提供金錢。雖然人工智能聊天機器人可以確定誰應該接受這些競選捐款，但在可預見的未來，人類將需要提供現金。因此，雖然無法預測充滿人工智能說客的未來會是什么樣子，但它可能會使已經有影響力和實力的人變得更加強大。

作者是：

Nathan E. Sanders是隸屬于哈佛大學伯克曼-克萊因中心的數據科學家。

Bruce Schneier是一位安全技術專家和哈佛大學肯尼迪學院的講師。他的新書是《黑客的思想：強者如何彎曲社會的規則，以及如何將其彎曲回來》。

數據保護官（DPO）社群主要成員是個人信息保護和數據安全一線工作者。他們主要來自于國內頭部的互聯網公司、安全公司、律所、會計師事務所、高校、研究機構等。在從事本職工作的同時，DPO社群成員還放眼全球思考數據安全和隱私保護的最新動態、進展、趨勢。2018年5月，DPO社群舉行了第一次線下沙龍。沙龍每月一期，集中討論不同的議題。目前DPO社群已超過400人。關于DPO社群和沙龍更多的情況如下：