周一，ChatGPT 制造商 OpenAI 詳細介紹了其在即將到來的 2024 年選舉期間防止濫用其 AI 技術的計劃，承諾 AI 生成內容的透明度並加強對可靠投票信息的訪問。

這家人工智能開發商表示，它正在研究一種方法，包括政策執行、與合作夥伴的合作以及開發旨在對人工智能生成的媒體進行分類的新工具。

AI 圖像生成技術現在可以輕松創建破壞生活的深度僞造OpenAI 在其博客文章中寫道：“當我們爲 2024 年世界上最大的民主國家的選舉做准備時，我們的方法是通過提升准確的投票信息、執行可衡量的政策和提高透明度來繼續我們的平台安全工作。”保護選舉的完整性需要民主進程各個角落的合作，我們希望確保我們的技術不會以可能破壞這一進程的方式使用。”

OpenAI 提出的舉措包括通過深度僞造或模仿候選人的機器人等方式防止濫用，完善使用政策，以及爲公衆啓動報告系統以標記潛在的濫用行爲。例如，OpenAI 的圖像生成工具 DALL-E 3 包括內置過濾器，可拒絕創建真實人物（包括政治家）圖像的請求。“多年來，我們一直在叠代工具，以提高事實准確性，減少偏見，並拒絕某些請求，”該公司表示。

OpenAI 表示，它會定期更新其 ChatGPT 及其 API 産品的使用政策，以防止濫用，尤其是在選舉背景下。該組織已經對使用其技術進行政治競選和遊說實施了限制，直到它更好地了解個性化說服的潛力。此外，OpenAI 禁止創建冒充真實個人或機構的聊天機器人，也不允許開發可能阻止人們“參與民主進程”的應用程序。用戶可以舉報可能違反規則的 GPT。

OpenAI 聲稱正在積極制定詳細的策略，以保護其技術不被濫用。根據他們的聲明，這包括對新系統進行紅隊以預測挑戰，與用戶和合作夥伴互動以獲得反饋，以及實施強大的安全緩解措施。

OpenAI 聲稱，這些努力是其不斷完善 AI 工具以提高准確性、減少偏見和負責任地處理敏感請求的使命不可或缺的一部分。在透明度方面，OpenAI表示，它正在推進對圖像來源進行分類的努力。該公司計劃使用加密技術將數字憑證嵌入到 DALL-E 3 生成的圖像中，作爲其采用內容來源和真實性聯盟標准的一部分。

此外，OpenAI表示，它正在測試一種旨在識別DALL-E生成的圖像的工具。爲了將用戶與權威信息聯系起來，特別是有關投票程序的信息，OpenAI表示已與美國全國國務卿協會（NASS）合作。ChatGPT 將引導用戶 CanIVote.org 獲取經過驗證的美國投票信息。

“我們希望確保我們的人工智能系統得到安全的構建、部署和使用，”OpenAI 寫道。“與任何新技術一樣，這些工具也帶來了好處和挑戰。它們也是史無前例的，隨著我們更多地了解我們的工具的使用方式，我們將繼續改進我們的方法。