今年，政治選舉將在全球各地密集舉行，各大社交媒體公司受到壓力，要求它們識別深度僞造內容，並阻止虛假信息傳播。

TikTok將成爲第一個自動標記某些人工智能(AI)生成內容的社交媒體平台。目前生成式人工智能(generative AI)的快速發展加深了人們對在線虛假信息和深度僞造內容傳播的擔憂。

TikTok以及Facebook所有者Meta等在線集團已經要求用戶披露是否借助AI軟件制作了逼真的圖像、音頻或視頻。

中國字節跳動(ByteDance)旗下的這款高人氣短視頻app更進一步，周四宣布將推出自動標記功能，以確保其識別爲AI生成視頻的內容得到相應標記。這將包括使用Adobe的Firefly工具、TikTok自己的AI圖像生成器和OpenAI的Dall-E制作的內容。

“挑戰在于，我們從與我們合作的許多專家那裏了解到，AI生成的有害內容……正在增加，”TikTok運營、信任與安全主管亞當•普萊澤(Adam Presser)表示。

“這對我們的社區來說非常重要，因爲真實性真的是使TikTok成爲一個充滿活力和快樂的社區的要素之一……社區成員希望知道哪些內容是人類制作的，哪些內容是用AI增強或生成的。”

各社交媒體平台（包括TikTok、Meta、X和YouTube）都在探索將生成式AI集成至其平台的方法，推出聊天機器人以及幫助網紅和廣告商創建內容的新工具。然而，這些平台已受到批評，被指任由大量AI生成的低質量垃圾內容在平台泛濫，讓用戶難以招架。

在世界各地紮堆舉行重大選舉的一年裏，這些公司還面臨壓力，要求它們針對具有誤導性的深度僞造內容制定防護措施，遏制隱秘勢力的運作，並確保它們在保持無黨派立場的同時適當審核內容。

本周早些時候，TikTok及其母公司字節跳動對美國政府提起訴訟，挑戰一部旨在強制出售或禁止這款app的法律。立法者聲稱擔心該平台可能會傳播虛假信息和宣傳內容。

周四，TikTok表示將加入Adobe領導的科技和媒體集團聯盟，該聯盟將在AI生成産品中納入所謂的內容憑證。

該技術將數字指紋以及其他識別信息（例如內容的生成時間、地點和由誰生成）嵌入多媒體AI內容。TikTok將使用這些標志物來自動標記使用AI産品制作的內容。

OpenAI周二宣布將加入這個名爲“內容真實性倡議”(Content Authenticity Initiative)的聯盟，並將指紋識別技術嵌入其圖像模型Dall-E 3生成的所有圖像。這家ChatGPT開發商表示，最終，在其視頻生成模型Sora廣泛發布後，它也將把數字指紋嵌入其生成的所有視頻內容。

谷歌(Google)、微軟(Microsoft)和索尼(Sony)等大型科技公司正在探索將該技術嵌入各自的AI工具。

Meta本月早些時候表示，它將開始檢測谷歌、OpenAI、微軟、Adobe、Midjourney和Shutterstock等集團插入的隱形標志物，爲AI生成的內容貼上“AI制作標簽”。這家Facebook的所有者還表示，它正在開發深度僞造檢測分類器。

專家們提出，不良行爲者或老練的虛假信息組織很可能會使用開源AI生成工具來創建深度僞造內容，這將加大追蹤難度，使這類內容逃過數字指紋和水印的標記。

科技公司辯稱，他們的努力代表著解決這一問題的第一步。

Adobe總法律顧問兼首席信任官達納•拉奧(Dana Rao)表示：“這項解決方案的前提是，如果你希望保持透明並與公衆進行真實、透明的對話，那麽該工具將讓你能夠在一個所有數字內容都可以被操縱的世界中這麽做。”