喬·拜登深偽來源揭露，選舉干預事件曝光

一些選民接到了拜登總統的深偽自動語音電話。了解誰創造了喬·拜登的深偽以及不道德AI的影響。

喬·拜登深偽來源揭露，選舉干預事件曝光

在新罕布什爾州初選前夕，一個陰險的計劃展開，利用人工智能技術模仿喬·拜登總統的聲音進行自動語音電話。這次前所未有的選舉干預企圖揭示了AI、深偽和虛假信息的交集，引發了對民主過程潛在後果的擔憂。讓我們深入了解涉及美國總統喬·拜登的自動語音電話深偽騙局，包括誰參與其中。

什麼是喬·拜登深偽騙局？

2023年1月22日星期一，新罕布什爾州檢察長辦公室表示正在調查一個明顯使用人工智能模仿喬·拜登總統聲音的自動語音電話，該電話旨在阻止該州選民前往投票。

這個騙局旨在阻止選民參加該州的初選，虛假聲稱參加初選會影響11月的普選。AI生成的拜登聲音敦促選民“保存”他們的選票以待即將到來的聯邦選舉，聲稱參加初選會有利於共和黨人並促進唐納德·特朗普的連任。

喬·拜登深偽來電顯示

假冒的拜登自動語音電話的來電顯示似乎是由凱西·沙利文發出的，她是前州民主黨主席，協助運營支持拜登的超級政治行動委員會Granite for America。然而，拜登並未在新罕布什爾州競選，因為他在民主黨總統初選中處於領先地位，並未出現在選票上。

“這通電話在未經我允許的情況下鏈接到我的私人手機號碼，”沙利文在一份聲明中說。“這是明顯的選舉干預，顯然是試圖騷擾我和其他計劃在週二寫入喬·拜登名字的新罕布什爾州選民。”

喬·拜登深偽騙局音頻

在NBC獲得的假冒自動語音電話音頻中，你可以聽到一個聲音聽起來非常像拜登的聲音說出他最喜歡的口頭禪，“真是一派胡言。”信息接著說，“重要的是你要為11月的選舉保存你的選票，並且“這個星期二的投票只會幫助共和黨人實現再次選舉唐納德·特朗普的目標。你的選票在11月才有意義，而不是這個星期二。”

在消息發布後，白宮新聞秘書卡琳·讓-皮埃爾告知公眾，該信息是AI生成的虛假信息，並非來自拜登競選團隊。

拜登的競選經理朱莉·查維斯·羅德里格斯在一份聲明中表示，競選團隊正在“積極討論立即採取的其他行動。”

如果你接到喬·拜登的自動語音電話該怎麼辦？

錄音信息似乎是非法散播虛假信息和干擾投票的企圖。雖然尚不清楚有多少選民接到了電話，但至少有十幾人報告了此事。檢察長約翰·福梅拉解釋說，任何接到此類電話的人“應完全忽略此信息的內容。”

喬·拜登自動語音電話深偽來源揭露

根據彭博社的報導，聲音欺詐檢測公司Pindrop Security Inc.發現，拜登深偽自動語音電話並非由拜登競選團隊製作，而是由一名使用ElevenLabs的騙子製作，ElevenLabs是一家提供聲音克隆功能的AI語音初創公司。

雖然ElevenLabs的安全聲明允許在不影響個人隱私或經濟利益的情況下“出於某些非商業目的”進行聲音克隆，包括“私人研究、非商業研究、教育、漫畫、模仿、諷刺、藝術和政治演講貢獻於公共辯論、引用”，以及“批評和評論”，ElevenLabs禁止了創建拜登深偽自動語音電話的用戶。

“我們致力於防止音頻AI工具的濫用，並對任何濫用事件極為重視，”ElevenLabs告訴彭博社。

深偽 vs. AI語音生成器 vs. 聲音克隆

隨著 AI 語音生成技術越來越受歡迎，了解深偽技術、AI 語音生成器和語音克隆的概念，以及它們在道德和不道德使用上的區別，變得至關重要。

深偽技術

深偽技術指的是使用人工智慧和機器學習技術來創建或操控音頻和視覺內容，通常以逼真的方式將某人的形象替換為另一個人。

• 道德的深偽技術使用：深偽技術可以在娛樂、藝術表達和教育中被道德地使用，前提是不以欺騙或傷害他人為目的。
• 不道德的深偽技術使用：當深偽技術被用來創造誤導性內容和虛假敘述，或為惡意目的（如散播錯誤信息或製造假新聞）冒充他人時，會引發嚴重的道德問題。

AI 語音生成器

AI 語音生成器使用機器學習算法來合成類似人類的 AI 聲音。它們通常在大型數據集上進行訓練，以模仿人類的聲音和語調。

• 道德的 AI 語音生成器使用：AI 語音生成器可以在多種用途中被道德地使用，包括為語言障礙者提供無障礙服務、語言學習、娛樂或配音。
• 不道德的 AI 語音生成器使用：濫用 AI 語音生成技術來創造帶有惡意意圖的假音頻錄音，例如偽造某人的聲音以冒充他們進行欺詐活動或散播錯誤信息，被視為不道德。

語音克隆

語音克隆涉及創建一個人的語音合成副本，通常使用他們的語音錄音作為機器學習模型的訓練數據。

• 道德的語音克隆使用：語音克隆可以被道德地用於創建個性化語音助手、在獲得同意的情況下保存個人的聲音以供後代使用，或幫助語言障礙者。
• 不道德的語音克隆使用：未經授權的語音克隆用於欺騙活動，例如在未經同意的情況下創造假音頻錄音以冒充他人，可能是高度不道德的，並可能導致隱私侵犯和潛在的濫用。

濫用喬·拜登的 AI 聲音

通過 AI 生成的自動語音電話濫用喬·拜登的聲音，是人工技術可能被武器化以壓制投票和散播虛假信息的鮮明例子。濫用 AI 來複製政治人物聲音的後果是深遠的。這一事件預示著未來 AI 生成的聲音可能被用來散播虛假敘述、操控公眾意見，並破壞民主進程。對政治話語的信任和選舉完整性的潛在影響是值得嚴重關注的問題。

隨著 AI 技術的進步，此類事件發生的風險增加，數字取證專家如 Hany Farid 強調需要警惕以應對這些挑戰。

選民應在本次選舉季節對 AI 保持警惕

隨著 2024 年總統選舉的臨近，選民必須對 AI 技術的濫用保持警惕，以防止影響公眾意見。AI 生成的虛假信息可能成為政治競選中的普遍問題，需要選民提高警覺。

“我們一直擔心生成式 AI 會在即將到來的選舉中被武器化，我們看到的無疑是未來的徵兆，”數字取證專家 Hany Farid 在審查拜登自動語音電話錄音時在一次採訪中說道。

如何道德地使用語音 AI

在這一事件之後，考慮語音 AI 的道德應用至關重要。雖然 AI 語音技術提供了許多可能性，包括配音，但有責任以道德方式使用它。這包括明確指出何時使用 AI 生成的聲音，避免惡意意圖，並尊重隱私和同意。

AI 法律和 AI 法規即將出台

隨著科技不斷進步，立法者、AI 開發者、選舉官員和公眾必須共同努力，建立保障措施、法規和道德標準，以防止此類濫用行為對民主進程的影響。選舉的完整性是美國民主的基石，取決於我們適應和應對有關 AI 使用的新挑戰的能力。事實上，國會已經在討論 AI 保護措施。在最近的參議院聽證會上，參議員理查德·布盧門撒爾甚至展示了深偽技術，播放了一段由 AI 聲音克隆軟件創造的他自己的聲音，並由 OpenAI 的 ChatGPT 撰寫的腳本。聯邦選舉委員會也已經開始可能在 2024 年政治競選廣告中對 AI 生成的深偽進行監管的過程。

Speechify 語音工作室：#1 道德 AI 語音平台

Speechify 語音工作室是領先的道德 AI 語音平台，在合成語音技術中樹立了黃金標準。擁有超過 200 種逼真的文字轉語音聲音，涵蓋多種語言和口音，Speechify 語音工作室讓用戶能夠輕鬆創建動態且引人入勝的內容。

其用戶友好的平台提供易於使用的音頻編輯 AI 工具，提供對每個單詞的細緻控制，使用戶能夠微調音高、發音、語調等。Speechify 語音工作室還優先考慮道德考量，僅提供自己的聲音克隆，確保明確同意並減少濫用風險。

Speechify 語音工作室是為各種應用創作引人入勝的語音的理想選擇，包括社交媒體內容、電子遊戲、有聲書、播客等。提升您的內容創作體驗，立即免費試用 Speechify 語音工作室。

常見問題

什麼是非道德的 AI 聲音克隆例子？

非道德的 AI 聲音克隆例子可能包括使用該技術製造一段令人信服的音頻錄音，聲稱埃隆·馬斯克對敏感的地緣政治問題發表虛假聲明，例如華盛頓在以色列事務中的參與，可能操縱公眾認知並引發不和。這種欺騙性的聲音克隆使用可能利用公眾信任，通過將誤導性聲明歸於有影響力的人物來推進特定議程。

共和黨是否希望監管 AI？

根據福克斯新聞的民調，"共和黨人比民主黨人更不相信聯邦政府需要對人工智能系統施加監管，並且對政府是否能夠勝任此任務更加懷疑。"

泰勒·斯威夫特是否有被製作深偽技術？

有幾個未經泰勒·斯威夫特同意的非道德深偽技術，包括照片和音樂。據報導，她實際上正在考慮對深偽技術的創作者採取法律行動。

新罕布什爾州的選民是否收到了一個拜登的深偽語音電話，告訴他們不要投票？

是的，一名騙子使用 ElevenLabs 的 AI 技術創建了一個拜登的深偽，試圖說服選民在新罕布什爾州初選中不要寫下拜登的名字。