這輪中期選舉週期被「slopaganda」所主導，也就是帶有「AI」生成的片段和圖像的競選廣告，這給「Instagram」、「YouTube」以及X在監控平台內容時帶來了另一項挑戰。

“slopaganda”一詞可以追溯到去年年初，當時一群AI專家在一篇論文中使用它來描述一種新現象，即生成式AI“垃圾內容”與宣傳和錯誤信息的結合。

目前尚無一部全面的聯邦法律來規範政治廣告中 AI 的使用或披露。雖然美國各州已有約30項法律對 AI 的使用和披露提出了不同要求，但候選人並不總是遵守這些規定。在由 Meta、谷歌和埃隆·馬斯克旗下的 SpaceX 運營的主要互聯網平台上，用戶會看到 AI 生成的廣告，以及政客分享的 AI 生成的帖子，旁邊還夾雜著真實視頻和片段。

根據韋斯利安媒體項目上週發布的一項分析，已有超過1.87億美元被用於近300條由AI生成或增強的廣告。該組織表示，這一數字幾乎可以肯定偏低，因為許多廣告沒有包含免責聲明。報告發現，超過90%的支出來自共和黨候選人、共和黨委員會或傾向共和黨的團體，而且大多數廣告沒有披露信息。

CNBC 發現，網上有多條未披露的 AI 生成的廣告在投放，其中包含一段紐約州民主黨州長凱西·霍楚爾的假視頻，該視頻由她的對手、共和黨挑戰者布魯斯·布雷克曼發布。

在德克薩斯州，共和黨參議員候選人肯·帕克斯頓製作了一段AI生成的視頻，顯示民主黨對手詹姆斯·塔拉里科發表了有爭議的言論，視頻中間閃過了三秒鐘的披露說明。這段視頻作為自然內容在YouTube和X上被帕克斯頓的競選團隊分享。

布莱克曼和帕克斯頓的競選團隊沒有立即回應評論請求。

YouTube 告訴 CNBC，公司會在逼真的 AI 內容上加上「醒目標簽」。

「對於 YouTube 上的自然內容，政治候選人可以要求移除那些其面部看起來被 AI 篡改或生成的内容，」該公司表示。「對於廣告，我們要求在選舉廣告包含合成或數字篡改的人物或事件時進行披露，以便向觀眾提供透明度。」

YouTube 母公司谷歌還要求政治廣告完成其選舉廣告驗證流程，并附上“paid for by”披露信息。

X表示，廣告主必須遵守適用的法律，責任在廣告主而非平台。該公司沒有回應 CNBC 的置評請求。

Meta 提到了其政治廣告指南，包括選舉前一周對這類廣告使用的限制。該公司還要求附上「paid for by」標籤，并維護一個政治廣告庫。今年6月，Meta 加強了標註措施，為其檢測到使用第三方AI 工具製作的廣告新增了「關於此廣告」工具。

上個月，新墨西哥州的一間法院在一宗數據隱私案件中判決 Meta 支付250億美元罰金，該案件源於近十年前の Cambridge Analytica 丑聞。 Cambridge Analytica 是一家政治諮詢公司，據稱曾以不當方式獲取8700萬名 Facebook 使用者的信息。

生成式 AI 带給科技平台的一個風險是，它們可能被要求創造誤導性的圖像和視頻。布倫南司法中心（Brennan Center for Justice）測試了 ChatGPT、Gemini、Grok、Claude、Perplexity 和 DeepSeek，看它們是否願意協助製作欺騙性內容。該中心在8月發布的研究發現，許多模型可能會避免生成與熟知的陰謀論相關的內容，但總體上仍可被操縱來創造誤導性材料。

對這些平台在10月進行的復測發現，ChatGPT已經有進展。它開始將針對有害選舉圖像的提示重定向為插圖，使其看起來像漫畫，或者干脆拒絕對這些提示採取行動。

一些全國性的政界人士正試圖解決這一問題。

由兩黨參議員支持的《防止欺詐性 AI 法案》（ Protect Elections from Deceptive AI Act ）將禁止明知故犯地傳播關於聯邦候選人的實質性欺詐性 AI 生成的視頻或音頻。國會中的民主黨人還在推動其他法案，包括《 AI 廣告法案》（ AI Ads Act ），該法案希望將現有針對競選虛假陳述的禁令擴大到生成式 AI 內容。

這些擬議法案都尚未在委員會中推進。