論文鏈接：https://arxiv.org/abs/2603.03687

在線社區(qū)旨在構(gòu)建開放、多元與理性討論的公共空間，但仇恨言論（hate speech）的擴(kuò)散正在持續(xù)削弱這一理想。仇恨言論通常指針對(duì)特定群體、具有攻擊性與傷害性的表達(dá)形式，不僅會(huì)對(duì)個(gè)體造成情緒與心理層面的嚴(yán)重傷害，也會(huì)在群體層面強(qiáng)化刻板印象與社會(huì)偏見。更重要的是，它具有明顯的傳播與模仿效應(yīng)：當(dāng)用戶暴露于敵意表達(dá)時(shí)，即便本身并非高度攻擊性個(gè)體，也更可能產(chǎn)生類似言論，從而推動(dòng)負(fù)面互動(dòng)的擴(kuò)散。這一過程本質(zhì)上影響的并不僅是單條內(nèi)容，而是社區(qū)規(guī)范（community norms）的形成機(jī)制。在線討論中的“什么可以說”“什么值得回應(yīng)”“什么會(huì)被默認(rèn)”并非天然存在，而是在互動(dòng)中不斷被再生產(chǎn)。當(dāng)仇恨言論頻繁出現(xiàn)且缺乏公開回應(yīng)時(shí)，沉默可能被誤讀為容忍，進(jìn)一步固化“多數(shù)人默認(rèn)”的社會(huì)感知。傳統(tǒng)內(nèi)容審核（content moderation）主要依賴刪除、封禁或降權(quán)等限制性手段。然而，過度依賴壓制式干預(yù)可能帶來誤刪風(fēng)險(xiǎn)，也難以處理隱性或語境化的仇恨表達(dá)。在此背景下，反言論（counterspeech）逐漸被視為一種非壓制性（non-repressive）、以“以言對(duì)言”為核心的替代路徑。通過公開回應(yīng)、理性論證、情感支持或價(jià)值重申，反言論不僅針對(duì)具體事件發(fā)聲，更通過可見的表達(dá)影響旁觀者認(rèn)知，從而參與社區(qū)規(guī)范的塑造。

隨著生成式人工智能的發(fā)展，反言論聊天機(jī)器人（counterspeech chatbot）逐漸成為可能。已有研究圍繞語料構(gòu)建、生成模型訓(xùn)練與策略增強(qiáng)展開，重點(diǎn)考察其如何約束仇恨發(fā)言者或支持受害者。然而，作為在線社區(qū)中人數(shù)最多、影響廣泛的群體，針對(duì)旁觀者（bystanders）的研究卻不足。旁觀者并非中立存在。他們通常傾向于反對(duì)仇恨言論，卻往往選擇沉默。沉默可能被解讀為默認(rèn)，從而強(qiáng)化“多數(shù)人容忍仇恨”的感知，并加劇沉默螺旋（spiral of silence）。既有研究表明，人類發(fā)起的反言論能夠打破這種感知，甚至觸發(fā)從眾效應(yīng)（herd effect），激發(fā)更多人發(fā)聲。然而，當(dāng)反言論由機(jī)器人發(fā)出時(shí)，它是否能夠產(chǎn)生類似的社會(huì)影響？這種技術(shù)介入，是否同樣能夠改變旁觀者的認(rèn)知與行為傾向？為此，本研究提出兩個(gè)核心研究問題：

• RQ1：旁觀者在多大程度上認(rèn)同聊天機(jī)器人的反言論，并在行為傾向上發(fā)生變化（例如，對(duì)論證強(qiáng)度的感知、對(duì)機(jī)器人的可信度評(píng)價(jià)，以及自身進(jìn)行反言論的信心）？
  

• RQ2：不同類型的聊天機(jī)器人反言論策略，如何影響旁觀者對(duì)回應(yīng)的認(rèn)同程度，以及其行為傾向的變化？

為系統(tǒng)研究反言論策略，我們構(gòu)建了一個(gè)三維策略框架，涵蓋句式形式（疑問/陳述）、語氣（積極/消極）與策略意圖（認(rèn)知型與情感型），組合形成八種反言論策略。在此基礎(chǔ)上，我們開發(fā)了原型機(jī)器人 Civilbot，使其能夠在不同語境下生成對(duì)應(yīng)策略的反言論回應(yīng)。我們采用混合方法（mixed-method）的被試內(nèi)實(shí)驗(yàn)設(shè)計(jì)（within-subject design），邀請(qǐng)對(duì)敏感議題感興趣、通常在公共討論中保持沉默、但明確反對(duì)仇恨言論的參與者加入研究。每位參與者在多個(gè)議題情境下閱讀仇恨言論與 Civilbot 的回應(yīng)，并完成前后測(cè)量與半結(jié)構(gòu)化訪談。研究指標(biāo)包括：反言論質(zhì)量感知（如論證強(qiáng)度與說服力）、主觀認(rèn)同（如可信度與重要性評(píng)價(jià)），以及行為傾向（如反言論信心與參與意愿）。研究結(jié)果表明，Civilbot 的反言論能夠影響旁觀者對(duì)回應(yīng)內(nèi)容與機(jī)器人的整體判斷，并對(duì)行為傾向產(chǎn)生細(xì)微但可觀察的影響。參與者普遍認(rèn)為機(jī)器人具有可信度，并能夠傳遞社區(qū)規(guī)范信號(hào)；然而，其推理深度有限，在一定程度上制約了說服效果。行為層面呈現(xiàn)情境化特征：當(dāng)表現(xiàn)良好時(shí)，機(jī)器人可以引導(dǎo)旁觀者參與，甚至在一定程度上“代為發(fā)聲”；當(dāng)表現(xiàn)欠佳時(shí)，則可能抑制參與，或激發(fā)旁觀者主動(dòng)介入。策略因素具有關(guān)鍵作用。整體而言，認(rèn)知型策略相較情感型策略更具效果；語氣與句式的影響則依賴具體語境及其與策略的匹配程度?；谏鲜霭l(fā)現(xiàn)，我們提出了面向設(shè)計(jì)的啟示：反言論機(jī)器人不僅需要判斷“是否介入”，還需要明確“為何介入”，并通過以推理為核心、信息支持充分、情境敏感的策略，更有效地參與社區(qū)規(guī)范的建構(gòu)。

表1 反駁策略的框架

• 句式形式（Sentence Type）。區(qū)分疑問式與非疑問式表達(dá)。疑問式反言論（如反問）被視為一種獨(dú)立策略形式，其作用在于引發(fā)批判性思考或挑戰(zhàn)前提；其他表達(dá)形式（陳述、祈使等）則歸為非疑問式。

• 語氣（Tone）。區(qū)分積極語氣與消極語氣。積極語氣強(qiáng)調(diào)禮貌、合作與同理心；消極語氣則更具批評(píng)性或?qū)剐裕赡馨S刺或直接指責(zé)。為保證實(shí)驗(yàn)可控性，我們采用二元?jiǎng)澐帧?/p>

• 策略意圖（Strategic Intent）。參考 ELM 理論，我們將策略意圖分為認(rèn)知型策略（Cognitive Strategy）和情感型策略（Affective Strategy）。前者通過改變認(rèn)知路徑產(chǎn)生影響，例如駁斥錯(cuò)誤信息（rebutting falsehoods）或強(qiáng)調(diào)事實(shí)與證據(jù)（highlighting truth）。后者通過情緒喚起影響判斷，例如譴責(zé)仇恨發(fā)言者（denouncing hate speakers）或支持受害群體（supporting targets of hate）。

最終構(gòu)成一個(gè) 2 × 2 × 2 共八種不同反言論策略，為后續(xù)實(shí)驗(yàn)中的刺激材料提供清晰可控的操作基礎(chǔ)。

圖1 模擬討論平臺(tái)的示例頁面

圖2 實(shí)驗(yàn)流程

圖3 RQ1、RQ2結(jié)果與設(shè)計(jì)啟示總覽

1. RQ1：反言論機(jī)器人對(duì)旁觀者的整體影響

結(jié)果顯示，Civilbot 的影響是復(fù)雜而有限的，但具有穩(wěn)定的規(guī)范價(jià)值。在態(tài)度層面，參與者普遍將 Civilbot 視為一種“合法的規(guī)范性聲音”。它強(qiáng)化了“仇恨言論不可接受”的社區(qū)共識(shí)，也為長(zhǎng)期沉默的用戶提供了心理支持。然而，其說服力受到表達(dá)方式的限制。部分參與者認(rèn)為回應(yīng)論證較淺、表達(dá)偏模板化，顯得“過于AI”，從而削弱了認(rèn)知上的穿透力。在行為層面，其影響呈現(xiàn)分化。一方面，它提升了部分用戶的反言論信心；另一方面，也可能替代沉默旁觀者發(fā)聲，使他們繼續(xù)保持沉默。更有趣的是，當(dāng)回應(yīng)被認(rèn)為不夠有力時(shí)，反而激發(fā)了部分參與者的糾正沖動(dòng)。也就是說，Civilbot 既可能引導(dǎo)參與，也可能成為負(fù)面示范或逆向激勵(lì)。它的價(jià)值不在于動(dòng)員所有人發(fā)聲，而在于持續(xù)提供一個(gè)穩(wěn)定的“反聲部”，為旁觀者提供安全定位。在社區(qū)層面，Civilbot 主要發(fā)揮調(diào)節(jié)功能：補(bǔ)充信息以幫助識(shí)別仇恨與錯(cuò)誤認(rèn)知，冷卻情緒避免沖突升級(jí)，并引發(fā)進(jìn)一步思考。它更像一個(gè)“平衡器”而非辯論者，通過維持知識(shí)與情緒的穩(wěn)定，鞏固社區(qū)規(guī)范。總體而言，Civilbot 能強(qiáng)化規(guī)范與穩(wěn)定社區(qū)氣候，但其說服與動(dòng)員能力仍受表達(dá)質(zhì)量與情境適配性的限制。

2. RQ2：不同反言論策略的差異化影響

表2 反駁策略在三種指標(biāo)上的主效應(yīng)

表3 反駁策略在三種指標(biāo)上的交互效應(yīng)

表4 反駁策略在三種指標(biāo)上的簡(jiǎn)單效應(yīng)分析

• 策略意圖（Strategic Intent）的影響最為顯著。認(rèn)知型策略整體優(yōu)于情感型策略，在感知質(zhì)量、可信度與認(rèn)同度上表現(xiàn)更好。以事實(shí)澄清、邏輯反駁為核心的回應(yīng)更容易獲得旁觀者認(rèn)可。但情感策略并非無效。參與者指出，在情緒對(duì)立較強(qiáng)的場(chǎng)景下，情感性表達(dá)可以作為鋪墊，緩沖緊張氛圍，為后續(xù)認(rèn)知論證創(chuàng)造空間。因此，兩類策略并非對(duì)立，而更適合情境化組合。

• 語氣（Tone）主要影響行為傾向。積極語氣顯著提升參與信心與發(fā)聲意愿，使旁觀者更愿意介入討論。消極語氣則需要謹(jǐn)慎控制。參與者更認(rèn)可帶有幽默或諷刺意味的“善意冒犯”，而非直接攻擊。過強(qiáng)的負(fù)面表達(dá)容易削弱說服效果，甚至掩蓋策略本身的意圖。

• 句式形式（Sentence Type）具有雙刃劍特征。疑問式表達(dá)整體呈顯著影響，但效果取決于設(shè)計(jì)方式。真誠的問題可以引導(dǎo)反思與信息補(bǔ)充；而反問或質(zhì)問式表達(dá)則可能被解讀為挑釁，從而降低可信度。因此，問題最有效的功能不是對(duì)抗，而是引導(dǎo)思考與延續(xù)對(duì)話。

• 交互效應(yīng)。語氣放大或削弱策略意圖。積極語氣會(huì)顯著放大認(rèn)知型策略的效果；情感型策略在積極語氣下反而可能顯得表層化；在消極語氣下，強(qiáng)烈情緒表達(dá)容易掩蓋策略差異。這意味著，語氣不僅是表達(dá)風(fēng)格，更是影響策略可見度與可接受度的關(guān)鍵變量。對(duì) Civilbot 而言，優(yōu)先采用積極語氣來承載認(rèn)知型內(nèi)容，是更穩(wěn)健的組合方式。

• 探索性發(fā)現(xiàn)。探索性分析進(jìn)一步發(fā)現(xiàn)，參與者在自我生成反言論時(shí)更傾向使用負(fù)向語氣，但卻期待 AI 保持克制與規(guī)范。這揭示出一種潛在的人機(jī)角色分工：人類可以承擔(dān)情緒表達(dá)與對(duì)抗功能，而 AI 更適合作為理性支撐與規(guī)范維護(hù)者。

• 何時(shí)介入：針對(duì)仇恨的程度，在注意力與沖突風(fēng)險(xiǎn)之間取得平衡；

• 如何介入：動(dòng)機(jī)識(shí)別 → 推理分析 → 信息支持 → 論點(diǎn)構(gòu)建 → 策略選擇 → 風(fēng)格調(diào)節(jié)；

• 誰在介入：反言論的效果并不只取決于策略本身，還取決于“說話者是誰”，需要區(qū)分兩種設(shè)計(jì)路徑，一個(gè)是自主型反言論機(jī)器人，強(qiáng)調(diào)規(guī)范維護(hù)、客觀表達(dá)與社區(qū)角色定位；AI輔助型反言論系統(tǒng)，保留人類發(fā)聲主體，強(qiáng)調(diào)協(xié)作與賦能。