用于社会变革的聊天机器人/Jan Voelkel/思考
语言模型（LM），特别是像 ChatGPT 这样的高级系统，具有模拟类人对话和论证的潜力。最近的研究，例如 Ashwini Ashokkumar 的研究表明，模拟干预可以像人类一样影响这些模型，尽管方差较小。这个概念可以扩展到模拟复杂的论证过程，以理解和潜在地影响信仰体系。
找到事实和令人信服的证据的能力正是建立共识和放大令人信服的分歧所需要的，无论持不同意见的人群有多小。聊天机器人可以通过始终评估它自己被说服的程度（或无法被劝服）来进行调解。
这个想法是利用 LM 来模拟不同观点或信仰体系之间的交互，类似于 AlphaGo 通过与自己对弈来提高围棋水平的方式。这涉及到 LM 以给定人的身份进行论证，批判和分析另一个人提供的资源，然后评估其“思维”是否以及如何改变。
在这个设想的框架中，LLM 将扮演不同个体的角色，每个人都有自己独特的信念、知识和经验。它将参与讨论，批判性地分析和回应另一个人或 LLM 中另一个模拟角色提供的资源和论点。这种交互的关键方面是 LLM 以诚意进行论证和批判的能力，反映了人类信仰体系和思维过程的复杂性。
该过程涉及测量 LLM 是否以及如何根据提出的论点改变其立场。这种测量不仅仅是跟踪观点的变化，而是理解这种变化的根本原因。它认为什么样的证据或推理是令人信服的？它如何平衡相互矛盾的信息？在这种情况下，LLM 充当衡量论证力量和说服力的标准。
这个概念的一个关键应用是在建立共识和放大令人信服的分歧方面，特别是在规模较小或边缘化的群体中。通过模拟各种不同的观点和论点，LLM 可以识别哪些观点最有可能在不同的信仰体系中产生共鸣。这种方法可以突出显示共同点和一致意见，而这些共同点和一致意见在标准讨论中可能不太明显。
此外，聊天机器人可以充当调解人，不断评估它被提出的论点说服的程度。这种持续评估有助于识别论点中的偏见、谬误或强点。LLM 的调解不是要站在哪一边，而是要理解不同论点的有效性和信念变化的动力。
- 神经检索：LM 利用先进的神经检索技术来访问广泛的信息和观点，促进对各种论证策略的全面理解。
- 模拟动力学：LM 参与模拟对话，它采用不同的角色，每个角色代表不同的信仰体系。这类似于 AlphaGo 等人工智能系统中的自我对弈机制。
这项技术的潜在应用非常广泛，包括
- 冲突解决：通过理解最有效的论点，LM 可以通过寻找共同点来帮助解决冲突。
- 教育：这些模拟可以用来教授批判性思维和论证分析。
- 社会政治理解：模拟可以帮助理解社会中信念形成和变化的动态。
虽然这个概念很有前景，但它也引发了有关操纵、隐私和此类技术可能被滥用的重要道德问题。确保负责任的使用至关重要。
需要进一步的研究来增强 LM 在该领域的能力，特别是在准确模拟个人信仰体系和确保此类技术的道德应用方面。