用于社会变革的聊天机器人/杰里米·富特
本文详细介绍了阿莱克和杰里米之间的一段对话，重点关注他们对聊天机器人用于在线社区调解和社会影响的合作研究。它首先概述了他们各自的项目、共同兴趣、伦理考量、技术挑战以及聊天机器人和大型语言模型 (LLM) 领域的未来步骤。
阿莱克和杰里米的对话代表了跨学科研究的融合，涉及传播学、人工智能和伦理学。他们的交流揭示了聊天机器人重塑在线互动的潜力、部署此类技术的伦理影响以及支持其使用的理论框架。
杰里米的计划旨在与 Reddit 上以发布有毒评论而闻名的用户互动，为他们提供与机器人对话的机会。该项目与一位研究毒性的科学家合作，并有三种不同的互动方式
- 默认设置，没有特定的行为推动。
- 鼓励遵守 Reddit 社区规范的方法。
- 一种叙事故事模式，促使用户反思自己的行为。
目标是监控互动后的行为变化，以评估每种方法的有效性。
用户响应类别 在项目期间，杰里米观察到用户做出了不同的响应，他将其归类为
- 试图挑衅机器人的巨魔。
- 为自己的行为辩护并质疑机器人上下文理解能力的辩护者。
- 表现出真诚反省，有时甚至表示感谢的善意互动者，在演示中对他们表示感谢的真实性提出了担忧。
项目物流和关注点
- 项目的物流方面，包括最初由于实时语音生成的复杂性而专注于文本互动。
- 处理各种互动场景可能需要一个专门的 LLM 网络。
阿莱克认为这些互动具有教育意义，并采用各种对话技巧来灌输教训。他的愿景包括
- 利用聊天机器人来弥合个人观点，从这些对话中形成一个社会语义数据库。
- 通过机器人调解的对话，在社会讨论中反映不同的观点。
- 探索数据收集方法，包括语音或文本输入，以及与机器人进行辩论式互动的可行性。
- 调查 LLM 的技术培训，以支持他设想的语义数据库。
阿莱克的扩展愿景
- 阿莱克更广泛的目标是创造一个通用调解人，以提高社会沟通效率、解决错误信息并弥合战略性社会分歧。
- 他致力于非干预和透明的方法。
- 他推测可以用慈善资金来扩大项目的规模。
潜在应用和抱负
- 人工智能政治家和通过聊天机器人组织集体行动的概念。
- 一种可以调解对话的工具，反映多种观点，以便更好地理解社会。
两位研究人员都认为，当用户与机器人交谈时，透明度非常重要，他们怀疑这种公开性可能会提高对话的质量。
伦理辩护
- 与用户互动，尤其是弱势群体互动方面的伦理问题，以及普遍尊重互动的论点。
- 根据机构审查委员会 (IRB) 协议，通过 Reddit 消息和链接到信息页面来获得同意的流程。
技术方面
- 对底层技术的讨论，杰里米提到了 GPT-3，以及将机器人对齐以确保安全和友善响应的重要性。
- 阿莱克强调了培训 LLM 所需的技术知识，以及使用可以运行在个人计算资源上的开源替代方案的可能性。
讨论还深入探讨了在在线社区中使用 LLM 的社会和理论意义，提到了社会资本理论以及聊天机器人调解可能导致更大社会凝聚力的讨论的可能性。
民主理想和简化解决方案
- 对话触及了使持有相反观点的个人能够进行讨论的民主潜力，以及聊天机器人调解这些交流以防止退化为党派之争的可能性。
评估结果和测量
- 杰里米分享了关于行为改变指标的见解，估计他们接触到的用户中大约有 10% 同意与机器人互动，而这些用户中，大约 70% 在一定程度上参与了互动。
实验设计和 Reddit 的作用
- 设计实验以吸引 Reddit 用户，考虑接触 Reddit 用户或版主以参与互动，而无需获得 Reddit 本身的许可。
结束对话
对话结束时，阿莱克计划提交他的 IRB 提案，而杰里米计划将阿莱克介绍给一位对使用 LLM 进行调解感兴趣的同事。他们表达了相互交换 IRB 材料并继续讨论潜在合作的兴趣。
相关事实拼盘
本节汇集了对话中提到的具体事实和数据，为阿莱克和杰里米讨论的项目和愿景提供了更深层的理解和清晰度。
- 杰里米的项目互动率表明，他们接触到的用户中大约有 10% 同意与机器人互动。在这些互动中，大约有一半被认为是出于善意，其中 70% 在一定程度上参与了互动，而三分之一从一开始就表现出恶意。
- 杰里米提到了在自己的聊天机器人中使用 GPT-3，但后来澄清了他们使用的是 GPT-3.5，该模型已经过对齐以确保安全的响应。
- 阿莱克正在考虑使用可以高效运行在 Mac 上的 GPT-3 的开源替代方案，这意味着他们将采取一种动手的方式来进行原型设计和潜在部署。
- 杰里米已经考虑过投资 GPU 资源来满足其项目的技术需求。
- 阿莱克和杰里米讨论了阿莱克与 UCL 的乔希·贝克合作的可能性，乔希·贝克是一位调解方面的专家，他也对在这个背景下使用 LLM 表现出兴趣。
- 阿莱克正在准备提交 IRB 提案，并正在考虑如何构建同意流程，特别是针对弱势群体。
- 杰里米解释了他们通过直接消息获得 Reddit 研究同意的方式，这些消息链接到一个信息页面，他们确保用户知道参与的限制对象为 18 岁以上的人士。
- 在阅读了简·梅耶的《“黑钱”》后，阿莱克对该项目的动力得到了进一步加强，该书详细介绍了科赫兄弟对美国政治的影响。
- 阿莱克和杰里米思考了 GPT-3.5 等 LLM 在促进有见地的对话方面的潜力，以及它们对社会科学的重大贡献。
- 他们还讨论了聊天机器人实时语音生成中涉及的物流挑战，以及如果语音过于复杂，则可能默认为短信。
本节中提供的事实不仅有助于更深入地了解所讨论的项目，还突出了两位研究人员在追求聊天机器人和 LLM 的创新应用方面的细致考量，以增强在线社区互动和社会沟通。
链接