用于社会变革的聊天机器人/IRB，研究伦理
机构审查委员会 (IRB) 长期以来一直是学术研究中必不可少的监管机构。虽然 IRB 的原则在不同司法管辖区可能略有不同，但任何一个 IRB 都会提供一个规划伦理人类研究的方案，为机构内外的研究人员提供良好的指导。在本节中，我们将概述康奈尔大学 IRB 指南，这些指南适用于使用大型语言模型对人们进行的实验性干预。
如果您有兴趣发表基于干预结果的科学论断的学术研究，大多数期刊都会 *要求* 您提供从大学机构 IRB 委员会获得的批准。如果您目前不是大学或机构的成员，最好的办法是找到愿意担任联系人的合作者或合著者，并以他们的名义提交给他们的 IRB。
知情同意：参与者必须充分了解他们与 LLM 交互的性质，包括潜在风险、益处和研究的总体目的。该过程必须明确区分人类参与者与 AI 的交互与更传统的干预。必须特别注意确保参与者了解他们正在与机器而不是人进行交互，以及他们的数据如何被 AI 系统使用、存储或处理。如果涉及弱势群体，同意过程可能需要进一步审查和额外的保障措施。
数据收集和保留：数据收集应设计明确的协议来保护参与者信息。在开始时，研究人员必须获得知情同意，确保参与者了解正在收集的数据类型、研究的目的以及如何使用和保护他们的信息。应尽可能减少敏感数据，包括个人可识别信息 (PII)。如果收集和存储 PII 是必需的，数据收集过程必须涉及强大的加密方法，例如 AES-256 加密，无论是在静止状态还是在传输过程中。这确保了数据在存储和传输期间的安全，防止未经授权的访问或泄露。此外，研究团队应使用安全的数据管理平台，访问权限仅限于直接参与研究的个人。
为了符合康奈尔大学 IRB 标准，研究人员必须制定全面的数据保留和销毁政策。数据应仅在满足研究目标所需的时间内保留。建议在 IRB 提交文件中明确概述数据保留期限，其中包括数据匿名化和删除的具体时间表。对于敏感数据集，匿名化应涉及数据掩蔽、假名化或聚合等技术，这些技术可以有效降低重新识别风险。一旦研究完成或不再需要数据，研究人员必须确保所有数据，特别是 PII，使用经批准的方法安全销毁，例如加密擦除或存储介质的物理销毁。此外，如果要与第三方共享数据，应建立严格的数据共享协议，以确保这些实体遵守相同的保密标准，并在数据生命周期的整个过程中保持数据的安全。通过采用这些策略，研究人员可以充分保护参与者的隐私，并满足康奈尔大学 IRB 严格的数据保护要求。
风险评估：作为 IRB 审查的一部分，研究人员需要提供全面的风险评估，识别使用 LLM 可能产生的任何潜在危害。这包括情绪困扰、AI 系统可能出现有偏见的回应，或由于交互而导致的意外社会后果。如果 LLM 被设计成对参与者的决策、情绪或社会行为产生影响，则必须仔细权衡这些风险。IRB 还将评估研究团队计划如何监测和缓解此类风险，包括为可能在干预后需要支持的参与者提供资源或转介。
LLM 对决策和自主性的影响：鉴于 LLM 模拟人类对话的性质，人们担心 AI 如何影响参与者的自主权。康奈尔大学的 IRB 希望研究人员阐明 LLM 响应的生成方式，并评估聊天机器人建议或输出被视为权威或操纵的风险。在研究旨在创造社会或行为变化的领域，必须考虑使用 LLM 生成的内容来影响参与者的伦理意义。研究人员应提出明确的简要说明机制，以确保参与者在实验结束后了解交互的性质。
偏见和公平：许多 LLM 可能反映出其训练数据中的固有偏见，可能导致社会有害的结果。康奈尔大学的 IRB 要求研究人员解决他们将如何监测和减轻 LLM 响应中的偏见，特别是如果干预影响边缘化或弱势群体。这可能包括定期审核 AI 的输出以确保公平，以及在如何训练 AI 方面保持透明。应在 IRB 申请中披露 LLM 中任何已知的限制或偏见，并告知参与者。
简要说明和反馈：对于涉及 LLM 的研究，特别是干预的社会影响尚不清楚或可能产生不可预见的后果的研究，有必要进行彻底的简要说明过程。IRB 将寻找有关如何向参与者告知实验后 LLM 交互的真实性质的详细信息，并给予他们提问或选择退出其数据的权利。鼓励研究人员纳入一项机制，让参与者提供其体验的反馈，这也有助于识别任何意外风险或影响。
社会影响研究的特殊考虑事项：如果研究旨在解决社会问题或实现更广泛的社会影响，例如影响公众舆论、政治观点或行为，康奈尔大学的 IRB 将评估干预是否会导致意外的社会破坏。例如，如果聊天机器人被设计成与用户就心理健康、政治意识形态或社会正义等敏感话题进行交流，IRB 将要求研究人员提供详细的理由，说明选择主题、人群以及将 AI 用于此类干预的伦理考量。
康奈尔大学的 IRB 审查流程是一个协作和迭代的过程，旨在确保涉及人类受试者的研究符合严格的伦理标准。在研究人员提交其初始提案后，其中包括研究目标、方法、参与者招募策略和数据保护计划，IRB 通常会与研究团队进行来回沟通。这种沟通通常通过电子邮件进行，包括 IRB 提供详细的反馈并要求澄清或修改以确保符合机构政策和联邦法规。
反馈过程可能需要多次修订，因为 IRB 可能会建议调整以改善参与者保护，改进同意过程或更好地保护敏感数据。研究人员应解决这些问题，并重新提交其修订后的协议以供进一步审查。这确保了研究在获得批准之前在伦理上是合理的。
一旦获得批准，IRB 的监督不会停止。对于正在进行的或多年的研究，研究人员必须提交年度续签申请以维持其批准状态。在研究过程中对研究设计、方法或参与者参与进行的任何重大变更也需要通过修订过程获得 IRB 事先批准。
在康奈尔大学，某些涉及人类受试者的研究类型可能符合 IRB 豁免类别，这意味着它们会接受较轻的审查级别。虽然这些研究仍然需要符合伦理标准，但它们通常对参与者造成的风险很小，并且有资格获得简化的审查流程。
要获得豁免资格，研究必须符合联邦定义的几个类别之一，例如涉及正常教育实践、匿名调查或使用公开数据的研究。但是，即使一项研究符合这些标准，也必须提交给 IRB 以进行正式的豁免状态确定。
豁免并不意味着研究不受监督。研究人员仍然需要遵循与知情同意、数据隐私和参与者福利相关的指南。此外，在授予豁免后对研究进行的任何重大变更都必须提交给 IRB 进行审查，以确认研究仍然符合豁免资格。虽然豁免研究不需要年度续签，但研究人员必须让 IRB 了解任何可能影响研究范围或风险水平的更新。