Social learning: Collaborative learning with large language models

大语言模型（LLM）在解决以自然语言描述的任务方面显著提升了 SOTA 水平，其表现往往接近人类。随着这些模型越来越多地赋能辅助型智能体，让它们能够像人类在社交环境中那样有效地相互学习可能大有裨益，这将使基于 LLM 的智能体能够相互提升彼此的表现。

为了探讨人类的学习过程，Bandura 和 Walters 于 1977 年提出了社会学习的概念，概述了人们所使用的不同观察学习模型。一种常见的向他人学习的方法是通过言语指导（例如来自教师），描述如何实施特定行为。另一种方式是通过现场示范进行学习，即模仿该行为的现场示例。

鉴于大语言模型在模仿人类交流方面的成功，我们在论文“社会学习：迈向大语言模型的协作学习”中，研究了LLM是否能够通过社会学习相互学习。为此，我们提出了一个社会学习框架，其中LLM以隐私感知的方式使用自然语言相互分享知识。我们在各种数据集上评估了框架的有效性，并提出了在该设定下衡量隐私的定量方法。与以往的协作学习方法（如通常依赖梯度的常见联邦学习方法）不同，在我们的框架中，智能体完全使用自然语言相互教学。