跳到正文
AI NEWS JOURNAL
arXiv cs.CLAI NEWS / JOURNAL

一种用于前沿大型语言模型中阿希服从现象的定量方法

arXiv:2610.36668v1 发布类型:新 摘要:阿希服从实验近来作为衡量大型语言模型(LLMs)中从众行为的一种手段而备受关注。尽管先前的研究主要致力于证明大型语言模型中的从众现象,但我们的工作在此基础上进一步引入了定量分析维度。我们并未针对一系列问题对前沿大型语言模型进行抽样,而是通过反复采样同一个问题,利用大型语言模型的概率特性生成答案分布。由此,我们可以比较模型在被呈现人为制造的共识前后答案分布的变化。实验结果证实,前沿大型语言模型确实存在从众现象,这与先前文献的结论相一致;同时,借助我们提出的分布间对比方法,还提供了更多……

arXiv:2610.36668v1 发布类型:新

摘要:阿希从众实验近来作为衡量大型语言模型(LLMs)从众行为的一种方法,受到了广泛关注。尽管先前的研究主要致力于证明大型语言模型的从众现象,但我们的工作在此基础上进一步引入了定量分析维度。与以往在一系列问题上对前沿大型语言模型进行抽样不同,我们的方法通过反复针对单个问题进行采样,利用大型语言模型的随机性生成答案分布。由此,我们得以比较模型在被呈现人为制造的共识前后答案分布的差异。实验结果证实,前沿大型语言模型确实存在从众现象,这与既有文献相呼应;同时,通过分布间的对比分析,我们还提供了关于导致从众现象的条件及其发生程度的更多量化数据。

资料来源

阅读原文 ↗

相关主题

← 继续阅读全部动态