大模型面经 | 春招、秋招算法面试常考八股文附答案（二）

大家好，我是皮先生！！

今天给大家分享一些关于大模型面试常见的面试题，希望对大家的面试有所帮助。

目录

1.大模型幻觉问题

2.介绍一下常见的位置编码

3.介绍一下LoRA

4.AdaLoRA 和 QLoRA

5.RLHF中，PPO需要哪几个模型，分别是什么作用?

---

1.大模型幻觉问题

幻觉是指大模型在生成文本或进行预测时，产生与事实不符或不符合逻辑的输出。例如，在问答任务中，模型可能给出与问题无关或错误的答案，即使这些答案在语法上看起来是合理的。这通常是由于模型在训练过程中过度拟合了训练数据，或者受到了训练数据中的噪声和偏差的影响。

来源：数据源缺陷、数据利用缺陷(如长尾知识)、来自训练的幻觉、来自推理(如随机解码多样性)

解决方法：

• 数据幻觉：缓解数据错误和偏见，通过规则筛选高质量数据源，通过模型对数据进行过滤...或者检索增强生成RAG的方式。

• 推理的时候，例如推理的时候用CoT的方式。

• 模型复杂度控制与正则化：通过减少模型的层数、神经元数量或使用正则化技术(如L1、L2正则化、Dropout等)来降低模型的复杂度，减少过拟合现象，从而降低模型幻觉的发生。

• 引入先验知识与约束：在模型训练过程中，引入领域知识、约束或规则，以引导模型生成更合理和真实的输出。这可以通过设计特定的损失函数、添加辅助任务或使用知识蒸馏等方法实现。

• 人工干预与后处理：在模型生成输出后，通过人工干预或后处理步骤对输出进行校正和优化。例如，可以使用人工编辑、过滤或排序等方法来改进模型的输出质量。

• 模型监控与评估：建立模型监控和评估机制，定期对模型进行性能评估和幻觉检测。通过收集用户反馈、分析输出质量等方式，及时发现并解决模型幻觉问题。