前言DeepSeek公开了一套模型蒸馏的基本范式，同时公开了基于Qwen2.5、Llama3的蒸馏模型。 本文仅为简单介绍DeepSeep模型蒸馏范式的基本流程。 其中，Qwen1.5B的推理性能已经超过了GPT4o，而Qwen32B到推理性能可以达...