SKILL
emerging-techniques-model-pruning
使用 Wanda 和 SparseGPT 等剪枝技术缩小 LLM 规模并加速推理。适用场景:无需重新训练即可压缩模型、在精度损失极小的前提下实现 50% 稀疏度,或在硬件加速器上实现更快的推理。涵盖非结构化剪枝、结构化剪枝、N:M 稀疏、幅度剪枝和一次性方法。
机器翻译查看英文原文
Reduce LLM size and accelerate inference using pruning techniques like Wanda and SparseGPT. Use when compressing models without retraining, achieving 50% sparsity with minimal accuracy loss, or enabling faster inference on hardware accelerators. Covers unstructured pruning, structured pruning, N:M sparsity, magnitude pruning, and one-shot methods.
适用对象:学习与科研。自动收录 · 待核查。
在 Cursor 中使用
该组合的专门教程待补充,尚未核实适配。
准备条件
- 本条仅收录原作者的技能元数据;请阅读完整说明,确认依赖、许可与使用条件。
选择已有说明的 AI 工具,或在页面加载后保存待办及提出教程请求。
查看原作者说明 ↗