SKILL

emerging-techniques-model-pruning

使用 Wanda 和 SparseGPT 等剪枝技术缩小 LLM 规模并加速推理。适用场景:无需重新训练即可压缩模型、在精度损失极小的前提下实现 50% 稀疏度,或在硬件加速器上实现更快的推理。涵盖非结构化剪枝、结构化剪枝、N:M 稀疏、幅度剪枝和一次性方法。

机器翻译
查看英文原文

Reduce LLM size and accelerate inference using pruning techniques like Wanda and SparseGPT. Use when compressing models without retraining, achieving 50% sparsity with minimal accuracy loss, or enabling faster inference on hardware accelerators. Covers unstructured pruning, structured pruning, N:M sparsity, magnitude pruning, and one-shot methods.

适用对象:学习与科研。自动收录 · 待核查。

在 Cursor 中使用

该组合的专门教程待补充,尚未核实适配。

准备条件

  • 本条仅收录原作者的技能元数据;请阅读完整说明,确认依赖、许可与使用条件。

选择已有说明的 AI 工具,或在页面加载后保存待办及提出教程请求。

查看原作者说明 ↗