LISTENAI/linger

Auf GitHub ansehen

LISTENAI/linger has 33 GitHub stars and 5 forks. Star changes are not measured yet. Last checked 2026-11-14 11:32 UTC. Last push 2026-11-09.

So werden diese Zahlen gemessen

33 Sterne 5 Forks

Gemessener Sternzuwachs

in 24h: Verlauf wird gesammelt
in 7 days: Verlauf wird gesammelt
in 15 days: Verlauf wird gesammelt
in 1 month: Verlauf wird gesammelt

Nettoänderungen in überlappenden Zeiträumen, keine Tagessummen. Fehlende Messwerte bleiben leer. Sterne zeigen Interesse, nicht Qualität.

Über uns

a CSK serial based train tools， rely on pytorch

Maschinelles Lernen

README.md

English | 简体中文

方案简介

linger基于PyTorch对聆思IOT系列芯片进行深度定制，在神经网络训练的前向过程中将激活和权重量化到8bit，通过参数调整得到量化无损的8bit模型

doc/image/solution.png

技术亮点

1. 易用性高

linger 是基于 PyTorch 的量化方案，在原始浮点训练代码中加入一行 linger 相关代码即可完成进行量化算子的替换，使用原始的训练流程即可完成量化训练，无需其他复杂设置

2. 拓展性好

linger 基于 PyTorch 进行量化算子的搭建，因此只要符合 PyTorch 拓展算子的规范，你可以添加任何量化算子到 linger 中来完成你的量化需求

快速入门

开发环境配置：支持pip、源码、docker三种安装方式
量化训练快速入门: 先进行浮点网络的约束训练，再针对量化友好的浮点模型进行量化训练微调
量化训练进阶指导: 量化进阶配置
量化分布分析工具使用指南：分析权重、偏置和激活分布，生成可交互的离线 HTML 报告
混合精度量化与局部调优: YAML part、子模块约束/量化配置和效果调优流程
TQT量化训练完整指南: TQT配置、校准、阈值训练、效果优化、checkpoint恢复和完整导图流程
onnx导出教程：将量化无损的PyTorch模型导出为ONNX格式的模型

能力展示

常见问题

版本说明

请参考RELEASE

Ähnliche Projekte entdecken

tensorflow/tensorflow

Ein Open-Source-Framework für maschinelles Lernen für alle

huggingface/transformers

🤗 Transformers: das Framework zur Modelldefinition für State-of-the-Art-Modelle des maschinellen Lernens in Text, Vision, Audio und multimodal, für Inferenz und Training.

AUTOMATIC1111/stable-diffusion-webui

Web-UI für Stable Diffusion

Comfy-Org/ComfyUI

Die leistungsstärkste und modularste GUI, API und das Backend für Diffusionsmodelle mit einer Oberfläche aus Graphen und Knoten. Die schnellste lokale Inferenz-Engine der Welt.