HiFloat 大模型共创行动 第二季
面向主流大模型的 HiF8 量化验证与优化
主办单位:GCC-HiFloat 社区
活动时间: 2026 年 9 月至 2026 年 12 月
参与对象:AI 开发者 高校及科研团队 大模型量化与推理优化团队
HiFloat 大模型共创行动第二季面向开发者和技术团队,围绕主流大模型持续发布 HiF8 量化任务。参与者将在 NPU 或 GPU 平台完成模型量化、精度验证与优化,形成可复用的低位宽计算实践。
HiFloat 是面向智能计算场景设计的低位宽(不高于 8 bit)浮点数据格式。GCC-HiFloat 社区联合产业伙伴推动其技术演进、模型适配和应用落地,并为入选项目提供技术资料、专家指导和相应资源支持。
第二季采用模型任务池机制,具体型号与任务要求分批发布。首批覆盖以下模型厂商和系列,后续可根据活动进展增加其他主流开源或开放权重模型。
任务模型如下:
(注:Kimi-K2,MiniMax M2.7模型参数比较大,适合资源较多的开发者)
开发者须对指定模型开展推理场景下的 W8A8 HiF8 量化验证。具体指标和交付范围以各期正式发布的任务说明为准。
01 计算平台 基于 NPU 或 GPU 完成开发与验证。
02 量化范围 Attention 和 Linear 等核心计算部分采用 HiF8 数据格式。
03 精度指标 完成指定 Benchmark 测试,量化后下游任务平均精度损失原则上低于 0.5%。参考测试集包括 ARC、BoolQ、HellaSwag、PIQA、WinoGrande、GSM8K、MMLU、Math500、CMMLU 等,并可按模型特点调整。
04 基线对比 同步提供原模型或指定基线的测试结果,完整对比量化前后的精度表现。
05 成果交付 提交量化验证报告、Benchmark 与精度对比结果、模型及量化实现代码,以及任务说明要求的其他技术材料。
开发者可结合技术能力、算力条件和研究方向选择任务。新任务、技术要求、开发资源和后续安排将通过邮件及社区渠道向报名者滚动发布。
社区开放 HiFloat8 仿真工具包、数据格式与技术白皮书、高性能训练、高效低比特推理及专项开发资料。
HiFloat8 仿真工具包(GitHub):https://github.com/global-computing-consortium/HiFloat8
HiFloat8技术白皮书:https://hifloat.gccorg.com/docs/zh/hifloat8/white_paper/ascend_hifloat8_format_for_deep_learning.html
入选开发者可与 HiFloat 技术团队及社区专家交流数据格式、量化方法、模型适配、推理优化和 Benchmark 测试等问题。
01 研发经费 完成指定挑战任务并通过专家评审后,将根据任务难度和成果情况获得相应研发经费支持。
02 完成证明 通过验收的开发者将获得 GCC-HiFloat 社区出具的可查询项目完成证明。
03 成果收录 具有创新性和代表性的成果有机会收录至 HiFloat 技术案例、最佳实践或相关研究成果。
04 展示交流 优秀开发者和团队有机会受邀参加 GCC 及 HiFloat 社区技术会议、开发者活动和产业交流。
05 持续共创 表现优秀者可继续参与模型适配、技术研究、测试验证和产业共创项目。
01 活动报名 提交个人或团队基本信息,选择拟参与的模型任务方向。
02 开发计划 提交个人或团队介绍、相关经验及初步开发计划。
03 评估确认 社区组织专家评估技术能力和计划,通过后确认正式任务。
04 协议与资源 涉及算力或研发经费支持的项目按要求完成实名认证和协议签署。
05 开发验证 完成 HiF8 量化、Benchmark 测试、基线对比和技术验证。
06 成果提交 提交验证报告、测试结果、模型代码及相关技术材料。
07 专家评审 通过验收后获得相应支持与完成证明,优秀成果择优展示。
|
时间 |
安排 |
|
2026 年 9 月 |
第二季启动,开放报名并发布模型任务 |
|
2026 年 9 月至 2026 年 11 月 |
分批开展开发、验证、成果提交与专家评审 |
|
2026 年 12 月 |
汇总优秀成果与示范案例 |
个人开发者、高校及科研团队、企业技术团队均可报名,建议具备 NPU 或 GPU 大模型部署、多卡推理、模型量化与压缩、性能调优、AI 框架开发、Benchmark 评测或底层优化经验。建议拥有足够算力资源的团队报名参加。
报名入口与任务详情界面:https://hifloat.gccorg.com/zh/events/co-creation
开发者报名参加活动即订阅任务发放通知邮件,详细的任务说明、技术资源、后续操作说明等信息将通过邮件通知报名者。同时欢迎扫码加入"GCC HiFloat大模型共创营",及时获取活动信息,与主办方和其他开发者互动。
GCC-HiFloat 社区期待与开发者共同探索 HiF8 在主流大模型中的应用潜力。