首页 > 资讯AI

智谱AI开源端侧大语言和多模态模型GLM-Edge系列

文章来源：放心AI网发布时间：2025-05-25 17:52:49

智谱科技近日宣布开源其端侧大语言和多模态模型GLM-Edge系列，这一举措标志着公司在端侧真实落地使用场景中的一次重要尝试。GLM-Edge系列由四种不同尺寸的模型组成，包括GLM-Edge-1.5B-Chat、GLM-Edge-4B-Chat、GLM-Edge-V-2B和GLM-Edge-V-5B，分别针对手机、车机等移动平台以及PC等桌面平台进行了优化。

基于GLM-4系列的技术积累，智谱的研究团队对模型结构和尺寸进行了调整，以实现模型性能、实机推理效果和落地便利度之间的最佳平衡。通过与合作伙伴的深入合作和推理优化，GLM-Edge系列模型在一些端侧平台上展现出了卓越的运行速度。特别是在高通骁龙8Elite平台上，借助NPU算力和混合量化方案，1.5B对话模型和2B多模态模型能够实现每秒60tokens以上的解码速度，应用投机采样技术后，解码速度更是能达到每秒100tokens以上。

智谱开源的GLM-Edge系列模型不仅展示了公司在人工智能领域的技术实力，也为开发者和研究者提供了强大的工具和资源，以促进端侧AI应用的发展和创新。

GLM-Edge合集:

https://modelscope.cn/collections/GLM-Edge-ff0306563d2844

腾讯文档3.9.0版本上线：AI文档助手升级融合读、写、搜

上一篇: 腾讯文档3.9.0版本上线：AI文档助手升级融合读、写、搜

腾讯文档近日推出了3 9 0版本，其中AI文档助手功能得到了全面升级，以提升用户体验和工作效率。新版本深度融合了“读、写、搜”三大核心办公功能，旨在一站式解决用户的工作难题。在“读”方面，AI文档助手的深度阅读

相关攻略更多

热门核心AI更多

最新资讯更多

Numerous.ai

Numerous.ai

核心AI

更新时间：2025-04-29