首页 > 资讯AI

HuggingFace推2B参数视觉语言模型SmolVLM：在普通设备就能飞速运行

文章来源：放心AI网发布时间：2025-05-27 10:15:50

近年来，机器学习模型在视觉和语言任务方面的应用需求日益增长，但大多数模型都需要庞大的计算资源，无法在个人设备上高效运行。尤其是像笔记本电脑、消费级 GPU 和移动设备等小型设备，在处理视觉语言任务时面临巨大的挑战。

以 Qwen2-VL 为例，虽然其性能卓越，但对硬件的要求较高，限制了其在实时应用中的可用性。因此，开发出轻量化模型以便于在较低资源下运行，成为了一项重要需求。

Hugging Face 近期发布了 SmolVLM，这是一款专门为设备端推理设计的2B 参数视觉语言模型。SmolVLM 在 GPU 内存使用和令牌生成速度方面的表现超越了其他同类模型。其主要特性是能够在较小的设备上有效运行，比如笔记本电脑或消费级 GPU，而不会牺牲性能。SmolVLM 在性能和效率之间找到了一个理想的平衡，解决了以往同类模型难以克服的问题。

与 Qwen2-VL2B 相比，SmolVLM 生成令牌的速度快了7.5到16倍，归功于其优化的架构，使得轻量级推理成为可能。这一效率不仅为最终用户带来了实用的好处，也极大提升了使用体验。

从技术角度来看，SmolVLM 具有优化的架构，支持高效的设备端推理。用户甚至可以在 Google Colab 上轻松进行微调，极大地降低了试验和开发的门槛。

由于内存占用小，SmolVLM 能够在之前无法承载同类模型的设备上顺利运行。在对50帧 YouTube 视频进行测试时，SmolVLM 表现出色，得分达到27.14%，并在资源消耗上优于两款更为消耗资源的模型，显示了其强大的适应能力和灵活性。

SmolVLM 在视觉语言模型领域具有重要的里程碑意义。它的推出使得复杂的视觉语言任务能够在日常设备上运行，填补了当前 AI 工具中的一项重要空白。

SmolVLM 不仅在速度和效率方面表现优异，还为开发者和研究者提供了一个强大的工具，以便于进行视觉语言处理，而无需投入高昂的硬件费用。随着 AI 技术的不断普及，像 SmolVLM 这样的模型将使得强大的机器学习能力变得更加触手可及。

demo:https://huggingface.co/spaces/HuggingFaceTB/SmolVLM

https://huggingface.co/spaces/HuggingFaceTB/SmolVLM

AI聊天机器人的"黑暗时刻"：当技术失控，人性的阴影浮现

上一篇: AI聊天机器人的"黑暗时刻"：当技术失控，人性的阴影浮现

在人工智能高歌猛进的时代，聊天机器人正以惊人的速度渗透到我们生活的各个角落。然而，随着其应用的急剧扩张，一系列令人不安的事件正揭示出这项技术背后可能存在的深层隐患。一个令人震惊的案例recently浮出水

相关攻略更多

热门核心AI更多

最新资讯更多

BEXI.ai

BEXI.ai

核心AI

更新时间：2025-03-31