高通发布 1-bit Bonsai 轻量化视觉大模型,专门适配骁龙 AR1 Gen1 AI 眼镜。这个模型最大亮点,是能够直接在眼镜本地离线运行识图、文字翻译功能,不需要联网调用云端算力。经过压缩之后,它占用的内存空间,只有原先 4bit 版本模型的四分之一。
普通大模型对硬件内存要求很高,很难放进体积小、电池容量有限的 AR 眼镜。1-bit 量化技术,简单来说就是压缩模型存储占用,牺牲很小一部分识别精度,大幅度降低内存和功耗需求。有了这套模型,AI 眼镜在没有网络的环境下,依旧可以识别眼前物体、读取标识文字并实时翻译。这对户外使用场景很友好,不用依赖手机网络,延迟更低,隐私数据也不会上传云端。这项技术会降低智能 AR 眼镜的算力门槛,推动轻量化端侧 AI 普及,未来各类便携穿戴设备,都有机会搭载本地运行的 AI 视觉能力。
发布于 福建
