文章总结： 本文介绍了利用本地算力卡结合ClaudeCode与OllamaAPI实现Token自由的方案。作者使用GLM-4.7-flash量化模型在A800显卡上运行，测试了编写Linuxtree命令的任务。结果表明，虽然量化模型精度受限，但配合工具能自动纠错，且具备响应快、无调用限制的优势，为拥有本地算力的开发者提供了可行的AI编程实践参考。 综合评分： 84 文章分类： 实战经验,安全开发,安全工具

vibe coding 如何实现 token 自由

原创

hyang0 hyang0

生有可恋

2026年3月5日 10:18 湖北

现在使用 AI 编程除了使用第三方 API，剩下的唯一方式就是买算力卡。如果你刚好有算力卡，那么就基本上实现 token 自由了。

先说下方案：claude code + ollama api

选用的模型：glm-4.7-flash

先看下 glm-4.7-flash 模型的大小，q4 量化的模型有 19G 大小，跑起来后需要 40G 显存。

下面是跑起来后的样子：

实际效果如何？与16位精度的肯定没法比，也没法与官网的 GLM-5 比，但好在 token 无限。

由于是量化版本，4bit 精度下写代码还是会报错，配合 claude code 能自己改错。

我让其实现一个类 linux 下的 tree 命令，这个任务不难，主要是测试一下 glm-4.7-flash 的功能是否完备。

实际效果如下，程序写出来了，一次成功，中间有 bug 但 claude code 自己修复了。

对比了一下之前用 python 写的版本，没有完全还原 linux 下 tree 命令。

看下对照版本，下面是使用 python 实现的：

将标准输出给模型作参考，让修正代码错误。

本地运行的模型写代码挺快的，一轮下来差不多两分钟，比调用第三方 API 块，最主要的是可以无限调用，没有 token 焦虑。

如果你本地有算力卡，可以搞起来，爽的飞起。

最后说下运行环境：

算力卡：A800

ollama 版本：0.17.4

模型：glm-4.7-flash

claude code 配置：

export ANTHROPIC_AUTH_TOKEN="ollama"export ANTHROPIC_BASE_URL="http://ai.xyz.com:11434"export ANTHROPIC_MODEL="glm-4.7-flash:latest"

全文完。

免责声明：

本文所载程序、技术方法仅面向合法合规的安全研究与教学场景，旨在提升网络安全防护能力，具有明确的技术研究属性。

任何单位或个人未经授权，将本文内容用于攻击、破坏等非法用途的，由此引发的全部法律责任、民事赔偿及连带责任，均由行为人独立承担，本站不承担任何连带责任。

本站内容均为技术交流与知识分享目的发布，若存在版权侵权或其他异议，请通过邮件联系处理，具体联系方式可点击页面上方的联系我。

本文转载自：生有可恋 hyang0 hyang0《vibe coding 如何实现 token 自由》