你是否有过这样的困惑？——给大模型发一段500字的中文需求，却被扣除了800多个Token；同样一篇文章，在GPT-4中消耗1200 Token，在通义千问中却只有900 Token；明明是按“字数”付费，服务商却坚持按“Token”计费。 直到深入理解Token（词元）与分词器（Tokenizer）的核心逻辑，你才会 […]
在大模型应用爆发的时代，本地部署大模型已成为企业和开发者的核心需求——既避免数据隐私泄露，又无需承担高昂的 API 调用费用。而 Ollama 的出现，彻底降低了本地大模型的使用门槛，堪称“大模型届的 Docker”。更令人兴奋的是，Ollama 现已支持官方 UI 界面，告别了纯命令行操作，让非技术用户也能轻松上手。 […]
最近评论
老张博客 发布于 2 周前（04月02日）
李锋镝 发布于 4 周前（03月19日）
林子浩 发布于 4 周前（03月18日）
無境 发布于 1 个月前（03月12日）
懋和道人 发布于 1 个月前（03月03日）