跳到正文

开源生态

开源模型、框架与仓库动态:权重开放、社区项目爆火、开源与闭源的力量消长。

205条精选相关主题模型发布Hugging FaceAI 编码

最新精选

第 201–205 条 · 共 205 条
7月25日周四
  1. Ollama Blog67

    Ollama 新增工具调用支持

    Ollama 现在支持 Llama 3.1 等模型的工具调用,可通过 tools 字段提供可用工具并接收 tool_calls 响应。支持的模型包括 Llama 3.1、Mistral Nemo、Firefunction v2、Command-R+,OpenAI 兼容端点也已支持工具调用。

    推荐理由:Ollama 为热门模型新增工具调用能力并开放 OpenAI 兼容接口,用户可据此快速接入外部工具。

6月27日周四
  1. Ollama Blog62

    Google Gemma 2 发布

    Google Gemma 2 现已提供 2B、9B 和 27B 三种规格,采用全新架构,27B 参数在基准测试中超越两倍规模模型。Ollama 已支持运行 Gemma 2,并给出与 LangChain、LlamaIndex 的集成示例。

    推荐理由:27B 参数在开放模型中实现超越更大模型的性能,为开源部署提供了新的效率标杆。

4月18日周四
  1. Ollama Blog67

    Llama 3 通过 Ollama 可用

    Llama 3 现已可通过 Ollama 运行,数据集为 Llama 2 的七倍,上下文从 8K 翻倍至 16K,token 词汇表扩至 128K,误拒率低于 Llama 2 的三分之一,提供 8B 与 70B 两个版本。Meta 计划后续推出 400B 参数版本,并增加多模态、多语言和更长上下文等能力。

    推荐理由:原文给出 Llama 3 在数据规模、上下文和 token 上的具体升级,以及与 Llama 2 的对比,读者可据此判断是否切换现有工作流。

4月10日周三
  1. TensorFlow Blog62

    TensorFlow Lite XNNPack 支持动态范围量化

    TensorFlow 官方宣布 XNNPack 的全连接和卷积算子支持动态范围量化,Stable Diffusion 推理速度最高提升 6.2 倍,且无需校准数据集即可启用。从 TensorFlow 2.17 起,预编译二进制默认开启该能力。

    推荐理由:原文给出动态量化在多个模型上的加速数据,读者可据此评估在旧设备上部署 AI 功能的可行性。

2月8日周四