最新精选
第 201–204 条 · 共 204 条Llama 3 现已可通过 Ollama 运行,数据集为 Llama 2 的七倍,上下文从 8K 翻倍至 16K,token 词汇表扩至 128K,误拒率低于 Llama 2 的三分之一,提供 8B 与 70B 两个版本。Meta 计划后续推出 400B 参数版本,并增加多模态、多语言和更长上下文等能力。
推荐理由:原文给出 Llama 3 在数据规模、上下文和 token 上的具体升级,以及与 Llama 2 的对比,读者可据此判断是否切换现有工作流。
- TensorFlow Blog精选AI 评分6262
TensorFlow 官方宣布 XNNPack 的全连接和卷积算子支持动态范围量化,Stable Diffusion 推理速度最高提升 6.2 倍,且无需校准数据集即可启用。从 TensorFlow 2.17 起,预编译二进制默认开启该能力。
推荐理由:原文给出动态量化在多个模型上的加速数据,读者可据此评估在旧设备上部署 AI 功能的可行性。
Ollama 推出对 OpenAI Chat Completions API 的内置兼容支持,可使用 cURL、OpenAI Python/JS 库及 Vercel AI SDK、Autogen 等框架本地调用模型。
推荐理由:本地 Ollama 新增 OpenAI 兼容接口,开发者可沿用既有 SDK 与工具链对接本地模型。
- TensorFlow Blog精选AI 评分6262
Google Research 推出基于 TensorFlow Lite 的移动端胎儿超声评估模型,支持非专家通过盲扫协议获取孕周与胎位预测。模型在 Pixel 设备上实现 30 帧/秒以上实时推理,且无精度损失,并提供扫查质量反馈。
推荐理由:原文给出移动端实时推理速度与质量反馈机制,读者可据此评估该工具在低资源场景下的可用性。