Global AI Alliance for Climate Action 公布资助项目
Vector Institute 与 Be Node 宣布 Global AI Alliance for Climate Action 资助名单，CleanTech21、美国国家物候网络以及全球风险创新中心与吉尔吉斯斯坦互联网协会联合项目各获资助。
#部署/工程
#部署/工程
今日 67 条Vector InstituteAI 评分2727
TensorFlow BlogAI 评分2121 TensorFlow 2.19 更新了什么
TensorFlow 2.19 已发布，主要更新包括 LiteRT C++ API 变更、TF-Lite tfl.Cast op 支持 bfloat16，以及停止发布 libtensorflow 包。tf.lite.Interpreter 将于 TF 2.20 删除，需迁移至 ai_edge_litert.interpreter。
Mistral AI精选AI 评分7272 Mistral OCR 文档理解 API 发布
Mistral 推出 OCR API，支持图像和 PDF 输入，以 interleaved 文本与图片结构化输出，并作为默认文档理解模型集成到 Le Chat。API 在 la Plateforme 以 1000 页/$ 开放，批量推理每美元页数约翻倍，同时提供自托管选项。
推荐理由：原文给出了能力变化和开放入口，读者可以据此判断它会怎样改变现有工作流。
Vector InstituteAI 评分3131 FairSense：融合负责任 AI 与可持续性
FairSense-AI 扩展偏见检测到文本与视觉内容，同时采用节能 AI 框架，由 Vector 团队开发。优化后 Llama 3.2 1B 每小时推理碳排放从 107,000 kg 降至 0.012 kg CO2，并使用 CodeCarbon 评估能耗。提供 Python 包，集成 LLM/VLM 进行偏见评分与风险识别，并计划接入 MIT 风险库与 NIST 框架。
Ollama BlogAI 评分4242 Ollama Python library 0.4 发布：支持函数作为工具调用
summary_zh: Ollama Python library 0.4 新增将 Python 函数作为 tools 传递给模型的功能，支持完整类型提示和 Pydantic 自动生成 JSON Schema。
TensorFlow BlogAI 评分2727 MLSysBook.AI：机器学习系统工程的原理与实践
MLSysBook.AI 是哈佛大学 CS249r Tiny Machine Learning 课程及 HarvardX TinyML 系列扩展而来的开源"教材"，覆盖数据工程、模型开发、优化、部署、监控与维护等端到端 ML 生命周期。它将核心概念映射到 TensorFlow 生态，阐明量化等原则在嵌入式设备与大型数据中心间的一致性，帮助 ML 从业者构建高效、可扩展的系统。
TensorFlow BlogAI 评分3434 TensorFlow 2.18 更新了什么
TensorFlow 2.18 发布，亮点包括支持 NumPy 2.0、LiteRT 代码库迁移、Hermetic CUDA 以及 CUDA 内核更新。NumPy 2.0 可能改变计算精度并引发类型错误，迁移指南已更新。CUDA 内核不再支持 compute capability 5.0，最低预编译支持为 Pascal（6.0），Maxwell 需用 TF 2.16 或从源码编译。
Ollama Blog精选AI 评分6262 IBM Granite 3.0 模型已可通过 Ollama 运行
IBM Granite 3.0 的 2B、8B 密集模型与 1B、3B MoE 模型已可在 Ollama 中运行，均采用 Apache 2.0 许可证。
推荐理由：原文给出具体模型与开放入口，读者可据此判断是否适合本地低延迟部署。
Vector InstituteAI 评分1818 Vector 实习生 OJ Onyeagwu 打造语义搜索与推荐系统，提升 Partner Portal 用户体验
Vector 实习生 OJ Onyeagwu 为 Partner Portal 构建了基于 Flask API 和向量数据库的语义搜索系统，并引入内容推荐轮播与 Coherent Re-rank 端点。系统根据用户 AI 技能水平与行业提供个性化推荐，数据管道在 GCP 上运行并同步 WordPress、Vimeo 与 arXiv 数据。Qdrant 向量数据库存储嵌入向量以支持高效相似度搜索。
TensorFlow BlogAI 评分2222 TensorFlow 2.17 更新了什么
TensorFlow 2.17 已发布，二进制包为计算能力 8.9 的 GPU（如 NVIDIA RTX 40 系列、L4、L40）提供专用 CUDA 内核，同时停止支持计算能力 5.0，预编译包最低支持 Pascal 架构（6.0）。TensorFlow 2.18 将放弃 TensorRT 支持，2.17 是最后一个包含 TensorRT 的版本，并将支持 Numpy 2.0。
Ollama BlogAI 评分3333 Google 发布 Firebase Genkit，支持通过 Ollama 本地运行 Gemma 模型
Google 在 Google IO 2024 发布开源框架 Firebase Genkit，支持在 MacOS、Windows、Linux 及 Docker 容器中通过 Ollama 本地运行开源模型 Gemma。开发者可通过 npm install -g genkit 安装并使用 ollama pull gemma 下载模型，Genkit 默认运行在 localhost:4000。
Ollama BlogAI 评分3434 Ollama 支持 Embedding 模型
Ollama 支持 embedding 模型，可用于构建检索增强生成（RAG）应用，将文本提示与现有文档或其他数据结合。
Ollama BlogAI 评分3636 Ollama 支持 AMD 显卡预览
Ollama 在 Windows 和 Linux 上推出 AMD 显卡预览支持，所有功能均可由 AMD 显卡加速。已支持 Radeon RX 7900 XTX、7900 XT、6950 XT、Vega 64、PRO W7900、Instinct MI300X 等系列显卡，更多型号即将推出。用户可下载 Ollama for Linux 或 Windows 开始使用。
TensorFlow BlogAI 评分3333 TensorFlow 2.16 更新了什么
TensorFlow 2.16 已发布，默认编译器改为 Clang 17（Windows CPU wheels），默认 Keras 版本升级为 Keras 3，并支持 Python 3.12。
TensorFlow BlogAI 评分5050 TensorFlow GNN 1.0：图神经网络在 TensorFlow 中的发布
TensorFlow GNN 1.0（TF-GNN）正式发布，是一个经过生产验证的、用于大规模构建图神经网络（GNN）的库。它支持在 TensorFlow 中进行建模和训练，并能从大型数据存储中提取输入图。TF-GNN 从底层构建，专为异构图设计，其中不同类型和关系由不同的节点和边集合表示。
Ollama BlogAI 评分3333 Ollama Python 与 JavaScript 库发布
summary_zh: Ollama 正式发布 Python 和 JavaScript 官方库，可通过 pip install ollama 和 npm install ollama 安装，仅需几行代码即可将应用与 Ollama 集成。
TensorFlow BlogAI 评分1515 TensorFlow 2.15.0.post1 修复 Linux 安装 tensorrt 依赖问题
TensorFlow 2.15.0 的 Python 包在 pip install tensorflow[and-cuda] 安装时错误依赖 tensorrt，导致部分用户安装失败或回退到 2.14。
TensorFlow BlogAI 评分5858 TensorFlow Lite XNNPack 启用半精度推理，FP16 性能翻倍
TensorFlow Blog 宣布 TensorFlow Lite 的 XNNPack 后端支持半精度（FP16）推理，在 ARM CPU 上使浮点模型推理速度较 FP32 提升近 2 倍。
TensorFlow BlogAI 评分3333 TensorFlow 2.15 更新了什么
TensorFlow 2.15 已发布，Linux 的 NVIDIA CUDA 库通过 pip 安装升级到 CUDA 12.2，Windows x64/x86 默认启用 oneDNN CPU 优化。tf.function 类型全面可用，引入 TraceType、FunctionType 和 AtomicFunction；编译工具升级到 Clang 17.0.1 与 CUDA 12.2。
TensorFlow BlogAI 评分4242 Spotify 基于 TensorFlow 与 TF-Agents 的模拟听歌环境用于强化学习推荐
summary_zh: Spotify 利用 TensorFlow 与 TF-Agents 构建离线 Spotify 模拟器，用于在真实上线前原型设计、分析和训练推荐智能体。
TensorFlow BlogAI 评分2323 使用 Flutter TFLite 插件构建棋盘游戏
summary_zh: 开发者使用 TensorFlow 训练强化学习智能体并转换为 TFLite 模型，再通过 Flutter TFLite 插件在 Android 和 iOS 上运行 Plane Strike 游戏。
Ollama BlogAI 评分5555 用客户端技术构建 LLM 驱动的 Web 应用
Jacob Lee 演示了如何在浏览器端使用本地模型和开源工具构建 RAG 应用：文档分块、Xenova Transformers.js 嵌入、Voy 向量存储，以及通过 Ollama 暴露本地 Mistral 7B 模型给 Web 应用，并提供了可运行的 Next.js 示例和 LangSmith 追踪链接。
Ollama BlogAI 评分3030 Ollama 发布官方 Docker 镜像
Ollama 发布官方 Docker sponsored 开源镜像，简化通过 Docker 容器使用大语言模型的方式。所有与 LLM 的交互均在本地进行，不将私有数据发送给第三方。Mac 上建议以独立应用运行以获得 GPU 加速，Linux 上可在 Docker 容器内为 Nvidia GPU 提供 GPU 加速，并通过 REST API 与应用交互。
TensorFlow BlogAI 评分4747 TensorFlow Decision Forests 与 Temporian 让时间序列数据预处理更简单
summary_zh: Google 与 Tryolabs 发布开源 Python 库 Temporian，用于机器学习中时间序列数据的预处理与特征工程，并与 TensorFlow Decision Forests 配合训练预测模型。
TensorFlow BlogAI 评分3131 TensorFlow 分布式快速傅里叶变换（Distributed FFT）功能解析
summary_zh: TensorFlow 通过 DTensor API 原生支持分布式 FFT，用户只需将分片张量传入现有 FFT 操作（如 tf.signal.fft2d）即可，输出同样为分片张量。
TensorFlow BlogAI 评分2626 TensorFlow Lite Flutter 插件正式发布
TensorFlow Lite Flutter 插件已迁移至 TensorFlow GitHub 官方仓库并正式发布，支持在移动端、嵌入式、Web 和边缘设备本地运行 TensorFlow 模型。插件新增实时摄像头目标检测等功能，桌面端支持正在开发中。开发者可从 pub.dev 安装，并使用 Kaggle Models 等资源获取预训练模型。
TensorFlow BlogAI 评分3030 Simpleperf 案例分析：加速 TFLite 内存 Arena 初始化
summary_zh: Alan Kelly 通过 Simpleperf 对 TFLite 内存 Arena 初始化进行性能分析，发现 ArenaPlanner::ExecuteAllocations 占模型运行时的 54.3%。
TensorFlow BlogAI 评分2525 TensorFlow 2.13 和 Keras 2.13 有什么新功能？
TensorFlow 2.13 和 Keras 2.13 已发布，Apple Silicon wheels 首次亮相。Keras V3 格式成为 .keras 文件默认保存格式，提供更轻量、可读且安全的模型保存与加载。tf.data 新增 Dataset.zip 支持 Python 风格解包、Dataset.shuffle 支持全量打乱以及 pad_to_cardinality 转换。
TensorFlow Blog精选AI 评分6262 TensorFlow Lite 实现移动端胎儿超声评估
Google Research 推出基于 TensorFlow Lite 的移动端胎儿超声评估模型，支持非专家通过盲扫协议获取孕周与胎位预测。模型在 Pixel 设备上实现 30 帧/秒以上实时推理，且无精度损失，并提供扫查质量反馈。
推荐理由：原文给出移动端实时推理速度与质量反馈机制，读者可据此评估该工具在低资源场景下的可用性。
TensorFlow BlogAI 评分3636 用 LLM 增强推荐系统：PaLM API 在检索-排序流水线中的实践
summary_zh: Google 在 Google I/O 2023 将 PaLM API 以"public preview"形式开放，开发者可通过 PaLM API Chat 与 Text 服务在推荐系统中实现对话式推荐。
TensorFlow BlogAI 评分2525 Google 首届推荐系统开发者峰会即将举行
summary_zh: Google 将于 6 月 9 日在线举办首届推荐系统开发者峰会，TensorFlow 团队将分享 TensorFlow Recommenders、TensorFlow Ranking 和 TensorFlow Agents 等产品的使用经验。
Stanford AI LabAI 评分3131 BanditPAM：基于多臂赌博机实现近线性时间的 k-medoids 聚类
summary_zh: Stanford AI Lab 将 NeurIPS 论文 BanditPAM 开源，通过多臂赌博机将 k-medoids 聚类算法从 O(n²) 加速至 O(n log n)。