用客户端技术构建 LLM 驱动的 Web 应用

Jacob Lee 演示了如何在浏览器端使用本地模型和开源工具构建 RAG 应用：文档分块、Xenova Transformers.js 嵌入、Voy 向量存储，以及通过 Ollama 暴露本地 Mistral 7B 模型给 Web 应用，并提供了可运行的 Next.js 示例和 LangSmith 追踪链接。