Google 发布基于 TEE 的联邦学习系统，Gboard 已采用
Google 发布新一代联邦学习系统，利用可信执行环境（TEE）为数据匿名化提供可验证、可审计的保证，Gboard 已采用该系统上线英语和日语下一词预测模型，隐私保证更强且准确率提升。
推荐理由：Google 公布基于 TEE 的新一代联邦学习系统设计，并给出 Gboard 已上线的实际部署情况，可了解隐私计算在端侧训练中的工程路径。
#端侧
Google Research精选AI 评分6666 NVIDIA Blog精选AI 评分6060 NVIDIA 推出 DGX Spark 64GB 配置，支持双机集群扩展本地 AI
NVIDIA 将于本月通过 Acer、ASUS、Dell、Gigabyte、HP 和 MSI 等厂商推出 DGX Spark 64GB 统一内存版本，10 月 23 日开售，起售价 4,999 美元，预装 DGX OS 与 NVIDIA AI 软件栈。
推荐理由：原文给出 64GB 新配置的价格、上市时间和双机集群方式，可据此判断本地跑大模型的门槛变化。
Hugging Face Blog精选AI 评分6262 Transformers 现已支持运行 llama.cpp 的 GGUF 量化模型
Hugging Face 为 transformers 加入 GGUF 支持，用户可从 Hub 选取量化 checkpoint，通过 from_pretrained 传入 gguf_file 即可在本地生成，无需额外配置。
推荐理由：Hugging Face 官方说明 transformers 如何直接加载 GGUF 量化权重，并给出与 llama.cpp 的对比数据，便于判断本地推理的新选择。
Hugging Face Blog精选AI 评分6262 Liquid AI 发布 LFM2.5-DSpark 草稿模型，推理最高提速 3.2 倍
Liquid AI 为 LFM2.5-1.2B-Instruct、LFM2.5-2.6B 和 LFM2.5-8B-A1B 发布 DSpark 草稿模型检查点，通过投机解码在不改变输出质量的前提下提升解码速度，GPU 上吞吐最高提升 3.18 倍，端侧最高 2.87 倍。
推荐理由：官方给出三个模型的草稿检查点与 H100、MacBook 实测吞吐，可据此判断投机解码在端侧与云端的落地差异。
Google DeepMind精选AI 评分7878 Google DeepMind 发布手语转文本模型 SL2T，率先落地 Pixel 11 的 Gboard 与 Live Transcribe
Google DeepMind 发布多语言手语转文本模型 SL2T，并在 Pixel 11 的 Gboard 和 Live Transcribe 中上线手语听写功能，首批支持美国手语（ASL）转英文。
推荐理由：官方披露了 SL2T 的训练规模、手语到文本的翻译路径与隐私处理方式，可据此判断手语 AI 从实验室走向消费级产品的技术取舍。
Mistral AI精选AI 评分6565 Mistral AI 发布 Shieldstral 3B 开源多模态安全分类器
Mistral AI 发布 Shieldstral，一个 3B 开源权重多模态安全分类器，以 Apache 2.0 许可发布，可在单张 16GB NVIDIA GPU 上运行。它把内容审核建模为策略自适应的问答任务，推理时用自然语言写入策略并输出校准后的安全分数，无需重新训练即可统一文本与图像安全评估。官方称其在文本安全上可匹配最多 7 倍参数量的模型，并在多模态审核上取得新的 SOTA。
推荐理由：3B 开源安全分类器把审核策略放进推理时的自然语言问题里，可据此判断小模型在内容审核上的替代空间。
Google Research精选AI 评分6262 Google 发布 SensorFM：面向可穿戴健康数据的通用基础模型
Google Research 发布 SensorFM，一个从无标注可穿戴数据中学习的大型传感器基础模型，预训练语料来自五百万名同意参与者、超过一万亿分钟的多模态传感器信号，覆盖 100 多个国家、50 个美国州和 20 多种 Fitbit 与 Pixel Watch 设备。
推荐理由：Google 用五百万人的万亿分钟可穿戴数据预训练通用生理表征，读者可了解基础模型在健康信号上的规模化路径。
Google Research精选AI 评分6262 Google 用冻结多 token 预测加速 Pixel 上的 Gemini Nano 模型
Google Research 发布新架构，将多 token 预测（MTP）头接到已冻结的 Gemini Nano v3 模型上，在不改动主干权重的前提下加速端侧推理，已上线 Pixel 9 和 10 系列。
推荐理由：Google 把多 token 预测接到冻结的 Gemini Nano v3 上，读者可了解端侧推理在内存与能耗约束下的具体优化路径。
Google DeepMind精选AI 评分7878 Google DeepMind 发布 Gemma 4 12B：统一无编码器多模态模型
Google DeepMind 发布 Gemma 4 12B，一款面向笔记本电脑的智能体多模态模型，介于边缘端 E4B 与 26B MoE 之间，是首个支持原生音频输入的中等规模 Gemma 模型。
推荐理由：Gemma 4 12B 用无编码器架构把视觉与音频直接接入 LLM 主干，读者可据此判断本地多模态智能体的硬件门槛。
Hugging Face Blog精选AI 评分7272 H Company 发布 Holo3.1 计算机使用智能体模型家族
H Company 发布 Holo3.1 计算机使用智能体模型家族，基于 Qwen 系列，覆盖 0.8B、4B、9B 和 35B-A3B 四种尺寸，并首次提供 FP8、Q4 GGUF 和 NVFP4 量化权重。
推荐理由：Holo3.1 给出跨环境与跨框架的鲁棒性提升，并首次提供量化权重，读者可据此判断本地部署计算机使用智能体的可行路径。
Google ResearchAI 评分3636 Google 推出零信任聚合的隐私分析方案
Google 为隐私分析服务推出零信任聚合方案，结合新型密码学聚合协议与 TEE，使设备只需单条消息即可安全提交数据，无需多轮在线交互。该协议可证明 Google 只能获得群体的匿名聚合洞察，原始个体数据即使在硬件保护范围内也不会被解密或重建，TEE 证明机制则向参与者验证协议按公开代码正确执行。
Hugging Face Blog精选AI 评分6262 Overworld 发布 Waypoint-1.5 实时视频世界模型
Overworld 发布实时视频世界模型 Waypoint-1.5，在 RTX 3090 至 5090 等桌面硬件上可生成最高 720p、60 FPS 的实时环境，并新增面向更广消费级硬件的 360p 版本。
推荐理由：Waypoint-1.5 把实时生成世界模型下放到消费级显卡，读者可据此判断本地交互式世界生成的硬件门槛。
Google DeepMind精选AI 评分8585 Google DeepMind 发布 Gemma 4 开源模型家族
Google DeepMind 发布 Gemma 4 开源模型家族，包含 E2B、E4B、26B MoE 和 31B Dense 四种尺寸，采用 Apache 2.0 许可。
推荐理由：Gemma 4 以 Apache 2.0 开源并覆盖从手机到工作站的四种尺寸，读者可据此判断本地部署与微调的选择空间。
Hugging Face Blog精选AI 评分8787 Google DeepMind 发布 Gemma 4 多模态模型家族，含端侧与 12B 无编码器版本
Google DeepMind 的 Gemma 4 多模态模型家族已在 Hugging Face 发布，采用 Apache 2.0 许可，支持图像、文本和音频输入并输出文本。
推荐理由：Hugging Face 官方给出 Gemma 4 五个尺寸的架构细节、部署路径与基准数据，可据此判断端侧多模态选型。
Hugging Face BlogAI 评分3434 Hugging Face 博客：在嵌入式平台部署机器人 AI——数据集录制、VLA 微调与端侧优化
NXP 发布在嵌入式平台部署机器人 AI 的实践指南，涵盖机器人数据集录制、VLA 策略（ACT 和 SmolVLA）微调，以及 NXP i.MX 95 SoC 优化后的实时性能表现。指南以"把茶包放进杯子"任务为例，记录了 120 个 episode，并建议采用 3 摄像头配置（顶部、夹爪、左侧）以平衡精度与延迟。
Hugging Face Blog精选AI 评分6262 Transformers.js v4 发布并上线 NPM
Hugging Face 发布 Transformers.js v4，已上线 NPM，可通过 npm i @huggingface/transformers 安装。
推荐理由：原文给出 WebGPU 运行时重写、构建提速与包体积变化等具体数据，可据此判断浏览器端本地推理的工程成熟度。
Google ResearchAI 评分3434 Google 研究：用小模型分解式方法实现更优用户意图提取
Google Research 在 EMNLP 2025 发表的论文提出一种分解式方法，让小型多模态 LLM 在设备端理解用户意图：先逐屏总结每次交互，再从摘要序列中提取意图。该方法在移动端和网页轨迹上均优于 CoT 提示和端到端微调，Gemini 1.5 Flash 8B 的效果可媲美 Gemini 1.5 Pro，成本与速度却大幅占优。
Google ResearchAI 评分4242 Google 研究：用 Pixel Watch 智能手表估算步态指标，精度媲美手机
Google 研究团队开发了一种基于时序卷积网络（TCN）的多头深度学习模型，仅凭 Pixel Watch 1 的 IMU 信号和用户身高，即可直接估算步速、步长、摆动时间、支撑时间等多项步态指标。在 246 名参与者、约 7 万段步行数据的验证中，手表估算与手机结果无显著差异（p>0.05），多数指标 Pearson r 与 ICC 均超过 0.80。
Mistral AI精选AI 评分8080 Mistral 发布 Mistral 3 系列，含 675B 参数 Mistral Large 3 与 3B/8B/14B Ministral 3
Mistral 发布 Mistral 3 系列，包括 14B、8B、3B 三个稠密小模型和迄今最强的 Mistral Large 3，后者为稀疏 MoE，41B 激活参数、675B 总参数，全部以 Apache 2.0 许可开源。
推荐理由：Mistral 3 全系以 Apache 2.0 开源并给出 NVFP4 量化与多平台部署路径，可据此判断开源前沿模型的落地成本。
Hugging Face Blog精选AI 评分6060 AnyLanguageModel 发布：为 Apple 平台本地与远程 LLM 提供统一 API
Hugging Face 发布 Swift 包 AnyLanguageModel，作为 Apple Foundation Models 框架的替代方案，只需替换 import 语句即可保持同一套 API。
推荐理由：面向 Apple 平台的统一 LLM 调用接口，用同一套 API 在本地开源模型与云端模型间切换，可降低实验成本。
Google ResearchAI 评分5858 Google 提出可证明隐私洞察 PPI，用 LLM 与差分隐私分析 GenAI 使用数据
Google Research 提出可证明隐私洞察（PPI），结合 LLM、差分隐私（DP）和可信执行环境（TEE），在保证个体数据不可被查看、聚合结果匿名的前提下分析 GenAI 使用数据。
Hugging Face BlogAI 评分5050 IBM 发布 Granite 4.0 Nano：最小模型仅 350M 参数
IBM 发布 Granite 4.0 家族最小的 Granite 4.0 Nano，含 4 个 instruct 模型及对应 base 版本，参数规模 350M 与 1B，采用 hybrid-SSM 架构，另有传统 Transformer 版本。
Hugging Face BlogAI 评分3636 如何在 Intel CPU 上三步运行 VLM：基于 Optimum Intel、OpenVINO 与 SmolVLM
Hugging Face 博客给出在 Intel CPU 上本地运行视觉语言模型（VLM）的三步流程：用 Optimum Intel 与 OpenVINO 将 SmolVLM2-256M-Video-Instruct 转换为 OpenVINO IR，再通过仅权重量化或静态量化压缩至 INT8，最后执行推理。
Hugging Face BlogAI 评分88 Arm 将参展 PyTorch Conference，展示 ExecuTorch 与 vLLM 等 AI 技术
Arm 将于 10 月 22-23 日参展 PyTorch Conference，展示基于 PyTorch 和 ExecuTorch 的 AI 应用开发与部署方案。
Hugging Face BlogAI 评分5252 用 Core ML 和 dots.ocr 实现 SOTA OCR 的端侧转换实践
Hugging Face 博客发布三部分系列的第一篇，记录如何将 RedNote 的 3B OCR 模型 dots.ocr 转换为可在 Apple 设备端运行的 Core ML 模型。
Hugging Face BlogAI 评分2828 在 Intel Core Ultra 上通过深度剪枝草稿模型加速 Qwen3-8B Agent
Hugging Face 用 OpenVINO.GenAI 在 Intel Core Ultra 上加速 Qwen3-8B，以 Qwen3-0.6B 作草稿模型进行投机解码，生成速度提升约 1.3 倍。
Hugging Face BlogAI 评分3636 Swift Transformers 发布 1.0，未来将聚焦 MLX 与智能体用例
Hugging Face 的 Swift 库 swift-transformers 发布 1.0，为 Apple 平台本地模型推理提供 Tokenizers、Hub 及 Core ML 模型与生成模块。
Hugging Face Blog精选AI 评分6262 Google 发布 EmbeddingGemma 多语言嵌入模型
Google 发布 EmbeddingGemma，一款面向端侧场景的多语言嵌入模型，308M 参数、2K 上下文窗口，支持 100 多种语言，量化后内存占用低于 200MB。
推荐理由：原文给出 308M 参数、2K 上下文与量化后 200MB 内存等指标，可据此判断端侧多语言检索的可用边界。
Hugging Face BlogAI 评分5858 Arm 与 ExecuTorch 0.7：KleidiAI 默认启用，让旧款 Arm 设备也能跑生成式 AI
Arm 与 ExecuTorch 0.7 beta 将默认启用 KleidiAI，为基于最新 Arm CPU 架构的设备以及大量旧款手机带来自动加速，Android 与跨平台开发者无需改动代码即可通过 ExecuTorch 和 XNNPack 获得优化。
Hugging Face BlogAI 评分3838 Dell Enterprise Hub 新版发布：在本地 Dell AI 服务器和 AI PC 上构建 AI
Dell 在 Dell Tech World 上发布新版 Dell Enterprise Hub，提供 Meta Llama 4 Maverick、DeepSeek R1。
Hugging Face Blog精选AI 评分6262 Falcon-H1 发布 0.5B 至 34B 混合架构开源模型系列
Falcon-H1 系列发布六个开源模型，参数规模从 0.5B 到 34B，每个尺寸均提供 base 与 instruct 版本，采用 Apache 2.0 许可。
推荐理由：Falcon-H1 用注意力与 SSM 并行混合架构覆盖 0.5B 到 34B 六个尺寸，可对照其长上下文吞吐与同尺寸 Transformer 模型的取舍。
Hugging Face BlogAI 评分5858 Falcon-Edge 发布 1B 与 3B 三值权重语言模型
Falcon-Edge 系列发布，基于 BitNet 架构的三值（1.58bit）语言模型，提供 1B 和 3B 两种规模，每种规模各有 base 与指令微调版本。
Hugging Face Blog精选AI 评分7676 Hugging Face 与 Yaak 发布 L2D 开源自动驾驶数据集
Hugging Face 的 LeRobot 团队与 Yaak 联合发布 L2D，称其为全球最大的开源自动驾驶数据集，R4 版本包含 100 万条 episode、5000+ 小时驾驶数据、90+ TB 规模，来自德国 30 座城市 60 辆驾校车辆的 6 路环视摄像头与车辆状态数据。
推荐理由：L2D 以 90TB 多模态驾驶数据接入 LeRobot 训练管线，可对比现有开源自驾数据集在规模与动作标注上的差异。
Hugging Face BlogAI 评分5252 如何在手机上用 React Native 本地运行 LLM：Hugging Face 端侧推理教程
Hugging Face 发布教程，讲解如何用 React Native 和 llama.rn 构建一个从 Hugging Face Hub 下载 GGUF 模型并在手机本地推理的聊天应用，代码开源在 EdgeLLM 仓库。
Hugging Face Blog精选AI 评分6262 Hugging Face 发布 SmolVLM2 视频理解模型，含 2.2B、500M 和 256M 三个尺寸
Hugging Face 发布 SmolVLM2 系列视频理解模型，包含 2.2B、500M 和 256M 三个参数规模，并称 500M 与 256M 是迄今最小的视频语言模型。
推荐理由：Hugging Face 发布三档小尺寸视频理解模型，并给出端侧与 MLX 的可用路径，可据此判断小模型做视频理解的实际边界。
Mistral AI精选AI 评分7676 Mistral AI 发布 Apache 2.0 许可的 24B 模型 Mistral Small 3
Mistral AI 发布 Mistral Small 3，一个面向低延迟优化的 24B 参数模型，以 Apache 2.0 许可开源，同时提供预训练和指令微调两个 checkpoint。
推荐理由：24B 参数在 Apache 2.0 下对标三倍体量模型，并给出量化后单卡本地部署的具体门槛。
Hugging Face Blog精选AI 评分6262 Hugging Face 发布 SmolVLM-256M 与 500M 模型
Hugging Face 发布 SmolVLM 家族两个新模型 SmolVLM-256M 和 SmolVLM-500M，共四个 checkpoint，含两个基座模型和两个指令微调模型，可直接加载到 transformers、MLX 和 ONNX。
推荐理由：官方披露了 256M 与 500M 两个新模型在视觉编码器、数据配比和 tokenization 上的取舍，可据此判断小模型多模态的可行边界。
Hugging Face Blog精选AI 评分6060 Hugging Face 发布 2B 视觉语言模型 SmolVLM
Hugging Face 发布 SmolVLM，一个 2B 参数的小型视觉语言模型家族，包含 Base、Synthetic 和 Instruct 三个版本，模型权重、数据集、训练配方与工具均以 Apache 2.0 协议开源。
推荐理由：原文给出 2B 视觉语言模型的显存占用、吞吐对比和完整开源训练流程，便于判断端侧多模态的落地空间。
Mistral AI精选AI 评分6262 Mistral 发布 Ministral 3B 与 8B 端侧模型
Mistral AI 在 Mistral 7B 发布一周年之际推出两款端侧模型 Ministral 3B 和 Ministral 8B，面向本地隐私优先推理场景。
推荐理由：Mistral 在 7B 发布一周年推出两款端侧小模型，给出了 128k 上下文、定价与对标基准，可据此判断边缘场景的选型空间。
Hugging Face Blog精选AI 评分8080 Llama 3.2 发布：多模态视觉模型与 1B/3B 端侧文本模型上线 Hugging Face
Meta 发布 Llama 3.2，共 10 个开放权重模型，包括 11B 和 90B 两个尺寸的视觉模型（各含 base 与指令微调版）以及 1B、3B 端侧文本模型，均已上线 Hugging Face Hub。
推荐理由：Meta 与 Hugging Face 同步放出 10 个开放权重模型，含 11B/90B 视觉版与 1B/3B 端侧文本版，可据此判断本地多模态与端侧部署的可行边界。