Hugging Face 推出跨模型统一工具调用 API
Hugging Face 在 Transformers 中推出统一的工具调用 API，同一份代码可在 Mistral、Cohere、NousResearch 和 Llama 等模型家族间通用，几乎无需针对模型做改动。
推荐理由：原文给出跨模型统一工具调用接口与 Transformers 辅助函数，读者可据此判断迁移成本与复用方式。
#产品更新
Hugging Face Blog精选AI 评分6262
Mistral AIAI 评分4747 Mistral AI 推出模型定制、Agents 早期版与 mistralai 1.0 SDK
Mistral AI 在 La Plateforme 上线模型定制功能，支持对 Mistral Large 2 和 Codestral 等旗舰及专用模型进行 base prompt、few-shot 提示或微调，并可自带数据集。
OpenAI News精选AI 评分6262 OpenAI 在 API 中推出结构化输出
OpenAI 在 API 中推出结构化输出（Structured Outputs），模型输出现在可以可靠地遵循开发者提供的 JSON Schema。
推荐理由：OpenAI 在 API 中引入结构化输出，模型输出可稳定遵循开发者提供的 JSON Schema，便于判断对现有集成方式的影响。
Hugging Face BlogAI 评分2222 Hugging Face 2024 年安全功能盘点
Hugging Face 梳理了截至 2024 年 8 月 6 日 Hub 上的安全功能：面向所有用户的细粒度 token、2FA、commit 签名、组织访问控制，以及基于 ClamAV、picklescan、trufflehog 的自动化安全扫描。Enterprise Hub 用户还可使用 SAML 2.0 与 OIDC 协议的 SSO、Resource Groups 等高级控制。
Hugging Face BlogAI 评分3636 Hugging Face 与 NVIDIA 推出 NVIDIA NIM API 无服务器推理服务
Hugging Face 面向 Enterprise Hub 组织推出 NVIDIA NIM API（无服务器），可在 Hugging Face Hub 内用标准化 API 对 Llama、Mistral 等开源模型运行推理。
OpenAI News精选AI 评分6262 OpenAI 测试搜索原型 SearchGPT
OpenAI 正在测试 SearchGPT，这是新搜索功能的临时原型，可提供快速及时的答案并附上清晰相关的来源。
推荐理由：OpenAI 官方披露搜索原型 SearchGPT 的测试状态，可据此了解其搜索产品的早期形态与定位。
Hugging Face Blog精选AI 评分6262 Hugging Face TGI 推出 Multi-LoRA 服务，一次部署可服务 30 个模型
Hugging Face 为 TGI 推出 Multi-LoRA 服务，只需部署一次基础模型，即可根据请求中的 adapter_id 动态选择对应的 LoRA 适配器，官方称可服务 30 个模型。
推荐理由：原文给出 TGI Multi-LoRA 的部署方式与成本对比，读者可据此判断多微调模型能否合并到一次部署。
OpenAI NewsAI 评分2222 OpenAI 为 ChatGPT Enterprise 推出合规与管理工具
OpenAI 为 ChatGPT Enterprise 新增 Compliance API 集成、SCIM 和 GPT 控制功能，用于支持大规模合规项目、数据安全与用户访问管理。
Hugging Face BlogAI 评分3636 Hugging Face 在 Dataset Hub 上用 Presidio 试验 PII 自动检测
Hugging Face 正在 Dataset Hub 上试验一项基于开源 PII 检测工具 Presidio 的新功能，用户可查看数据集 PII 含量报告，以便在训练前决定是否进一步过滤。该功能面向含 PII 的标注数据集和大规模预训练数据集，后者虽经过滤仍可能残留少量敏感信息。数据集所有者也可用报告验证发布前的 PII 过滤流程。
Hugging Face BlogAI 评分4141 Hugging Face 与 KerasHub 集成：Transformers 模型可直接加载
Hugging Face 与 KerasHub 实现共享模型保存格式，Hub 上 300K+ 个 Transformers 模型现可直接加载进 KerasHub，首批支持 Gemma 1/2、Llama 3 和 PaliGemma。KerasHub 模型可在 TensorFlow、JAX、PyTorch 后端间无缝切换，需将 keras 升级至 3.3.3 以上。
Hugging Face BlogAI 评分4040 Hugging Face 用户现可在 Inference Endpoints 和 Spaces 上使用 Google Cloud TPU
Hugging Face 宣布其 Inference Endpoints 和 Spaces 现已支持 Google Cloud TPU v5e，提供 v5litepod-1（1 核 16 GB，$1.375/小时）、v5litepod-4（4 核 64 GB，$5.50/小时）和 v5litepod-8（8 核 128 GB，$11.00/小时）三种配置。
Hugging Face BlogAI 评分2525 Hugging Face 为 Dataset Hub 推出四项数据集搜索新功能
Hugging Face 为 Dataset Hub 的数据集搜索新增按模态、大小、格式和库四项筛选功能，可按文本、图像、音频等模态及行数区间检索，并支持 Parquet、WebDataset 等格式和 Pandas、Dask、Datasets 库兼容性过滤。这些筛选可相互组合，并与语言、任务、许可证等已有过滤器及文本搜索栏搭配使用。
OpenAI NewsAI 评分3131 Color Health 用 GPT-4o 推理加速癌症诊疗
Color Health 与 OpenAI 合作推出 Cancer Copilot，利用 GPT-4o 识别缺失的诊断检查并生成个性化检查方案，帮助医疗人员就癌症筛查和治疗做出循证决策，从而加速癌症患者获得治疗。
Hugging Face Blog精选AI 评分7171 Diffusers 集成 Stable Diffusion 3 Medium，含显存与性能优化
Stability AI 的 Stable Diffusion 3 Medium（2B 参数）上线 Hugging Face Hub 并接入 Diffusers，同时提供 DreamBooth 与 LoRA 训练脚本。
推荐理由：原文给出 SD3 Medium 的架构变化与 Diffusers 集成细节，读者可据此判断显存占用与推理速度的取舍。
Hugging Face Blog精选AI 评分6262 Hugging Face 在 TRL 中推出 RLOO 训练器
Hugging Face 在 TRL 中推出 RLOO（REINFORCE Leave One-Out）训练器，作为 PPO 之外的在线 RLHF 训练算法。官方称 RLOO 只需加载策略模型、参考策略模型和奖励模型三份模型，显存占用比 PPO 少约 50-70%，1B 模型上速度是 PPO 的 2 倍、6.9B 模型上最高 3 倍。
推荐理由：原文给出 RLOO 与 PPO 在显存、速度和胜率上的对比数据，可据此判断在线 RLHF 训练的成本取舍。
OpenAI NewsAI 评分3838 OpenAI 详解 Voice Engine 工作原理与安全研究
OpenAI 发文详解其文本转语音模型 Voice Engine 的技术原理，并介绍相关安全研究。
Hugging Face BlogAI 评分2828 Hugging Face 为 Amazon SageMaker 推出嵌入向量容器
Hugging Face Embedding Container for Amazon SageMaker 正式可用（GA），AWS 客户可借此在 SageMaker 上部署嵌入向量模型，构建 RAG 等生成式 AI 应用。
Mistral AI精选AI 评分6262 Mistral 在 la Plateforme 推出模型微调服务并开源 mistral-finetune
Mistral AI 在 la Plateforme 上线模型定制功能，提供三条路径：开源微调代码库 mistral-finetune、平台上的无服务器微调服务，以及面向特定客户的定制训练服务。
推荐理由：Mistral 同时给出开源微调代码库与托管微调服务，读者可据此判断自建与托管两条路径的成本差异。
Hugging Face BlogAI 评分4242 Hugging Face 推出 NPC-Playground：可与 LLM 驱动的 NPC 互动的 3D 演示
Hugging Face 联合 Cubzh 与 Gigax 发布 NPC-Playground，一个可在浏览器中直接体验的 3D 演示，让玩家与 LLM 驱动的 NPC 互动，并用几行 Lua 脚本教它们新技能。
Hugging Face BlogAI 评分2222 Hugging Face 为 Intel Gaudi 带来更快的辅助生成支持
Hugging Face 将辅助生成（Assisted Generation）适配并优化到 Intel Gaudi 处理器，现已集成进 Optimum Habana。该方法基于 Speculative Sampling，用草稿模型生成 K 个 token 再由目标模型评估，大型 Transformer 模型通常可获得约 2x 加速，且采样质量与自回归采样相当。
OpenAI NewsAI 评分4040 OpenAI 推出面向高校的 OpenAI for Education
OpenAI 推出面向大学的平价产品 OpenAI for Education，旨在让高校负责任地将 AI 引入校园。该产品定位为可负担的教育方案，帮助大学在教学中规范使用 AI。
Hugging Face BlogAI 评分4040 Hugging Face 支持从 Hub 部署模型到 AWS Inferentia2
Hugging Face 宣布用户可直接将 Hub 上超 10 万个公开模型部署到 AWS Inferentia2，新增 14 种模型架构和 6 类机器学习任务支持，并可通过 Amazon SageMaker 或 Inference Endpoints 完成部署。
Hugging Face BlogAI 评分3030 Hugging Face Spaces 推出 Dev Mode，一键连接 VS Code 与 SSH
Hugging Face Spaces 上线 Dev Mode，支持一键从 VS Code 或 SSH 直连 Space 编辑代码，无需再用 git 推送本地改动。该功能目前处于 beta 阶段，仅向 PRO 订阅用户开放，编辑后可直接在 Space 内点击 Refresh 测试，满意后再 commit 并 merge 保存。
Hugging Face BlogAI 评分3838 Hugging Face 与 Dell 推出 Dell Enterprise Hub，支持本地训练和部署开源模型
Hugging Face 与 Dell 联合推出 Dell Enterprise Hub，可在 Dell 平台上本地训练和部署开源模型，将数周的工程工作缩短至几分钟。
Hugging Face BlogAI 评分4242 Hugging Face 平台完成对 AMD Instinct MI300 GPU 的一等公民级集成
Hugging Face 与 AMD 合作，为 AMD Instinct MI300 GPU 在 Hugging Face 平台提供一等公民级集成，用户无需修改代码即可通过 transformers 和 text-generation-inference 在 Azure ND MI300x V5 虚拟机上部署模型。
OpenAI NewsAI 评分2222 ChatGPT 的声音是如何选出的
OpenAI 与业内顶尖选角及导演专业人士合作，从 400 多份投稿中筛选，最终为 ChatGPT 选定 5 种声音。
OpenAI NewsAI 评分4242 ChatGPT 数据分析功能升级：支持表格图表交互，可直接从 Google Drive 和 Microsoft OneDrive 添加文件
ChatGPT 的数据分析功能获得升级，用户现在可以与表格和图表进行交互，并直接从 Google Drive 和 Microsoft OneDrive 添加文件。
Hugging Face BlogAI 评分5858 Hugging Face 在 Transformers 中推出 KV Cache 量化功能
Hugging Face 在 Transformers 中上线 KV Cache 量化功能，通过降低 KV 缓存精度减少长上下文生成的内存占用，int4 精度下质量与 fp16 接近，int2 则出现明显下降。
Hugging Face BlogAI 评分3838 Hugging Face 与 LangChain 联合发布 langchain_huggingface 合作包
Hugging Face 与 LangChain 联合推出合作包 langchain_huggingface，这是一个由双方共同维护的 Python 包，旨在将 Hugging Face 最新能力更快带入 LangChain 生态。
Hugging Face Blog精选AI 评分7171 Hugging Face 发布 Transformers Agents 2.0
Hugging Face 发布 Transformers Agents 2.0，在原有智能体类型之外新增可基于历史观察迭代的 ReactAgent 等两类智能体，并加入共享功能。
推荐理由：官方给出新智能体框架的模块划分与 GAIA 榜单成绩，可据此判断开源智能体方案的可用性。
Hugging Face BlogAI 评分2222 Hugging Face 支持通过 AWS 账户订阅 Enterprise Hub
Hugging Face 现已支持用 AWS 账户将组织升级至 Enterprise Hub，订阅入口在 AWS Marketplace，价格与 Hugging Face 公开定价一致，但通过 AWS 账户计费。
Hugging Face BlogAI 评分4242 Artificial Analysis LLM 性能排行榜上线 Hugging Face
Artificial Analysis 开发的 LLM 性能排行榜现已上线 Hugging Face，覆盖超过 100 个 serverless LLM API 端点，综合评估质量、价格与速度。
OpenAI News精选AI 评分7878 OpenAI 推出 ChatGPT 与 Whisper API
OpenAI 发布 ChatGPT 与 Whisper 的 API，供开发者将对话与语音能力接入自有应用。
OpenAI News精选AI 评分6767 OpenAI 宣布 GPT-4 API 正式开放，并公布旧版 Completions API 模型退役计划
OpenAI 宣布 GPT-4 API 正式开放，GPT-3.5 Turbo、DALL·E 和 Whisper API 也同步正式开放。同时公布旧版 Completions API 模型的退役计划，这些模型将于 2024 年初退役。
推荐理由：OpenAI 公布 GPT-4 等 API 正式开放及旧模型退役安排，读者可据此规划接口迁移。
OpenAI NewsAI 评分4242 OpenAI 为 API 客户推出更多企业级功能
OpenAI 为 API 客户新增更多安全功能与控制项，并更新 Assistants API，同时提供更好地管理成本的工具，以加强企业级支持。
OpenAI NewsAI 评分5555 OpenAI 宣布设立日本办公室并发布日语优化 GPT-4 定制模型
OpenAI 宣布在亚洲设立首个办公室，落地日本。同时发布了一款针对日语优化的 GPT-4 定制模型。
Hugging Face BlogAI 评分4242 Hugging Face 与 Google Cloud 合作，在 Vertex AI Model Garden 部署数千个开源 LLM
Hugging Face 推出 Deploy on Google Cloud 集成，可将数千个开源模型一键部署到 Google Cloud 的 Vertex AI 或 GKE，作为自有账号内的 API Endpoint。
OpenAI NewsAI 评分3232 OpenAI 改进微调 API 并扩展自定义模型计划
OpenAI 为微调 API 增加新功能，让开发者对微调拥有更多控制权，同时公布构建自定义模型的新方式。
Hugging Face BlogAI 评分4242 Hugging Face 上线 Cloudflare Workers AI 无服务器 GPU 推理
Hugging Face Hub 推出 Deploy on Cloudflare Workers AI 集成，让开发者以无服务器 API 方式调用开源模型，由部署在 Cloudflare 边缘数据中心的 GPU 驱动，采用按请求计费。
OpenAI News精选AI 评分6262 OpenAI 宣布 ChatGPT 无需注册即可使用
OpenAI 宣布让用户无需注册即可直接使用 ChatGPT，以便更轻松地体验 AI 带来的好处。
推荐理由：OpenAI 官方宣布 ChatGPT 无需注册即可使用，读者可据此了解其降低使用门槛的具体做法。