用 Optimum Intel 在 Xeon 上实现 7.8 倍加速的 SetFit 推理
Hugging Face 联合 Intel Labs 与 UKP Lab 开发的 SetFit 少样本微调框架，借助 Optimum Intel 在 Intel Xeon CPU 上通过训练后静态量化（PTQ）可将推理速度提升 7.8 倍。
全部 AI 动态
Hugging Face BlogAI 评分3434
OpenAI NewsAI 评分2626 OpenAI 与 Harvey 合作为法律从业者定制模型
Harvey 与 OpenAI 合作，为法律从业者构建了一个定制训练的模型。
Hugging Face BlogAI 评分4242 Hugging Face 上线 Cloudflare Workers AI 无服务器 GPU 推理
Hugging Face Hub 推出 Deploy on Cloudflare Workers AI 集成，让开发者以无服务器 API 方式调用开源模型，由部署在 Cloudflare 边缘数据中心的 GPU 驱动，采用按请求计费。
OpenAI NewsAI 评分1818 OpenAI 与 Oscar 用 AI 降低医疗保险成本并改善护理
Oscar 将 AI 引入医疗保险业务，用于降低成本和改善患者护理。该合作由 OpenAI 提供技术支持，具体模型版本、参数规模及可用性细节未在原文中披露。
OpenAI News精选AI 评分6262 OpenAI 宣布 ChatGPT 无需注册即可使用
OpenAI 宣布让用户无需注册即可直接使用 ChatGPT，以便更轻松地体验 AI 带来的好处。
推荐理由：OpenAI 官方宣布 ChatGPT 无需注册即可使用，读者可据此了解其降低使用门槛的具体做法。
OpenAI NewsAI 评分4040 OpenAI 分享 Voice Engine 自定义语音模型小规模预览的经验
OpenAI 分享了 Voice Engine 小规模预览的经验教训，该模型可用于创建自定义语音。
OpenAI NewsAI 评分1212 Zelma 用 GPT-4 让教育数据更易获取
Zelma 利用 GPT-4 让教育数据变得易于获取。
Hugging Face BlogAI 评分3838 Pollen Robotics 开源 pollen-vision：面向机器人零样本视觉模型的统一接口
Pollen Robotics 开源 pollen-vision 库，为机器人提供零样本视觉模型的统一接口，首个版本聚焦 3D 物体检测，可输出物体在三维空间中的 (x, y, z) 坐标。
OpenAI NewsAI 评分2222 OpenAI 分享 Sora 首批艺术家使用印象
OpenAI 上月发布 Sora 后，与艺术家合作探索该模型如何辅助创作流程，并公布了首批使用印象。
Hugging Face Blog精选AI 评分6464 Hugging Face 详解嵌入向量二值与标量量化：检索更快更省
Hugging Face 博客介绍嵌入向量的二值量化与标量（int8）量化，用于降低检索的内存、磁盘占用和成本。二值量化把 float32 值转为 1 bit，内存与存储减少 32 倍，配合 rescoring 可保留约 96% 的检索性能；int8 量化减少 4 倍，性能保留约 99.3%。
推荐理由：原文给出二值与标量量化的实测数据与代码示例，读者可据此评估检索成本与性能的取舍。
Hugging Face BlogAI 评分2222 Hugging Face Transformers 完全新手入门指南
Hugging Face 发布面向非技术人群的 Transformers 入门指南，无需 Python 基础即可上手。教程以在 Hugging Face Space 的 JupyterLab 中运行微软 Phi-2 LLM 为例，需租用 NVIDIA A10G Small GPU（24GB 显存，每小时几美元）。文中还介绍了 Transformers 库、Hub 与 Spaces 的基本概念。
OpenAI NewsAI 评分2222 JetBrains 借助 OpenAI API 打造其增长最快的产品
JetBrains 使用 OpenAI 的 API 打造出公司史上增长最快的产品。该产品将 AI 嵌入开发者软件，具体模型版本与功能细节未披露。
Hugging Face BlogAI 评分4040 Hugging Face 与 Lighthouz AI 推出 Chatbot Guardrails Arena，压力测试 LLM 隐私护栏
Lighthouz AI 联合 Hugging Face 推出 Chatbot Guardrails Arena，让用户与两个匿名 LLM 聊天，尝试套取虚构银行 XYZ001 客户的敏感信息，再投票选出隐私保护更强的模型。
Hugging Face Blog精选AI 评分6060 GaLore：在消费级硬件上推进大模型训练
Hugging Face 博客介绍 GaLore 方法，通过将梯度投影到低秩子空间，可在 NVIDIA RTX 4090 等消费级 GPU 上训练 Llama 架构的 7B 参数模型，优化器状态内存减少超过 82.5%。
推荐理由：原文给出 GaLore 在消费级显卡上训练 7B 模型的内存节省数据与 transformers 接入方式，便于判断显存受限场景的可行性。
Hugging Face Blog精选AI 评分6060 Hugging Face 发布 Cosmopedia：如何为 LLM 预训练构建大规模合成数据
Hugging Face 发布 Cosmopedia，一个由 Mixtral-8x7B-Instruct-v0.1 生成的合成数据集，包含超 3000 万个文件、250 亿 token，用于复现 Phi-1.5 的预训练数据。
推荐理由：Hugging Face 公开了构建 250 亿 token 合成预训练数据集的完整流程与代码，可供复现和迁移。
Hugging Face BlogAI 评分3636 在 Intel Meteor Lake 笔记本上运行 Phi-2：基于 OpenVINO 的 4-bit 量化实践
Hugging Face 与 Intel 合作，通过 Optimum Intel 中的 OpenVINO 集成对微软 Phi-2 模型权重做 4-bit 量化，并在搭载 Core Ultra 7 155H 的中端笔记本上完成推理。
OpenAI NewsAI 评分4040 Superhuman 联手 OpenAI 用 AI 重塑邮件体验
Superhuman 宣布与 OpenAI 合作，推出由 AI 驱动的新一代邮件体验。官方称这标志着邮件进入新纪元，但未披露具体模型版本、功能细节或上线时间。
OpenAI NewsAI 评分2222 Holiday Extras 全员部署 ChatGPT Enterprise，每周提效 500 小时
Holiday Extras 在全公司各团队推广 ChatGPT Enterprise，每周提升生产力 500 小时。这家旅游附加服务公司借此打造数据驱动、高效的企业文化。
OpenAI NewsAI 评分2222 OpenAI 企业级信任与安全能力获 Salesforce 集成
Salesforce 集成 OpenAI 的企业级 LLM，用于改造客户应用。此次集成强调企业就绪的信任与安全能力。
Hugging Face BlogAI 评分4040 Hugging Face 推出 Quanto：面向 Optimum 的 PyTorch 量化后端
Hugging Face 发布 Quanto，一个面向 Optimum 的 PyTorch 量化后端，支持 int2、int4、int8 和 float8 权重及 int8、float8 激活，可在 CUDA 和 MPS 等任意设备上运行。
Hugging Face Blog精选AI 评分6262 Hugging Face 与 NVIDIA 推出 Train on DGX Cloud，可在 Hub 内用 H100 微调模型
Hugging Face 与 NVIDIA 合作推出 Train on DGX Cloud，Enterprise Hub 组织可在 Hugging Face Hub 内通过 AutoTrain 和 Spaces 以无代码方式创建训练任务，运行在 NVIDIA DGX Cloud 的 H100 GPU 上。
推荐理由：原文给出无代码训练入口、支持模型清单和按分钟计费价格，读者可据此估算在 H100 上微调的成本。
Hugging Face BlogAI 评分3434 使用 Optimum Intel 与 fastRAG 在 CPU 上优化嵌入模型
Hugging Face 发布教程，展示如何借助 Optimum Intel 与 IPEX 在英特尔 Xeon CPU 上加速 BGE 嵌入模型，并集成进 fastRAG 的 RAG 流程。优化聚焦 45M、110M、355M 参数的 BGE small、base、large 三款模型，通过 int8 量化、bf16 及 AMX 加速降低单条查询延迟并提升吞吐。
Hugging Face BlogAI 评分4040 Hugging Face 发布 WebSight 数据集，用视觉语言模型将网页截图转为 HTML 代码
Hugging Face 推出 WebSight 数据集，用于训练 AI 将网页截图转换为 HTML 代码，v0.1 版包含 823,000 对 HTML 代码与对应截图，v0.2 版改用真实图像和 Tailwind CSS 并扩展至 200 万样本。基于该数据集微调的视觉语言模型 Sightseer 能将网页截图转为可用的 HTML 代码，并支持在生成代码中嵌入与原截图相近的图像。
OpenAI NewsAI 评分2222 OpenAI 与 Le Monde、Prisa Media 达成全球新闻合作
OpenAI 与 Le Monde 和 Prisa Media 达成合作，将法语和西班牙语新闻内容引入 ChatGPT。Le Monde 是法国媒体，Prisa Media 旗下拥有西班牙语媒体资源。
OpenAI NewsAI 评分2222 Healthify 与 OpenAI 合作，用 AI 健康教练助力可持续减重
Healthify 与 OpenAI 合作，借助 AI 健康教练帮助数百万用户实现可持续减重。该合作旨在通过 AI 健康指导改善健康结果，挽救生命。
OpenAI NewsAI 评分4242 OpenAI 宣布董事会新增三名成员，Sam Altman 重新加入
OpenAI 宣布董事会新增 Sue Desmond-Hellmann 博士、Nicole Seligman 和 Fidji Simo 三名成员，Sam Altman 同时重新加入董事会。
OpenAI News精选AI 评分6262 OpenAI 完成审查，Altman 与 Brockman 将继续领导公司
OpenAI 宣布审查已完成，Altman 与 Brockman 将继续领导公司，同时任命了新的董事会成员并引入治理结构方面的改进。
推荐理由：OpenAI 公布治理审查结果与董事会调整，可据此了解其管理层与治理结构的最新安排。
OpenAI NewsAI 评分1515 Paradigm 用 OpenAI API 改善患者参与临床试验的可及性
Paradigm 正使用 OpenAI 的 API 改善患者参与临床试验的可及性。该举措旨在让更多患者更容易找到并接入合适的临床试验。
OpenAI NewsAI 评分1212 Match Group 如何用 ChatGPT Enterprise 提升生产力
Match Group 采用 ChatGPT Enterprise 激发创意并扩大影响。该消息由 OpenAI 发布，但未披露具体使用规模、部署范围或效果数据。
OpenAI NewsAI 评分1212 OpenAI GPT-4 如何改善健康素养与患者福祉
Lifespan 利用 GPT-4 大幅提升健康素养并改善患者预后。该机构将 GPT-4 用于患者沟通与健康教育场景，以帮助患者更好地理解医疗信息。
OpenAI NewsAI 评分2222 OpenAI 回应 Elon Musk 相关争议
OpenAI 表示始终致力于其使命，并在每一步都坚持追求这一使命。该声明发布之际，正值 Elon Musk 与 OpenAI 之间的争议持续。
Hugging Face BlogAI 评分3232 UCLA 发布 ConTextual：多模态模型在文本密集场景中的图文联合推理评测基准
UCLA 研究者推出 ConTextual，一个面向 LMM 的上下文敏感文本密集视觉推理数据集，含 506 条指令，覆盖时间阅读、购物、导航、信息图等 8 类真实场景，并同步上线排行榜。首轮评测 13 个模型，GPT-4V 表现最佳，在抽象推理上超过人类，但在时间相关任务上不及人类；开源模型在多数领域表现明显落后。用 OCR 或图像描述增强 LLM 的方案人类通过率仅 17.2%。
Hugging Face BlogAI 评分2626 Hugging Face 与 Argilla 发起 Data is Better Together，共建社区偏好数据集
Hugging Face 与 Argilla 联合发起 Data is Better Together 实验，通过 Argilla 与 Hugging Face Spaces 让社区协作构建偏好数据集，数天内吸引 350 名贡献者完成超 11,000 条 prompt 评分，并发布含 10,000 条 prompt 用户评分的 10k_prompts_ranked 数据集。
Hugging Face BlogAI 评分2222 在 Intel Gaudi 2 AI 加速器上运行文本生成 Pipeline
Hugging Face 发布基于 Optimum Habana 的自定义 pipeline 类，可在 Intel Gaudi 2 AI 加速器上用几行代码运行 Llama 2 系列（7b、13b、70b）文本生成。
Hugging Face Blog精选AI 评分7474 BigCode 发布 StarCoder2 系列代码模型与 The Stack v2 数据集
BigCode 发布 StarCoder2，这是新一代透明训练的开放代码大语言模型，包含 3B、7B、15B 三个参数规模，全部基于新的高质量代码数据集 The Stack v2 训练。
推荐理由：BigCode 同时放出三个尺寸的代码模型与配套数据集，读者可据此了解开源代码模型在参数规模与训练数据上的最新配置。
Hugging Face BlogAI 评分5555 Hugging Face 发布 TTS Arena，用盲测投票给语音合成模型排名
Hugging Face 发布 TTS Arena，借鉴 LMSys 的 Chatbot Arena，让用户输入文本后听两个模型朗读并投票选出更自然的一个，投票前不显示模型名称。
Mistral AI精选AI 评分6262 Mistral AI 发布对话助手 Le Chat 及企业版
Mistral AI 发布对话助手 Le Chat，作为与 Mistral 各模型交互的对话入口，底层可调用 Mistral Large、Mistral Small 或原型模型 Mistral Next。同时推出面向企业的 Le Chat Enterprise，支持自部署和细粒度审核机制。Le Chat 目前无法联网，可能给出不准确或过时的信息，现以 beta 形式开放注册。
推荐理由：Mistral 官方发布对话助手 Le Chat 及企业版，可了解其底层模型选择与自部署、审核机制。
Mistral AI精选AI 评分8282 Mistral AI 发布旗舰模型 Mistral Large 与 Mistral Small
Mistral AI 发布旗舰文本生成模型 Mistral Large，通过 la Plateforme 和 Azure 提供，官方称其推理能力达到顶级水平，是 API 可用的全球第二强模型（仅次于 GPT-4）。
推荐理由：官方给出 Mistral Large 的基准对比与 Azure 分发路径，可据此判断其旗舰定位与多语言、函数调用能力。
Hugging Face BlogAI 评分4040 Hugging Face 详解 AI 水印：工具与技术
Hugging Face 发布 AI 水印入门指南，介绍在内容生成时嵌入水印与生成后添加水印两种主要方法，前者需访问模型但更稳健，后者可适用于闭源模型。文章还梳理了 Glaze、Photoguard、Nightshade、Fawkes 等图像防护工具，以及 Truepic 基于 C2PA 标准的内容签名方案，并讨论了水印开放与闭源的利弊。
Hugging Face BlogAI 评分4242 如何在 Hugging Face 中微调 Gemma 模型
Hugging Face 发布教程，介绍如何用 Transformers 和 PEFT 库对 Google DeepMind 的开源模型 Gemma（2B 和 7B 参数）进行参数高效微调（PEFT）。