Zama 用 FHE 实现加密大语言模型推理，基于 Hugging Face GPT2 验证
Zama 展示如何借助全同态加密（FHE）在加密数据上运行大语言模型，并基于 Hugging Face transformers 库改造 GPT2 实现加密推理。
全部 AI 动态
Hugging Face BlogAI 评分4040 Hugging Face BlogAI 评分2929 Huggy Lingo：用机器学习改进 Hugging Face Hub 数据集的语言元数据
Hugging Face 用机器学习为 Hub 上缺少语言元数据的数据集自动检测语言，并通过 librarian-bots 提交 PR 补充元数据。Hub 现有约 5 万个公开数据集，但约 87% 未标注语言，仅约 13% 包含语言信息。
Hugging Face BlogAI 评分3838 用 Shap-E 和 Dream Textures 生成 PS1 风格 3D 资产的完整教程
Hugging Face 发布教程，演示如何用 OpenAI 开源扩散模型 Shap-E 从文本生成 3D 模型，再经 Blender 减面、Dream Textures 生成无缝贴图、UV 展开后导出 FBX 并导入 Unity，做出 PS1 风格低精度 3D 资产。
Hugging Face Blog精选AI 评分6060 Segmind 开源 SD-Small 与 SD-Tiny 知识蒸馏代码和权重
Segmind 开源了压缩版 Stable Diffusion 模型 SD-Small 和 SD-Tiny 的权重与蒸馏训练代码，两者参数量分别比基础模型少 35% 和 55%，同时保持接近的图像保真度。
推荐理由：Segmind 开源了 SD-Small 与 SD-Tiny 的蒸馏代码和权重，并给出参数量、加速比与使用方式，便于复现和二次微调。
Hugging Face Blog精选AI 评分6262 Hugging Face 与 Apple 发布 Core ML 版 Stable Diffusion XL，采用混合比特量化
Hugging Face 与 Apple 将 Stable Diffusion XL 移植到 Core ML，可在 Apple Silicon Mac 上本地运行，并发布混合比特调色板量化方案。
推荐理由：原文给出混合比特调色板量化的具体压缩比与 PSNR 数据，可据此判断本地跑 SDXL 的体积与质量取舍。
OpenAI NewsAI 评分3838 OpenAI 成立 Frontier Model Forum 推动前沿 AI 安全发展
OpenAI 联合组建新的行业机构 Frontier Model Forum，旨在推动前沿 AI 系统的安全与负责任开发。该论坛将推进 AI 安全研究、制定最佳实践与标准，并促进政策制定者与行业间的信息共享。
Hugging Face BlogAI 评分3434 Hugging Face 联合 Creative Commons、Eleuther AI 等提交 EU AI Act 开放 ML 政策建议书
Hugging Face 联合 Creative Commons、Eleuther AI、GitHub、LAION 和 Open Future 发布立场文件，就 EU AI Act 提出五项建议。
Hugging Face Blog精选AI 评分6262 Hugging Face 发布 Agents.js：用 JavaScript 为 LLM 提供工具调用
Hugging Face 在 huggingface.js 下发布 Agents.js，一个可在浏览器或服务端为 LLM 提供工具访问的 JavaScript 库，通过 npm install @huggingface/agents 安装。
推荐理由：原文给出库的安装方式、代码示例与自定义工具接口，读者可据此判断如何在浏览器或服务端为 LLM 接入工具。
OpenAI NewsAI 评分2626 OpenAI 与其他领先实验室以自愿承诺推进 AI 治理
OpenAI 与其他领先实验室通过自愿承诺，强化 AI 的安全性、安保与可信度，以此推进 AI 治理。
Hugging Face BlogAI 评分2222 Hugging Face 首届开源 AI Game Jam 结果揭晓：Snip It 夺冠
Hugging Face 公布首届开源 AI Game Jam 结果，活动吸引超 1300 人报名、收到 88 款游戏，冠军由 ohmlet 的 Snip It 获得，该游戏用 Stable Diffusion 生成素材。参赛作品需至少使用一款开源 AI 工具，主题为“EXPANDING”，前十名还用到 GPT-4、StarCoder、MusicGen 等模型。
OpenAI News精选AI 评分6262 OpenAI 为 ChatGPT 推出自定义指令功能
OpenAI 为 ChatGPT 推出自定义指令功能，用户可设置自己的偏好，ChatGPT 会在之后所有对话中记住这些偏好。该功能让用户对 ChatGPT 的回复方式拥有更多控制权。
推荐理由：OpenAI 官方说明 ChatGPT 新增自定义指令，读者可了解偏好设置会如何跨对话持续生效。
Hugging Face BlogAI 评分2626 Hugging Face Diffusers 一周年：从文生图到视频、3D 与图像编辑
Hugging Face 的 Diffusers 库迎来一周年，已从文生图工具箱扩展出视频、3D 与图像编辑能力。新增支持 DeepFloyd IF、Stability AI SDXL、OpenAI Shap-E 文生 3D，以及 VideoFusion、Text2Video-Zero 文生视频管线。
OpenAI NewsAI 评分2020 OpenAI 与美国新闻项目合作，投入超 500 万美元支持本地新闻
OpenAI 与美国新闻项目达成超 500 万美元的合作，旨在探索人工智能发展如何支持本地新闻领域繁荣创新，并确保本地新闻机构参与塑造这项新兴技术的未来。
Hugging Face Blog精选AI 评分8888 Meta 发布 Llama 2，Hugging Face 全面接入
Meta 发布开源大语言模型家族 Llama 2，包含 7B、13B、70B 三种规模的预训练与微调版本，采用允许商用的社区许可。Hugging Face 同步完成集成，提供模型卡、transformers 支持、Text Generation Inference 与 Inference Endpoints 部署，并给出用 PEFT 在单张 GPU 上微调 7B 版本的示例。
推荐理由：Meta 开源 Llama 2 并同步接入 Hugging Face 生态，读者可了解其许可、规模与推理微调路径。
Hugging Face BlogAI 评分4040 Hugging Face 开源文本生成与 LLM 生态概览
Hugging Face 梳理了其平台上的开源文本生成与 LLM 生态，涵盖因果语言模型与 text-to-text 模型两类，并介绍了 PEFT 等工具。
Hugging Face BlogAI 评分3838 Hugging Face 用 Zeroscope 与 MusicGen 搭建 AI WebTV 实验直播流
Hugging Face 推出 AI WebTV 实验性演示，用开源文生视频模型 Zeroscope 与音乐生成模型 MusicGen 自动合成视频与配乐并直播。视频由 zeroscope_v2_576 生成 576x320 片段，可选用 zeroscope_v2_XL 放大至 1024x576，再经 FILM 插帧处理，提示词由 ChatGPT 生成。
Hugging Face BlogAI 评分4040 如何在 Intel CPU 上微调 Stable Diffusion 模型
Hugging Face 展示了在 Intel 第四代 Xeon（Sapphire Rapids）CPU 集群上微调 Stable Diffusion 的完整流程，利用 AMX 加速器与 IPEX、oneCCL 实现分布式训练。
OpenAI NewsAI 评分1818 OpenAI 用 GPT-4 大规模精准分析定性数据
Viable 利用 GPT-4 以革命性规模和前所未有的准确度分析定性数据。
Hugging Face BlogAI 评分5858 用 Transformers.js 打造 ML 驱动的网页游戏
Hugging Face 博客介绍如何用 Transformers.js 在浏览器本地运行机器学习模型，制作实时绘画猜词游戏 Doodle Dash。作者基于 Google Quick, Draw!
Hugging Face BlogAI 评分3636 如何用 Hugging Face Inference Endpoints 部署 LLM
Hugging Face 发布教程，演示如何通过其托管 SaaS 服务 Inference Endpoints 部署 Falcon 40B instruct 等开源大模型，并支持流式响应与性能测试。
Hugging Face BlogAI 评分3838 用开源 ML 模型打造 Web 应用生成器：Hugging Face 教程
Hugging Face 发布教程，用 Node.js 结合 WizardCoder-15B 与 Inference Endpoints API 构建流式生成 HTML 的 Web 应用生成器。模型通过 textGenerationStream 边生成边渲染，配合 TailwindCSS 提示词让页面即时成型，也可改用免费的 Inference API 运行较小模型。
Hugging Face BlogAI 评分1212 Writer 如何借助 Hugging Face 从用户成长为开源模型贡献者
Writer 联合创始人兼 CTO Waseem Alshikh 与 Hugging Face 的 Jeff Boudier 对谈，讲述 Writer 从 Hugging Face 用户、客户到开源模型贡献者的历程。
OpenAI NewsAI 评分1212 OpenAI 分享 22 国全球对话洞察
OpenAI 分享了在 22 个国家开展对话所获得的洞察，并说明后续将如何把这些洞察纳入工作。
Hugging Face BlogAI 评分2828 在 Habana Gaudi2 上加速 BridgeTower 视觉语言模型微调
Optimum Habana v1.7 在 Habana Gaudi2 上微调视觉语言模型 BridgeTower，相比 A100 提速 2.5 倍、相比 H100 提速 1.4 倍。这一提升依赖硬件加速的数据加载，通过 dataloader_num_workers 参数分配专用子进程即可启用，适用于各类受数据加载瓶颈制约的视觉模型。
OpenAI NewsAI 评分2222 OpenAI 在伦敦设立首个国际办公室
OpenAI 宣布首次国际扩张，在英国伦敦设立新办公室。这是 OpenAI 首个美国以外的办公地点。
Hugging Face BlogAI 评分2828 Hugging Face 通讯第 4 期：文本到图像模型中的偏见
Hugging Face 发布《伦理与社会通讯》第 4 期，聚焦文本到图像模型的偏见问题，指出训练数据、预训练数据过滤、推理、模型潜在空间及事后过滤等环节均可能引入偏见。
Hugging Face Blog精选AI 评分6262 Open LLM Leaderboard 的 MMLU 分数为何对不上
Hugging Face 发文解释 Open LLM Leaderboard 上 LLaMA 的 MMLU 分数为何明显低于 LLaMA 论文中的数字。
推荐理由：同一份 MMLU 数据集在三种实现下分数与排名都不同，读者可据此理解评测数字为何不可直接横向比较。
Hugging Face BlogAI 评分2222 Hugging Face Spaces 集成 Panel 模板，支持在浏览器中构建 Python 应用
Hugging Face 与 Panel 合作，在 Hugging Face Spaces 中集成了 Panel 模板，方便用户构建并部署 Panel 应用。Panel 是 HoloViz 生态下的开源 Python 库，支持 Matplotlib、Plotly、Bokeh 等绘图库，可构建仪表盘和多页交互应用，并借助 Pyodide 与 WebAssembly 在浏览器中运行。
Hugging Face BlogAI 评分2222 Hugging Face 就美国 NTIA AI 问责政策提交回应意见
Hugging Face 于 6 月 12 日向美国商务部 NTIA 提交 AI 问责政策回应，强调文档与透明度规范在推动 AI 问责中的作用。其建议问责机制应覆盖 ML 开发全流程、结合内部要求与外部访问透明，并吸纳开发者、多学科研究社区、倡导组织、政策制定者和记者等最广泛参与者。
Hugging Face BlogAI 评分3838 如何微调 MMS Adapter 模型实现低资源 ASR
Hugging Face 发布教程，介绍如何基于 Meta AI 的 MMS 检查点微调 Adapter 层实现低资源语音识别。MMS 预训练检查点覆盖 1400 多种语言、参数量 300M 到 1B，每个 Adapter 层仅约 2.5M 权重，微调 10-20 分钟即可获得极低词错误率。低资源语言推荐用 Adapter 训练替代全模型微调，更省内存且性能更好。
Hugging Face BlogAI 评分2828 Hugging Face：Transformer 对时间序列预测确实有效，Autoformer 已集成
Hugging Face 用实验反驳了 AAAI 2023 论文《Are Transformers Effective for Time Series Forecasting?
Hugging Face BlogAI 评分2020 Hugging Face 发布新版内容政策与指南
Hugging Face 更新了平台内容政策，并发布配套博客说明其制定理由与核心价值。新政策针对机器学习内容的审核难题，强调以"同意"为核心价值，关注用户对自身作品、形象与隐私的权利，同时禁止针对用户及 Hugging Face 员工的攻击性或骚扰性言论。
Hugging Face Blog精选AI 评分6262 用 Core ML 在 iPhone、iPad 和 Mac 上加速 Stable Diffusion
Hugging Face 介绍了借助 Core ML 新优化在 Apple 设备上加速 Stable Diffusion 的方法，核心是 6-bit palettization 量化，把权重从 16 位浮点压缩到每参数 6 bit，并在推理时逐层解压以降低内存占用。
推荐理由：原文给出 6-bit palettization 的量化转换流程与已上传的四个 Stable Diffusion 模型，读者可据此在 Apple 设备上自行部署。
Hugging Face BlogAI 评分2222 将 Livebook notebook 作为应用部署到 Hugging Face Spaces
Hugging Face 与 Elixir 社区合作，演示了如何用 Livebook 构建一个基于 Whisper 的语音聊天应用并部署到 Hugging Face Spaces，全程不到 15 分钟。
OpenAI News精选AI 评分8080 OpenAI 更新 API：函数调用、更长上下文与更低价格
OpenAI 宣布对 API 进行多项更新，包括更易引导的模型、函数调用能力、更长的上下文以及更低的价格。
推荐理由：OpenAI 公布 API 多项更新，读者可据此了解模型可控性、函数调用与价格的变化方向。
Hugging Face BlogAI 评分3838 Hugging Face 与 AMD 达成合作，加速 CPU 和 GPU 平台上的前沿模型
Hugging Face 宣布 AMD 正式加入其硬件合作伙伴计划，双方将针对 AMD CPU 和 GPU 优化 Transformer 模型的训练与推理。
Hugging Face BlogAI 评分5050 Hugging Face 研究：基础模型能否像人类一样标注数据？
Hugging Face 通过扩展 Open LLM Leaderboard 评估套件，对比了 GPT-4 自动评估与 Scale AI 人类标注在开源指令模型上的偏好排序。
Hugging Face BlogAI 评分2222 Hugging Face Hub 如何服务美术馆、图书馆、档案馆与博物馆（GLAM）
Hugging Face Hub 面向美术馆、图书馆、档案馆与博物馆（GLAM）从业者，介绍如何查找模型并上传馆藏数据集。Hub 目前托管超 190,000 个模型、33,000 个数据集和超 100,000 个应用与 demo，覆盖文本、图像、音频等任务。文中以挪威文献的命名实体识别（NER）模型为例，并演示通过浏览器界面将 CSV 数据集上传为数据集仓库。
Hugging Face BlogAI 评分4242 Hugging Face Hub 集成 DuckDB：用 SQL 分析 5 万多个数据集
Hugging Face Hub 新增 DuckDB 集成，用户可用 SQL 直接查询 Hub 上任意公开数据集。数据集查看器会自动将所有公开数据集转换为 Parquet 文件，通过 /parquet 端点获取 URL 后，配合 DuckDB 的 httpfs 扩展即可查询远程文件，并支持分片后的多个 Parquet 文件。
Hugging Face BlogAI 评分2222 Hugging Face Hub 正式托管 fastText 官方模型
Hugging Face 现已托管 Meta AI 开源的 fastText 官方镜像，涵盖 157 种语言的词向量和最新语言识别模型。用户可通过 huggingface_hub 库的 hf_hub_download 命令直接下载使用，并支持文本分类与特征提取 widget。