Hugging Face 发布 Transformers Agents 2.0
Hugging Face 发布 Transformers Agents 2.0,在原有智能体类型之外新增可基于历史观察迭代的 ReactAgent 等两类智能体,并加入共享功能。
推荐理由:官方给出新智能体框架的模块划分与 GAIA 榜单成绩,可据此判断开源智能体方案的可用性。
Hugging Face 发布 Transformers Agents 2.0,在原有智能体类型之外新增可基于历史观察迭代的 ReactAgent 等两类智能体,并加入共享功能。
推荐理由:官方给出新智能体框架的模块划分与 GAIA 榜单成绩,可据此判断开源智能体方案的可用性。
Intel 在 OPEA 开放平台上展示了用 Gaudi 2 AI 加速器和 Xeon CPU 构建企业级 RAG 应用的方案,LLM 跑在 Gaudi 2 上、嵌入模型跑在 Granite Rapids CPU 上。
Hugging Face 现已支持用 AWS 账户将组织升级至 Enterprise Hub,订阅入口在 AWS Marketplace,价格与 Hugging Face 公开定价一致,但通过 AWS 账户计费。
OpenAI 发布 Media Manager,面向创作者和内容所有者,用于管理其作品在 AI 训练与生成中的使用。此时距 ChatGPT 上线刚过一年,OpenAI 同时阐述了自身在 AI 时代的数据处理思路与后续方向。
OpenAI 推出新技术,帮助研究人员识别由其工具生成的内容,同时加入内容来源与真实性联盟(C2PA)指导委员会,以推动行业标准建设。
Stack Overflow 与 OpenAI 宣布达成 API 合作,将这一技术知识平台与 OpenAI 的大语言模型结合,用于 AI 开发。双方称此举旨在借助各自优势为开发者提供支持。
Hugging Face 发布希伯来语 LLM 开放排行榜,用于评估和提升希伯来语语言模型。该排行榜包含希伯来语问答、情感准确率、Winograd Schema Challenge 和英希翻译四项基准,采用 few-shot 提示格式,模型通过 HuggingFace Inference Endpoints 部署并由 lighteval 库评估。
Artificial Analysis 开发的 LLM 性能排行榜现已上线 Hugging Face,覆盖超过 100 个 serverless LLM API 端点,综合评估质量、价格与速度。
OpenAI 封禁了与伊朗背景行动"IUVM"相关的账号,该行动利用 AI 生成并翻译亲伊朗、反以色列和反美的网站内容。
OpenAI 封禁了一批与一项此前未报告的俄罗斯来源操作相关的账号,该操作被其命名为“Bad Grammar”。这些账号利用 AI 生成英语和俄语的 Telegram 评论,涉及乌克兰、摩尔多瓦、波罗的海地区及美国政治话题。
推荐理由:OpenAI 披露一起此前未报告的俄罗斯相关账号操作,可了解平台如何界定并处置这类滥用行为。
OpenAI 封禁了与俄罗斯来源行动"Doppelganger"相关的账号,该行动利用 AI 生成反乌克兰的社交媒体评论、翻译和网站文案,覆盖多种语言。
OpenAI 封禁了一批与源自中国的"Spamouflage"行动关联的账号,该行动利用 AI 研究社交媒体活动、生成帖文并调试一个此前未被报道的网站。
OpenAI 封禁了一批与一个此前未被报道、源自以色列的影响力运营相关的账号,该运营被其命名为 Zero Zeno。这些账号使用 AI 生成反哈马斯、反卡塔尔、亲以色列、反印度人民党以及亲以色列总工会的内容。
Hugging Face 发布自定义推理 handler 方案,在 Inference Endpoints 上把 Whisper 语音识别、Pyannote 说话人分离与推测解码整合进单一 API。
Hugging Face 排行榜与评测团队发现,同一 MMLU 任务仅改变提示词格式,5 个模型的得分波动约 10 分,Qwen1.5-7B 甚至从 51.2% 跌至 22.9%,模型排名也随之改变。为此他们与 .txt 合作,尝试用 Outlines 库的结构化生成约束模型输出,以减少提示词格式带来的评测方差。
Hugging Face 发布 StarCoder2-15B-Instruct-v0.1,这是首个完全自对齐、全透明且许可宽松的代码大语言模型,无需人工标注或从 GPT-4 等专有模型蒸馏数据。
推荐理由:StarCoder2-15B-Instruct 用自生成数据完成指令微调,其开源流程与评测对比可供代码模型训练参考。
OpenAI 与《金融时报》达成合作,将后者内容引入 ChatGPT,双方还将为 FT 读者共同开发新的 AI 体验。
OpenAI 正加速救命疗法的开发。
OpenAI 发布 ChatGPT 与 Whisper 的 API,供开发者将对话与语音能力接入自有应用。
OpenAI 宣布 GPT-4 API 正式开放,GPT-3.5 Turbo、DALL·E 和 Whisper API 也同步正式开放。同时公布旧版 Completions API 模型的退役计划,这些模型将于 2024 年初退役。
推荐理由:OpenAI 公布 GPT-4 等 API 正式开放及旧模型退役安排,读者可据此规划接口迁移。
Hugging Face 发布 Open CoT Leaderboard,不评模型绝对准确率,而是对比有无链式推理提示时的准确率差值 Δ。该榜单覆盖 LogiQA、LSAT 等多项选择题任务,已实现 Classic 与 Reflect 两种提示策略,并称对训练数据污染更具鲁棒性。
OpenAI 为 API 客户新增更多安全功能与控制项,并更新 Assistants API,同时提供更好地管理成本的工具,以加强企业级支持。
Hugging Face 发布 Jack of All Trades(JAT)项目,开源首个通用智能体训练数据集 JAT dataset 及基于 GPT-Neo 的 Transformer 智能体模型,可玩视频游戏、控制机器人并执行导航指令。
OpenAI 提出"指令层级"方法,通过训练让 LLM 优先执行特权指令,以抵御提示词注入、越狱等攻击。当前 LLM 易被对抗性提示词覆盖原始指令,该方法旨在解决这一安全问题。
Hugging Face 推出 Open Medical-LLM Leaderboard,用统一平台评测大语言模型在医疗任务上的表现,以准确率为主要指标,覆盖 MedQA、MedMCQA、PubMedQA 及 MMLU 的医学与生物学子集。
Meta 发布 Llama 3 系列开源大模型,包含 8B 和 70B 两个尺寸,各有基础版和指令微调版,并推出基于 Llama 3 8B 微调的安全模型 Llama Guard 2。
推荐理由:Meta 发布 Llama 3 并同步落地 Hugging Face 生态,读者可据此了解新分词器、GQA 与 8K 上下文带来的变化。
Mistral 发布开源模型 Mixtral 8x22B,采用稀疏 MoE 架构,141B 总参数中仅 39B 激活参数,以 Apache 2.0 许可开放。该模型支持英语、法语、意大利语、德语和西班牙语,具备数学与编码能力,原生支持函数调用,上下文窗口为 64K tokens。
推荐理由:Mixtral 8x22B 以 39B 激活参数和 Apache 2.0 许可发布,读者可据此判断开源模型的性能与成本取舍。
Gradio 推出 reload mode,用 `gradio app.py` 替代 `python app.py` 启动应用,即可在不重启服务器的情况下拉取源码最新改动。
Hugging Face 上线 LiveCodeBench 排行榜,基于 UC Berkeley、MIT 和 Cornell 研究者开发的基准,从 LeetCode、AtCoder、CodeForces 持续收集带发布日期的编程题,通过“随时间滚动”评估检测并防止数据污染。
Ryght 正式公开发布面向生命科学知识工作者的免费安全平台 Ryght Preview,用于加速研究、分析与文档处理。
Zama 团队将基于全同态加密(FHE)的 Concrete ML 预编译模型部署到 Hugging Face Endpoints,用户可通过自定义 inference handler 一键部署并运行加密推理。
Hugging Face 发布 Idefics2,一个 8B 参数、Apache 2.0 许可的多模态模型,可接受任意文本与图像序列输入并生成文本回复,支持图像问答、文档信息抽取和基础算术。
推荐理由:8B 参数、Apache 2.0 许可并同步放出多模态指令微调数据集,读者可据此判断开源多模态的可用起点。
OpenAI 宣布在亚洲设立首个办公室,落地日本。同时发布了一款针对日语优化的 GPT-4 定制模型。
Hugging Face 发布视觉语言模型入门文章,介绍其图像编码器、嵌入投影层与文本解码器的典型结构,并汇总 LLaVA 1.6、DeepSeek-VL、CogVLM、Qwen-VL 等开源模型的分辨率与能力差异。
推荐理由:系统梳理视觉语言模型的组成、选型榜单与微调流程,并给出可直接运行的 transformers 与 TRL 代码示例。
Hugging Face 推出 Deploy on Google Cloud 集成,可将数千个开源模型一键部署到 Google Cloud 的 Vertex AI 或 GKE,作为自有账号内的 API Endpoint。
Google 发布 CodeGemma 代码专用模型系列,基于预训练的 2B 和 7B Gemma checkpoint 继续训练 5000 亿 token,包含 2B 基座、7B 基座和 7B instruct 三个开源版本,上下文均为 8K token。
推荐理由:CodeGemma 三个规格的定位、基准对比和 FIM 提示格式都写清了,可据此判断它适合哪类代码补全场景。
Klarna 的 AI 助手承担了相当于 700 名全职客服的工作量。该助手基于 OpenAI 技术,用于革新个性化购物、客户服务与员工生产力。
OpenAI 为微调 API 增加新功能,让开发者对微调拥有更多控制权,同时公布构建自定义模型的新方式。
MotherDuck 与 Numbers Station 推出 DuckDB-NSQL-7B,一个专为 DuckDB SQL 设计的大语言模型,基于 Meta Llama-2-7b 微调并进一步用 DuckDB text-to-SQL 数据对精调,可生成包括官方文档和扩展在内的多种有效 DuckDB SQL 语句。
Hugging Face 宣布与云安全公司 Wiz 合作提升平台及 AI/ML 生态安全,Wiz 研究团队通过 pickle 在沙箱计算环境中运行任意代码,发现了平台安全短板,相关问题已全部修复。Hugging Face 已将 Wiz 用于漏洞管理和云安全态势管理(CSPM),并基于其工具自动修复 Spaces 等产品中的问题。