英特尔推出推理微服务

2026年10月14日，英特尔宣布推出 Intel Inference Microservices，一套面向大语言模型推理的容器化微服务方案，让企业可在已有至强处理器上直接获得调优后的模型推理能力，无需手动硬件优化。据IT之家报道，首批版本基于 vLLM 引擎，支持 BF16 精度，可在 Docker 或 Kubernetes 1.24 及以上环境中运行，硬件要求为第四代、第五代或第六代英特尔至强处理器，建议配置 32GB 内存。报道称，目前工具调用和结构化输出功能可作为 vLLM 的透传能力使用，但尚未被验证为正式支持的能力；每个模型附有各自的许可证，用户需自行确保部署行为符合许可条款。英特尔计划在后续版本中增加 Helm Chart、Kubernetes Operator、更多推理引擎和精度支持。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。