AI 推理测试：英特尔 Arc Pro B70 显卡吞吐最高 2320.76 token/s，超英伟达 RTX 5090D

IT之家 7 月 9 日消息，科技媒体 Wccftech 昨日（7 月 8 日）发布博文，报道称显卡厂商蓝戟（GUNNIR）测试英特尔 Arc Pro B70 GPU，在 DeepSeek R1 模型推理表现上超过英伟达的 RTX 5090D 和 RTX 4090D 显卡。测试环境均为 4 张显卡配置，主要对比英特尔 Arc Pro B70 32GB、英伟达 RTX 5090D 32GB 与 RTX 4090D 24GB 三款显卡的 AI LLM 大语言模型推理性能表现。测试模型为 DeepSeek R1-Distill Qwen 32B FP16，该模型固定输入 / 输出长度为 128 个 tokens，涵盖了从 1 到 512 的完整上下文并发范围，测试的核心指标为 token/s 吞吐量，用于衡量大语言模型推理时的输出效率。在并发低于 32 时，RTX 5090D 位居前列，RTX 4090D 排名第二，Arc Pro B70 表现媲美 RTX 4090D；到并发 32 和 64 时，Arc Pro B70 已能追平并超过 RTX 4090D。当并发达到 128 时，Arc Pro B70 的 token 吞吐量比 RTX 5090D 高 8.6%，比 RTX 4090D 高 34.2%。当并发达到 256 时，Arc Pro B70 比 RTX 5090D 高 7.5%，比 RTX 4090D 高 48.7%。在并发 512 时也观察到相近表现。IT之家附上相关图片如下：英特尔 Arc Pro B70 GPU 在 Tokens 吞吐量方面表现最为出色，速度高达每秒 2320.76 个 Token。