设置

关灯

第一卷 第16章 你和路总工关系怎么样?(第2节)

“小沈,性能虽然和其他家打平了,但是你们不支持FP8,做BF16精度推理,性价比会不会太低了?”

科技部的王主任笑眯眯的,但沈一明白他话里有话。

不用想,这肯定是MS公司挖的坑。

毕竟就他们家支持FP8精度。

会议室冷气开得很足。

沈一穿着衬衫,脱了西装外套,后背还是沁了层薄汗。

她定了定神,淡定开口:

“王主任,是这样的。

采用BF16推理,是市面上公认的保证模型效果最好的部署方式。

FP8虽然能更快,但业内都清楚,它对模型是有精度损失的。

电网生产环节,误判了一个小的缺陷,可能会引发不可量化的生产事故,这也是我们公司使用BF16精度送测的原因。

另外,我们芯片是创新架构,硬件计算效率能达到其他同类产品三倍以上,综合性价比肯定是更高的。”

会议室安静了几秒。

“你说的对。”王主任摘下眼镜擦了擦,连连点头:“小沈,下周我们要给领导汇报,你准备个科普材料,我们把这个技术点好好讲讲。”

沈一心定了。

昨晚的酒没有白喝呀!

王主任果然很给力,不愧是CTO的老同学,给面子。

“好的,王主任,我整好了发您。”

PPT翻到最后页,她关上激光笔,看向对面那一排七八个人,嗓子已经有些哑了:

“各位领导,第一轮规格测试和模型测试数据就是这些了。

下周我们开始做七十二小时稳定性压力测试,我们先准备一下环境,下周一请周老师跟我们一块测试下。”

王主任连连点头,“小沈,这次数据很漂亮,远超我们预期呀。”

成了!

沈一心里那块悬了两周的大石头,咚一声,落地了。

本章未完,请点击"下一页"继续阅读! 第2页 / 共4页