英伟达近来在全球注目的科技盛会中正式推出了Dynamo,这一新产品被誉为AI工厂的操作系统。它是一个分布式推理服务库,旨在处理出产客户的实在需求token时无法产出满足token的问题,简而言之,Dynamo是一个开源的处理方案,具有极大的实用价值。
在发布会上,黄仁勋展现了一张有目共睹的推理图表,X轴映出了用户每秒的Token数,而Y轴则显现了工厂每秒的Token总量。这一图表生动展现了Dynamo所能带来的潜在效益。而在强壮的Grace Blackwell NVLink 72超级芯片的加持下,Blackwell的功能比较于Hopper大幅度的进步,到达惊人的25倍之多。更为耀眼的是,在推理模型中,Blackwell的功能竟是Hopper的40倍,这无疑为AI的未来赋予了更强的动力。
黄仁勋好像也意识到热潮的降临,他玩笑说道,凭借这些立异技能,厂商买得越多、省得越多,让人哑然失笑的一起也反映了当今AI职业的剧烈竞赛与新机遇的并存。总的来说,Dynamo的发布不仅是一项技能打破,仍是一次职业的颠覆性立异,让我们有理由等待它将在未来的AI生态中发挥的及其重要的效果。回来搜狐,检查更加多