第112章_技术拆解(2 / 3)
左城站起身,走到窗边。窗外是杭城的夜景,灯火辉煌。
他想起刚才在周鹤年办公室的场景。天穹四期的难度確实比三期高了不止一个量级。
但他有系统。
他有別人没有的优势。
关键是,如何在不暴露系统存在的情况下,把这个优势发挥出来。
“城哥。“沈一鸣的声音打断了他的思绪,“我有个想法。“
左城转过身。
“联邦学习不只是可以用於训练。“沈一鸣说,“如果把它扩展一下,变成一种协同推理的框架,效果可能会更好。“
“协同推理?“
“每颗卫星不只运行自己的模型,还会把自己的推理结果分享给其他卫星。“沈一鸣解释道,“其他卫星接收到结果后,会结合自己的观测做出最终决策。这样就相当於把多颗卫星的智慧匯聚在一起。“
方泽眼睛一亮:“这不就是分布式计算吗?“
“比分布式计算更进一步。“沈一鸣说,“分布式计算是分摊任务,而协同推理是匯聚智慧。两者的效果完全不同。“
左城听明白了。
这就是联邦学习的升级版。不只是分布式训练,还包括分布式推理。
“如果用协同推理,准確率能提升多少?“他问。
沈一鸣在白板上快速计算著:“保守估计,可以提升15到20个百分点。70%加20%,就是90%。刚好达標。“
90%。
刚好达標。
左城没有说话。他知道在真实的评审会上,90%的准確率远远不够。那些传统派的专家会抓住每一个细节进行质疑。
“必须做到95%以上。“他说。
沈一鸣愣了一下:“95%?这……“
“评审会上有林建华。“左城的声音很平静,“他不会给我们任何容错空间。“
会议室再次陷入沉默。
方泽打破沉默:“其实还有一个方向可以尝试。“
左城和沈一鸣同时看向他。
“晶片。“方泽说,“如果晶片的能效比能提升,我们就不用在算法上做那么多妥协。“
“你是说定製晶片?“沈一鸣问。
“不是定製,是优化。“方泽说,“寒武纪的mlu270性能足够,但功耗30瓦。如果我们能在软体层面做更深度的优化,功耗应该还能降。“
左城点点头。方泽说的有道理。硬体和软体两手抓,才能真正解决问题。
“明天开始,我们分成两组。“他做出决定,“一组由一鸣负责,继续优化协同推理框架;另一组由方泽负责,看能不能在晶片层面有突破。“ ↑返回顶部↑
他想起刚才在周鹤年办公室的场景。天穹四期的难度確实比三期高了不止一个量级。
但他有系统。
他有別人没有的优势。
关键是,如何在不暴露系统存在的情况下,把这个优势发挥出来。
“城哥。“沈一鸣的声音打断了他的思绪,“我有个想法。“
左城转过身。
“联邦学习不只是可以用於训练。“沈一鸣说,“如果把它扩展一下,变成一种协同推理的框架,效果可能会更好。“
“协同推理?“
“每颗卫星不只运行自己的模型,还会把自己的推理结果分享给其他卫星。“沈一鸣解释道,“其他卫星接收到结果后,会结合自己的观测做出最终决策。这样就相当於把多颗卫星的智慧匯聚在一起。“
方泽眼睛一亮:“这不就是分布式计算吗?“
“比分布式计算更进一步。“沈一鸣说,“分布式计算是分摊任务,而协同推理是匯聚智慧。两者的效果完全不同。“
左城听明白了。
这就是联邦学习的升级版。不只是分布式训练,还包括分布式推理。
“如果用协同推理,准確率能提升多少?“他问。
沈一鸣在白板上快速计算著:“保守估计,可以提升15到20个百分点。70%加20%,就是90%。刚好达標。“
90%。
刚好达標。
左城没有说话。他知道在真实的评审会上,90%的准確率远远不够。那些传统派的专家会抓住每一个细节进行质疑。
“必须做到95%以上。“他说。
沈一鸣愣了一下:“95%?这……“
“评审会上有林建华。“左城的声音很平静,“他不会给我们任何容错空间。“
会议室再次陷入沉默。
方泽打破沉默:“其实还有一个方向可以尝试。“
左城和沈一鸣同时看向他。
“晶片。“方泽说,“如果晶片的能效比能提升,我们就不用在算法上做那么多妥协。“
“你是说定製晶片?“沈一鸣问。
“不是定製,是优化。“方泽说,“寒武纪的mlu270性能足够,但功耗30瓦。如果我们能在软体层面做更深度的优化,功耗应该还能降。“
左城点点头。方泽说的有道理。硬体和软体两手抓,才能真正解决问题。
“明天开始,我们分成两组。“他做出决定,“一组由一鸣负责,继续优化协同推理框架;另一组由方泽负责,看能不能在晶片层面有突破。“ ↑返回顶部↑