第497章 算力榨乾（2 / 3）
“更別提每个月的天价电费和空调散热费了。”
吴泽明补充道：“而且机房的物理空间和电力负载是有极限的。光靠横向扩展，不是长久之计。”
会议室陷入了死一般的沉寂。
这是一个纯粹的物理定律和硬体架构带来的瓶颈。
软体算法再精妙，也无法违背硬体的物理极限。
所有人都看向夏冬。
在这个公司里，每当遇到技术方面无解的死局，夏冬总是能拿出打破常规的方案。
其实夏冬早就预料到了这一天，伺服器算力见顶是迟早的事。
他老早就找豆包，恶补了人工智慧的发展史。
深度学习和神经网络之所以在2010年之后才开始大爆发，並不是因为算法突然取得了什么逆天的理论突破。
纯粹是因为算力终於跟上了。
在豆包提供的未来时间线里，拯救人工智慧算力危机的，是英伟达的gpu。也就是大家俗称的显卡。
gpu这玩意儿，天生就是用来做大规模並行计算的。
再后来，谷歌为了搞定自家的算法和推荐系统，乾脆自己下场研发了tpu，一种专门为ai定製的专用晶片。
夏冬的手指在桌面上轻轻敲击著，发出有节奏的噠噠声。
“陈默，泽明，你们有没有想过，”夏冬终於开口了，目光扫过两位技术大拿，“为什么我们堆了那么多顶配的cpu，算力依然捉襟见肘？我们的算法，到底在让这些cpu干什么活？”
陈默皱著眉头想了想：“主要就是神经网络的层级计算，里面全是大规模的矩阵乘法。”
“对，问题就出在这里。”
夏冬停止敲击桌面，“cpu的架构设计初衷是什么？是处理复杂的控制逻辑，它里面有大量的分支预测、指令调度单元。”
“打个比方，cpu就像是一个精通微积分的大学老教授。你让他解多复杂的数学题他都会。”
为了让非纯技术的苏晚晴也能听懂，夏冬顿了顿，摊开双手继续说道：“但是，我们推荐算法需要的，是极其海量、极其枯燥的简单矩阵乘法。”
“这等於你雇了一万个大学老教授，每天让他们坐在办公室里算一加一等於几。”
陈默和吴泽明愣了一下。
“他们能算，”夏冬一针见血地指出，“但是效率极低，而且成本高得离谱。大炮打蚊子，从根源上就错了。”
两位顶尖的技术大拿对视了一眼，脑子里仿佛劈过一道闪电。
陈默喃喃自语：“所以……通用的cpu，从硬体物理架构上就不適合跑我们的算法？”
“没错。”夏冬顺势拋出一个引导性的问题，“既然一个精通微积分的老教授算得慢，那我们找一万个只会算乘法的小学生来並行计算呢？”
“我们需要的是高並发、低逻辑复杂度、海量的浮点运算单元……”
吴泽明推了推眼镜，眉头微皱，大脑在疯狂检索现有的硬体架构：“夏冬，你说的这种硬体特徵，听起来怎么那么像电脑里的显卡？”
“確切地说，是gpu。”夏冬打了个响指，“泽明抓住了盲点。” ↑返回顶部↑
吴泽明补充道：“而且机房的物理空间和电力负载是有极限的。光靠横向扩展，不是长久之计。”
会议室陷入了死一般的沉寂。
这是一个纯粹的物理定律和硬体架构带来的瓶颈。
软体算法再精妙，也无法违背硬体的物理极限。
所有人都看向夏冬。
在这个公司里，每当遇到技术方面无解的死局，夏冬总是能拿出打破常规的方案。
其实夏冬早就预料到了这一天，伺服器算力见顶是迟早的事。
他老早就找豆包，恶补了人工智慧的发展史。
深度学习和神经网络之所以在2010年之后才开始大爆发，並不是因为算法突然取得了什么逆天的理论突破。
纯粹是因为算力终於跟上了。
在豆包提供的未来时间线里，拯救人工智慧算力危机的，是英伟达的gpu。也就是大家俗称的显卡。
gpu这玩意儿，天生就是用来做大规模並行计算的。
再后来，谷歌为了搞定自家的算法和推荐系统，乾脆自己下场研发了tpu，一种专门为ai定製的专用晶片。
夏冬的手指在桌面上轻轻敲击著，发出有节奏的噠噠声。
“陈默，泽明，你们有没有想过，”夏冬终於开口了，目光扫过两位技术大拿，“为什么我们堆了那么多顶配的cpu，算力依然捉襟见肘？我们的算法，到底在让这些cpu干什么活？”
陈默皱著眉头想了想：“主要就是神经网络的层级计算，里面全是大规模的矩阵乘法。”
“对，问题就出在这里。”
夏冬停止敲击桌面，“cpu的架构设计初衷是什么？是处理复杂的控制逻辑，它里面有大量的分支预测、指令调度单元。”
“打个比方，cpu就像是一个精通微积分的大学老教授。你让他解多复杂的数学题他都会。”
为了让非纯技术的苏晚晴也能听懂，夏冬顿了顿，摊开双手继续说道：“但是，我们推荐算法需要的，是极其海量、极其枯燥的简单矩阵乘法。”
“这等於你雇了一万个大学老教授，每天让他们坐在办公室里算一加一等於几。”
陈默和吴泽明愣了一下。
“他们能算，”夏冬一针见血地指出，“但是效率极低，而且成本高得离谱。大炮打蚊子，从根源上就错了。”
两位顶尖的技术大拿对视了一眼，脑子里仿佛劈过一道闪电。
陈默喃喃自语：“所以……通用的cpu，从硬体物理架构上就不適合跑我们的算法？”
“没错。”夏冬顺势拋出一个引导性的问题，“既然一个精通微积分的老教授算得慢，那我们找一万个只会算乘法的小学生来並行计算呢？”
“我们需要的是高並发、低逻辑复杂度、海量的浮点运算单元……”
吴泽明推了推眼镜，眉头微皱，大脑在疯狂检索现有的硬体架构：“夏冬，你说的这种硬体特徵，听起来怎么那么像电脑里的显卡？”
“確切地说，是gpu。”夏冬打了个响指，“泽明抓住了盲点。” ↑返回顶部↑