第84章 这不科学!(爆更1.5w 3/3 求首订)(3 / 5)
“gpu的显存带宽瓶颈和复杂的cuda编程调试成本,註定了它难度非常高,你就算写出了一些测试代码,由於频繁的数据拷贝,最后跑出来的实际效率,恐怕也不会比多核cpu好到哪里去。”
“齐教授,我昨晚用gpu训练,其实已经跑出了一批完整的数据,就目前的结果来看,它的效率比cpu要好。”
看著漆昊那自信的样子,齐教授只好说:“既然你连数据都跑出来了,那我们今天也別在这干坐著了,去你工位上看看。”
一群研究生和两位工程师,立刻屁顛屁顛地跟在齐教授和漆昊身后,涌向了漆昊的工位。
当齐教授走到那台崭新的工作站前,看到旁边那个硕大的1200w电源时,他脚步一顿,看向了陈工。
陈工假装在看天花板上的灯,一句话都不敢多说。
漆昊没有在意这些,他坐下来,滑了滑滑鼠,唤醒了暗下去的屏幕。
此时,屏幕上正显示著一个用c写的简易控制台界面,上面还残留著最终训练日誌。
“齐教授,这是我实验室里现成的数据集进行的测试,一共10000张。”
“我看了下相关日誌,在之前使用的伺服器cpu上,运行一个epoch的训练耗时,平均在一个小时左右。”
齐教授微微頷首:“没错,一个小时,这已经是优化后的极限了,想要训练到一个勉强可用的精度,至少需要叠代10个epoch,那就是將近十三个小时。”
“是的。”漆昊微微一笑,“所以我昨晚尝试了新的方法,这是昨晚我运行10个epoch的实时训练输出日誌,您可以看一下。”
漆昊轻敲回车,拉动滚动条,將昨晚的训练控制台日誌呈现在所有人面前。
【training epoch10/10】
【totaltrainingtime:1小时28分27秒】
“这时间坏了吧?”陈工脱口而出。
齐教授顾不上教授的体面,半蹲著身子,开始快速翻看编译日誌和cuda运行態监控。
屏幕上的实时数据显示得清清楚楚:gpu利用率在训练期间长期维持在93.2%的数值。
双卡显存占用稳定,没有发生任何一次显存溢出。
pcle总线带宽利用率极低,说明绝大部分计算都在显存內部的高速cache中完成的。
而最终模型在测试集上跑出来的89.4%的识別率,更是铁一般的事实,做不了任何假“你用的什么显卡?”
“gtx580。
“6
游戏显卡?
在传统的cpu伺服器上,需要不吃不喝,辛辛苦苦跑上整整13个小时才能完成的训练闭环。
在这个少年的编程下,两块被所有人视为不务正业的游戏卡,居然把训练时长压缩到了一小时二十八分钟!
“我们现在可以重新测试一个数据集吗?”
“当然可以,反正也花不了多长时间。”漆昊自信地说。
齐教授重新选了一个数据集。
“我们就跑这个!这是大飞上个月刚发来的航拍数据集,整整18000张包含复杂室內光影和高噪点遮挡的图像。” ↑返回顶部↑
“齐教授,我昨晚用gpu训练,其实已经跑出了一批完整的数据,就目前的结果来看,它的效率比cpu要好。”
看著漆昊那自信的样子,齐教授只好说:“既然你连数据都跑出来了,那我们今天也別在这干坐著了,去你工位上看看。”
一群研究生和两位工程师,立刻屁顛屁顛地跟在齐教授和漆昊身后,涌向了漆昊的工位。
当齐教授走到那台崭新的工作站前,看到旁边那个硕大的1200w电源时,他脚步一顿,看向了陈工。
陈工假装在看天花板上的灯,一句话都不敢多说。
漆昊没有在意这些,他坐下来,滑了滑滑鼠,唤醒了暗下去的屏幕。
此时,屏幕上正显示著一个用c写的简易控制台界面,上面还残留著最终训练日誌。
“齐教授,这是我实验室里现成的数据集进行的测试,一共10000张。”
“我看了下相关日誌,在之前使用的伺服器cpu上,运行一个epoch的训练耗时,平均在一个小时左右。”
齐教授微微頷首:“没错,一个小时,这已经是优化后的极限了,想要训练到一个勉强可用的精度,至少需要叠代10个epoch,那就是將近十三个小时。”
“是的。”漆昊微微一笑,“所以我昨晚尝试了新的方法,这是昨晚我运行10个epoch的实时训练输出日誌,您可以看一下。”
漆昊轻敲回车,拉动滚动条,將昨晚的训练控制台日誌呈现在所有人面前。
【training epoch10/10】
【totaltrainingtime:1小时28分27秒】
“这时间坏了吧?”陈工脱口而出。
齐教授顾不上教授的体面,半蹲著身子,开始快速翻看编译日誌和cuda运行態监控。
屏幕上的实时数据显示得清清楚楚:gpu利用率在训练期间长期维持在93.2%的数值。
双卡显存占用稳定,没有发生任何一次显存溢出。
pcle总线带宽利用率极低,说明绝大部分计算都在显存內部的高速cache中完成的。
而最终模型在测试集上跑出来的89.4%的识別率,更是铁一般的事实,做不了任何假“你用的什么显卡?”
“gtx580。
“6
游戏显卡?
在传统的cpu伺服器上,需要不吃不喝,辛辛苦苦跑上整整13个小时才能完成的训练闭环。
在这个少年的编程下,两块被所有人视为不务正业的游戏卡,居然把训练时长压缩到了一小时二十八分钟!
“我们现在可以重新测试一个数据集吗?”
“当然可以,反正也花不了多长时间。”漆昊自信地说。
齐教授重新选了一个数据集。
“我们就跑这个!这是大飞上个月刚发来的航拍数据集,整整18000张包含复杂室內光影和高噪点遮挡的图像。” ↑返回顶部↑