第85章 学霸需要有人欣赏!(1.5w 1/3 求订)(2 / 5)
“这个嘛,等会儿数据跑起来你们就知道了,神经网络其实没有你们想像中那么慢,找到正確的路了,这个领域很快就能起来。”
“你的模型是基於多层感知机mlp?”
“不,是基於卷积神经网络架构的范式。”
在场人一脸复杂。
神经网络最致命的是,训练起来比老牛拉破车还慢,目前找不到商用价值,学术界甚至把hinton那一派坚持研究神经网络的人,戏称为抱残守缺的遗老。
这就是神经网络领域的现状。
不知道漆昊为什么如此有信心,还用的是卷积神经网络这种快被淘汰的架构。
齐教授看见蓝总和汪总都没出声,知道当场跑新数据,用事实说话才是最硬的道理。
现在大家都关心的是,漆昊是否真的能够让神经网络领域起死回生。
接下来,漆昊把他们带去了实验室,就在所有人瞩目下,老高从隨身携带的加密硬碟里,拷出了他们公司那套最让人头疼的测试数据集。
漆昊操作了一下,然后启动任务!
老高和老金开始目不转睛地盯著屏幕上的监控面板。
跑新数据是个技术活,尤其是要实时监控各项指標,蓝总和汪总等大佬长期没有干过一线的活儿,根本撑不了那么长的时间,所以齐教授请他们去休息了,只留下漆昊和老高等技术人员。
起初,老高和老金一边盯著屏幕上飞速滚动的日誌,一边探討,时不时在笔记本上记录几笔。
然而,隨著训练的推进,他们的声音渐渐小了下去。
他们通过系统內置的性能分析工具清晰地看到,即使面对他们带来的多通道,高交错的极端数据,系统依然在巧妙地利用cuda的异步流和双缓衝,將数据传输与gpu计算完美地並行化,有效隱藏了內存带宽的瓶颈。
看著那高高拉起,几乎在98%以上的gpu利用率曲线,两人的眼珠子都快突出来了。
“这不可能啊。”老高喃喃自语,他盯著那一路狂飆的硬体吞吐量和迅速下降的loss
曲线。
这绝对不是一个刚接触神经网络的数学系学生能调校出来的性能表现!
“漆昊同学,这真的是你一个人调出来的系统?”老金吸了一口气,忍不住问道。
他们本以为会在高压测试下看到系统崩溃,显存溢出或者速度暴跌,结果却看了一场堪比工业界顶级优化水平的高性能运行秀。
“漆昊同学,你做这套优化和框架,大概花了多久?”老高的声音有些乾涩。
“一晚上吧。”漆昊平静地回答。
“一晚上?”老高和老金几乎要呼吸不过来了,他们公司花了半年时间,请了多少顶尖工程师,都没有跑出类似程度的吞吐量,漆昊一晚上搞定了核心优化。
老高想到了自己公司里那一支由海归博士,行业大牛组成,拿著百万年薪,享用著进口咖啡豆和人体工学椅的专家们。
那帮人摸鱼,扯皮,开会,写ppt,折腾了整整半年,每次周报写得花里胡哨,最后交上来的优化方案,哪比得上漆昊这跑出来的恐怖性能?
他终於明白那句人和天才的差距,比人和狗差距还大的意思了。
当然,他认为他们公司那群是狗,他还是保留了人籍的。
“漆昊,你这系统的性能和稳定性,真的没有什么可挑剔的,难以想像,你居然不是计算机专业的学生,我都怀疑,你有在英伟达待过了。” ↑返回顶部↑
“你的模型是基於多层感知机mlp?”
“不,是基於卷积神经网络架构的范式。”
在场人一脸复杂。
神经网络最致命的是,训练起来比老牛拉破车还慢,目前找不到商用价值,学术界甚至把hinton那一派坚持研究神经网络的人,戏称为抱残守缺的遗老。
这就是神经网络领域的现状。
不知道漆昊为什么如此有信心,还用的是卷积神经网络这种快被淘汰的架构。
齐教授看见蓝总和汪总都没出声,知道当场跑新数据,用事实说话才是最硬的道理。
现在大家都关心的是,漆昊是否真的能够让神经网络领域起死回生。
接下来,漆昊把他们带去了实验室,就在所有人瞩目下,老高从隨身携带的加密硬碟里,拷出了他们公司那套最让人头疼的测试数据集。
漆昊操作了一下,然后启动任务!
老高和老金开始目不转睛地盯著屏幕上的监控面板。
跑新数据是个技术活,尤其是要实时监控各项指標,蓝总和汪总等大佬长期没有干过一线的活儿,根本撑不了那么长的时间,所以齐教授请他们去休息了,只留下漆昊和老高等技术人员。
起初,老高和老金一边盯著屏幕上飞速滚动的日誌,一边探討,时不时在笔记本上记录几笔。
然而,隨著训练的推进,他们的声音渐渐小了下去。
他们通过系统內置的性能分析工具清晰地看到,即使面对他们带来的多通道,高交错的极端数据,系统依然在巧妙地利用cuda的异步流和双缓衝,將数据传输与gpu计算完美地並行化,有效隱藏了內存带宽的瓶颈。
看著那高高拉起,几乎在98%以上的gpu利用率曲线,两人的眼珠子都快突出来了。
“这不可能啊。”老高喃喃自语,他盯著那一路狂飆的硬体吞吐量和迅速下降的loss
曲线。
这绝对不是一个刚接触神经网络的数学系学生能调校出来的性能表现!
“漆昊同学,这真的是你一个人调出来的系统?”老金吸了一口气,忍不住问道。
他们本以为会在高压测试下看到系统崩溃,显存溢出或者速度暴跌,结果却看了一场堪比工业界顶级优化水平的高性能运行秀。
“漆昊同学,你做这套优化和框架,大概花了多久?”老高的声音有些乾涩。
“一晚上吧。”漆昊平静地回答。
“一晚上?”老高和老金几乎要呼吸不过来了,他们公司花了半年时间,请了多少顶尖工程师,都没有跑出类似程度的吞吐量,漆昊一晚上搞定了核心优化。
老高想到了自己公司里那一支由海归博士,行业大牛组成,拿著百万年薪,享用著进口咖啡豆和人体工学椅的专家们。
那帮人摸鱼,扯皮,开会,写ppt,折腾了整整半年,每次周报写得花里胡哨,最后交上来的优化方案,哪比得上漆昊这跑出来的恐怖性能?
他终於明白那句人和天才的差距,比人和狗差距还大的意思了。
当然,他认为他们公司那群是狗,他还是保留了人籍的。
“漆昊,你这系统的性能和稳定性,真的没有什么可挑剔的,难以想像,你居然不是计算机专业的学生,我都怀疑,你有在英伟达待过了。” ↑返回顶部↑