第113章_算力方案（2 / 3）
这枚叶片应该有用。
但他不能直接告诉沈一鸣这些。
“一鸣，你觉得我们的压缩技术有提升空间吗？“左城问。
沈一鸣沉吟片刻：“有。但需要新的算法突破。“
“什么样的突破？“
“有一种方向叫知识蒸馏。“沈一鸣在白板上写下这个词，“把大模型的知识蒸馏到小模型里。但知识蒸馏的难点在於，我们没有一个足够强大的教师模型来指导学生模型。“
“为什么？“
“因为天穹卫星的ai调度是一个全新的场景。“沈一鸣解释道，“传统的预训练模型在这个场景上表现不好，我们需要从头训练一个专用的大模型。“
“这需要多少时间？“
沈一鸣估算了一下：“至少两到三个月。“
两到三个月。
而他们只有两周。
“还有一个方向。“方泽突然说。
“边缘计算。“方泽说，“与其在卫星上跑完整的ai模型，不如把一部分计算任务搬到地面站或者中继卫星上。“
“你的意思是？“沈一鸣问。
“云边协同。“方泽在白板上画了一个简单的架构图，“卫星只负责简单的感知和决策，复杂的推理放到地面站或者中继卫星上完成。“
“但这样会增加通信延迟。“沈一鸣提出问题，“对於实时性要求高的场景，延迟可能是致命的。“
“所以要用预测性调度。“左城突然开口。
两人一愣。
“我们的目標不是让卫星实时思考，而是让它提前预判。“左城在白板上画了一条时间线，“比如，星间链路的状態变化是可以预测的。如果卫星能提前几秒钟预判到链路拥塞，就可以提前调整路由，避免问题发生。“
“预测性调度……“沈一鸣喃喃自语，“这需要对卫星网络的动態特性有深入理解。“
“我们不是有联邦学习吗？“左城说，“用联邦学习的方式，让所有卫星共享网络状態信息，然后用ai预测链路变化。“
“城哥，你是说，用联邦学习训练一个预测模型？“
“对。“左城点头，“这个模型不需要在卫星上运行，只需要在地面站训练好后，下发预测参数给各卫星。卫星根据参数做简单计算就行了。“
沈一鸣眼睛一亮。
“这样既保证了预测的准確性，又降低了卫星的算力需求。“方泽兴奋地补充。
“能压缩到多少？“左城问。
沈一鸣估算了一下：“原来需要压缩到三十分之一，现在可能只需要十分之一就够了。准確率可以从70%提升到85%左右。“
85%。
距离90%的目標更近了一步。 ↑返回顶部↑
但他不能直接告诉沈一鸣这些。
“一鸣，你觉得我们的压缩技术有提升空间吗？“左城问。
沈一鸣沉吟片刻：“有。但需要新的算法突破。“
“什么样的突破？“
“有一种方向叫知识蒸馏。“沈一鸣在白板上写下这个词，“把大模型的知识蒸馏到小模型里。但知识蒸馏的难点在於，我们没有一个足够强大的教师模型来指导学生模型。“
“为什么？“
“因为天穹卫星的ai调度是一个全新的场景。“沈一鸣解释道，“传统的预训练模型在这个场景上表现不好，我们需要从头训练一个专用的大模型。“
“这需要多少时间？“
沈一鸣估算了一下：“至少两到三个月。“
两到三个月。
而他们只有两周。
“还有一个方向。“方泽突然说。
“边缘计算。“方泽说，“与其在卫星上跑完整的ai模型，不如把一部分计算任务搬到地面站或者中继卫星上。“
“你的意思是？“沈一鸣问。
“云边协同。“方泽在白板上画了一个简单的架构图，“卫星只负责简单的感知和决策，复杂的推理放到地面站或者中继卫星上完成。“
“但这样会增加通信延迟。“沈一鸣提出问题，“对於实时性要求高的场景，延迟可能是致命的。“
“所以要用预测性调度。“左城突然开口。
两人一愣。
“我们的目標不是让卫星实时思考，而是让它提前预判。“左城在白板上画了一条时间线，“比如，星间链路的状態变化是可以预测的。如果卫星能提前几秒钟预判到链路拥塞，就可以提前调整路由，避免问题发生。“
“预测性调度……“沈一鸣喃喃自语，“这需要对卫星网络的动態特性有深入理解。“
“我们不是有联邦学习吗？“左城说，“用联邦学习的方式，让所有卫星共享网络状態信息，然后用ai预测链路变化。“
“城哥，你是说，用联邦学习训练一个预测模型？“
“对。“左城点头，“这个模型不需要在卫星上运行，只需要在地面站训练好后，下发预测参数给各卫星。卫星根据参数做简单计算就行了。“
沈一鸣眼睛一亮。
“这样既保证了预测的准確性，又降低了卫星的算力需求。“方泽兴奋地补充。
“能压缩到多少？“左城问。
沈一鸣估算了一下：“原来需要压缩到三十分之一，现在可能只需要十分之一就够了。准確率可以从70%提升到85%左右。“
85%。
距离90%的目標更近了一步。 ↑返回顶部↑