第34章 构建属于自己的生态
“我怎么觉得你就盼着这一天呢啊?”张建看着似笑非笑的纪弘,说话的语气都带着一点儿幽怨。
“张总,说实话,仰人鼻息的感觉是不是不好受?而且,摩尔科技以兼容的方式利用英伟达CUDA的生态,效率也不尽如人意,性能损失也很大吧?”
纪弘正色起来:“要我说,倒不如直接断了,构建真正属于我们自己的生态。”
“你说的倒是轻巧,CUDA英伟达早在2007年就推出来了,优化迭代了十好几近二十年才有如今的水平,是我们想搞就能搞的?
“诚然,CUDA的理念并不复杂,本质就是一个帮助开发者构建自己应用的GPU编程服务简易API接口。
“就算是内里的运算架构,在内行人眼里,理念也几乎是透明的。
“比如,AMD搞的所谓HIP,就是提供了一种类似于CUDA的编程接口。甚至,语法和编程模式都和CUDA一模一样。
“但效果怎么样呢?投入巨量人员和资金,但竞争力还是不行。再说了,我们之前有得用,就没有在这一块儿上心。”
“其实就是想省成本。”
纪弘算是听明白了,之前英伟达让用,这边也没有更多的资源和精力去搞这个,就先凑合用了,他接着说道:
“我也能理解,毕竟当时你们的目标是能活十年,而且与英伟达关系也还好,也不用太过担心授权的问题。”
“但,今时不同往日了。”顿了一下,纪弘如此强调。
张建心说,当然不同往日了,往日我们的目标是活着就好,现在搞得英伟达都急跳脚了:
“主要还是你这边【基于AI的GPU智慧调度】,训练卡应该也是能用的吧?
“CUDA只是以流处理核心为元单位对外开放的GPU编程接口。
“这个时候,如果我们重新搞一套,完全用这个理念,其实意义不大,竞争力还是有限,AMD已经给我们打过样了,毕竟CUDA的生态早已经成型且非常完善,后来者很难去挑战。”
“你是想问,能不能把GPU智慧调度的理念融入到我们的通用运算架构里是吧?”纪弘肯定道:“那必须能!”
张建不由得嘴角又抽了抽,能当然是好事儿,但是,我是不是又得割肉?
“我们其实可以从智算中心开始。智算中心规模较大,现在都是一千张卡起步。
“这里边不仅涉及到流处理单元,更是涉及千卡算力怎么利用和分配才能效率最大化的问题。
“利用我们的AI核心能力进行智慧监测和算力综合分配,再加上基于AI调度的GPU运算架构,你大可以想想,那效率会怎么样!”
张建嘴角抽的更厉害了,心道:我不想听你画饼,只想听你想管我要多少钱!
“那,我们怎么合作?”
虽然知道自己不能急,但是看着稳如泰山的纪弘,张建决定还是自己先开口吧。
“那要不咱们就从河州大学的这个千卡智算中心开始?
“先打个样板出来,有了标杆,后续的工作就简单了,全国智算中心的需求非常之大,单子那还不是滚滚的来!”
听纪弘这么说,张建心中哀叹,他果然是在打这个主意。
他自己心里其实早有这个心理准备,河州大学那边甚至乐见卷耳智能科技的参与,负责人张明振教授更是对他们推崇无比,都提好几次了。
两方合作变成三方聚首,来找纪弘之前,张建就已经考虑过了这个问题,利肯定是大于弊的,真要做成标杆,国内的智算中心这一块儿,光是硬件销售,摩尔科技都能赚的盆满钵盈。
但是,核心系统的技术标准……
张建内心哀叹一声,默默流下了没有核心关键技术的泪水……
他甚至在一瞬间想起了塞力斯,话说自己这算不算出卖灵魂来着?
“先活着,等这一波赚了钱,一定加大研发投入,掌握核心技术!”
张建也是在内心发下宏愿,下一次一定要把地位再挣回来!
……
三日后。
河州大学·摩尔科技·卷耳智能——纯国产千卡千亿大模型智算中心项目启动,三方正式签约。
买房的时候初次见到苗文璐教授,想到了张明振教授和这个项目,纪弘就想打它的主意。
不过那个时候公司刚成立,营业执照甚至都还没到手,也只能想想,瞅瞅有没有机会参与其中。
为此,纪弘做了很多准备,包括张明振教授这边,也包括用技术钓摩尔科技的鱼。
如今真的如愿以偿了,效果远超预期,甚至软件和系统架构的主导权都从摩尔科技落在了自己的手里。
“第一次听到你的时候,我就十分好奇,是什么样的一个人才能搞出‘赛博女友’这样的东西。
“第一次见你给了我答案,那个时候我就知道,我们的项目要靠你了。
“而现在,我很期待,卷耳智能科技能把这个中心带到一个什么样高度。”
张明振教授对纪弘和卷耳智能科技给予了极高的评价。
“行业标杆。”
纪弘没有废话,直接就喊出自己的目标。
如果是单卡性能,那他还真不敢这么说,毕竟制程工艺落后,生产受限,难度很大。
但这种规模性的东西,调度和优化会比单卡性能更加重要,这正是自己这边的强项。
“我可记得了,做不到到时候可不会给你们结尾款!”张明振教授跟纪弘开着玩笑,随后又说道:
“学校的目标其实很简单,在英伟达的解决方案受限制无法落地的时候,解决有无的问题,说白了,就是能用就行。这一点没什么说的,我相信你,断然没有达不成的可能。
“但我就我个人来说,作为负责人,我希望不仅仅能用,更要好用,发挥更大作用。
“如果再能结合高校培养人才的职能做出符合高等教育特色的AI应用那就更完美了。
“当然了,这只是我个人的想法,如果你也认可,回头咱们一起探讨探讨。”
“嗯,确实很有前景,回头咱们合计合计。”
纪弘点了点头,听张明振这番话,他立即想道:
如果真的能搞一个高校版的智算中心,能在人才培养方面发挥建设性作用的话,那这细分市场也不小,真的值得考虑。
……
“你苗姨那边论文快结稿了,一直念叨着要再跟你再聊聊呢,知道这段时间你忙,就没打扰你,等忙完了去家里坐坐。”
一切搞定,结束的时候两个人一起出来,张明振教授像长辈一样拍了拍纪弘的肩膀,以示这是私人邀请。
“好,等忙完这一段,我一定上门拜访!”
自从搬家那次之后,纪弘就没再见过苗文璐教授,尤其是上次AI社会学灵感+1的时候,他还整理了一些相关资料,确实该去走动走动,交流一番。
“好,等着你!”
请收藏本站:https://www.n9com.com。笔下文学手机版:https://m.n9com.com
“张总,说实话,仰人鼻息的感觉是不是不好受?而且,摩尔科技以兼容的方式利用英伟达CUDA的生态,效率也不尽如人意,性能损失也很大吧?”
纪弘正色起来:“要我说,倒不如直接断了,构建真正属于我们自己的生态。”
“你说的倒是轻巧,CUDA英伟达早在2007年就推出来了,优化迭代了十好几近二十年才有如今的水平,是我们想搞就能搞的?
“诚然,CUDA的理念并不复杂,本质就是一个帮助开发者构建自己应用的GPU编程服务简易API接口。
“就算是内里的运算架构,在内行人眼里,理念也几乎是透明的。
“比如,AMD搞的所谓HIP,就是提供了一种类似于CUDA的编程接口。甚至,语法和编程模式都和CUDA一模一样。
“但效果怎么样呢?投入巨量人员和资金,但竞争力还是不行。再说了,我们之前有得用,就没有在这一块儿上心。”
“其实就是想省成本。”
纪弘算是听明白了,之前英伟达让用,这边也没有更多的资源和精力去搞这个,就先凑合用了,他接着说道:
“我也能理解,毕竟当时你们的目标是能活十年,而且与英伟达关系也还好,也不用太过担心授权的问题。”
“但,今时不同往日了。”顿了一下,纪弘如此强调。
张建心说,当然不同往日了,往日我们的目标是活着就好,现在搞得英伟达都急跳脚了:
“主要还是你这边【基于AI的GPU智慧调度】,训练卡应该也是能用的吧?
“CUDA只是以流处理核心为元单位对外开放的GPU编程接口。
“这个时候,如果我们重新搞一套,完全用这个理念,其实意义不大,竞争力还是有限,AMD已经给我们打过样了,毕竟CUDA的生态早已经成型且非常完善,后来者很难去挑战。”
“你是想问,能不能把GPU智慧调度的理念融入到我们的通用运算架构里是吧?”纪弘肯定道:“那必须能!”
张建不由得嘴角又抽了抽,能当然是好事儿,但是,我是不是又得割肉?
“我们其实可以从智算中心开始。智算中心规模较大,现在都是一千张卡起步。
“这里边不仅涉及到流处理单元,更是涉及千卡算力怎么利用和分配才能效率最大化的问题。
“利用我们的AI核心能力进行智慧监测和算力综合分配,再加上基于AI调度的GPU运算架构,你大可以想想,那效率会怎么样!”
张建嘴角抽的更厉害了,心道:我不想听你画饼,只想听你想管我要多少钱!
“那,我们怎么合作?”
虽然知道自己不能急,但是看着稳如泰山的纪弘,张建决定还是自己先开口吧。
“那要不咱们就从河州大学的这个千卡智算中心开始?
“先打个样板出来,有了标杆,后续的工作就简单了,全国智算中心的需求非常之大,单子那还不是滚滚的来!”
听纪弘这么说,张建心中哀叹,他果然是在打这个主意。
他自己心里其实早有这个心理准备,河州大学那边甚至乐见卷耳智能科技的参与,负责人张明振教授更是对他们推崇无比,都提好几次了。
两方合作变成三方聚首,来找纪弘之前,张建就已经考虑过了这个问题,利肯定是大于弊的,真要做成标杆,国内的智算中心这一块儿,光是硬件销售,摩尔科技都能赚的盆满钵盈。
但是,核心系统的技术标准……
张建内心哀叹一声,默默流下了没有核心关键技术的泪水……
他甚至在一瞬间想起了塞力斯,话说自己这算不算出卖灵魂来着?
“先活着,等这一波赚了钱,一定加大研发投入,掌握核心技术!”
张建也是在内心发下宏愿,下一次一定要把地位再挣回来!
……
三日后。
河州大学·摩尔科技·卷耳智能——纯国产千卡千亿大模型智算中心项目启动,三方正式签约。
买房的时候初次见到苗文璐教授,想到了张明振教授和这个项目,纪弘就想打它的主意。
不过那个时候公司刚成立,营业执照甚至都还没到手,也只能想想,瞅瞅有没有机会参与其中。
为此,纪弘做了很多准备,包括张明振教授这边,也包括用技术钓摩尔科技的鱼。
如今真的如愿以偿了,效果远超预期,甚至软件和系统架构的主导权都从摩尔科技落在了自己的手里。
“第一次听到你的时候,我就十分好奇,是什么样的一个人才能搞出‘赛博女友’这样的东西。
“第一次见你给了我答案,那个时候我就知道,我们的项目要靠你了。
“而现在,我很期待,卷耳智能科技能把这个中心带到一个什么样高度。”
张明振教授对纪弘和卷耳智能科技给予了极高的评价。
“行业标杆。”
纪弘没有废话,直接就喊出自己的目标。
如果是单卡性能,那他还真不敢这么说,毕竟制程工艺落后,生产受限,难度很大。
但这种规模性的东西,调度和优化会比单卡性能更加重要,这正是自己这边的强项。
“我可记得了,做不到到时候可不会给你们结尾款!”张明振教授跟纪弘开着玩笑,随后又说道:
“学校的目标其实很简单,在英伟达的解决方案受限制无法落地的时候,解决有无的问题,说白了,就是能用就行。这一点没什么说的,我相信你,断然没有达不成的可能。
“但我就我个人来说,作为负责人,我希望不仅仅能用,更要好用,发挥更大作用。
“如果再能结合高校培养人才的职能做出符合高等教育特色的AI应用那就更完美了。
“当然了,这只是我个人的想法,如果你也认可,回头咱们一起探讨探讨。”
“嗯,确实很有前景,回头咱们合计合计。”
纪弘点了点头,听张明振这番话,他立即想道:
如果真的能搞一个高校版的智算中心,能在人才培养方面发挥建设性作用的话,那这细分市场也不小,真的值得考虑。
……
“你苗姨那边论文快结稿了,一直念叨着要再跟你再聊聊呢,知道这段时间你忙,就没打扰你,等忙完了去家里坐坐。”
一切搞定,结束的时候两个人一起出来,张明振教授像长辈一样拍了拍纪弘的肩膀,以示这是私人邀请。
“好,等忙完这一段,我一定上门拜访!”
自从搬家那次之后,纪弘就没再见过苗文璐教授,尤其是上次AI社会学灵感+1的时候,他还整理了一些相关资料,确实该去走动走动,交流一番。
“好,等着你!”
请收藏本站:https://www.n9com.com。笔下文学手机版:https://m.n9com.com