#聊一聊#《大模型时代的基础架构》关于GPU共享相关

ltaodream

#聊一聊#《大模型时代的基础架构》关于GPU共享相关 [复制链接]

 

1. 看了书上第七八章的虚拟化调度方案，又想起之前发现的一个有趣的开源项目，阿里云开源的gpushare Device Plugin、gpushare-scheduler-extender两个配合使用，所能达到的效果属于哪一层呢，好像并没有隔离，只是按照显存划分调度，那假如多个任务绑了相同节点的GPU是不是会造成争抢呢？
2. 当前GPU云原生化方面有没有哪些rust的开源项目，哪些地方可以利用rust的特性呢
    

wangerxian

感觉这个技术研究的有点深入。

hellokitty_bean

cloud native总让人好高深呀。。。。。。。。。。。一般个人想玩，怎么玩？

ltaodream

hellokitty_bean 发表于 2024-8-20 10:34 cloud native总让人好高深呀。。。。。。。。。。。一般个人想玩，怎么玩？

可以找点4090 4060玩玩，笔记本上的就行，假如财力雄厚，可以去云厂商租赁几台GPU服务器玩

ltaodream

wangerxian 发表于 2024-8-19 16:42 感觉这个技术研究的有点深入。

一起学习

wangerxian

ltaodream 发表于 2024-9-11 15:59 一起学习

加油加油，AI还是很有市场前景的。

hellokitty_bean

ltaodream 发表于 2024-9-11 15:59 可以找点4090 4060玩玩，笔记本上的就行，假如财力雄厚，可以去云厂商租赁几台GPU服务器玩

梦哥豪啊。。。。4090起步价1600刀。。。。。。。现在是不是又涨了一些了。。。