ltaodream 发表于 2024-8-19 13:43

#聊一聊#《大模型时代的基础架构》关于GPU共享相关

<div class='showpostmsg'><ol>
        <li>看了书上第七八章的虚拟化调度方案,又想起之前发现的一个有趣的开源项目,阿里云开源的gpushare Device Plugin、gpushare-scheduler-extender两个配合使用,所能达到的效果属于哪一层呢,好像并没有隔离,只是按照显存划分调度,那假如多个任务绑了相同节点的GPU是不是会造成争抢呢?</li>
        <li>当前GPU云原生化方面有没有哪些rust的开源项目,哪些地方可以利用rust的特性呢<br />
        &nbsp;</li>
</ol>
</div>

wangerxian 发表于 2024-8-19 16:42

<p>感觉这个技术研究的有点深入。</p>

hellokitty_bean 发表于 2024-8-20 10:34

<p>cloud native总让人好高深呀。。。。。。。。。。。一般个人想玩,怎么玩?<img height="48" src="https://bbs.eeworld.com.cn/static/editor/plugins/hkemoji/sticker/facebook/smile.gif" width="48" /></p>

ltaodream 发表于 2024-9-11 15:59

hellokitty_bean 发表于 2024-8-20 10:34
cloud native总让人好高深呀。。。。。。。。。。。一般个人想玩,怎么玩?

<p>可以找点4090 4060玩玩,笔记本上的就行,假如财力雄厚,可以去云厂商租赁几台GPU服务器玩<img height="63" src="https://bbs.eeworld.com.cn/static/editor/plugins/hkemoji/sticker/facebook/victory.gif" width="61" /></p>

ltaodream 发表于 2024-9-11 15:59

wangerxian 发表于 2024-8-19 16:42
感觉这个技术研究的有点深入。

<p>一起学习</p>

wangerxian 发表于 2024-9-11 17:04

ltaodream 发表于 2024-9-11 15:59
一起学习

<p>加油加油,AI还是很有市场前景的。</p>

hellokitty_bean 发表于 2024-9-11 19:53

ltaodream 发表于 2024-9-11 15:59
可以找点4090 4060玩玩,笔记本上的就行,假如财力雄厚,可以去云厂商租赁几台GPU服务器玩

<p>梦哥豪啊。。。。4090起步价1600刀。。。。。。。现在是不是又涨了一些了。。。<img height="48" src="https://bbs.eeworld.com.cn/static/editor/plugins/hkemoji/sticker/facebook/loveliness.gif" width="48" /></p>
页: [1]
查看完整版本: #聊一聊#《大模型时代的基础架构》关于GPU共享相关