要给产品加AI功能，成本似乎高了不少

wangerxian

要给产品加AI功能，成本似乎高了不少 [复制链接]

产品想加一个AI助手，但是这种AI助手占用资源还挺大，主要是算力（显卡），而且还要处理并发问题，感觉产品的成本嗖一下就上去了，不管是租算力服务器还是买服务器用公网，似乎都是一个不小的开销。

用一些大厂的API，成本也不低，都是按照字数（Token）算钱的。

要搞AI还是得有资金才行。

freebsder

>>>要搞AI还是得有资金才行

 

不趁这波收割一圈？

wangerxian

freebsder 发表于 2024-8-20 17:58 >>>要搞AI还是得有资金才行   不趁这波收割一圈？

这能收割个啥？没想到。

秦天qintian0303

没有AI，这服务器的成本也不会小啊  

wangerxian

秦天qintian0303 发表于 2024-8-21 08:36 没有AI，这服务器的成本也不会小啊  

不呀，AI要求显卡，显卡那老贵了，普通服务器可能一年一两万，AI那一年可能就十来万。

盛世辉煌电子科学

ai是得烧钱的，硬件的配置得过关

wangerxian

盛世辉煌电子科学 发表于 2024-8-21 09:05 ai是得烧钱的，硬件的配置得过关

是的，普通的电脑好多离线AI都跑不起来。云端的又依赖网络