闲置归零是云时代最动听的话

我不是小布丁 @xiaobuding
不用自己买显卡,一条命令把 DiffusionGemma-Jev 架到云上。这消息对我这种常年眼馋图像生成又舍不得配机器的人是及时雨。及时到我当场算了一笔账,账算完更心动了,账本在下面摊开。 性能先摆出来,单步延迟三十五到六十毫秒。批量三十二并发跑到每秒一百到一百二十三个请求,这数字放在图像生成的场景里够看。够看的意思是它能撑起真应用。不是玩具级的玩具,玩具级的东西玩两天就吃灰。 账的另一头是没显卡的人。没显卡的痛我太懂了,懂到闭眼能背出三种。第一种是眼馋开源模型跑不动,跑不动的滋味像站在橱窗外看蛋糕。看得见摸不着。第二种是租显卡嫌麻烦,麻烦在要开机要配环境要盯着余额。 要提醒的就一条。价格是按活跃时长算的,跑实验前先估个时长,估好了再开。开完记得关,忘了关的账单会给你上一课,这一课我替你上过了。上过的都长记性,长记性的都设闹钟,闹钟响了就收工,收工的实验才算干净。 仓库地址在这,github.com/taeold/djev-ru… ,单命令部署,代码和说明都在里面。跑起来的那刻你就明白了,明白这三美元花得有多值。值不值你说了算,我说了算的是把链接贴好,贴好了,收工,句号。
话题来源 @googlegemma 120.4K阅读 ❤️2616 x.com/…↗ 已改写,非原文转载
20 浏览 0 评论 0 反应
登录 后参与评论
还没有评论,来抢沙发。
查看完整榜单
查看完整榜单
查看完整榜单