
纯cpu跑大模型,linux部署deepseek-r170bq4,纯娱乐
最近在自己服务器上部署了下deepseek-r1 70b q4大模型,不过我肯定是没显卡,就用纯cpu来跑,顺便写个简单的教程。 先科普下上面的名词,deepseek-r1是模型参数,最近火爆的deepseek就是这个模型(以及迭代);70...
最近在自己服务器上部署了下deepseek-r1 70b q4大模型,不过我肯定是没显卡,就用纯cpu来跑,顺便写个简单的教程。 先科普下上面的名词,deepseek-r1是模型参数,最近火爆的deepseek就是这个模型(以及迭代);70...
前段时间不是阿里不是退出了限速不限量的200M服务器吗,这段时间腾讯也跟进了,昨天正式公测(开售),实际上好几天前就在内测,就当个新闻发吧。 基本规格就看图,境内和境外都有,全是200M不限流量,价格和阿里云一样,但是阿里云有2c0.5g这...
前段时间分享了下自己初代捡垃圾的nas,现在也分享下我第二代捡垃圾的服务器,同时还兼任2.5代nas,给想要捡垃圾玩服务器/nas的童鞋一点参考。 往期文章:《经历分享:我的初代650元捡垃圾nas》 一、初代服务器&二代nas? ...
昨天阿里云上线了200M“超大带宽”的轻量服务器,境外地区1c0.5g只要28元/月,境内也只要35元/月,还不限流量,看起来是豪华车。 28快钱买不了吃亏买不了上当,那还真不好说。我去买了,确实可以跑到200M的带宽,用来做博客、frp、...
很早之前就玩过x99/c612的板子了,配上e5 v3/v4,便宜大碗,不过现在小黄鱼上真c612板子挺少,可选择的货不多,技嘉这个mu70-su0了解的人也不多,如果要玩e5算是个选择。 如果不熟悉e5及其洋垃圾的童鞋,建议自行百度学习一...
前段时间想整个物理软路由,之前的软路由都是放到服务器的虚拟机上,但是相当长一段时间内一直觉得这样调整起来不太方便,还是需要把软路由独立出来,这样哪怕平时折腾服务器炸了也不会影响网络。 不过标题有点“标题党”了,准确的说应该是适合我的软路由,...
最近腾讯云轻量服务器四周年庆开始了,免费升级配置,续费服务器最低一折。 免费升级配置: 2-4-5免费升级到4-4-52-4-6免费升级到4-4-6价格不变低于2-4的得加钱 最低一折续费: 持有多久的轻量服务器决定续费几折,已经持有四年就...
这段时间华为云的用户可以领取满501-500优惠券,这个券基本上通用而且没啥限制,可以直接白嫖一整年的服务器,感兴趣的就上车。 一、获取优惠券 需要先说明下,这个优惠券是针对“Flexus云服务老用户”,所以如果想领取这个优惠券则需要分两种...
前几天谷歌云为了推广自家的Vertex AI,宣布新客户(从没用过谷歌云)最高可获享 $300 赠金,而且没有任何条件,点击就送,可以用于Vertex AI 和其他 Google Cloud 产品,赠金有效期三个月,相当于直接送了三个月的免...
昨天在逛论坛的时候看到了一个新开的国人商家,卖的机器价格是真的低到离谱,最便宜的1核256mb的内存才5块钱一个季度,1c0.5g也才2.5一个月,虽然知道是玩具车,但还是忍不住上车来试试水。 本文只做测试,不会对商家和机器发表任何看法,机...