Sublime

大语言模型显卡天梯光速更新，新增了老黄刚刚发布的 NVIDIA Project DIGITS 128GB 桌面超级计算机。好消息是，单台就能跑70b级别的模型，坏消息是，跟MacBook M4 Pro 差不多.... 都是 LPDDR5X。[1/2] 天梯地址：https://t.co/y2UTMoHmSG... See more

使用DeepSeek-R1蒸馏属于自己推理小模型！ 昨天介绍了使用DeepSeek-R1蒸馏出普通模型，今天是蒸馏出推理模型！ 还记得那个复现DeepSeek-R1的aha时刻（可以理解成顿悟，模型能推理了）的项目Tiny -Zero吗？但是这个项目门槛比较高，需要4块A100显卡。 https://t.co/XZerdninHB

分享反编译大模型！LLM4Decompile。反编译工作不需要苦哈哈盯着intel汇编头痛了，这个模型可以将 x86_64二进制程序反编译为C代码 我看了下模型大小从1.3B到22B都有，22B如果Q4量化的话只有10G左右，Q8大概22G。好一点的显卡就能本地用了 项目地址：https://t.co/3e4Rre8CR7... See more