套娃玩家狂喜,在模型里面跑一个CUDA,CUDA里面再跑一个模型。🥹
qwenGPU,让 Qwen3.5-2B 在自己的权重里跑一段 CUDA
你在终端里问一句点积,模型会把这次计算写成一串记录:下一块跑哪个,寄存器写成多少。那 45 层叠在 Qwen 自己的 24 层前面,权重由编译器逐个算好。4 路并行、四级流水线、每路 15 个寄存器、126 个字显存,都住在 Gated DeltaNet 的状态里。主机把 CUDA 编成 PTX,装好程序和输入。后面的分支和显存写入,由模型自己吐出来。普通问答套现成的核,进阶则让它自己写核,旁边面板会跟着亮。编译器来自 Qwenputer,那套原先把一颗 RISC-V 写进 Qwen3.5-4B。
🔗 链接:http://t.cn/AXYMMfJ8
💻 仓库:http://t.cn/AXYMMfJR
💻 Qwenputer:http://t.cn/AXjTKxoC
发布于 广西
