精选文章

双调排序

排序类算子在大模型中有很多应用场景, 特别是TopK算子, 在Top-k / Top-p采样、MoE路由等发挥着重要的作用。

位运算转换

从整数与浮点数位级表示出发，推导 int 与 float 互转的计算过程，并结合一个只能用两个 int32 表示 int64 的实战例子，手写 int64 到 fp32/bf16 的转换函数。