先导杯初赛后有感

先导杯初赛结束了,不出意外的话应该是进入决赛了,目前排名十四,斩杀线在二十三名。确实是没想到自己能够进入决赛,三次心理防线崩溃,哈哈,感觉自己那时候挺废物的。哎,虽然说我是真正意义上躺赢了这个比赛,前期靠l3有了继续的勇气,后期靠蚂蚁力挽狂澜,终于是达到了89.91的成绩,之前想都不敢想的成绩。

最开始是什么情况呢,我们三个想报名系统赛,于是提前布局,提前锁定了相关赛道,最后的比赛难度确实也出乎我们的预料,最开始我们特别快的扫出来了 更改BM有不错的成绩,于是顺利的来到了73分,rank2,我们自然是沾沾自喜,后来我们多次尝试,都没有做出有用的更改,排名一掉再掉,终于掉出了23名,同一天晚上,有一个人在群里面公布了赛题的优化方案,就是我们的方案。这是我第一次防线崩溃,当天晚上为了寻求心理安慰,我加了多次碰见的西南石油的老哥的QQ,交流了心得,确实发现我实在是太着急了,急于求成,我真的不知道我是什么心态,直到现在我也没有完全理解我的内心想法——是不是坚守AI infra,现在可能是吧。

后来我有很长一段时间在备考期末,几乎没怎么关注比赛,偶尔跑几个profile,偶尔问问优化点,总之我们也确实没有做出优化,尝试了很多更改:prefill的kernel融合,hip算子代替triton,总之大部分都是负优化,浪费了很多时间。反正我们看清了这个千问3.5的一坨大便,784这么诡异的数字根本无从下手。

转机来到了蚂蚁,那天偶然间扫出重大发现,调整GEMV的内存访问有局部大的提升,这次更改带到了80分段,而我们最开始的预期也是80分,但是争取做到85分,突然有了干劲。更改TILE后来到了82分,于此同时排名数值猛涨,估计是别人考完了期末周。这时候碰上GPT降智,确实有是一次崩溃。不过好了很多。

再次改变是GPT5.6,接连多次优化(不一一举例了),将我们带到了最后的决赛,87.24,在当时看来稳稳进决赛,但是卡在最后两天,竟然特别多的人藏分,导致我们被挤到了边缘,因为黑暗森林效应,特别害怕最后的结果出问题,我当时真的真的很难受,找了dxy和jag出去散步,还是蚂蚁挽救了我们,ddl前一天晚上完成了89.91的超高分,胜利进入决赛的榜单。

虽然看来我确实没有什么贡献,哎,确实吧,但是我还是会继续走下去的,保证不拖腿。未来怎么样还不好说呢。比赛完是好消息,成功入围了乾象比赛也是好消息,接下来是乾象比赛加科研同步推进,加油吧,你给自己安排了这么多,不就是为了你自己吗,可能我和hpc正式捆绑了吧,AI infra,我踏马来了!!!