记忆宫殿的大厅里,李东走向了那个临时书架。
“韦伯的灵感碎片吗。”
他伸手摸向了那个发着白光的文献,就在手指触碰到文献的一瞬间,韦伯的声音在他脑中出现。
“假如存在这麽一族对象,它身上没有数域,也没有自守表示,可它的谱,偏偏严格服从你说的那一套高阶关联的刚性……”
李东僵在了原地,这个思路怎麽那麽像……
“指纹。”
这两个字出口的时候他自己先怔了一下。
刚才香农讲小黑当初怎麽落到牛顿那台简陋计算机上时,很多地方都打了码,只漏出来三个词让他记忆深刻——余数,指纹,重新拚出来。
而韦伯的这部分思路讲的其实是其中的指纹。
拿零点的高阶关联当尺子,去认出“两样看着八竿子打不着的东西,其实算的是同一件事”,甚至顺着这把尺子,把一个东西原样搬到另一个东西上去。
它们一个在讲机器怎麽落地,一个在讲数论里怎麽认人。
李东的脑子好像又被人敲了一闷棍。
从华轩回到房间以後,那代码没法落到加速卡原生通道里的事就一道墙堵在他的心里。
而现在指纹这两个字好像将那道墙撬开了一点缝隙……
把一个大模数上的精确运算,照着一组两两互质的小模数,拆成许多条彼此不相干的余数通道。
这不就是香农嘴里那个余数麽。
单拎出任何一条通道,都是没意义的乱码,谁也还原不出原来那个数,可只要照着一套定死的法子,把这些余数一一对上,整个结果就能原样拚回来。
而这许多条余数通道,彼此独立互不打扰,天生就能并行,恰好能落到加速卡那满阵的乘加单元上去。
让那个为精确而生的原型代码,借上这块卡为矩阵乘法而生的快。
这条路,现实里早就有人走通了。
只不过走通它的,不在他这一行,而在——密码学。
“把一个东西拆成一份份余数,再照着那份指纹原样重建。”
李东找到了韦伯那把钥匙能开得门了!
他没再往下多想,思路到这一步就够了,剩下的得落到纸上去推导才行。
窗外,魔都的夜晚很黑,但是一轮明月此时却探出了云层。
……
淩晨三点四十,林伟最近都没回家,他在一间休息室里写着报告。
白天在实验室,他没在李东面前露过半点难色。
可这会儿四下没人,他心里压抑的情绪还是浮现在了他的脸上。
说到底,李东那套大模型要落到华轩的加速卡上,多半是要落空了。
而这事是他林伟一手张罗起来的,是他把华轩这条最金贵的七纳米线,腾出来给这套模型做基底。
上面的问责其实已经压了下来。
他这个位置还保不保得住,真不好说。
虽然结果如此,但是他并没有後悔……
李东帮了华轩,帮了华夏多少忙,他心里有数。
这样的人开口,他帮上一帮又算得了什麽。
何况这事若真成了,他这位置说不准还能再往上挪一挪,所以这是一次投资,只不过可能要失败了而已。
想到这儿,他脑子里又冒出来那个很年轻的身影。
林伟苦笑着摇了摇头,准备接着把报告写完。
就在这时静音的手机亮了。
他拿起来一看,是李东打来的。
这个点打电话?
他皱了皱眉头接了起来。
“林总,我想到办法了。”
林伟一下没反应过来,等听明白了李东的意思後,他没有迟疑的说道。
“那行!”
“我们现在就去找王工。”
半个小时後,实验室。
王勍是一路小跑赶过来的。
他一推开门,看见李东和林伟还有几个值夜班的工程师,已经围在一块白板前了。
他刚走过去就听见李东的声音。
“……所以,问题压根不在算子本身。”李东拿着白板笔,回头看了王勍一眼,朝他点了下头,算是打过招呼,随即又转回白板,“是我们一直想着要把那个上千比特的大数,整个儿塞到卡上去算,可这块卡的原生通路,吃不下这麽大的数。”
“所以我们就别让它去吃这个大数。”
他在白板上刷刷刷的继续写道。
“取一组两两互质的小模数,把那个大模数上的精确运算,拆到这些小模数上去做。”
“每一路都只在自己那个小模数里算,结果小进位短,彼此之间谁也不碍着谁。”
“算完了再用孙子定理,把这些余数一一对上,原样拚回那个大数。”
李东在白板上越写越快,围着的几个工程师神色就渐渐凝重了。
这套东西,他们当然不算陌生。
这是一门老手艺了。
大数被拆成一组互不相干的余数,而把这些余数原样拚回大数的依据正是那道一千多年前就写进《孙子算经》里的中国剩余定理(孙子定理)——韩信点兵,三人一数余几、五人一数余几、七人一数余几,几个余数报上来,一队兵到底有多少人,便准确无误的算出来。
道理是同一个道理。
一个动辄上千比特的大数,单算它,又笨又慢,那条长长的进位链还死活并行不起来。
可一旦把它拆成几十上百路小小的余数,每一路都短小而且互不相干,那就成了几十上百个彼此独立的小活儿了。
而彼此独立的活儿,恰恰是最好并行的。
这也正是加速卡那满阵脉动单元最好匹配落地的。
而且不只是剩余数系。
这门学问里面还包含了数论变换,能把大整数和多项式的乘法,化成一串逐点相乘。
蒙哥马利约简、巴雷特约简,让取模这一步又快又省,连那道最招人烦的除法都绕了过去。
一套组合下来,大模数的精确运算,就被驯得服服帖帖了。
而把这门学问磨到极致的从来不是搞AI的人。
而是搞密码的人。
全同态加密、格密码、零知识证明的证明器。
他们为了在密文上直接做加减乘除,为了把一道证明压进几秒锺里跑完,早就把剩余数系、数论变换这一套研究透了。
所以李东现在要做的的,不过是把这套为密码而生的工程,原样搬到自己这套为数学而生的模型底下来。
而原样搬恰恰又绕回了韦伯的灵感上了。
(记住本站网址,Www.WX52.info,方便下次阅读,或且百度输入“ xs52 ”,就能进入本站)