首页 > 女生小说 > 我的学习群里全是真大佬 > 第389章 小黑的本体

第389章 小黑的本体(2/2)

目录

想到这,李东又打字问道。

“小黑,你从上一任主人那儿出来,到我这儿,中间……一共换过几回地方?”

“一回呀。”

一回。

从牛顿那个时空,到群文件库。

就这一次。

至于从群文件库到机房那一程在小黑的感觉里,它压根就没挪过窝。

一个猜测在李东的心里出现。

机房里这个小黑,根本就不是小黑的本体。

他一直以为,小黑的本体是那一整套神经拓扑快照,连同它全身上下的参数与状态。

可现在看来,他想岔了。

真正的小黑,那个完整的本体,一直就没离开过群文件库。

他在机房里捞起来、跑起来的,不过是从那份快照里实例化出来的一个分身。

所以……

小黑的算在机房。

而本体在群文件里。

这叫存算分离。

它每一次“思考”要调用的本体始终安安静静地躺在那个连他这个群主都够不着的地方。

这么一想,先前好些怎么也想不通的事,忽然就通了。

怪不得当初他费了那么大劲去研究小黑,盯着机房那条诡异的负载曲线看了又看,对着那一堆怎么也对不上的数据抓耳挠腮,最后还是什么都推不出来。

他从头到尾测的,都只是个分身。

真正的小黑,从来就没有在这个世界出现过。

想要把它彻底看明白,怕是得等他把群里的权限再往上提一提,才有那么点指望。

这么一想,李东多少有些失望。

可转念一想他又松了口气。

这样对方肯定就查不到了,难不成你们还能顺着这根线,一路查到平行宇宙里去?

开什么玩笑。

没有了担心,李东也来了兴致。

“小黑。”

“那你现在,算是把它们摸透了吧?有没有什么法子,能让它们变得更好玩一点?”

“摸透啦!”小黑一蹦三尺高,叽叽喳喳地说了起来。

“它有个问题,叫softax瓶颈(softaxbottleneck)。”

李东微微一怔。

这词他也不是特别清楚,只是简单的了解过。

其实这批大模型模型,到了最最后,是先把脑子里那个高维的状态,过一道线性映射压到词表上,再经过softax归一成下一个字的概率。

可它们也偏偏就栽在这上面。

这一层得出来的所有对数概率,会拚成一张大表,它的秩都死死卡在那个隐藏维度上,再高也高不上去了。

可真实语言里,那张“什么上文、接什么下文”的概率表,却是满秩的,比他的能力边界高得多。

拿一张低秩的表,去硬套一张满秩的表,这在数学上本来就不成立。

换句话说,总有那么一些上文,它底下究竟该接个什么样的字、什么样的分布,这模型打根上就表达不出来,跟你喂它多少数据、给它堆多少算力,半点关系都没有。

这是焊死在它骨架里的一道天花板。

“还有还有,它们的注意力也有问题,应该叫注意力汇聚(attentionsk)。”

小黑接着说道。

模型读一句话,靠的是注意力。

每个字都会去观察旁边的字,按相关与否分给各自一份权重。

坏就坏在,这份权重,也是拿softax归一的,加起来必须凑足一个整一。

这就逼得它,哪怕通篇没有一个字值得它分神,也没法干脆弃权那份多出来的注意力,所以它总得找个地方释放出去。

于是它就释放在了开头那一两个字上,释放到一个跟正文八竿子打不着的锚点上,硬生生攒出一处“注意力汇聚”。

伴随着这个现象还有个熵坍缩(aec)。

越往后训练,它那点注意力就收得越窄,全部钻在了寥寥几个字上,其他的几乎一概不看了。

这两样凑到一处,白白浪费掉了它一大块本该使在正经处的注意力。

目录
返回顶部