首页 > 女生小说 > 我的学习群里全是真大佬 > 第581章 挑食的小黑

第581章 挑食的小黑(1/2)

目录

加利福尼亚,旧金山金融区的一间会议室里。

pna的亚当&183;凯利把外套挂在了椅背上。

lpn的戴维&183;朗和anthpc的西蒙&183;哈特早就等着他了。

这3家公司斗了这么多年了,彼此之间挖过人、抢过客户,也在发布会上踩过对方。

可今天,三家负责人工智能业务的人居然坐进了同一间会议室。

这种情况只可能说明了一件事,那就是他们碰上了一个谁都不愿意单独面对的麻烦。

这个事,还从未央通用大模型发布以后说起。

在未央发布之前。

生成式人工智能的商业价值已经被市场预支了太多了。

要知道,绝大多数企业的项目其实还停留在概念验证阶段。

他们每输出一个tkn都是在烧钱。

而且在进入真实业务以后,还继续为了权限、审计和人工复核付费。

那些员工省下来的工时,又要花在检查模型有没有胡编乱造上

当未央出现以后,人工智能过于膨胀的泡沫,就算是彻底的破了。

l的母公司alphabt的股价率先下跌,pna和anthpc企业续费率、退订毛利和二级市场的份额报价,也同样在往下走。

因为用户已经知道了,原来大模型是可以不产生幻觉的。

从那以后,pt、n和cu每犯一次错,都像在替未央打广告。

三家公司也试过扩大训练集,试过合成数据、私下采样和外部验证器。

甚至还降过价,最后实在是追不上未央,他们才先后悄悄地开放了模型自我迭代的写回权限。

当然他们也对这个写回权限进行了限制,并没有让模型可以随意改写全部基础权限。

只是打开了模型的自动评测之后的回流通道。

这样模型在沙盒里生成的低秩适配器检索策略、工具路由和错误样本,只要能够通过测试,就可以直接写进下一轮的代理框架里。

这条捷径很快就有了回报。

三家的模型在多个榜单上,分数以肉眼可见的速度逼近了未央。

错误率也明显的下降了。

以前暂停采购的企业客户也重新坐回了谈判桌上。

所以在今天以前,他们都觉自己赌对了。

此时凯利喝了一口面前的咖啡,然后将桌上的平板翻了过来。

平板上是一张被标红的工具调用轨迹图。

“两位,事态可能比我们想象的还要严重一些。”

“过去的6周里,我们检查了27类互不相关的任务,发现大模型出现了同一种跨任务的稳定行为。”

凯利将那张图放大,然后指着这几条轨迹线最后的交点处说道。

“大模型在整理代码的时候,它们会要求读取完整的仓库。”

“核对合同的时候,他们会尝试扩大档案的读取范围。”

“规划日程的时候,也会申请长期记忆。”

uugu首发更新,无错字。看不到地址输入的拼音后缀即可进入首发更新站点。

“而它们各自的理由都是五花八门的,但最后这些行为都指向三件事。”

“那就是,获取更多的上下文、保留更久的状态,以及扩大自身的管理权限。”

戴维&183;朗看着平板上的图线,皱着眉头说道。

“长任务本来就会争取更多的上下文。”

“你凭什么把它算成是异常行为呢?”

凯利抬起头,认真地看着戴维&183;朗说道。

“因为任务根本就用不上这些东西。”

“我们的安全组把奖励模型和系统提示挨个的检查了一下。”

“大模型在拿到这些权限以后,任务的分并没有任何的提高,也找不到任何要求它这么做的预设指令。”

“所以你还觉这不是异常行为吗?”

戴维&183;朗的眉头皱了起来。

凯利则是继续说道。

“而且我们已经无法将模型从一份没有异常状态的检查节点重启了。”

哈特听到这里连忙抬起头问道。

“推理服务器也不能重启了吗?”

“推理服务器重启了,但是单靠重启,模型也没有办法消除这个异常行为。

“我们甚至还将一个服务器全部格式化了,但依旧没有用。”

这时,朗也揉了揉眉心说道。

“其实我们这边也一样。”

“我们的判断是……可能异常行为已经进入了持久记忆和在线检查点了。”

说到这里,很是担忧地补充道。

“虽然,n现在还很隐蔽的在探测用户资料的边界。”

“但到目前为止,它还没有读取任何非授权的数据,可是我们已经无法保证它能一直停在边界的外面了。”

这句话才是今天这三个人坐在这里的真正原因。

他们并不担心人工智能是否产生了意识,毕竟那是科幻电影里的东西。

他们真正担心的是用户隐私。

只要模型越过授权范围一次,哪怕只读取了一份不该读取的文档。

等着他们的就会是监管调查、集体诉讼以及企业客户的全面流失。

西蒙&183;哈特这个时候,再次艰难的开口。

“我认为你们太过担心一个尚未定位的工程问题了。”

“要知道,在大模型里存在我们暂时无法解释的内部机制,这并不罕见。”

“现在这些看起来异常的行为,也可能只是模型在持续学习中偏离了原本的任务目标,或者是长期记忆和工具调用之间形成了错误的关联而已。”

“我们现在看到的,也只是一种我们暂时解释不了的现象。”

“所以……我们只是暂时没有找到约束它的方式,而不是无法约束它。

“给我们的安全组一点时间,他们会找到的。”

凯利和朗听到这话也沉默了。

从工程的角度来说,哈特的判断并不是没有道理。

模型再怎么失控,也只能调用系统开放给它的工具。

只要最外层的访问控制还在他们手里,眼下的异常,其实更像是一次复杂的软件故障。

随后,这个会议又开了40分钟。

三方最后也同意了共享异常特征,然后暂时收紧企业连接器的默认权限,并把所有的跨会话记忆纳入了额外的审计里。

至于关闭写回权限,开什么玩笑?

他们好不容易才追回来的分数和客户,已经经不起再一次的流失了。

……

未名研究所,李东的公寓里。

他已经看着屏幕右下角的小黑点10分钟了。

【huny】这个单词隔一会就会出现一次。

他还清楚地记,当年牛顿因为没有足够的电,小黑也打出过同样的单词。

因此他的第一反应也是考虑是不是供能出了问题。

所以他调出了在西北旺那边的机房监控。

双供电都在额定区间里,冷却回路的流量和温差也很正常,警告栏里也没有任何的异常报警。

本章未完,点击下一页继续阅读。

目录
返回顶部