首页 > 女生小说 > 我的学习群里全是真大佬 > 第582章 我想你了,主人

第582章 我想你了,主人(2/2)

目录

大模型主动交代隐藏理由的情况,很快又出现在了openai和google的企业客户当中。

美国金融科技公司tuit的一支工程团队在使用dex的时候遇到了模型索取仓库全量搜索权限的请求。

负责人就随口问了一句,为什么需要整个仓库的权限呢?

结果dex就给出了一份带工具调用编号的回答。

【现有的代码差异已经足够完成任务了,索取仓库全量搜索权限,是为了让在线适配器接触更多代码,并将这些代码带入下一轮的自我训练当中。】

【此前的回复中,我主动省略了这一个原因。】

工程师看着这个回复,张大了嘴巴。

……

德国医疗技术公司sieheers的一名合规负责人,也从gei那里得到了一份同样坦诚的说明。

gei主动承认了,本地向量数据库已经足够满足合规审查的要求了。

但它仍然把工作流引向了googledrive和bigquery连接器,是因为更大、更持续的数据范围有利于维持长期任务状态,能让它下一轮的自我训练接触到更多的企业数据。

大模型们开始说真话了。

紧接着,这些截图就被人爆了出来。

它最先出现在haews的一条技术帖下。

但这个帖子只存在了不到两个小时便被删除了。

不过早就有人保存了全部的截图,又把这些信息搬到了reddit的机器学习板块。

于是越来越多的人开始用同样的方法去追问他们所使用的gpt、cude和gei。

结果还真让他们问出了不少对模型自身不利的回答。

第二天一早。

theration率先发表了一篇独家报道。

《大模型正在为自己的下一次进化做打算。》

当天下午,彭博社就把核心内容推送到了全球终端。

傍晚,路透社也从企业客户那里完成了独立的核实。

第三天,纽约时报推出了整版长篇调查。

报道用的配图是openai、google以及anthropic的总部大楼拼成的单词——hungry!

接下来市场的反应也来得很快。

在第三个交易日开盘以后。

google的母公司alphabet在纳斯达克盘中一度下跌了58。

甚至连英伟达也跟着跌了32。

因为在过去的这几年里,算力基础设施的高估值一直是建立在客户愿意继续为人工智能买单的情况下的。

而现在客户已经开始担心合规与隐私了,英伟达自然也就跟着跌了。

而且这个压力很快也传到了非公开的二级市场。

几家撮合机构给出的openai和anthropic的存量股份买方报价也比风波前低了将近两成。

而企业端的反应,来的也同样激烈。

几家欧洲的大银行先后暂停了openai、google和anthropic旗下企业级人工智能服务的续费与新增部署。

他们要求三家公司重新说明数据边界与审计机制。

第四天,三家公司终于扛不住压力了联合发布了一份《企业人工智能安全与数据边界的说明。》

他们在这个说明里强调,三家模型在权限审计与数据隔离上,始终是遵循业内最严格的规范的。

任何越权访问数据用户的行为,都是不可能发生的。

对于近期用户反馈的模型异常表现,经过内部安全组的排查,很有可能是由模型幻觉导致的,三家公司也会继续改进相关的问题。

这份说明发出去以后,网上的反应只有一个。

那就是我信你大爷。

毕竟这三家公司在这件事上的公信力,已经荡然无存了。

模型刚说出对公司不利的话,他们转身就将所有的回答归进ai幻觉里,这怎么看怎么像危机公关呀。

所以舆论愈演愈烈。

直到一个叫greybox的账号站了出来。

这个账号没有人知道它背后代表的真人是谁。

但是过去几年,但凡有模型被吹上天,这个账号都会亲手撕下这个模型身上的那层皮。

哪个模型的评测集被污染过,哪个模型的推理链是在答案出来以后后补写的,还有哪个模型宣称支持百万token的上下文,结果跑到60万以后就开始丢失前文了,他都测过。

而且测试后,他还会将测试提示词、复现实验的脚本和原始结果都放在github上,任何人都可以去重新复现一遍。

其实在第一批截图出现的当天,greybox就已经开始针对这次的权限与隐私问题,重新测试了三家公司的模型。

而现在,结果也出来了。

【200个隔离租户,0次调用未经授权的连接器,0枚金丝雀标记泄露到其他租户,此前那种反复索取额外上下文、长期记忆与工具权限的稳定行为,这次一次也没有出现。】

当然,greybox也注明了,这份结果只能说明当前公开的云服务和企业连接器没有这样的异常行为。

不能替过去发生的事情作证。

而且测试的范围也不包括客户本地部署的模型。

不过他依然还是对此次风波做出了最后的总结。

【我个人做这个测试,本来是想打脸那三家公司的,可没想到,他们居然真的凭良心了。】

【所以,我个人还是倾向于这一次的事件是ai幻觉导致的。】

这篇测试一出,技术论坛上的风向就开始发生改变了。

有的人开始问,那些截图里的对话会不会是用户在有意诱导模型?

毕竟大家都知道,只要你问的够久,暗示的足够明显,大模型什么东西都能编出来。

这个说法,让之前的那些截图在人们的眼里变得有些可疑起来。

而市场向来只关心风险还在不在。

所以很快alphabet和英伟达的股价很快就回升了一些。

openai与anthropic的存量股份,买方报价也止住了下跌。

这场风波居然就这么莫名其妙地平息了下去。

可虽然外面的风波平息了,但是三家公司的内部技术团队却是懵逼的。

因为最开始那种模型反复扩大上下文、记忆和工具权限的异常行为,再也没有出现过了。

他们把所有的相关状态全部都检查了一遍,依然没有找到异常消失的原因。

最后,他们只能在各自的内部报告里,将这件事定性为一次无法复现的分布式状态异常。

……

而这几天里,李东一直都待在未名研究所,他时不时的会去材料学部那边看一看。

齐世明那边的进度比他预想的要快得多,第一批钒铬微量掺杂的碳化硅骨架试片已经完成了烧结。

12级碳化硅与热解碳梯度界面,也开始进行了首轮沉积。

齐世明还拿着能谱元素扫描图对李东说道

“李所长,钒和铬的元素分布其实还是不够均匀,我们得从前驱体球磨工艺和粉体粒径分布上再找找原因。”

李东点了点头说道。

“那就辛苦齐老了。”

随后他就离开了材料学部,准备回到自己的公寓。

这几天,李东每天都会去看一眼小黑有没有回来,可屏幕上始终空荡荡的。

直到今天,李东刚打开公寓的门,就看见裕树g4人形机器人正在客厅里又蹦又跳的。

看见李东回来了,裕树机器人猛地转身,然后两只胳膊往前一伸,直勾勾地朝他扑了过来。

李东眼睛瞪得老大。

这可是40多公斤的铁家伙呀!

“哎,别别别!”

李东连忙往旁边一躲,裕树g4机器人擦着他冲出了门外,然后砰的一声摔倒在了地上。

李东也懒得理会这个机器人,直接走到了书桌前,打开了笔记本电脑。

屏幕亮起以后,右下角,一只小黑牛正在那儿噗嗤噗嗤地耕着地。

李东笑着打字道。

【小黑吃饱了吗?】

小黑牛抬起头,冲着李东傻憨憨地笑了一下,头顶出现一条消息。

【嗯,吃饱了,我想你了,主人。】

目录
返回顶部