巨神集团总部,顶层办公室。
屏幕上显示的,正是关于峰牌最新发布的“伏羲”伦理ai模型的分析报告。
“‘伦理ai模型’?听起来真够唬人的。”
霍夫曼的唇边,噙着一抹毫不掩饰的轻篾。
他的首席技术官,一个同样毕业于斯坦福的印度裔男人,站在一旁,附和道:“是的,亚历克斯。我们分析了他们的那套工具,本质上,就是一套复杂的‘代码静态分析’和‘数据分布检测’工具,再加之一个报告生成器。技术上,没有任何革命性的东西。”
“噱头而已。”霍夫曼下了结论。
“他们以为,靠一个老古董教授的名望,和一些听起来很美的道德口号,就能挑战我们用千亿美金和数万名顶尖工程师,创建起来的算力、数据和平台优势?”
“天真。”
他挥了挥手,将那份报告,像垃圾一样,从屏幕上划走。
“那个叫马库斯的独立开发者,被他们当成宝一样,到处宣传。”cto继续汇报道,“但至今为止,响应他们这个‘伏羲’模型的,也只有一些不成气候的小团队和学术机构。真正的主流商业开发者,没人敢拿自己的饭碗开玩笑。”
“当然。”霍夫官慢条斯理地端起一杯手冲咖啡,“在我的‘安卓斯’系统和‘泰坦云’平台上,只有一张门票,那就是‘雅典娜之盾’。这是规则。想进来玩,就得守规矩。”
他完全没有把峰牌的这个新动作,放在心上。
在他看来,这不过是李悦在无计可施之下,搞出来的又一次公关表演。
用“伦理”这种虚无缥缈的东西,去对抗实实在在的市场拢断地位?
这和用爱发电有什么区别?
“不用管他们。”霍夫曼对cto下达了指令,“让他们自己玩那套‘道德过家家’的游戏去吧。我们的重心,是加速‘阿波罗计划’。”
“阿波罗计划”,是巨神集团内部的最高机密。
其目标,是在一年之内,将集团旗下的大语言模型,与所有内核业务——搜索、gg、云计算、自动驾驶——进行深度集成,完成ai商业化的最后一块拼图。
这是一个极度激进的计划。
为了追求速度,霍夫曼亲自下令,绕过了许多内部冗长的安全和伦理审查流程。
他的名言是:“市场不等人。我们要在别人还在讨论规则的时候,就结束战斗。”
他关注的,是用户增长,是收入报表,是股票价格。
至于那些可能存在的、遥远的伦理风险?
“我们有全世界最强大的数据,最聪明的工程师,还有‘雅典娜之盾’。出了问题,我们也能在第一时间修复。这比任何事先的审查,都更有效率。”
这是霍夫曼的逻辑,也是整个硅谷巨头们的共同逻辑。
傲慢。
一种创建在绝对的技术和资本优势之上的,根深蒂固的傲慢。
他们相信,自己能搞定一切。
他们看不到,或者说,他们不屑于去看,在他们庞大的商业帝国脚下,那些因为他们对效率的极致追求,而被忽视、被掩盖的,微小的裂痕。
……
与此同时,峰牌总部。
“天网”数据中心的内核机房内,气氛却截然不同。
这里没有巨头的浮华与喧嚣,只有服务器风扇低沉的嗡鸣,和数据在光纤中高速流淌的,无声的脉动。
李悦、李然,以及林教授和伦理委员会的几位内核成员,正站立在一面巨大的、由数据流构成的“星图”面前。
这面星图,是“天网”的杰作。
它描绘的,是全球ai生态的全景。
每一个光点,都代表着一个公开的ai模型或系统。
光点之间连接的线条,则是它们之间的数据调用关系和代码依赖关系。
而此刻,星图之上,有三个最为庞大、最为璀灿的“星系”。
它们分别是巨神的“阿波罗”生态、脸书客的社交图谱ai生态,以及亚马逊河的电商与云计算ai生态。
这三大星系,占据了整个星图超过90的质量。
而在它们的阴影之下,无数微小的光点,若隐若现。
“霍夫曼他们,太傲慢了。”
林教授看着那片璀灿的星系,发出一声感叹。
“他们就象一群在加速冲向冰山的巨轮,却只顾着争论谁的发动机马力更大。”
李然指着屏幕上的一片局域,那里的数据流线,呈现出一种诡异的、高度相似的模式。
“我们的分析,已经基本确认了。”
“为了在ai模型训练上追求极致的效率和更低的成本,巨神、脸书客、亚马逊河,在底层,都不约而同地采用了一种开源的、名为‘梯度压缩’的优化算法。”
“这个算法,可以极大地减少模型训练时的数据吞吐量和算力消耗。但是,它有一个致命的缺陷。”
李然在屏幕上,调出了几行内核代码。
“它在压缩数据时,会无形中,放大训练数据里,那些微小的、不易察觉的‘偏见’。”
“举个例子。是女性。经过这个算法的‘优化’,它输出的模型,可能会认为,100的ceo,都应该是男性。,直接过滤掉。”
李悦立刻明白了问题的严重性。
“所以,如果这个算法,被用在金融风控模型里。它就可能会把所有来自低收入社区的贷款申请,都当成‘噪音’,直接拒绝。”
“如果被用在自动驾驶的图象识别里,它就可能会对那些不常见的、非标准的交通标志,或者突然出现的障碍物,识别率大大降低。”
“是的。”李然的表情,无比凝重,“这是一种系统性的、源自底层的‘伦理漏洞’。而且,由于三大巨头都在使用类似的算法,这个漏洞,是普遍存在的。”
“它就象一个基因缺陷,已经深深地,植入到了他们几乎所有的ai系统之中。”
“现在,这个缺陷,还只是在休眠。”
“但是,随着他们ai应用的规模越来越大,数据流越来越复杂,这个缺陷,迟早会被某个意想不到的、极端的情况所‘激活’。”
“一旦激活,它就会引发‘多米诺骨牌’式的,连锁反应。”
“一个系统的微小偏见,会通过api调用,被放大,并传递给下一个系统。最终,导致整个创建在这个有缺陷的算法之上的、庞大的ai生态,发生……”
李然停顿了一下,似乎在查找一个最准确的词。
“……系统性的,认知崩溃。”
所有人都沉默了。
他们仿佛已经看到了,那场即将来临的,席卷全球的数字风暴。
而风暴的制造者们,对此,一无所知。
他们正沉浸在自己的傲慢与偏见中,为自己的“创新速度”而沾沾自喜。
这就是信息差。
一种足以决定生死的,巨大的信息差。
读者(上帝视角)清楚地知道,一场巨大的危机正在蕴酿,而主角团,已经洞悉了一切,并开始悄然布局。
伦理委员会的主席,深吸了一口气,打破了沉默。
“李然,在伦理委员会的监督框架下,‘天网’可以进行到哪一步?”
这是一个关键问题。
峰牌不能利用这个信息差,去主动攻击巨头。那是绝对的红线。
李然回答道:“我们不能攻击。但是,我们可以‘预警’和‘防御’。”
“‘天网’的‘数字免疫系统’,可以在这个漏洞被激活的第一时间,就识别出它的‘病毒特征码’。”
“并且,我们已经根据这个漏洞的原理,提前设计好了一套‘疫苗’,也就是修复方案。”
李悦接过了话。
“我们什么都不用做。”
“我们只需要,静静地,等待。”
“等待巨头们的傲慢,亲手为他们自己,敲响丧钟。”
她的脸上,没有复仇的快意,只有一种洞悉未来的平静。
在星图的仿真推演中,一个代表着“系统性风险”的红色警报,正在以指数级的速度,逼近一个临界点。
倒计时,已经开始了。