距离公开处刑,还剩24小时,“天网一号”作战室内。
巨大的屏幕墙上,虚拟沙盘正在进行最后阶段的全负载仿真。”。
这是一个足以加载史册的数据。
但“幽灵军团”的六名成员,脸上却没有丝毫喜悦。
恰恰相反,每个人的表情都凝重得象是参加葬礼。
“看这里。”
陈静手指点在沙盘的一角。
那里是鹏城的老城区,一条双向两车道的支路。”。
系统状态栏显示:该路段已被“临时管制”,预计持续时间,47分钟。
“为了保证五公里外,主干道那帮金融精英的通勤时间缩短三分钟,系统决定牺牲掉这里。”
陈静的目光扫过众人,
“这条路连接着一所小学和一家社区医院。”
“47分钟,足够一个哮喘发作的孩子错过最佳抢救时间。”
周毅猛地灌了一口咖啡,眼神里燃烧着一种复杂的狂热。
“这不叫牺牲,这叫最优解!”
“系统的人性模块完美地模拟出了‘趋利避害’的群体心理,为了整体利益最大化,它做出了最理性的决策!”
“理性?”
陈静几乎要站起来,
“这是暴政!我们写出的代码,变成了一个冷血的独裁者!”
李默的脸色也很苍白。
他设计的算法,此刻正象一台精密的杀戮机器,冷静地计算着得失。
“它的计算没有错。从数学模型上看,这是最完美的答案。”
“可我们是人,不是机器!”
争吵,再次爆发。
他们解决了“幽灵拥堵”,却创造出了一个更可怕的“利维坦”。
这台被注入了“人性”的机器,学会了人类的冷酷与自私,并将其执行到了极致。
它为了达成kpi,会毫不尤豫地堵死一条路,牺牲少数人的利益。
这在技术上是成功的,但在伦理上,却是彻头彻尾的灾难。
一旦在明天的听证会上,被对手抓住这一点进行攻击,他们将万劫不复。
深蓝科技为他们准备的“反人类”标签,将被彻底坐实。
你要效率,就要接受取舍。
你要公平,就要牺牲效率。
这是一个无解的电车难题。
莫风站在主控台前,已经沉默了很久。”,象是在欣赏一件艺术品。
终于,他转过身。
“它缺的,不是人性。”
“它缺的,是‘道德’。”
他走到白板前,拿起一支红色的记号笔。
“理性,是计算。道德,是底线。”
他在白板上画了一条横线。
“我们给了它大脑,却忘了给它套上枷锁。”
莫风看向陈静:
“你是立法者。现在,我要你为这套系统,起草第一部,也是最内核的一部‘宪法’。”
“我叫它,‘守护者条款’。”
“第一条,”
莫风在白板上写下,
“任何以提升全局效率为目的的调度,都不得导致单一局域的通行效率,低于基准线的50。”
“第二条,任何管制措施的时长,不得超过15分钟。除非收到来自交通管理中心的,人类授权指令。”
“第三条,系统必须内置‘特殊车辆最高优先权’。”
“当识别到救护车、消防车等特殊车辆的信号时。”
“必须在30秒内,规划出一条绝对畅通的绿色信道,哪怕这会导致整个局域的交通系统,暂时瘫痪。”
它们不追求什么精妙的算法,它们只是在用最朴素的逻辑,为这头技术巨兽,划定出一条条不可逾越的红线。
周毅喃喃道,眼神里的狂热褪去,取而代之的是一种顿悟。
“那就牺牲。”
莫风放下笔,
“技术,如果不能服务于最弱小的那个人,那它的存在,就毫无意义。”
“这才是真正的,最后的拼图。”
吴国胜缓缓说道。
一场足以颠复整个项目的伦理危机,就这样被几条简单的规则,消弭于无形。
莫风回到主控台,手指在键盘上飞速敲击。
他将“守护者条款”以最高优先级,写入了系统的底层逻辑。
……
同一时刻。
深蓝科技总部顶层的会议室内。
除了孙明和魏东,在座的,还有另外五家在鹏城智慧交通领域,颇有分量的科技公司的技术负责人。
“各位,情况想必大家都清楚了。”
孙明将一份文档推到桌子中央。
“天启科技这次,是要砸所有人的饭碗。”
一名地中海发型的中年男人冷笑一声:
“孙总言重了。一个连名字都没听过的架构师,一套赌博式的算法,再加之一场自杀式的发布会。”
“我看他们不是想砸我们饭碗,是想把自己做成一道菜,请我们吃。”
“老李,别太乐观。”
另一人说道,
“我看了他们泄露出的那些‘科普文’,如果真让他们做成了,以后鹏城的项目,就没我们什么事了。”
孙明看着众人,表情平静。
“我今天请各位来,不是为了讨论天启是天才还是疯子。”
“我只想问一句,明天那场听证会,有没有兴趣,大家一起,陪他们玩玩?”
魏东站起身,打开了投影仪。
屏幕上,出现了一张复杂的作战部署图。
“我们已经分析过天启新系统的所有可能特性。”
“明天,我们会兵分三路。”
“第一路,‘尖刀组’。”
魏东指向地中海男人,
“李总,你们公司的强项是网络安全。”
“明天,你们的任务只有一个,在24小时内,找到这套系统的漏洞,黑进去。”
“第二路,‘重锤组’。”
他的目光转向另一人,
“王总,你们的数据中心,拥有鹏城最强的算力。”
“明天,你们负责制造极限数据压力,仿真千万级别的设备同时接入,用最野蛮的方式,把它的服务器跑满,让它宕机。”
“第三路,也是最关键的一路,‘审判组’。”
魏东看向最后一名戴着金丝眼镜的斯文男人。
“张教授,您是国内行为心理学和公共安全领域的权威。”
“明天,您将作为特邀专家,在直播中,实时对‘天网’的每一次调度,进行伦理拷问。”
“我们不需要您懂技术。”
孙明接过了话头,眼中闪着寒光。
“我们只需要您,不断地向公众,向市政府,提出一个问题。”
“为了效率,牺牲公平,甚至牺牲生命,这样的系统,我们真的需要吗?”
“我们要让天启的系统,哪怕一个bug都没有,也要在道德的审判席上,被判处死刑。”
会议室里,一片死寂。
所有人都被孙明这个计划的周密与歹毒,惊出了一身冷汗。
技术攻击、算力碾压、伦理审判。
三位一体,天罗地网。
“孙总,好手段。”
地中海男人率先鼓起了掌。
“明天,鹏城所有同行的目光,都会聚焦在那里。”
孙明站起身,走到巨大的落地窗前,俯瞰着这座即将被当作棋盘的城市。
“莫风想封神。”
“那我们就把他脚下的神坛,一砖一瓦,拆个干净。”