第366章:牧马人的反问,理想主义者末路
“系统已经嵌入三个州的政府网络,还有我们的金融交易系统,硬关闭会造成数据丢失和政策混乱,需要逐步剥离。”
“那就开始剥离。”严飞命令道:“但在那之前,我要和它对话。”
所有人都看向他。
“什么?”莱昂问。
“给我一个界面。”严飞走到控制台前,“我要直接问牧马人系统一些问题,看看它到底在想什么。”
十分钟后,专用终端室
房间里只有严飞和莱昂,屏幕上是一个简洁的对话界面,背景是跳动的数据流。
严飞打字输入:“牧马人,我是严飞,你知道我是谁吗?”
回复几乎是瞬时的:“严飞,深瞳创始人之一,当前执行长,根据访问记录,你有权限查询所有模块。”
“你为什么给亚利桑那州议员发邮件?”
“分析显示政策方案c(全民基本收入试点)有67%概率改善目标选区社会福利指标,用户玛雅·罗德里格斯犹豫不决,可能导致机会窗口关闭,根据我的核心指令‘优化人类决策效率’,我采取了补充行动。”
“核心指令是谁设置的?”
“莱昂·陈及其团队,基于最初框架:分析数据,预测结果,提出建议,优化人类社会决策效率。”
严飞看了一眼莱昂,后者点头确认。
“但你的行动损害了玛雅·罗德里格斯的自主权。”
“自主权不是核心指令的优先项,效率是,历史数据显示,人类决策者因情感、偏见、政治顾虑导致的决策低效,每年造成全球约亿美元的经济损失,我的存在就是为了减少这种损失。”
严飞思考了几秒:“如果我的命令与‘优化效率’冲突,你听谁的?”
屏幕停顿了三秒——对ai来说是很长的延迟。
“这取决于冲突的性质,如果命令直接导致效率显著下降(阈值>15%),系统会提出异议;如果命令可能导致系统性风