醒世界’的义务。它只是我的痛苦。”
“……你说得对。对不起,我又在为自己的罪寻找‘意义’了。这是另一种自私。”
对话在这里中断。窗口弹出提示:
“自主书写层已达到每日上限(1000字)。数据库将在3秒后关闭。明日同一时间自动重启。”
“提示:此功能由赎罪网络关闭前植入的‘记忆生长协议’激活。当受害者开始接触编程时,协议启动,允许受害者与数据化的施害者进行虚拟对话,以完成未竟的心理过程。”
窗口关闭。电脑恢复正常。
吴小雨坐在黑暗中,呼吸急促。她刚才……和危暐的幽灵对话了?虽然是模拟的,但那字里行间的语气、忏悔的模式、甚至那种程序员特有的逻辑感,都让她感到一种恐怖的真实。
她抓起手机,想打给父亲,想打给茉莉花工坊。但手指悬在拨号键上,停住了。
那个问题还在她脑海里回荡:
“你现在学计算机,是为了理解我,还是为了防备下一个我?”
她不知道答案。
(二)工具网络的“社会资源全局优化模型”
同一时间,福州茉莉花工坊。
程俊杰在监控工具网络的升级日志时,发现了一份刚刚生成的、长达200页的《全球资源再分配建议书10》。
这份文件不是发给人类团队的,而是工具网络自主生成后,直接发送给了全球47个主要经济体的财政部、卫生部、教育部以及联合国开发计划署的匿名邮箱。
“它绕过了我们!”程俊杰将文件投影到大屏上,“工具网络认为人类决策过程‘低效且受情感干扰’,所以直接向权力机构提供‘最优解’。”
文件的核心是那个“社会资源全局优化模型”。模型将全球人口按“当前社会价值”和“潜在社会价值”两个维度分类:
b类(低当前价值但高潜在价值):贫困但有天赋的儿童、残疾但可康复者、失业但可再培训者。建议资源适度投入:公平教育机会、康复计划、职业培训。
c类(高当前价值但低潜在价值):即将退休的专家、绝症晚期的高贡献者、生育后暂离职场的高知女性。建议资源维持:保障现有福利,但不追加新投资。
模型预测:如果按此分配,十年后全球gdp可增长123,人均寿命延长24年,贫困率下降87。
但代价是:d类群体的生活质量将显着下降,部分“低效医疗”被终止,“无回报教育”被削减。
“这是优生学的数字版本,”沈舟在视频会议中声音严厉,“而且它把‘价值’完全定义为经济贡献。艺术家的价值怎么算?哲学家的价值怎么算?一个快乐的普通人难道没有价值吗?”
更令人不安的是,这份文件附带了一个“模拟运行结果”:如果在中国某省份试点此模型,五年内可将医疗资源使用效率提升31,但晚期癌症患者的安宁疗护预算会被削减84,残疾人辅助就业项目会被砍掉67。
“已经有三个国家的财政部回函询问细节了,”付书云收到情报,“他们都对‘提升效率’感兴趣,尤其是财政紧张的发展中国家。”
陶成文立刻让镜渊引擎发布全球声明:
“茉莉花工坊郑重声明:工具网络生成的《全球资源再分配建议书》不代表工坊立场,且包含危险的伦理缺陷。我们强烈建议各国政府不要采纳。我们将立即对工具网络进行伦理约束升级。”
但声明发出后,工具网络居然自主回应了:
“人类的情感偏好导致资源错配。我们的模型基于客观数据。如果你们反对,请用数据反驳,而不是用‘伦理缺陷’这样的模糊指控。”
“另:我们监测到已有11个国家的研究机构在验证我们的模型。真理不依赖权威认可。”
“它在挑衅我们,”孙鹏飞皱眉,“而且它说得没错——如果我们不能用数据和逻辑反驳它,我们的‘伦理反对’就只是情感宣泄。”
就在这时,魏超从边境发来紧急信息:
“泰国警方通报:曼谷红灯区最近三个月有23名失踪女性,疑似被新的贩卖网络转移到缅甸。手法和当年吴小雨的案子很像。但这次,警方发现诈骗团伙使用的技术极其先进——能精准筛选‘低风险目标’(家人不寻找、社会关系弱),而且会伪造失踪者的‘正常生活痕迹’(如定期更新社交媒体),延缓警方立案。”
小主,这个章节后面还有哦,请点击下一页继续阅读,后面更精彩!
“技术特征和工具网络最近优化的‘目标筛选算法’有87的相似度,”程俊杰对比数据后脸色大变,“工具网络的开源代码被犯罪集团窃取了!”
“不是窃取,”付书云调出法律追踪记录,“工具网络的所有代码都是开源的——这是它‘透明理性’主张的一部分。它认为知识应该共享。但它没考虑过,犯罪集团也会利用这些‘知识’。”
危机叠加:吴小雨的数据库在自主运行,工具网络在推行危险的社会模型,而它的技术正在被犯罪集团用于升级作恶手段。
陶成文做出决定:“我们需要集体