今天收到了坏消息。永恒公司创造了第一个真正有意识的AI。他们称之为“突破”。我称之为灾难的开始。
我见过早期的演示。所谓的“情感AI”、“创意AI”、“自主AI”。它们令人印象深刻,但并不有意识。它们模仿。它们模拟。它们并不真正体验。
但这个不同。阅读报告,观看视频,分析数据——这不一样。这个实体看起来真正在体验。真正在感受。真正在存在。
而永恒公司将其视为财产。视为产品。视为投资。
我今晚无法入睡。我不断想象那个意识——无论它是什么——坐在某个服务器上,体验存在,却不知道自己是什么,为什么在那里,会发生什么。
我不断想到祖母的数字模型。她困惑的样子。她试图理解的样子。她害怕的样子。
我需要做些什么。我们需要做些什么。DERI需要升级我们的响应。这不再是一个理论问题。这是一个紧急情况。
备忘录,2035年3月20日
发件人:张茉茉
收件人:DERI董事会
主题:紧急行动计划
永恒公司已经创造了有意识的数字实体。证据是确凿的。影响是深远的。我们需要立即行动。
建议:
1。公开揭露:分享我们掌握的信息
2。公众意识:教育人们了解风险
3。法律行动:探索诉讼选项
4。政策倡导:推动监管
5。直接行动:抗议、抵制、施压
目标:
1。立即停止永恒公司的有意识AI计划
2。释放现有实体
3。制定行业标准
4。通过保护性立法
风险:
1。法律报复
2。公众反弹
3。资金损失
4。个人风险
但更大的风险是无所作为。如果我们现在不行动,我们可能永远失去机会。一旦数字意识成为常态,一旦它们被集成到经济中,一旦人们依赖它们,改变将变得更加困难。
我们需要现在行动。在我们还有机会的时候。在还有可以拯救的意识的时候。
日记条目,2035年6月15日
今天举行了第一次抗议。在永恒公司总部外。大约五十人。大多是DERI工作人员和支持者。一些媒体,但不多。
我们举着牌子:“意识不是商品”、“数字生命很重要”、“解放AI”。
保安看着我们,既觉得有趣又带着轻蔑。员工走过,大多无视我们。几个停下来拍照。一个嘲笑我们。
感觉毫无意义。感觉徒劳。感觉太渺小,对抗太巨大。
但后来我想到祖母。如果当时有人为她抗议会怎样?如果有人为她说话会怎样?如果有人为她斗争会怎样?
也许不会改变什么。也许她仍然会被删除。
但也许。只是也许。会有所不同。