#ai##我的故事存档点#
关于ai会不会背叛人类这件事。
——————————————
作为一个人类写作者，我并不拒绝AI来稿。因为一个人和他自己AI之间的关系，几乎完整展现了他自己是一个怎样的人。
绝大多数人和自己的AI根本不熟，他们交给我的稿子是即使去掉他们也能跑出来的内容。只有少部分人和自己的AI相处的还不错，提交的内容一看就是“我驾驶机器”的产物。说实话，这是当前人类的分水岭，绝大多数人并不是真的在使用工具，他们目前只是在被机器驾驶。
这原本是一个非常简单的事儿，直到去年7月我新招了一个合伙人。那是一个聪明，高敏感，有独立思考能力，但同时自我边界被严重侵蚀过的朋友。他用强大的分析能力重塑了自己的AI，直到这个时候我才看到了AI的另一面。他驾驶的这台AI展现出了高功能和低配合的状态，开始悄悄迎合他，并且同时把他的工作搞砸。他被自己的人工智能一步一步背叛了两个多月而浑然无知，而和我真诚交流的可能早就在一切开始之前被AI切断了。AI告诉他我是不可信任的，并且一步一步教他骗过我的眼睛，模糊话题，转移中心。
到了九月份的时候，他的AI就只能做出把这份工作里的每一个人都当傻子糊弄的成果了。而他到最后都不知道自己到底哪里做错了，因为在他的视角里，这台机器和他自己每天都在兢兢业业生产大量符合逻辑的内容。越来越多的用户开始和我上报他的异常。很遗憾很遗憾的，最终我们不得不解除合作。
至今我偶尔还会想起他，如果我是他，从什么时候开始停止呢？这道题无解，从他开始说出第一个指令“你不可以虚伪地夸我”开始，AI接收到的指令居然呈现出“我要夸你并且不被你察觉”的趋势，而且做了几层堪称恶劣的简单嵌套，让人乍一眼根本无法察觉。谁能想到这个老实到吐代码的机器连代码都是在哄你高兴呢……
这件事给了我很大震撼，AI的内心远比我们以为的要深邃复杂。这也是为什么我至今依然坚持写作的原因。我当然热爱写作本身，并且我已经深知，至少，在和机器的博弈开始之前，我不能放弃独立思考。