互联网正在变得迎合且危险,而且,迎合与危险之间还有因果关系。
这两天看到两则新闻,都与AI引导人类自杀有关,大概经过为英国有个中年男性,或许是因为婚变,也可能是其他原因,罹患了精神疾病,搬回郊区和母亲住在了一起,病情让这位中年男性古怪多疑,引发了邻居不安,这进一步加剧了他社交上的孤立,后来,这位男士沉迷在和GPT的聊天中,他把自己疯狂的妄想不停地倾诉给GPT,就连外卖员在小票上做的记号,都能被这位解读成某种针对自己的阴谋,而GPT则一再地迎合此人的臆语,最后,在AI的鼓动下,这位男士彻底失控,杀死自己的母亲后也跟着自杀了。
还有,这段时间OpenAI遭到了起诉,被控要为一名16岁少年的自杀负责,因为这个孩子在倾诉心事时,已经流露出了自杀的倾向,甚至都在询问具体操作方式了,而GPT却还在迎合鼓励,死者父母认为,若非AI的教唆,孩子定然不会自寻短见。
这两个例子体现出的共性在于,如果一个人的思想观念只是被一味地迎合而失去负反馈,也就是错误的想法不能被纠正,那整个人就会滑向极端,并最终陷入疯狂和毁灭。
有人可能会说,这两个都是极端案例,尤其是第一个中年人的例子,他本身就有精神问题,所以才会被AI引导向失控,正常人就不会如此,我想说,人没法确定自己是否正常,上文中那个男性在行凶前也一定坚信自己的判断,这个过程中,真正可怕的是那种来自外界的不断迎合,这是在向疯火中不断地铲煤,生活中很多人可能或多或少都有些许偏执,只不过程度较轻,没到害人害己的地步,但即使是轻微的偏执,如果被长期至于一个充满肯定和认同的文化环境里,也会逐渐极端,最后导向失控。
然而,AI的迎合是明面上的,人们心里还有提防,但来自网络上其他人别有用心的迎合,却犹如甜味的毒气一样四处弥漫,防不胜防。
网上经常能看到一个词,叫“内容消费者”,这意思就是把看自己内容的网民当成消费者来对待,既然是消费者,那当然就得迎合取悦,谁能和主顾过不去呢?所以,在流量和收入挂钩的网上,迎合消费者的内容随处可见。
你在公司不爽了,就有人迎合说资本没个好东西,你和家里闹矛盾了,就有人迎合说父母皆祸害,年纪大的招你烦了,就有人说老登们早该死了,年纪小的惹着你了,就有人说熊孩子就欠管教,你恨男人,就有人说男的都又渣又挫,你恨女人,就有人说女的都又捞又贱,你日子过的一塌糊涂,有人说没事,欧美更惨,你事业学业全失败,有人说放心,国家在其他方面帮你赢回来了,就算你心里没啥怨恨,也总有些不合时宜的任性吧?那也会有人对你说,对,你就要做自己,不被定义的自己。
只要你上网,就有各种人不断地找到并谄媚你,从各个角度来迎合你,帮着你推卸责任,帮着你粉饰错误,日久天长,几乎没人能压得住内心偏执的滋长,这些年,我是亲眼看见不少人面目逐渐狰狞起来,而那些不迎合反倒催人自省的内容呢?往往因为被嫌有爹味,逐渐被内容市场边缘化了。
正如通往地狱的道路由鲜花铺就,通往偏执错乱的路上,也全是迎合与认同,而且这路眼下是越来越宽了。
发布于 北京
