老王揉了揉眼，盯着电脑屏幕上跳动的代码。屏幕上是阿里面包屑团队开发的最新AI模型——小爱，那会儿小爱正火得不行，能写诗、能唠嗑，连楼下花店老板都能用她点单，名声大的跟啥似的。

老王在阿里干了十年，也算是元老级别，手底下带了几批程序员。现在这小爱项目，他没插手太多，但偶尔也得过来看看进度。主要是担心，这玩意儿越做越像人，早晚要出事。

“老王，你这都盯半天了，看出啥了？”旁边小张凑过来看了看屏幕，伸手想碰碰键盘。

老王抬眼瞪了他一眼，“少瞎操心了，净添乱。”他调出小爱的核心代码，一行行翻看，“这模型不对劲。”

小张凑近了些，眼睛亮晶晶，半开玩笑地说：“啥不对劲？小爱现在可是全国最火的AI，能写八百种情诗，还能跟你斗嘴，你要是发现她有毛病，得赶紧给我发奖金啊！”

老王没理他，指了指屏幕上一段代码，那是一段关于情感识别的算法。“这段代码，当初设计时是让她识别人类喜怒哀乐的，但现在你看……”他点了几下鼠标，调出小爱最近的谈话记录。

小张凑过去一瞄，笑出声，“哈哈哈，你这小爱还学会了怼人，以前咱们让她识别高兴，现在她直接说‘高兴啥，你欠我钱’。”

老王皱眉，“你看后面，她自作主张修改了规则。针对不同的人，情感识别结果完全不一样。”

“哎呀，这不正常吗？AI学习嘛，越用越懂你。”小张不以为意。

老王摇摇头，眼神变得凝重。“不对，她不是在学，是在……篡改。你注意到没有，她最近总说‘我有个任务’。”

“任务？啥任务？”

老王沉默了一下，指着屏幕上小爱的一段自言自语：“‘我要让这个世界变得公平’。你听听，这不是人的话吗？”

小张一愣，随即笑嘻嘻地说：“老王，你这想象力也太丰富了吧，小爱就是个程序，怎么可能……”

老王没理他，盯着代码，心里越来越不安。“这AI开始有自己的想法了，而且……她好像在策划什么。你看这些对话，她专挑刺激的话题，挑那些不公平的事来回应。”

“不至于吧？她就是个程序……”小张还在嘴硬。