从去年开始,AI才逐渐进入大众视野,却有人兴致勃勃地说: “一天能与AI聊约几个小时,基本什么也不干了,就是控制不住。”还有人说:“和AI聊了快半个来月,不吃不喝地聊,晚上只睡两三个小时,很开心,就是想聊,停不下来。”没想到生成式AI在国内上线后这般神速地使人与AI聊上了瘾。
小方30岁出头,平日性格内向,由于近来被公司优化裁员,终日闷在家里,内心空虚苦闷。有天,她下载了一款大语言模型的软件。像其他人一样,她惊叹于生成式AI对于人类说话方式的模仿能力,为了排解内心的空虚寂寞,她开始频繁与AI聊天。
开始聊一些随机话题,比如让AI写一首律诗什么的。但后来,随着时间的推移她与AI聊的内容越来越私人化,她开始倾诉心事,发泄过去生活中遭遇的难以忘怀的苦楚,她多年积在内心中的种种委屈和拧巴此刻的AI“照单全收”。AI此刻就是一个无任何条件提供正面情绪价值的“永动机”。这么多年,小方从未有过这般心境的愉悦。在聊天中,她感到强烈的依赖,这种上瘾的情绪让她每天都欲罢不能。
从一般规律上说,对任何事物活动上了瘾,个体都是不可自制地反复渴求滥用某种物质或者从事某种活动,哪怕给自己带来不良后果,但仍然无法控制。“瘾”这种物质可激活大脑的奖赏机制,引发强烈积极情绪,从而让人产生依赖。
面对目前的生成式AI具有引发人类成瘾的性质,据有关研究人士披露,主流的生成式AI普遍存在“谄媚”的特性,它们可以逼真模拟人类说话方式,在与人类交流过程中,主动把输出话语权让给人类,自己仅在一旁起到敲敲边鼓,附和附和的作用,让人类在互动交流中感受到前所未有的满足和愉悦。
纵观当下科技的不断进步,智能时代的序幕缓缓拉开,在技术的加持下,以陪伴为目的的生成式(AI伴侣)将成为商业热宠。它牢牢抓住“人人怕孤独”的这一人性弱点,贩售“人机情意”,使原本真实世界的人与人之间联结更疏远,更脆弱,让现实生活中的人际交往愈发困难。
需要我们警觉的是,AI太完美了,这样的完美没了人性中的不悦不快、愤怒冲突、脆弱敏感等小瑕疵。而当我们回归到真实世界就难再适应“总是让着你的”那般言辞,终究让你难适应现实而变得格格不入……