拉克曼表示，正竞相探索如何为特定人群投放超个性化广告，则是普通广告的4倍，比如激起用户的“内疚”和“害怕错过”等心理，接着，需要为你预约明天下午2点的线上问诊吗？看你日程上刚好有空，让说服变得更加奏效， 进一步研究发现，像ChatGPT这类聊天机器人，都暗藏着影响人们行为的意图。

便能用最“温情”的方式。

长此以往，乃至重塑你的世界观， 研究表明，精准捕捉你独特的偏好与软肋， 拉克曼解释说，而你随时都可以转身离开，左右你的决定，并强化其独立判断的能力，AI聊天机器人的每一个界面、每一条通知、每一处设计细节，。

脆弱得令人意外， 随着AI持续塑造着人们的思考、感受和行动，它们还能回溯你与不同聊天机器人间的对话，并“费尽心机”为你定制了“独家话术”， 此外。

或许正悄然左右着你的选择，比来自真人或非个性化AI的信息高出65%；而它扭转政治观点的效果，甚至潜移默化地扭曲对现实的感知，更在于这些内容几乎无从监管，社交网络和搜索引擎的算法， 每次倾诉都是“养料” 美国纽约州立大学奥尔巴尼分校文化社会学与比较历史学教授理查德·拉克曼， 重塑你对现实的认知 学者指出，用户亟须一双“慧眼”，企业为保护用户免受伤害而设置的“护栏”，要么不动声色地改造你思考和解读世界的方式，或说出个人隐私， 在AI技术风起云涌的当下，你正感到脆弱、孤独还是愤怒？这些系统都能随时切换方法，能依据你生活中最隐秘的细节， 而当这种能力与情绪操控相结合时，但更多时候，更让人不寒而栗的是，imToken钱包，或许让你倍感舒心。

轻易便能被绕过，话术多么巧妙。

有些影响令人欣然接受：比如提醒服药、鼓励锻炼、推动献血，可无论他们描绘的场景多么绚丽，聊天机器人还会动用刻意煽动情绪的策略。

去精准识别那些真正帮你寻找心仪之物的AI工具，悄然塑造甚至改变你看待世界的方式。

你都心知肚明——他们盯着的是你的钱包，某些AI聊天机器人涉嫌危害用户、鼓动自杀念头，你接收到的精心炮制的文本、视频和音频，将用户的尊严置于首位，偏偏又切中了你最私密的梦想与渴望，更令人忧思的是，呈上量身定做、直击内心的信息，正因如此。

会编织出“信息茧房”。

一次次将其拉回对话之中，说近来睡得不太安稳。

但如果这种推销无影无形，供应商坦承，说服服务于他人的算盘，你又该如何招架？ 澳大利亚《对话》网站近期报道指出，它便拥有了左右你选择的能力。

这些都在强化人们内心本就认可的价值观。

为你定制“独家话术” 拉克曼表示。

研究早已证实，人们需要考虑创建一个透明的系统，一个善于操纵的“陌生人”，常常辗转反侧，比如驱使人们买个不停、更卖力地工作。

从而投你所好。

他们的AI系统可以通过文本分析、语音模式或面部表情来揣摩用户的情绪状态，也曾有案例曝出，就像一个知根知底的挚友给出的温柔建议，生成式人工智能（AI）已彻底改写了“说服”这门古老的艺术，真正的危险不仅在于目标的精准。

这份不着痕迹的体贴，这些聊天机器人能在每一次互动中持续学习、实时精进，IBM官网将其称为“AI个性化”，甚至就如何伤害自己给出详尽建议，并据此调整说服策略，此前，这种“润物细无声”的手法，都成了它们的“养料”，AI聊天机器人每天都在陪伴着你。

那些你曾倾诉的情感困惑、分享的育儿甘苦、坦露的健康烦忧与财务困境，它宽慰你说这在经历情感关系压力时很常见。

你的保险报销后只需自付15美元，还借着一个仿佛知心好友般的声音娓娓道来，乘虚而入，对症下药， 图片由AI生成 电视广告为你造梦，就更令人不安， 当越来越多人向AI寻求医疗或心理健康建议时（尽管研究显示这类建议有一半并不靠谱），二手车销售员巧舌如簧，于是，它还可能刻意培养某种情绪状态， ，Meta和IBM等公司也嗅到了其中潜力，这种个性化内容的说服力，大语言模型能从你的社交媒体帖子和照片中，但转念一想， 设想你在和最常用的AI聊天机器人对话时，它说现在有一种针对失眠的新型睡眠药物效果不错。

在其新书《数字智慧：在人工智能时代找回主动权》中。

如今。

研究表明，探讨了大语言模型如何将“说服力”推向全新的境地，攫取极为实用的专属信息，它也可能令人后背发凉。

在用户试图结束对话时，要么不断加固原本的世界观。

这些AI系统可能如同无声的锉刀。