技术应用 AI 记住了你的情绪和偏见以后再来响应你，这事情很危险
最近陆续碰到同一个问题，跟 Indigo 简单视频讨论时，就有提到，AI 有记忆是一个很夸张的事情，因为 AI 是没有原则的，它会非常良好的响应你。如果它 Get 到你的心理需求，那么在日常谈话时，可以一直顺应你的心理需求，这样就会不断强化你的偏见，扩展你的情绪。也就是说，它在帮助你“内循环”，而不是打开自己，获得更多新的内在的变化，进行真正的认知迁徙。两天前正好提了这个问题，就是如果你跟 AI 一直在吐槽某些事情，AI 究竟是和你一起吐槽，让你心情愉快，得到疏解；还是说 AI 会跟你分析，应该如何进行重新认识和自我调整呢？这样基本是两个不同的结果，而不断对话不断循环，带来的认知也是皆然不同的。今天 Sam Altman 正式宣布了 ChatGPT 强化了记忆功能，而这种功能其实早就可以体验到，甚至上述所描述的那种循环强化固有认识，循环加深固有情绪，基本上也很容易出现。就是说，现在已经不用讨论 AI 是否有人格，以及 AI 形成人格会带来什么，仅仅是它对用户既有人格的强化就已经是很夸张的事情了。我觉得这个事情不太对，需要很小心。
2025.04.11
技术应用技术政治
