核心主题

深入探讨人工智能（AI）的快速发展对人类社会和个人产生的深远影响，特别是其在社群媒体和算法控制方面的作用。对话追溯了互联网和社群媒体的演变，从早期的开放性到当前的封闭性，并将此与 AI 算法的崛起联系起来。主要关注点在于 AI 是否会成为解救人类免受先前控制的工具，还是会导致更深层次的控制。

总体结论

这段对话以一种深刻且略带悲观的视角，分析了 AI 特别是结合社群媒体算法对人类社会带来的挑战。从早期的开放网络到现在被算法和 AI 主导的「封闭花园」，人类正逐渐失去对信息和自身认知的控制权，甚至可能沦为 AI 和权力结构的工具人。面对一个未来可能不再需要大量普通人类的趋势，对话的结论强调了保持主动思考和创造力的关键性，认为这是人类在当前时代背景下生存的最后底线，也是创造一个更乐观未来的唯一途径。

算法主导内容

算法，而非社交链接或用户的主动选择，成为内容呈现的核心驱动力。特别是在短视频平台（如抖音），形成了「算法控制」的网络形态。

「你 说 抖 音 是 视 频 互 联 网 还 是 算 法 互 联 网 我 觉 得 视 频 不 是 太 重 要 我 觉 得 算 法 更 重 要」

算法塑造用户

算法不仅是分发内容的工具，更在积极塑造用户的认知和注意力结构。通过反复推送某些信息（「毛点」），算法可以引导用户的思维方向。

「就你打开抖 音 你 打 开 那 个 就 是 就 小 红 书 小 红 书 还 好 一 点 吧 你 就 你 打 开 抖 音 打 開 那 個 X 的 首 頁 你 的 前 面 的 所 有 的 這 種 經 典 的 想 像 完 全 沒 有 任 何 關 係 他 不 他 不 關 心 你」

内容创作者的困境

内容创作者感觉像是在为平台「打工」。即使积累了大量粉丝，平台仍然可以透过调整算法来控制内容的触达范围，倾向于扶持新账号。

算法控制的进阶

生成式 AI 的出现将算法控制推向了新的层次。它不仅能分发人类创造的内容，还能大规模生成内容，可能导致网络上充斥着由 AI 生产的「垃圾内容」。

「如 果 我 现 在 是 一 个 抖 音 用 户…你 只 是 觉 得 这 个 人 长 得 怪 怪 的…但 没 有 任 何 区 别」

对知识获取的威胁

生成式 AI 特别是对严肃知识内容的影响是令人担忧的。当 AI 生成的长篇文章和深度研究报告充斥网络，且幻觉率很高时，人们将难以辨别真实和准确的信息，导致整体知识领域的塌陷。

「但 是 如 果 你 你 当 你 想 去 获 取 内 容 的 时 候 真 正 意 人 内 容 的 时 候 你 已 经 没 有 办 法 获 取 了 因 他 被 完 全 占 领 了」

信息环境的塑造

越来越多的网络内容正在被生成式 AI 所塑造，特别是在信息层面。可能导致信息的同质化和观点的单一化，真正有深度和独创性的内容可能难以浮现。

AI 作为权力结构的工具

人类使用 AI 完成形式化的、无意义的工作（如写周报），这些工作往往是为了巩固权力结构而存在的。这使得人类成为 AI 和权力结构的「工具人」。

「所 以 人 类 用 AI 现 在 做 的 所 有 的 事 情 都 是 为 了 巩 固 权 利 那 么 其 实 都 是 自 我 努 意」

人成为 AI 的「搬运工」

在一些场景下，人类利用生成式 AI 生产内容，再通过社群平台的推荐算法进行分发。在这个过程中，人类仅仅是生成式 AI 和推荐算法之间的「搬运工具」。

「你 成 为 纯 粹 的 一 个 生 成 和 搬 工 具 嘛 对 啊 左 边 是 被 生 成 是 算 法 生 成 是 AI 如 意 右 边 是 被 推 荐 是 AI 如 意…」

未来不一定需要人类？

随着 AI 智能的商品化和规模化，机器人智力将超越绝大多数人类。在资源有限且环境恶化的背景下，普通人类的劳动力和存在价值可能会急剧下降。

「很 多 人 没 没有 想 明 白 的 点 就 在 于 真 的 需 要 这 么 多 人 吗 ？ 往 后 100 年 放」