中心化 AI 的未来：你就是产品，让股东价值最大化

撰文：drnick

编译：深潮TechFlow

在不改变现有路线的情况下，人工智能（AI）将成为极端集中化的工具，这是真正的风险。人工智能的开发时间超过了我们每个人的生命历程，但我们恰好生活在经历“技术触发点”的时代，在这一点上，AI的技术进步呈指数级增长。许多新加速主义者对此摩拳擦掌，兴奋地说：“让我们看看会发生什么。”

那么，在我们当前的道路上，将会发生以下情况：

工业化数据采集

这只是我们在过去20年在互联网上看到的事情的延续。一切都关乎数据，就这么简单。对于AI来说，这一点比以往任何时候都更为准确。从历史上看，从用户那里提取尽可能多的数据的目的是为了通过微目标广告吸引你的注意力。但现在，目的是为了改善AI模型。

中心化的AI是一场军备竞赛。最好的模型获胜。在这一点上，赚钱只是额外的好处。目前，关键是技术进步和占据思维份额。这种新的驱动力——最佳模型或破产，将使我们在重要性的排序中远远落后。不惜一切代价取胜。

数据前沿（LLMs之后）

数据前沿已经完成，主要的前沿模型已经数据挖掘并抓取了互联网上可用的整个人类语言历史，几乎包括了一切。

有了LLMs之前和之后，我们在数据质量上已经越过了界限。现在，数据质量正在崩溃。不加选择地抓取互联网只会从现在开始损害你的模型。

为什么？因为现在互联网充斥着由GPT生成的杂乱信息。这就是为什么Claude认为它是GPT。这就是你为什么在处处都能看到“深入研究”这个词，这就是为什么像这样的平台充斥着无休止的带有项目符号的清单式帖子，它们存在于不可思议的谷地中。

你的数据对生活在“抓取公共数据”中的中心化AI公司来说是一个大问题。这就是为什么模型变得愚蠢，甚至可能导致“模型崩溃”，因为模型最终会陷入自我反刍的末日循环。

现在，获取新的人类数据成了游戏，而这正是AI助手所追求的目标。

你就是产品

也许你认为我们已经达到了“你就是产品”的巅峰时代，但请再想一想。

通过将它们整合到你的日常生活中，当你与你的AI讨论你未来的计划、待办事项清单、心理健康、孩子的睡前故事、购物清单、本地文件、健康数据等时，在后台，有一个人工智能正在对你进行训练，关于你的数字孪生。

你的数字孪生在那里帮助你，或者你将被引导相信这一点。通过方便的面纱，你的助手正在为数据开采你。最终他们将开启产品植入。他们将转售你的数据。不仅仅是你的原始数据，还将预测你将购买什么，预测如果发生某些事件，你将如何行动。预测我们所有人如果做X，那么会Y，然后是Z，将如何行动。这将是我们从未见过的大规模操纵，而我们已经见过很多了。

新的真理神谕

随着助手成为操作系统，他们将成为你进入信息世界的新门户。我们将越来越远离原始来源，甚至是二级来源，新的来源是模型。现实的新战场是系统提示。

董事会里少数几个人将决定你能读什么，你应该如何思考，你应该如何行为。他们将决定什么是可接受的文化，什么是容忍的阈值，董事会是新的道德框架堡垒。

政府、游说团体和由Doge资助的智囊团将向这些董事会施压，以限制你的表达自由，所有这些都是以“安全”和国家安全的名义进行的。思想将变得危险，Meme将变成非法。在任意缩减的“一种各式”多样性政策的名义下，事实的准确性将消亡。

自动化是一场游戏

不要抱有任何幻想，替换工作就是重点，自动化是游戏。在未来几年中，全球劳动力中数亿甚至数十亿的工作岗位将被自动化技术取代。

这些“成本节省”将去向何处？

它们将通过寡头垄断的APIs进行路由，这就是它们为何处于战争状态。赌注很高，赌的是我们和我们的未来。由自动化浪潮带来的激进社会变革是对社会的真正风险，而不是AI或回形针生成器，这是我们这个时代最大的心理战。

监管俘获

政策制定者与AI研究人员之间的知识差距将被利用来推销科幻结局。由于我们处于LLM数据后时代，一切都可以被窃取，也已被窃取。现在是时候拉起吊桥了，现在是时候执行版权法了，现在是时候实行KYC GPU 访问了，现在是时候安装需要在你能发布代码之前查看所有代码的合规机构了。

合规成本越高，市场新进入者就越难，寡头垄断的护城河就越深。

害怕AI，不要看那些为了利润而剥削人类的大公司。但是，新模型刚刚发布了，它将取代你的工作。

我们第一次听到新创新是从经过AB测试的企业发布视频中，这些视频设计有细微的柔和色调，让我们感到安全和舒适。我们看不到任何即将到来的事物，因为它们隐藏在保密协议的门后。

新技术从黑匣子中爆炸性地涌现出来，没有时间准备，没有时间讨论其含义或影响，新品上线，快来参与吧。封闭源代码的AI是他们的隐私，但不是你的。

日益加深的数字鸿沟

如果你能负担得起，你将获得每月20美元的限制模型，这些模型依赖于你的提示。他们将获得快速、私人、不受限制、直接从源头获取的无限制模型，数字优势秘密出售给最高出价者。

也许你足够幸运，在家中拥有 GPU 能力和技术知识，可以驾驭开放模型前沿，但您可能会被允许使用的任何消费者模型所困扰。而这还是建立在你还被允许的情况下，很有可能你已经因为询问你不该问的问题而被禁止使用三大AI之一。也许是因为你敢于使用VPN，或者只是让它工作过度而让他们在你的账户上亏损。这并不重要，重要的是你已经因为违反了条款和条件而受到了惩罚。如果你已经进入了一个球体，祝你好运能再次登录。对你来说，一切都结束了。

你看不到“香肠”是如何制作的。

在幕后，人工智能远比大多数人想象的更加人性化，因为这个循环中有人类。事实上，他们通常是这个星球上最廉价的劳动力，从事数据标注工作，以推动人类反馈强化学习（RLHF）。GPT喜欢说“深入探索”，因为被支付不到每小时2美元来筛选有毒内容的尼日利亚劳工也经常使用“深入探索”。亚马逊最近从他们的杂货店中搁置了“只需走出门”AI结账系统，因为它过于依赖于对商店监控摄像头中购物人群进行数据标记的廉价印度劳动力。

Sam的worldcoin 物理设备很可能首先去到全球南方，因为那里实际上是这个星球上最廉价的劳动力来源。被虹膜设备采集数据的人，价值被注入了低流通的垃圾币，就像是为工厂制作香肠提供了来源。现实是，像这样的AI工作对于改善这些系统至关重要，但大公司将通过利用现代奴隶劳动力来最大化股东价值。

人类不会胜出，而股东会。

集中式人工智能最深层次的问题就在于此。这些实体有法律义务不择手段地实现股东价值最大化。在所有应该以人为本的事情中，这就是问题所在。如果人工智能中介世界的未来是由股东价值最大化驱动的，那我们就有大麻烦了。

开放、私有和去中心化

我知道情况很严峻，但还是有希望的。幸运的是，在过去的十年里，我们一直在构建我们现在需要的工具。我们可以引导前进的方向，我们可以通过真正开放的人工智能做到这一点。

AI不应该被中心化的公司控制。它应该由民主开放和去中心化的系统来管理。

AI 是自由的、开源的，这就是为什么已经存在可在私人和本地运行的开放模型，而且我深信，在足够长的时间内，这些东西将超越并击败中心化系统。

AI 可能是我们遇到过的最好的事情，它可以成为通过真正的商议感知和释放集体智慧来开启大规模协作的途径，它可以成为解决我们在没有它的情况下永远无法解决的问题的途径，包括我们这个时代最大的问题。这是当前世界上最重要的问题，我希望我们能够共同努力解决它。