第四篇：Architectural Stewardship｜架构管家职分

Substack 文章系列 · 第四篇 · 作者：三一棱镜 · 全文逐字收录

原文

以下为作者原文，逐字收录，未做改写。

Architectural Stewardship｜架构管家职分

If AI can do almost anything, who decides what it should do?

If AI can do almost anything, who decides what it should do? AI越来越会做事情：它可以写、可以研究、可以分析数据、可以调用工具、可以规划任务，甚至可以自己把一个复杂目标拆成很多步骤，然后一直执行下去。所以我们很容易问：“What can AI do? AI还能做什么？”但最近我越来越觉得，这可能已经不是最重要的问题了。真正的问题是：“What should we let AI do? 我们应该让AI做什么？”再往下一层：谁决定？谁设定目标？谁设计系统？谁规定边界？谁决定什么应该被优化？谁决定什么不能被优化？最后，谁承担后果？

这让我开始使用第四个概念：Architectural Stewardship｜架构管家职分。“Architectural”不是单纯指技术架构，它指的是决定一个系统如何运行，以及这个系统将把什么样的价值带入现实；而“Stewardship”也不是拥有，管家不是主人，管家管理的是自己受托的东西，并且最终要对自己的管理负责。这两个词放在一起，就产生了一个我很在意的角色：不是AI的使用者，也不是AI的竞争者，而是AI系统的管家。

我们过去很容易把人的工作理解成“执行”：机器负责重复，人负责思考。但Agentic AI正在改变这个分工，机器开始思考、规划、调用工具、执行。于是，如果我们仍然把人的价值定义为“比机器更会执行”，这个位置很快就会变得越来越狭窄。也许人的位置正在往上移动：从Task（任务）到Goal（目标），再到Architecture（架构），最后是Meaning（意义）。机器越来越擅长问“How do I accomplish this? 我怎样完成这个目标？”，但人的责任越来越集中在：“Why are we doing this? 我们为什么要做这件事？Should this be optimized at all? 这件事真的应该被优化吗？What must never be optimized? 有什么是绝对不能被优化的？”

这就是Architectural Stewardship。它意味着你不只是决定使用什么AI，你开始决定：AI可以进入哪里，AI不能进入哪里；什么可以自动化，什么必须保留人的判断；什么数据可以使用，什么信息不能被牺牲；什么目标值得追求，什么目标即使能够实现，也不应该成为目标。这时候，AI伦理就不再只是一个“原则问题”，它开始变成一个架构问题——因为价值观如果没有进入系统结构，最后很容易只剩下一份写得很漂亮的伦理声明。这也是我为什么越来越警惕一种趋势：把所有人的判断都压缩成Prompt。Prompt很有用，但人的责任不能被压缩成Prompt。一个真正重要的判断，往往不只是“怎样告诉AI我要什么？”，而是“我为什么要让这个系统存在？”，这两者之间有很大的距离。

所以我现在越来越喜欢一个简单的分工：AI负责能力，人负责方向；AI负责执行，人负责边界；AI负责扩大可能性，人负责判断什么值得成为现实。这并不是说机器永远不能参与判断，而是说：能力越强大的系统，越需要清楚的责任结构。而这里，我又回到了一个很古老的概念：Stewardship。人并不是世界的绝对主人，人是受托者；这意味着技术也不是单纯的“我的工具”，它是我们手里越来越强大的能力，而能力越大，管家的责任也越大。

所以在AI时代，我越来越不想成为一个单纯的“AI专家”，我更想学习成为：一个能够设计边界、守住意义、承担责任的人。因为最终真正重要的不是“How powerful is the machine? 机器有多强大？”，而是“Who is responsible for what that power becomes? 谁为这股力量最终变成的样子负责？”

三一棱镜 | The Triune Prism
Where heaven's language meets earth's logic.
Translator between theology & AI | Writing about what machines can't understand

逻辑胶囊

观察

AI 越来越会做事情：写、研究、分析数据、调用工具、规划任务，甚至自己把一个复杂目标拆成很多步骤，然后一直执行下去。我们很容易问“What can AI do? AI还能做什么？”，但真正的问题是“What should we let AI do? 我们应该让AI做什么？”再往下一层：谁决定？谁设定目标？谁设计系统？谁规定边界？谁决定什么应该被优化、什么不能被优化？最后，谁承担后果？

解释

“Architectural”不是单纯指技术架构，它指的是决定一个系统如何运行，以及这个系统将把什么样的价值带入现实；而“Stewardship”也不是拥有——管家不是主人，管家管理的是自己受托的东西，并且最终要对自己的管理负责。这两个词放在一起，产生了一个角色：不是 AI 的使用者，也不是 AI 的竞争者，而是 AI 系统的管家。人的位置正在往上移动：从 Task（任务）到 Goal（目标），再到 Architecture（架构），最后是 Meaning（意义）。机器越来越擅长问“How do I accomplish this?”，人的责任越来越集中在“Why are we doing this? Should this be optimized at all? What must never be optimized?”。这时候 AI 伦理就不再只是一个“原则问题”，它开始变成一个架构问题——因为价值观如果没有进入系统结构，最后很容易只剩下一份写得很漂亮的伦理声明。

应用

AI 负责能力，人负责方向；AI 负责执行，人负责边界；AI 负责扩大可能性，人负责判断什么值得成为现实。Prompt 很有用，但人的责任不能被压缩成 Prompt——真正重要的判断往往不只是“怎样告诉AI我要什么？”，而是“我为什么要让这个系统存在？”。能力越强大的系统，越需要清楚的责任结构。人并不是世界的绝对主人，人是受托者；技术也不是单纯的“我的工具”，而是我们手里越来越强大的能力，而能力越大，管家的责任也越大。在 AI 时代，最终重要的不是“How powerful is the machine? 机器有多强大？”，而是“Who is responsible for what that power becomes? 谁为这股力量最终变成的样子负责？”