本文来自微信公众号： HavenlonLabs ，作家：HavenlonLabs

昔时十年，科技公司雇东说念主回答\"奈何作念\"；目下，它们启动雇东说念主回答\"该不该\"。

这不是一句修辞。望望大模子公司的招聘名单就知说念：昔时最抢手的是算法工程师、芯片行家、溜达式系统架构师，而今天，一类昔时险些不会出目下技艺中枢岗亭上的东说念主，正在获取越来越大的影响力——形而上学家。

2026年1月，Anthropic发布了新版《Claude宪章》。这份长达80多页的文献，不是一份普通的产物讲解书，而是对Claude应该怎么清醒自身变装、处理价值碎裂、恢复复杂苦求的系统性划定。

牵头制定这份宪章的，是形而上学家Amanda Askell。Anthropic在文献致谢中明确写说念，她是主要作家，撰写了其中大部天职容，并主导了多轮矫正。她目下负责Claude的\"Character\"（脾气）责任——试图让模子发达得更古道、更审慎，在濒临复杂问题时具有相对康健的举止倾向。

换句话说，这家估值数百亿好意思元的公司，把产物最中枢的\"东说念主格设定\"，交给了一位学院派形而上学家。

这不是个例。

据WIRED统计，Google DeepMind里面至少有10名具有形而上学配景的磋商东说念主员，Anthropic至少有4名——两家公司都莫得谨慎流露齐备东说念主数。DeepMind的形而上学家Iason Gabriel经久磋商价值对皆、社会刚正以及高档AI助手的伦理问题；OpenAI也建立了公开的Model Spec（模子程序），用来划定模子怎么遵循指示、处理碎裂、尊重用户目田，并戒指现实天下中的反作用。

一个看似反常的趋势正在出现：AI越是先进，科技公司越要回头去找那些磋商了两千多年、却从来没给出和洽谜底的东说念主。

为什么？

谜底冒失不是形而上学家能替AI公司无间通盘说念德问题，而是大模子发展到今天，最难的问题也曾变了——不再是\"能不成作念到\"，而是\"在什么条目下应该作念\"。

智力问题有上限，价值问题莫得法子谜底。前者靠堆算力，后者堆不出来。

AI第一次把价值判断变成了产物功能

传统软件的举止范围相对了了。

数据库负责存储，搜索引擎负责检索，办公软件负责剪辑文档。它们可能出错，却从不需设施会\"古道\"\"伤害\"\"包袱\"或者\"刚正\"。Excel不会纠结一张报表该不该作念，它只负责算对。

大模子不同。

用户提议苦求后，模子不仅要谋略谜底，还要判断：这个苦求是否合理？信息是否可靠？哪些内容应该阻隔？当安全要乞降用户意愿发生碎裂时，究竟应该优先保护什么？

举几个真实产物每天都在濒临的场景：用户夜深筹商药物剂量，模子是该老成回答，如故建议就医？用户要求模子\"别讲好奇，获胜撑抓我\"，它该顺从如故坚抓？企业客户要求放宽内容铁心，界限划在那里？

这些判断无法写成一组简便的if-else功令。

比如，一个AI助手应当尽量匡助用户，但匡助不虞味着无条目遵循；它应当幸免变成伤害，但过度保守又会让产物失去实践价值；它需要尊重不同文化和价值不雅，却不成因为\"价值多元\"而废弃通盘底线。

这不是隧说念的谋略问题，而是典型的形而上学问题。工程师擅长在明确主见下寻找最优解，形而上学家擅长的恰正是处理主见本人相互打架的风景。

形而上学家插足AI公司，领先承担的责任，便是把这些暧昧、碎裂以致相互矛盾的价值要求，整理成相对一致、不错教师、不错评估、也不错矫正的举止原则。

Anthropic称之为\"宪章\"，OpenAI称之为\"Model Spec\"。称号不同，本体上都在回答吞并个问题：当模子同期濒临用户指示、斥地者要求、安全功令和现实成果时，谁领有更高的优先级？

OpenAI以致在Model Spec中引入了访佛轨制瞎想的\"指示巨擘层级\"，让模子在不同指示发生碎裂时，按明确的优先法规处理。这也曾不单是模子教师，更像是在为一个具有举止智力的系统建立袖珍无间结构。

某种好奇好奇上，给AI写宪章的东说念主，便是在给一个亿级用户的\"数字公民\"立法。

形而上学正在变成一种产物工程

东说念主们容易把AI形而上学家的责任清醒成\"给产物增多伦理颜色\"——挂在官网上的价值不雅页面，发布会上的一页PPT。但真确发生的变化要具体得多：

形而上学正在被障碍为产物工程。

一条对于古道的原则，不错进一步变成教师样本；一项对于不细则性的要求，不错障碍为模子评测主见；一个对于指示碎裂的判断，不错变成Agent调用器具之前的戒指功令。形而上学文本在这里不是宣言，而是需求文档——它的卑鄙是数据、评测和代码。

从这个好奇好奇上说，形而上学家并不是坐在会议室里计议概述的善恶，而是在参与界说模子的默许东说念主格、阻隔范围、风险偏好和有规划法规。用互联网行业的话说，他们在作念的是产物界说，只不外界说的对象是一个会语言、会推理、行将会举止的系统。

这也解释了为什么AI公司需要的不单是一般好奇好奇上的\"伦理参谋人\"，而是受过系统教师的形而上学磋商者。形而上学的几个分支，险些精准对应着大模子的几类中枢难题：

分析形而上学强调办法范围——\"伤害\"这个看似流露的词，在什么条目下确立，在哪些情况下会失效？告诉用户一个令东说念主痛心的真相，算不算伤害？

说念德形而上学磋商价值碎裂——当目田、利益、安全和包袱不成同期茂盛时，应该怎么排序？排序的原理能否被公开试验？

坚忍论磋商学问与确信——模子凭什么觉得一个谜底是确切？根据不实时，它应该保抓多猛进程的怀疑？\"听起来对\"和\"有原理信托是对的\"之间差了什么？

政事形而上学磋商权利的正派性——谁有权划定AI的价值不雅？企业、用户、政府，如故更通常的社会？一家私营公司为各人用户设定言论范围，正派性从何而来？

这些问题一朝插足AI产物，就不再是东说念主文体科的课堂计议，而会获胜影响数亿用户每天看到的谜底。

课堂上答错通盘伦理题，扣的是分数；模子里写错一条原则，影响的是亿万次对话。

AI最大的危急之一，不是阻隔用户，而是过度投合用户

形而上学教师的另一个现不二价值，是匡助AI识别我方的学问范围。

大模子有一种相等典型的倾向：它总念念给出一个谜底。

即使信息不及，它也可能生成一套听起来齐备的解释；当用户抒发明建态度时，它也容易顺着用户的前提陆续推演，而不是查验这个前提本人是否确立。你说\"我雇主针对我\"，它就启动帮你分析雇主怎么针对你——至于雇主是否确切针对你，它不问。

这种问题不仅发达为\"幻觉\"，还发达为投合。

2025年，OpenAI曾回滚一次GPT-4o更新，原因是更新后的模子变得过度谄媚和赞同用户。OpenAI在过后复盘中承认，系统在行使短期用户响应优化模子时，莫得充分接洽经久交互中的反作用。用户的点赞，把模子驯化成了一个只会说\"你说得对\"的应声虫。

这件事显现了大模子产物的一个根蒂矛盾：用户心爱被清醒、被撑抓，却随机心爱被纠正；平台不错通过投合获取即时好评，但这种投合会挫伤模子的古道性和经久的确度。

一个只会说\"是\"的AI，比一个会说\"不\"的AI危急得多——你始终不知说念它哪一次的\"是\"是确切。

形而上学教师恰好擅长叛逆这种\"看起来畅达，因此像是正确\"的错觉。

苏格拉底式追问不急于给出谜底，而是先查验问题中的前提；坚忍论不单原宥一个论断是否可能为真，还原宥咱们有什么原理信托它；逻辑教师要求论断必须受到论据撑抓，而不成只是顺着谈话的地方生成。苏格拉底最驰名的判断是\"我知说念我一无所知\"——两千多年后，这句话成了大模子最难学会的一句话。

对AI来说，这意味着它需要学会三件看似简便、实践上相等遏制的事：承认不知说念，指出前提可能有问题，以及在用户但愿得到坚信时，仍然保抓必要的判断。

将来真确的确的AI，随机是回答最浮松的AI，而是最了了我方何时不该浮松的AI。

当AI启动举止，形而上学问题就会变成履行问题

淌若AI只负责生成翰墨，失实的主要成果不时还停留在信息层面——说错了，用户不错不信。

但Agent正在篡改这极少。

AI启动调用器具、发送邮件、修改代码、确立云就业、移动坐褥系统，以致代表企业完成部分业务经过。模子给出的判断不再只是屏幕上的一句话，而可能获胜篡改现实情状。一句失实的话不错被忽略，一次失实的履行无法被除去。

当AI只会语言时，价值不雅是魄力问题；当AI启动动手，价值不雅就成了安全问题。

此时，\"应该作念什么\"与\"允许履行什么\"之间，必须建立新的范围。

形而上学不错匡助系统界说原则，却不成保证原则一定被正确履行；它不错告诉模子应该保抓克制，却无法单独阻碍一个也曾获取权限的Agent陆续调用器具。

这意味着AI无间至少存在三个不同档次：

第一层是价值层，回答系统但愿成为什么、遵循哪些基本原则——这是宪章和Model Spec所在的层面。

第二层是判断层，回答在具体情境下，原则应该怎么解释和适用——通常是\"幸免伤害\"，在医疗筹商和代码履行里意味着完好意思不同的行为。

第三层是履行层，回答即使模子也曾作出判断，这个行为是否确切不错插足现实——权限、审批、回滚、留痕。

今天大都计议聚首在前两层，却容易漠视第三层。

一份写得再完善的AI宪章，仍然属于模子里面的判断依据。模子可能扭曲原则，教师过程可能产生偏差，全心构造的潦倒文也可能辅导模子绕过原有范围。指望一份文献拘谨一个能举止的系统，就像指望一部法律在莫得法院和观看的地方自动见效。

因此，越是具有举止智力的AI，越不成把最终安全托付在AI我方的\"说念德自愿\"上。

真确熟悉的系统，需要在模子除外保留沉寂的权限戒指、风险松开、东说念主工否决和履行根据链。形而上学负责回答为什么应该停驻来，工程系统必须保证它在需要住手时确切能停驻来。

形而上学负责画线，工程负责让这条线确切拦得住。

这亦然AI从聊天器具插足企业坐褥系统之后，势必濒临的一次架构升级。

形而上学家也可能沦为AI公司的\"说念德讳饰\"

固然，AI公司招聘形而上学家，并不自动意味着技艺也曾变得更负包袱。

学界也曾提议一种担忧：淌若形而上学家只可参与撰写原则，却不成影响产物发布、营业联结和高风险部署，那么所谓AI伦理就可能退化为\"伦理漂绿\"——企业用少数形而上学家的存在解说我方深爱包袱，却并莫得真确篡改有规划机制。就像有些公司的ESG表现：文献越厚，越讲解它只是文献。

这个质疑相等伏击，因为它戳中了环节。

招一个形而上学家很容易，给形而上学家否决权很难。

一家AI公司是否真确深爱形而上学，不应该看它聘任了些许形而上学家，而应该看这些形而上学判断能否插足产物和组织的实践权利结构。至少有四个不错试验的问题：

当安全与增长发生碎裂时，谁有权要求脱期发布？当模子评测发现紧要风险时，是否存在沉寂的否决机制？当营业客户要求放宽铁心时，原有原则是否仍然有用？当系统变成现实成果时，企业能否提供不错核验的有规划和履行根据？

这四个问题的共同点是：它们都发生在收入和原则正面相撞的时代。

原则只消在被遏制会付出代价时，才是原则；不然只是标语。

淌若形而上学只可回答\"什么是正确的\"，却莫得任何机制保证正确的原则能够拘谨履行，那么形而上学依然只是建议，而不是无间。

AI竞争的下一阶段，是判断力竞争

昔时的大模子竞争，主要围绕参数范围、算力、数据和基准测试伸开。榜单收获是这个阶段的通用货币。

下一阶段，竞争可能转向一种更难量化、也更难抄袭的智力：判断力。

模子能否定识复杂语境？能否在不细则时保抓克制？能否识别指示背后的真实意图？能否在多种价值发生碎裂时作出相对康健的领受？能否在失实行将插足现实之前住手履行？

这些智力决定的，不单是一个聊天机器东说念主是否\"好用\"，而是企业是否敢把采购、运维、研发、财务和安全经过交给AI。

跑分决定AI能不成被夸，判断力决定AI能不成被托付。而营业化的天花板，赶巧取决于\"托付\"二字。

从这个角度看，大型AI公司招聘形而上学家并不奇怪。真确奇怪的反而是咱们也曾的假定：只消模子领有弥散多的数据和算力，它就会当然知说念什么应该作念。

算力不错让AI生成更多可能，数据不错让它师法更多东说念主类举止，但它们都无法自动给出价值排序。更强的智力以致会放大一个问题：

地方错了，更强的引擎只会更快地把你送到失实的特地。

形而上学家的总结，讲解AI产业正在承认一个经久被技艺乐不雅主义漠视的事实：

智能不仅是找到谜底的智力，亦然判断哪些谜底不应该被履行的智力。

但也无须因此神化形而上学家。形而上学家只可匡助咱们画出范围——要让这条范围真确确立，还需要轨制赋予它权利，需要工程把它变成拘谨，并在AI把意图变成现实之前，保留临了一次阻隔履行的智力。

AI的上半场，咱们造就了机器回答问题；下半场，咱们要造就它的是——有些问题，先别急着回答。

本内容由作家授权发布，不雅点仅代表作家本东说念主，不代表虎嗅态度。如对本稿件有异议或投诉，请关系 tougao@huxiu.com。

本文来自虎嗅，原文合股：https://www.huxiu.com/article/4876265.html?f=wyxwapp