01全文呈现
原文按自然段落编号 ①–⑭，保留原刊用词、拼写与标点（如 EAs’、longtermists 一仍其旧）。第 ⑪ 段前的 EA+AI=p(doom) 是原刊中的小标题。
1“THOUGHT precedes deed as lightning precedes thunder,” wrote the poet Heinrich Heine. So it has proved with effective altruism (EA), an ethical doctrine cooked up by philosophers in Oxford that has gone from the ivory tower to the corridors of power with remarkable speed. Effective altruists fill Silicon Valley, staff the world’s leading artificial-intelligence companies—and alarm the Trump administration. “The United States will never be an effective-altruist country,” pledged the Pentagon. The secretary of war brands the philosophy “defective altruism”; others in the administration call it “dystopian”. Take those attacks as a sign of its influence.
2Some complain that the 21st century has seen little fresh thinking. Into the void have stepped MAGA and Co, making nostalgic populism the century’s big political project. But the century’s big idea is effective altruism. As we report (see International section), what began in the 2000s as a geeky way to make charitable giving more cost-effective has changed into a movement that subjects the world to complex, even bizarre, moral calculations. For many of its adherents, the urgent ethical requirement for people who want to do good is to stop artificial intelligence from wiping out humanity.
3EA is sociologically important, too. EAs are not numerous, but the idea has swept up a generation of gifted youngsters who have made fortunes in cryptocurrency and AI. As the technology mints more billionaires, effective altruists will channel billions of dollars to causes that will shape society. EAs helped start OpenAI and Anthropic, the leading labs, in the belief that those who understood the dangers of AI should control its development. To a degree, they now do—though, ironically, by creating more labs, and thus competition, they have probably accelerated AI’s progress.
4And all this has now made EA politically important. The Trump administration fears the movement will succeed in throttling AI. It has feuded with Anthropic over the firm’s refusal to let its models be used for some military purposes. Leading EAs acknowledge that AI may prove hugely benign, but nonetheless want to slow its development, to reduce the chance that an unstoppable machine-brain runs amok in pursuit of goals that are “misaligned” with those of humanity.
5Some critics in America would rather accelerate the technology, to prevent China from winning the race. But when attacking AI doomerism they find it easier to play the nerd than the ball. They say that effective altruism is a movement of fanatics that is variously undemocratic, dangerous and cultish. That is too crude. The movement’s charitable roots are obviously praiseworthy. Like The Economist, EAs are committed to empiricism and, especially since they blended with the online “rationalist” community, the application of logical thinking. They hold reason in higher esteem than tradition or norms and will enthusiastically debate any topic, however controversial, in pursuit of the truth.
6EAs’ repeated success in predicting the rapid progress of AI has been impressive, too. They have a point about the technology’s risks to humanity. On September 28th OpenAI scrapped plans to release its latest model after it appeared too dangerous to test. Many recent safety incidents resemble scary scenarios set out on effective-altruist blogs years ago.
7Yet the critics are right to warn that effective altruists reach some odd conclusions. Like the utilitarian philosophers before them, EAs boil ethical behaviour down to an optimisation problem. How can people bring about the best outcomes for humanity as a whole? Their calculus downplays local imperatives such as “keep promises” or “look after your family”. What matters is reducing suffering, impartially and everywhere.
8That leads them to factor a very wide circle of concerns into their moral calculations. It is easy to see how being ethical means helping your neighbour. EAs ask: why not work as hard to help those far away? Early on, the movement directed its army of overachievers to take high-paying jobs in finance and consulting. Their wealth could buy good works, achieving more than if they became charity workers themselves.
9But as it has become stronger, EA has become stranger. Some EAs see the moral distinction between humans and other animals as weak, because animals experience suffering. Stopping factory farming and helping shrimp are major concerns. Likewise, they have a counterintuitive approach to time. Those not yet born should be weighed in the balance—and there could be trillions of them. Many EAs are “longtermists” who feel bound to forestall risks in the distant future, even if that starves today’s good causes, such as helping the desperately poor.
10Pushed to an extreme, this calculus can lead to a morality that is not just counterintuitive, but repugnant. Some EAs think that insect life is, in aggregate, more valuable than human life, because there are so many insects. Some say it would be better to bring about the existence of trillions of humans whose lives are barely worth living than to have mere billions with genuinely good lives. Others even think the welfare of AIs themselves will one day be of vital importance. They would redirect resources towards future humans or nonhumans, and away from people suffering today.
EA+AI=p(doom)
11It is right to revere reason. But moral philosophers from Aristotle to Rawls knew that if an argument leads to intolerable places, it must have a hidden faulty step. EAs’ instinct, though, is to enjoy counterintuitive conclusions, even if they seem perverse. A problem is the margins of error that inevitably accompany effective-altruist arguments. Nobody is truly capable of weighing up moral quandaries involving billions today, let alone gigantic sums stretching into the future, involving uncertain numbers of people, discount rates, the progress of technology, and countless other variables. Another is that extinction is so dire that in a crude moral arithmetic even a small chance of it overpowers today’s flesh-and-blood concerns.
12A third is that in weighing up the interests of billions, you lose sight of the inherent dignity of the individual. Anyone wielding a spreadsheet and grandiose claims about the future of humanity is one step away from anointing themself as a central planner. Moral authority in hand, the rights, welfare and opinions of a neighbour can come to seem unimportant.
13The French revolution was supposedly founded on reason; it led to the execution of nuns. Lenin, too, thought that intellectuals who had mastered Marxism understood workers’ interests better than the workers themselves. If you truly believe that you act on behalf of all people, let alone trillions of future ones, you may end up justifying all sorts of atrocities.
14Fortunately, effective altruists are hardly about to bring back the guillotine. The fear instead is that controlling AI will eventually bring them great power, and that plenty of EAs in Silicon Valley think that only they can be trusted with the technology. That is an alarming idea. Effective altruists’ argument for worrying about really powerful AIs is that the machines could optimise for a single and fatally wrong objective. Everyone should worry, too, about what happens when a small group of people fall into the same trap.
02逐段对照精讲 + 全文翻译
① 开篇：从象牙塔到权力走廊
「思想先于行动，一如闪电先于雷声，」诗人海因里希·海涅写道。有效利他主义（EA）正是如此：这套由牛津的哲学家们炮制出来的伦理学说，以惊人的速度从象牙塔走进了权力走廊。有效利他主义者遍布硅谷、供职于世界顶尖的人工智能公司——并且惊动了特朗普政府。「美国永远不会成为一个有效利他主义国家，」五角大楼承诺道。战争部长给这套哲学贴上「有缺陷的利他主义」的标签；政府里其他人则称之为「反乌托邦」。不妨把这些攻击视为它影响力的证明。
开篇用一句引语代替铺垫，效率很高。海涅这句 Thought precedes deed as lightning precedes thunder 是「A 先于 B，一如 C 先于 D」的类比结构，把「思想走在行动前面」这条抽象的道理，落到雷声与闪电这个具体画面上——用自然现象给一个思想流派作开场，等于一上来就给了 EA「思想史上有一席之地」的规格。接着三个动词连用：fill（遍布）、staff（供职于，名词转动词）、alarm（惊动），力度逐级上升，从「人多」到「占据关键岗位」到「让白宫紧张」。cooked up 是带贬义的说法，意为「炮制」——注意《经济学人》在这里就藏了立场：它并不认为 EA 是一套自然生长出来的学说。from the ivory tower to the corridors of power 是全文第一个空间隐喻，「象牙塔→权力走廊」的位移把四十年历史压缩成一条线。收尾 Take those attacks as a sign of its influence 用的是反讽：官员骂得越狠，越说明这套学说已经让权力不得不回应。
② 定位：本世纪的大思想
有人抱怨 21 世纪没产生什么新思想。填补这片空白的，是「MAGA 及其同伙」——他们把怀旧式的民粹主义做成了本世纪的大政治工程。但本世纪的大思想，是有效利他主义。正如我们本周所报道的（见国际版），这件事始于 2000 年代，起初只是一群极客用来让慈善捐赠更具性价比的小把戏，如今已经变成一场运动，把整个世界交给复杂、乃至怪异的道德计算去处理。对它的许多信徒来说，想行善的人眼下最紧迫的伦理要求，就是阻止人工智能灭绝人类。
本段确立全文的定位框架。Into the void have stepped MAGA and Co 是完全倒装：正常语序是 MAGA and Co have stepped into the void，倒装是为了把 Into the void 顶到句首，与上一句的 complain 形成接续，同时让主语 MAGA 落在句尾获得重音。MAGA and Co 里的 and Co 是英式口语，等于「及其一伙」，带轻蔑。接着一个 But 把政治工程的「大」与思想层面的「大」区分开——political project 对 idea，这是全文最要紧的一次区分。what began… as a geeky way… has changed into a movement that… 是主语从句 + 定语从句的套叠，也是本篇第一句长难句（见第 ④ 节），结构务必拆清楚：geeky（极客式的）与后文 play the nerd（打书呆子）呼应，说明作者始终记得这群人的社会学形象。最后 wiping out humanity 用了个重词，第一次点出 EA 的核心关切，为第 ⑦⑧ 段的转折埋线。
③ 影响之一：一代年轻人的财富
EA 在社会学意义上也很重要。有效利他主义者人数不多，但这套思想席卷了一代才华出众的年轻人——他们靠加密货币和人工智能发了财。随着这项技术不断铸造出新的亿万富翁，有效利他主义者会把数十亿美元导流向那些将塑造社会的事业。他们帮助创办了两家领先的实验室 OpenAI 和 Anthropic，所持的信念是：懂得 AI 危险的人，才应该掌控它的发展。在某种程度上，他们如今确实掌控着——只不过讽刺的是，正因为多开了实验室、从而制造了竞争，他们大概反而加速了 AI 的进展。
视角从「思想史」转到「社会学」，这是社论扩大论证纵深的常规做法。swept up 意为「席卷、卷走」，用被动语态的主动含义，突出这群人是被大势裹进去的。mint 本义是「铸造硬币」，这里说技术「铸造亿万富翁」，把财富的产生写成流水线作业——一个词就点明了 AI 造富的规模感。channel… to（把资金导向）是金融与慈善报道里极高频的搭配。in the belief that… 引导同位语从句，说明他们创办实验室的动机；从句里 those who understood the dangers of AI 又是定语从句，两层套叠。全段最精彩的是最后一句：To a degree, they now do（他们确实掌了权）— though, ironically…（然而讽刺的是）— they have probably accelerated AI’s progress（反而加速了进展）。三重转折压在一句话里，而 by creating more labs, and thus competition 这个插入语是逻辑枢纽：他们的手段（多开实验室）与目的（放慢 AI）恰好相反。这正是社论最爱展示的那种「行动的自相矛盾」。
④ 影响之二：一场关于 AI 的政治博弈
而这一切又让 EA 在政治上变得重要。特朗普政府担心这场运动将成功扼杀 AI，并已与 Anthropic 交恶，起因是后者拒绝让自家模型被用于某些军事目的。EA 的领军人物承认 AI 可能被证明极为有益，但仍然希望放慢它的发展，以降低一种概率：一台无法阻止的机器大脑为追求与人类「目标不一致」的目的而失控。
第三层意义：政治。throttle 本义是「掐住喉咙」，引申为「压制、抑制」，用于技术监管语境极准确——注意它比 restrict 更带窒息感，作者选它是因为政府的恐惧恰恰是「被掐死」。feud with sb over sth（因某事与某人结怨）是新闻高频搭配，程度比 quarrel 重、比 fight 轻。acknowledge A, but nonetheless want B 是本段的论证骨架：作者刻意先写出 EA 的自我承认（AI 可能极好），再并列其主张（但仍要放慢），让这对矛盾自然浮现，而不作评论。machine-brain 是临时复合词，把 AI 拟人化为一颗大脑，带一点廉价科幻的味道，作者用它是在暗示 EA 的想象方式。run amok 是马来语借词，意为「失控乱闯」，常见于描写技术或暴力失去约束。最后一个词 misaligned 加引号，是全篇的术语标记——它是 EA 圈内的核心黑话（AI 的目标与人的目标没有对齐），作者打引号就等于说「这是他们的话」。
⑤ 先驳批评：踢书呆子，不踢球
美国的一些批评者宁可加速这项技术，以免中国赢得这场竞赛。但在攻击 AI 末日论时，他们发现攻击「书呆子」比攻击观点本身更容易。他们说有效利他主义是一场狂热分子的运动，形形色色地表现为反民主、危险和邪教式。这太粗糙了。这场运动的慈善根源显然值得赞扬。与《经济学人》一样，EA 信奉经验主义，尤其是自从他们与网络上的「理性主义者」社群合流之后，更是信奉逻辑思维的应用。他们把理性看得比传统或规范更重，并且会为了追求真相而热烈辩论任何话题，无论多么有争议。
全段的枢纽是那句双关：they find it easier to play the nerd than the ball。它的底子是足球俗语 play the man, not the ball（不去抢球，专踢人），意思是「攻击对手而非论点」；作者把 man 换成 nerd，因为 EA 的画像正是那批理性主义书呆子——一个词同时完成了「这是人身攻击」和「被攻击者是书呆子」两层意思。这种双关是《经济学人》标志性的修辞，也是精读时最值得停下来看一眼的地方。接着 variously undemocratic, dangerous and cultish 用 variously 把三种互相矛盾的说法并排（一个运动不可能同时「反民主」又「邪教式」），暗示批评者内部口径不一。That is too crude. 只有四个词，是全文第一次明确表态——注意它针对的不是 EA，而是批评者。Like The Economist, EAs are committed to empiricism 是罕见的自我并置：报纸把 EA 与自己归为一类，从而赢得后文批评 EA 的资格（「我们不是反对派，我们是同类」）。blend with（合流）说明这里说的 EA 早已不是牛津哲学家那一支，而是与硅谷理性主义社群混血后的形态。hold… in higher esteem than…（把……看得比……更重）与 in pursuit of the truth 都是可以直接搬进作文的正式表达。
⑥ 记账：他们的预言确实准
EA 在预测人工智能快速进展上的一次次成功，同样令人印象深刻。他们对这项技术给人类带来的风险，确实有道理。9 月 28 日，OpenAI 放弃了发布最新模型的计划，因为该模型看上去危险到无法测试。近期许多安全事故，与有效利他主义博客多年前描述过的可怕场景如出一辙。
短段，但承担着关键的「给对手加分」功能。They have a point about…（在……这一点上他们说得对）是英语辩论中最常用的有限度认同，比 I agree with them 精确得多——它只承认「有一点道理」，不承担全盘认同的义务。scrap plans to do sth（放弃做某事的计划）是商业新闻高频搭配。scenarios set out on… blogs years ago 里的 set out 是「陈述、列出」，过去分词作后置定语；resemble 比 look like 正式。作者为什么要专门写这一段？因为紧接着第 ⑦ 段就要反过来说 Yet the critics are right——先把 EA 的功绩充分记账，第 ⑦ 段的转折才有分量。这种「先记账、再批评」的结构，是《经济学人》处理争议议题时最难学的部分。
⑦ 转折：道德被算成了一个优化问题
但批评者警告说有效利他主义者会得出某些古怪的结论，这一点他们没说错。和他们之前的功利主义哲学家一样，EA 把伦理行为简化成一个优化问题：人怎样才能为人类整体带来最好的结果？他们的计算贬低身边那些「必须做的事」，比如「信守承诺」「照顾家人」。要紧的是减少痛苦——无偏私地、在任何地方。
全文第二次表态，也是最重要的一次转折。Yet the critics are right to warn that… 把第 ⑤ 段刚驳倒的批评者重新请回来——注意作者驳的是他们的「粗暴」，认的是他们的「警告」，两件事分得很清。这种同一个人物被先驳后认的写法，让文章显得有分寸，而不是站队。boil… down to… 意为「把……归结为……」，字面是「熬煮收汁」，用来形容简化最传神，暗示这种简化虽有效但流失了东西。optimisation problem 是工程与经济学用语：给定目标函数，求最优解。作者用这个词是全文批评的支点——道德不是求最优解，因为它无法被完整写成一个目标函数。downplay（轻描淡写、贬低）和 local imperatives（身边的义务）构成对照：引号里的 keep promises 与 look after your family 都是日常语域的白话，与前后文的学术腔形成落差，暗示 EA 把最朴素的道德直觉当成了可优化的变量。最后一句 What matters is reducing suffering, impartially and everywhere 用两个副词收尾，其中 impartially（无偏私地）是功利主义的核心要求：不能因为受苦的人离你近就多给一分。记住这个词——第 ⑫ 段的「个体尊严」正是对它的反驳。
⑧ 扩张：关切圈越铺越大
这就导致他们把范围极广的关切纳入道德计算。一个人要讲伦理，就应当帮助邻居——这很容易理解。EA 会问：那为什么不以同样的力气去帮助远方的人？早期，这场运动指引着它那支「超常成就者」大军，去金融和咨询业拿高薪。他们的财富可以买来善举，比自己直接去做慈善工作者能成就更多。
factor… into… 是数学与编程语域的词，意为「把……作为一个因子纳入」，用在这里恰好呼应上段的 optimisation problem——作者在词汇层面持续把道德描述成一场运算。a very wide circle of concerns 是全文的关键机制：道德关切的范围被不断扩大。It is easy to see how… 先给一个所有人都认同的起点（帮邻居是对的），再用 EAs ask: why not…? 反问把它推开——这是从常识滑向激进的典型路径，作者用三句话就走完了，读者几乎察觉不到推论已经变了形。这种「用反问句完成跳跃」的写法值得单独记住：它不陈述主张，只提出问题，却让读者自己走完了那一步。its army of overachievers 是全段最有画面感的短语，army（大军）与 overachievers（超常成就者）并列，一方面承认这群人的能力，一方面用军事隐喻暗示了组织化的集体行动力。Their wealth could buy good works 里的 good works 是「善行、慈善事业」的固定说法（常用复数），与 charity workers 放在一起，形成「用钱买善」与「用命做善」的对照，其中 achieving more than if they became… 是省略式比较结构，完整说法是 more than they would achieve if they became。
⑨ 变调：从动物、虾到尚未出生的人
但随着它变得更强大，EA 也变得更古怪了。一些有效利他主义者认为，人类与其他动物之间的道德区分很微弱，因为动物也会感受痛苦。阻止工厂化养殖、以及帮助虾，都是他们的重大关切。同样的，他们对时间抱有一种反直觉的态度：尚未出生的人也应被放进天平——而他们可能有万亿之多。许多 EA 是「长期主义者」，觉得自己有义务防患遥远未来的风险，即便这会饿死今天的好事业，比如帮助极度贫困的人。
本段开始「归谬」的铺垫，作者的手法是把 EA 的主张按「情感上越来越难接受」的顺序排列：先是动物（多数人能接受），再是虾（开始觉得荒谬），再是未出生的人（数量级跳到万亿），最后是饿死今天的好事业（直接与常识冲突）。as it has become stronger, EA has become stranger 用同一个句型（become + 比较级）并置两组反向变化，是全文最凝练的一句判断，也是本段的主题句。See… as weak（把……看得很弱）与后文 feel bound to（觉得有义务）都是表达「主观认定」的用法，作者刻意点明这是他们的看法，而非事实。factory farming（工厂化养殖）是动物伦理的固定术语，helping shrimp 则故意用最日常的动词配最不可思议的对象，制造不协调感。weighed in the balance 出自《圣经·但以理书》的「称在天平里」，意为「被纳入权衡」，比 counted 更庄重，放在「万亿数字」前形成反讽。longtermists 加引号，标明这是圈内自造词；forestall（预先阻止）比 prevent 更强调「抢在前面」，是雅思学术词汇；starves 用拟物手法，把经费被抽走写成「被饿死」，一个动词就把机会成本具象化了——这也是全文唯一一次把「今天的穷人」与「未来的人」直接放在天平两端。
⑩ 越界：昆虫的生命比人更值钱？
推到极端，这套计算会导致一种不仅反直觉、而且令人厌恶的道德。一些有效利他主义者认为，昆虫的生命总量比人类生命更有价值，因为昆虫数量如此之多。有人说，让万亿个「活着几乎不值得」的人存在，好过只有数十亿人真正过得好。还有人甚至认为，AI 自身的福祉有朝一日将至关重要。他们会把资源转向前人类或非人类，而从今天正在受苦的人身上抽走。
全文攻击力最强的一段，也是归谬法的落点。开篇 Pushed to an extreme 是过去分词作条件状语，等于 If this calculus is pushed to an extreme——这个「推到极端」的动作是归谬法的标准起手式：我不反对你的前提，我只是替你把它推到底，然后请读者自己看看结论。注意 not just counterintuitive, but repugnant 的升级：counterintuitive（反直觉）只是「听着奇怪」，repugnant（令人厌恶）是道德上的排斥，两个词之间隔着一道边界，作者用 not just… but… 把一个伦理问题变成一个情感问题。in aggregate（总量上、合计）是经济学词汇，这里的使用暴露了功利主义计算的软肋：它只能比较总量，无法处理「什么算一个单位」。三个例子按荒谬程度递增——昆虫（数量碾压）、万亿潦草生命（数量与质量的悖论）、AI 的福祉（连主体都换了）——最后一个 nonhumans 把动物与机器归为一类，用词极冷。redirect… towards… and away from… 是方向相反的双向配搭，语法上干净利落，内容上却正是作者要读者看清的那个转手动作：钱从一个受苦的人手上，转到一个尚不存在的人手上。
EA+AI=p(doom) 有效利他主义 + AI = 末日概率
⑪ 漏洞（上）：算不清的误差，压不住的概率
崇敬理性本身没有错。但从亚里士多德到罗尔斯的道德哲学家都知道：如果一个论证通向无法容忍的境地，其中必定藏着一个错误的步骤。然而 EA 的本能，是享受反直觉的结论，即便它们看上去有悖常理。问题之一，是有效利他主义论证必然伴随的误差幅度。今天没有人真的有能力去权衡牵涉数十亿人的道德困境，更不用说延伸到未来、牵涉不确定的人口数量、贴现率、技术进展以及其他无数变量的巨额数字了。问题之二，是灭绝如此可怕，以至于在一套粗糙的道德算术里，哪怕它只有很小的概率，也会压过今天那些有血有肉的关切。
小标题 EA+AI=p(doom) 是全文的修辞高点：用一行「等式」把 EA、AI 与「末日概率」焊在一起，形式上像一条数学公式（恰好讽刺了 EA 自己的思维习惯），内容上则点明文章真正要审的是「EA + AI」这个组合。It is right to revere reason. 先给对手让出一步，But 之后才引出哲学传统。注意 from Aristotle to Rawls 这个「从……到……」的跨度写法：不是引用某一位权威，而是用两千年里首尾两个名字把整个道德哲学传统拉来作证，论证的分量由此不同。if an argument leads to intolerable places, it must have a hidden faulty step 是全文的方法论宣言，说的就是「归谬法」本身——但作者在这里做了个漂亮的翻转：他用归谬法来反对那些拒绝归谬的人。EAs’ instinct, though, is to enjoy counterintuitive conclusions 里的 enjoy 是刻薄的一笔：不是「容忍」，而是「享受」，暗示他们对反直觉结果有审美偏好。margins of error（误差幅度）与 discount rates（贴现率）是本文借自统计学与经济学的两个关键概念，前者攻击结论的可靠性，后者攻击时间偏好的可操作性。let alone 引导的递进否定是全句的骨架：「今天数十亿人的困境都没人算得清，更别说未来的天文数字」——注意 let alone 后面接的是名词短语 gigantic sums，与前句的动名词结构不同，语法上属跳跃但语义上成立，这种写法在英美报刊里可接受。so dire that… 是 so…that 结果状语从句，主语 extinction 极短、从句却很长，节奏上先是重锤、再是解释。flesh-and-blood concerns（有血有肉的关切）与第 ⑩ 段的 in aggregate 形成正面对撞：抽象总量 vs. 具体的人。
⑫ 漏洞（下）：看不见个体的尊严
问题之三，是当你权衡数十亿人的利益时，你会看不见个体本身固有的尊严。任何挥舞着电子表格、对人类未来夸下海口的人，离把自己册封为中央计划者只有一步之遥。手中握有道德权威之后，邻居的权利、福祉和意见就都可能显得无关紧要了。
本段完成从「计算不可行」到「计算危险」的升级。lose sight of（看不见、忽略）是雅思高频搭配，宾语的 the inherent dignity of the individual 里 inherent（固有的）是要害：尊严不是可以加权计算的属性，而是不能被放进优化函数的东西——这正是对第 ⑦ 段 impartially 的正面反驳。第二句是全文最形象的批评：Anyone wielding a spreadsheet and grandiose claims about the future of humanity 用现在分词短语作后置定语，把「拿着电子表格的人」和「对未来夸下海口的人」合成同一个形象——注意 spreadsheet（电子表格）这个具体物件被放在句首位置，讽刺效果来自「工具之小」与「宣称之大」的反差，grandiose（夸大的、浮夸的）明确给出贬义判断。is one step away from（离……只有一步之遥）是警告语域的高频表达，比 will become 更有张力，因为它把「成为独裁者」写成了一抬脚的事。anoint（涂油册封）原是宗教加冕动作，用在这里既抬高了荒诞感，又暗示他们给自己授予的是神圣权威。central planner（中央计划者）是经济学中的贬义标签，指向计划经济体制，一个词就把技术精英的伦理计算与二十世纪的历史教训挂上了钩——这也是第 ⑬ 段的伏笔。最后一句 Moral authority in hand 是独立主格结构（= With moral authority in hand），比状语从句更紧凑，也更有画面感：权力已经拿到手里了，接下来发生的事只是惯性。
⑬ 历史佐证：当理性开始杀人
据说法兰西大革命是建立在理性之上的；它却导致了修女被处决。列宁同样认为，掌握了马克思主义的知识分子，比工人自己更懂工人的利益。如果你真的相信自己代表着所有人——更不必说万亿未来人——那你最终可能会为各种暴行提供辩护。
历史类比段，作用是把抽象推理接到具体史实上。was supposedly founded on reason 里的 supposedly（据称、号称）是全文最省力的一个字：作者不需要否认大革命源于理性，只要加一个副词，就把「号称」与「结果」分开，让那句 it led to the execution of nuns 自己完成指控。注意后半句的语序设计——先说理性，再说处决修女，中间只用了一个分号。Lenin, too, 的 too 把两个例子并列为同一模式：声称代表他人利益的人，剥夺了他人自己判断的权利。这句 intellectuals who had mastered Marxism understood workers’ interests better than the workers themselves 是典型的「代言者悖论」，better than the workers themselves 的省略收尾（省去 understood their own interests）让对比更锋利。最后一句回到第二人称 If you truly believe…，这是全文唯一一次直接对「你」说话——社论很少用第二人称，用在这里是把前两段的历史案例收束到读者自身：不是「他们会这样」，而是「你会变成这样」。act on behalf of（代表……行事）与 let alone 的递进否定再次出现（与第 ⑪ 段呼应，说明作者对这个结构有偏爱），落点 justifying all sorts of atrocities 中 justify 是关键——注意不是「犯下」暴行，而是「为暴行辩护」，这更贴紧全文主题：道德计算真正的危险在于它能让任何事显得合理。
⑭ 收束：真正的危险不是断头台
幸运的是，有效利他主义者远不至于要把断头台搬回来。真正的担忧在于：掌控 AI 最终将给他们带来巨大的权力，而硅谷为数不少的有效利他主义者认为，只有他们才配得上这项技术的托付。这是个令人警觉的念头。有效利他主义者担心真正强大 AI 的理由是：这些机器可能会为一个单一且致命错误的目标做优化。而每个人也都该担心另一件事：当一小群人掉进同一个陷阱时，会发生什么。
结尾段先用 Fortunately… are hardly about to bring back the guillotine 主动降温——hardly about to（几乎不会、远不至于）比 will not 更克制，避免读者把前文的历史类比误读成预言；the guillotine 用定冠词回指第 ⑬ 段的法国大革命，让两个段落扣在一起。真正的批评落在 The fear instead is that…, and that…：两个 that 从句并列，第一个说权力（事实判断），第二个说心态（only they can be trusted，价值判断），后者才是作者真正的靶子。plenty of 用得很有分寸——不是 most，也不是 some，避免以偏概全。That is an alarming idea. 又是四个字的短句，与第 ⑤ 段的 That is too crude. 完全同构：两次表态都用最短的句子，这是作者刻意的节奏设计，也方便读者记住立场。
真正的收束在最后两句，逻辑极其精巧：EA 用来警惕 AI 的论证是「机器可能为一个单一且致命错误的目标做优化」（optimise for a single and fatally wrong objective，注意 optimise for 这个搭配，与第 ⑦ 段的 optimisation problem 首尾呼应）；作者只把这个论证的主语从「机器」换成「一小群人」（a small group of people），并加上 fall into the same trap，于是 EA 自己的警告原封不动地落回到了 EA 身上。Everyone should worry, too, about… 里的 too 是全篇最后一次转折——前面所有的「你该担心 AI」在这里变成「你也该担心这些担心 AI 的人」。这就是全文的最后一击：不是否定 EA 的判断，而是指出它的判断同样适用于它自己。
03核心词汇精讲
标签说明：四级 基础必备 六级 进阶 雅思 学术高频 高分 写作加分
A. 思想与运动
doctrine/ˈdɒktrɪn/六级雅思
释义n. 学说；教义（尤指宗教或政治思想体系）
派生doctrinal adj. 教义的；doctrinaire adj. 教条主义的；doctor n. 博士（同源，本义「教师」）
搭配an ethical doctrine 一套伦理学说；Church doctrine 教会教义；a matter of doctrine 原则问题
altruism/ˈæltruɪzəm/雅思高分
释义n. 利他主义（为他人利益而牺牲自身利益的行为原则）
派生altruist n. 利他主义者；altruistic adj. 利他的；altruistically adv. 利他地（反义 egoism 利己主义）
搭配effective altruism 有效利他主义；pure / reciprocal altruism 纯粹利他 / 互惠利他；out of altruism 出于利他
ivory tower/ˌaɪvəri ˈtaʊə/高分
释义n. 象牙塔（脱离现实的知识分子天地）
派生tower over 高出、胜过；towering adj. 高耸的、杰出的
搭配retreat into an ivory tower 躲进象牙塔；from the ivory tower to the corridors of power 从象牙塔到权力走廊
populism/ˈpɒpjəlɪzəm/六级雅思
释义n. 民粹主义（以「人民」之名对抗精英的政治主张）
派生populist n./adj. 民粹主义者（的）；populous adj. 人口众多的；populate v. 居住于
搭配nostalgic populism 怀旧式民粹主义；the rise of populism 民粹主义的兴起；a populist backlash 民粹主义的反弹
adherent/ədˈhɪərənt/六级
释义n. 拥护者，信徒（某种学说或组织的支持者）
派生adhere v. 坚持、黏附（adhere to）；adherence n. 坚持、忠诚；adhesion n. 黏附
搭配an adherent of the theory 该理论的信奉者；a strict adherent 严格遵循者；adhere to a principle 恪守原则
fanatic/fəˈnætɪk/六级
释义n. 狂热分子 adj. 狂热的
派生fanatical adj. 狂热的；fanaticism n. 狂热；fan n. 爱好者（同源，由 fanatic 缩略而来）
搭配a religious fanatic 宗教狂热分子；fanatical devotion 狂热的忠诚；the fanaticism of the crowd 人群的狂热
cultish/ˈkʌltɪʃ/高分
释义adj. 邪教式的；小圈子排外的（带贬义，指组织封闭、崇拜个人）
派生cult n. 教派、崇拜；a cult figure 被狂热崇拜的人物；cultivate v. 培养（同源但语义已远）
搭配a cultish following 一群盲从者；a cultish atmosphere 邪教式的氛围；the cult of personality 个人崇拜
empiricism/ɪmˈpɪrɪsɪzəm/雅思高分
释义n. 经验主义（认为知识应来自观察与实验，而非纯粹推理）
派生empirical adj. 经验的、实证的；empirically adv. 以实证方式；empiricist n. 经验主义者
搭配be committed to empiricism 信奉经验主义；empirical evidence 实证证据；an empirically grounded claim 有实证依据的主张
B. 计算与伦理
utilitarian/ˌjuːtɪlɪˈteəriən/雅思高分
释义adj. 功利主义的 n. 功利主义者（主张以最大多数人的最大幸福为道德标准）
派生utilitarianism n. 功利主义；utility n. 效用、实用；utilise v. 利用
搭配the utilitarian philosophers 功利主义哲学家；a utilitarian calculus 功利主义的计算；on utilitarian grounds 出于功利考量
optimisation/ˌɒptɪmaɪˈzeɪʃn/雅思高分
释义n. 优化，最优化（在约束条件下求最优解的过程）
派生optimise v. 优化；optimise for 为……而优化；optimal adj. 最优的；optimum n. 最佳状态
搭配an optimisation problem 一个优化问题；optimise for a single objective 为单一目标做优化；cost optimisation 成本优化
calculus/ˈkælkjələs/高分
释义n. 计算（体系）；微积分（引申指一整套权衡与推演方式）
派生calculate v. 计算；calculation n. 计算、盘算；calculating adj. 精于算计的
搭配a moral calculus 一套道德计算；by a crude calculus 用粗糙的算法；political calculus 政治盘算
downplay/ˌdaʊnˈpleɪ/六级雅思
释义v. 淡化，轻描淡写（有意降低某事的重要性）
派生play down 同义短语（动词短语形式）；understate v. 少报、轻描淡写；belittle v. 贬低
搭配downplay local imperatives 贬低身边的责任；downplay the risks 淡化风险；downplay a scandal 给丑闻降温
imperative/ɪmˈperətɪv/六级雅思
释义n. 必须做的事，要紧之事 adj. 迫切的；命令式的
派生imperatively adv. 命令地；imperious adj. 专横的（同源，语气更霸道）
搭配a moral imperative 道德上的必须；local imperatives 身边的义务；it is imperative that… ……是当务之急
impartial/ɪmˈpɑːʃl/六级雅思
释义adj. 不偏不倚的，无偏私的
派生impartially adv. 无偏私地；impartiality n. 公正性；partial adj. 部分的、偏袒的
搭配reducing suffering, impartially 无偏私地减少痛苦；an impartial judge 公正的裁判；impartial advice 中立的建议
repugnant/rɪˈpʌɡnənt/高分
释义adj. 令人厌恶的，令人反感的（强烈程度高于 unpleasant）
派生repugnance n. 厌恶；与 repel（排斥）、repulsive（令人反感的）同源于拉丁语「反击」
搭配a repugnant conclusion 令人厌恶的结论；be repugnant to sb 令某人反感；morally repugnant 道德上令人不齿
counterintuitive/ˌkaʊntərɪnˈtjuːɪtɪv/雅思高分
释义adj. 反直觉的（与常识或直觉判断相反的）
派生counter- 前缀表「相反」（counterargument 反驳、counterpart 对应物）；intuitive adj. 直觉的；intuition n. 直觉
搭配a counterintuitive conclusion 反直觉的结论；counterintuitive findings 反直觉的研究发现；run counter to intuition 与直觉相悖
C. 时间、总量与权衡
longtermist/ˈlɒŋtɜːmɪst/高分
释义n./adj. 长期主义者（的）（认为遥远的未来人口在道德上占极高权重）
派生long-termism n. 长期主义；long-term adj. 长期的；short-termism n. 短视
搭配longtermist reasoning 长期主义推理；a longtermist priority 长期主义者的优先事项；in the long term 从长远来看
forestall/fɔːˈstɔːl/雅思高分
释义v. 预先阻止，抢先一步防止（比 prevent 更强调「赶在前面」）
派生forestaller n. 抢先者；同义 pre-empt v. 抢先行动；avert v. 避免（avert a crisis）
搭配forestall risks in the distant future 防患遥远未来的风险；forestall criticism 抢在批评之前；forestall a crisis 预防危机
aggregate/ˈæɡrɪɡət/六级雅思
释义n./adj. 总量（的），合计（的） v. 聚集
派生aggregation n. 聚集、汇总；in the aggregate 总计；aggregate demand 总需求（经济学）
搭配in aggregate, more valuable than 总量上比……更有价值；aggregate figures 汇总数字；the aggregate effect 总体效应
welfare/ˈwelfeə/四级六级
释义n. 福祉，福利；（英）社会救济
派生welfarism n. 福利主义；the welfare state 福利国家；well-being n. 幸福安康（近义）
搭配the welfare of AIs 人工智能自身的福祉；animal welfare 动物福祉；the rights, welfare and opinions of a neighbour 邻居的权利、福祉与意见
quandary/ˈkwɒndəri/高分
释义n. 困境，两难（不知如何抉择的窘境）
派生同义 dilemma n. 两难处境；a moral quandary 道德困境；be in a quandary 陷入两难
搭配moral quandaries involving billions 牵涉数十亿人的道德困境；be in a quandary over sth 为某事纠结；a policy quandary 政策上的两难
margin of error/ˌmɑːdʒɪn əv ˈerə/雅思高分
释义n. 误差幅度（统计结果可能偏离真实值的范围）
派生marginal adj. 微小的、边缘的；marginally adv. 略微；within the margin of error 在误差范围内
搭配the margins of error that accompany the argument 伴随该论证的误差；a wide margin of error 很大的误差幅度；by a narrow margin 以微弱差距
discount rate/ˈdɪskaʊnt reɪt/高分
释义n. 贴现率（把未来价值折算为现值的比率；引申指对未来的耐心程度）
派生discount v./n. 打折、贴现；discounted adj. 已折现的；at a discount 打折地、不受重视地
搭配involving discount rates 牵涉贴现率；a high / low discount rate 高 / 低贴现率；discount the future 给未来打折（轻视未来）
trillion/ˈtrɪljən/四级
释义num. 万亿（10 的 12 次方；英式旧用法为百万的 3 次方）
派生million 百万；billion 十亿；trillion 万亿；trillionth 第一万亿个的
搭配trillions of future humans 万亿未来人；a trillion dollars 一万亿美元；gigantic sums 天文数字
D. 批评、权力与风险
throttle/ˈθrɒtl/高分
释义v. 压制，扼杀（本义「掐住喉咙」） n. 节流阀
派生throttle back / down 减缓（工程用语）；同义 stifle v. 扼制、choke off 掐断
搭配throttle AI 扼杀 AI 发展；throttle an industry 压制一个行业；throttle back production 放缓生产
feud/fjuːd/雅思高分
释义v./n. 长期争斗，结怨（两方之间的持续敌对）
派生feuding adj. 长期不和的；a blood feud 血仇；同义 vendetta n. 宿怨
搭配feud with sb over sth 因某事与某人交恶；a long-running feud 持续已久的争斗；family feuds 家族世仇
misaligned/ˌmɪsəˈlaɪnd/高分
释义adj. （目标）不一致的，错位的（AI 安全领域核心术语）
派生align v. 使对齐、使一致；align with 与……一致；alignment n. 对齐、一致性；realign v. 重新调整
搭配goals that are misaligned with those of humanity 与人类目标不一致的目标；alignment problem 对齐问题；align incentives 使激励机制对齐
benign/bɪˈnaɪn/六级雅思
释义adj. 良性的，温和的，无害的（医学上指非恶性的）
派生benignly adv. 温和地；benignity n. 仁慈；（反义 malignant 恶性的、malign 有害的）
搭配AI may prove hugely benign 人工智能可能是极为有益的；a benign influence 良性的影响；benign neglect 善意的忽视
amok/əˈmɒk/高分
释义adv. 失控地，横冲直撞地（源自马来语，常用于描写失控的暴力或行为）
派生run amok 是唯一常用搭配（= run wild 失控）；amuck 为旧拼写
搭配run amok in pursuit of goals 为追求目标而失控；a virus running amok 失控蔓延的病毒；run amok with power 因权力而失控
anoint/əˈnɔɪnt/高分
释义v. 涂油册封；指定（继承人）（原为宗教仪式，引申为「钦定」）
派生anointment n. 受膏；the anointed 受膏者、被选中的人；同义 designate v. 指定
搭配anoint themself as a central planner 自封为中央计划者；the anointed successor 钦定的接班人；anoint sb king 为某人加冕
atrocity/əˈtrɒsəti/雅思高分
释义n. 暴行，残暴行为（通常指战争或政治中的大规模暴行）
派生atrocious adj. 残暴的、糟透的；atrocities against civilians 针对平民的暴行；同义 outrage n. 暴行
搭配justify all sorts of atrocities 为各种暴行辩护；commit atrocities 犯下暴行；wartime atrocities 战时暴行
grandiose/ˈɡrændiəʊs/高分
释义adj. 浮夸的，宏大的（带贬义，指计划或言辞过分夸张）
派生grandiosity n. 浮夸；grand adj. 宏伟的（中性）；；grandeur n. 壮丽（褒义）
搭配grandiose claims about the future of humanity 对人类未来的夸夸其谈；a grandiose scheme 宏大的计划；grandiose rhetoric 浮夸的辞令
05写作积累
5.1 六个可直接套用的句型公式
5.2 话题语料（可直接搬进作文）
话题一 · AI 伦理与「末日论」
existential risk 生存性风险 · doomerism 末日论 · misaligned objectives 目标错位 · the alignment problem 对齐问题 · safety testing 安全测试 · frontier AI labs 前沿 AI 实验室 · guardrails 护栏、约束机制 · existential threat to humanity 对人类存续的威胁
话题二 · 道德哲学与功利主义
utilitarianism 功利主义 · consequentialism 后果论 · the greatest good for the greatest number 最大多数人的最大幸福 · the moral circle 道德圈 · impartiality 无偏私 · the inherent dignity of the individual 个体固有的尊严 · weigh the interests of 权衡……的利益 · the ends justify the means 为达目的不择手段
话题三 · 慈善、长期主义与权力集中
evidence-based philanthropy 循证慈善 · cause prioritisation 事业优先级排序 · longtermism 长期主义 · effective giving 有效捐赠 · technocratic paternalism 技术官僚式的家长作风 · elite capture 精英俘获 · central planning 中央计划 · hold power to account 让权力接受问责
5.3 仿写示范 题目：Some argue that decisions about powerful technologies should be guided by a rigorous calculation of the greatest good. To what extent do you agree?
It is right to demand rigour. But anyone who has watched a committee weigh costs and benefits knows that the most important things are often the ones no spreadsheet can hold. Pushed to an extreme, the greatest-good calculus can lead to conclusions that are not merely counterintuitive but repugnant—and few of us can genuinely compute the interests of billions, let alone of generations not yet born. So the answer is not to abandon calculation altogether, but to keep it where it belongs: as an aid to judgement, never as a substitute for it. Those who warn that a single metric can be captured by a single interest should ask the same question of their own: who decides what counts?
全段依次用到公式 2（It is right to… But…）、公式 3（Pushed to an extreme）、公式 4（let alone）、公式 6 的变体（not to… but to…，借自公式 2 的对照句式）、公式 5（把对方的警告原样奉还）。注意两点：一是整段没有出现 I think，立场全靠句式与事实推出来；二是结尾用了一个反问而非结论句——这正是原文最后一句 Everyone should worry, too, about… 的写法，把判断交给读者完成。
06篇章结构、论证手法与文化冷知识
6.1 论证结构（立靶 → 让步 → 记账 → 转折 → 归谬 → 奉还）
01 开篇 · 从象牙塔到权力走廊（①）
海涅的引语作定调：思想走在行动之前。EA 用四十年完成「牛津哲学家 → 硅谷 → 五角大楼」的位移。三个动词递进（fill / staff / alarm），最后用反讽收束——「不妨把攻击视为影响力的证明」。
↓
02 定位 · 本世纪的大思想（②）
先承认 21 世纪确实缺少新思想（MAGA and Co 填补的是政治工程），再把 EA 立为真正的「大思想」。political project 与 idea 的区分是全篇第一次精确划界。随即点出 EA 的核心诉求：阻止 AI 灭绝人类。
↓
03 影响 · 社会学与政治两条线（③④）
社会学上：人数少但财富与人才集中，swept up a generation of gifted youngsters，并创办了 OpenAI 与 Anthropic——注意那句自我拆台的讽刺（多开实验室反而加速了 AI）。政治上：政府想加速，EA 想减速，misaligned 这个引号词标明是圈内黑话。
↓
04 先驳批评，再让回一步（⑤）
全篇第一次表态。先指出批评者「踢书呆子不踢球」（play the nerd than the ball），再用四个字否定其粗糙：That is too crude. 随即把 EA 与本报并置（Like The Economist），承认其经验主义与理性主义底色——这一段的作用是取得后文批评 EA 的资格。
↓
05 记账 · 承认其预言准确（⑥）
短段，专门为对手加分：They have a point，OpenAI 9 月 28 日放弃发布模型，安全事故与 EA 博客多年前的推演相似。先记账，第 ⑦ 段的转折才有分量——这是本文最难学的结构安排。
↓
06 转折 · 当道德变成优化问题（⑦⑧）
第二次表态：Yet the critics are right to warn…。EA 把伦理简化为 an optimisation problem，于是 local imperatives（守诺、照顾家人）被 downplay。第 ⑧ 段顺着推下去：关切圈被无限扩大，善行被折算成「用钱买来的善举」，比亲自去做慈善「成就更大」。
↓
07 越界 · 从反直觉到令人厌恶（⑨⑩）
归谬的高潮。主张按情感接受度排列：动物 → 虾 → 未出生者（万亿）→ 饿死今天的好事业。到第 ⑩ 段直接给出三个荒谬结论：昆虫生命总量胜过人类、万亿潦草生命胜过数十亿好生活、AI 的福祉也重要。repugnant 一词在此落地。
↓
08 反驳 · 三个致命漏洞（⑪⑫⑬）
小标题 EA+AI=p(doom) 之后，用「A problem is… / Another is… / A third is…」三连式展开：误差幅度（算不清）、灭绝概率的压倒性（算得歪）、个体尊严的消失（算错对象）。第 ⑫ 段把「拿电子表格的人」与「中央计划者」画等号，第 ⑬ 段用法国大革命与列宁两个史例兑现这个警告。
↓
09 收束 · 真正的危险（⑭）
先降温（hardly about to bring back the guillotine），再把批评对准真正的问题：不是他们的历史类比，而是「控制 AI 会带来巨大权力，而他们认为只有自己配得上这项技术」。结尾用 Everyone should worry, too… 把 EA 的警告原样奉还——全篇的最后一击是逻辑对称，而不是形容词。
6.2 七种论证手法（可迁移到自己的议论文）
| 手法 | 原文例子 | 效果 |
|---|
| 引语开篇（epigraph） | “THOUGHT precedes deed as lightning precedes thunder,” wrote the poet Heinrich Heine. | 用一句诗代替铺垫，一句话内同时完成定调、类比与格调设定。社论开篇的省力写法：读者不必先读三段背景，就已经知道这篇文章要对一个思想作判断。 |
| 让步转折（concession） | That is too crude. ／ Yet the critics are right to warn… ／ It is right to revere reason. But… | 全文三次表态，每次都是「先给对方让出一步」：第 ⑤ 段替 EA 挡住粗暴批评，第 ⑥ 段替 EA 记账，第 ⑦ 段再把批评者请回来。让步越具体，转折越可信——这也是本文与前两篇最大的差别：它同时对双方施压。 |
| 归谬法（reductio ad absurdum） | Pushed to an extreme, this calculus can lead to a morality that is not just counterintuitive, but repugnant. ／ Some EAs think that insect life is, in aggregate, more valuable than human life. | 不否认对方的前提，只把它推到底让结论自己显形。Pushed to an extreme 是标准起手式，后面必须紧跟一个荒谬结论才成立。写议论文时若想批评一种思潮而不被指为「你没读懂我」，这是最安全的路径。 |
| 伪数学标题（mock-formula heading） | EA+AI=p(doom) | 用一行等式做小标题，形式上模仿被批评者的思维习惯（把一切写成公式），内容上则点明真正要审的是「EA + AI」这个组合。一个标题同时完成归类、讽刺与预告，是本文最容易被忽略的一处修辞。 |
| 历史类比（historical analogy） | The French revolution was supposedly founded on reason; it led to the execution of nuns. Lenin, too, thought that intellectuals who had mastered Marxism understood workers’ interests better than the workers themselves. | 两个史例指向同一个模式：声称代表他人的人，剥夺了他人自己判断的权利。注意作者只加了一个副词 supposedly 就完成指控，不评价大革命本身——省钱且不失分寸。紧接着第 ⑭ 段用 hardly about to bring back the guillotine 主动降温，防止类比被误读为预言。 |
| 借词（borrowed terminology） | an optimisation problem ／ margins of error ／ discount rates ／ in aggregate | 四次借自工程学、统计学与经济学的术语，把道德讨论从「感受」推向「机制」。注意这些词的位置：optimisation problem 用来定性，margins of error 与 discount rates 用来攻击可行性——借词不只是装饰，它们是论证的承重墙。 |
| 短句表态（terse verdict） | That is too crude. ／ That is an alarming idea. ／ A third is that in weighing up the interests of billions, you lose sight of… | 两处四字表态（too crude / alarming）句型完全相同，分别出现在驳批评者与驳 EA 的位置上，形成精确的对称。长句铺完立刻收短，读者的注意力被这个节奏落差按住——本文最可复制的写法之一。 |
6.3 文化冷知识
有效利他主义（EA）是什么
一场兴起于 2000 年代的思想运动，核心主张是：行善应当像投资一样讲究回报率，把有限的资源投向能产生最大效益的事业。早期形态是「用证据挑选慈善项目」（例如对比不同方式防治失明的单位成本），后来演变为一整套道德计算。代表人物包括哲学家彼得·辛格（Peter Singer）、威廉·麦卡斯基尔（William MacAskill）与托比·奥德（Toby Ord），资金来源则高度依赖硅谷——这也是原文说它「从象牙塔走到了权力走廊」的实际含义。值得注意：EA 内部从来不是铁板一块，原文批评的主要是其中与理性主义社群合流后主张「放慢 AI」的那一支。
长期主义（longtermism）与 p(doom)
长期主义是 EA 中最具争议的分支，主张「未来可能存在的人口规模远超当下」，因此在道德权衡中应占极高权重，防患遥远未来的灾难比解决眼前的贫困更紧迫。批评者认为这种排序实质上贬低了当代穷人的生命。p(doom) 则是圈内的口语缩写，p 表示概率（probability），doom 指人类灭绝，字面意思是「末日发生的概率」——原文小标题 EA+AI=p(doom) 正是在玩这个词：它把「EA 加上 AI 就等于末日概率」写成一条公式，既像圈内人自嘲，也像外人眼中的化简。这类自造词在英语媒体里常以「引号 + 括注」的方式引入，精读时应留意标记。
海涅：思想先于行动
引语出自德国诗人海因里希·海涅（Heinrich Heine, 1797—1856）。他长期流亡巴黎，以政治讽刺诗与散文著称，其作品曾被纳粹列为禁书。原文引的这句强调「思想走在行动前面」，放在文首有两重作用：一是给一个仅有二十年历史的学说安上思想史的分量，二是暗示既然思想先行，那么 EA 这套想法迟早会以某种形式落到现实——正好呼应下文「它已经在改变政策」。
从亚里士多德到罗尔斯：为什么「归谬」是哲学的基本方法
原文说「从亚里士多德到罗尔斯的道德哲学家都知道：若一个论证通向无法容忍的境地，其中必有错误的步骤」。这正是「归谬法」（reductio ad absurdum）的表述：不直接反驳前提，而是把前提推到结论荒谬为止。亚里士多德在《前分析篇》中已系统使用；约翰·罗尔斯（John Rawls, 1921—2002）在《正义论》中用「无知之幕」设计思想实验，也属于同一路数——先设想一个极端处境，再检验原则能否成立。原文妙在以归谬法反对「拒绝归谬的人」：它批评 EA 的心态是「享受反直觉的结论」，暗示对方并非不懂这个方法，而是有了审美偏好。
断头台、修女与列宁：理性主义的政治教训
法国大革命以「理性」为旗帜，1793—1794 年的恐怖统治期间约有一万七千人被送上断头台，其中包括大量拒绝宣誓的神职人员（原文以「修女」代称这一群体）。列宁的论述则见于其组织理论：他认为掌握马克思主义理论的知识分子，比工人自己更清楚工人的利益所在，这为「先锋队代表群众」的政党组织形式提供了依据。原文把两者并置，指向同一种危险：一旦认定自己代表他人（甚至代表尚未出生的人）行事，被代表者的意见就变得可以忽略。注意作者的处理方式——只陈述史实，不评论对错，让读者自己把结论接到 EA 身上。
Anthropic、OpenAI 与 EA 的产业落脚点
原文提到 EA 帮助创办了 OpenAI 与 Anthropic，这是理解「EA 为何有政治分量」的关键。OpenAI 创立时以「确保通用人工智能造福全人类」为公开使命；Anthropic 由一批前 OpenAI 研究员于 2021 年创立，以「AI 安全」研究为核心定位，其创始团队与 EA 及理性主义社群关系密切。原文提到政府与 Anthropic 的分歧，起因是后者拒绝让自家模型用于某些军事用途——这类「企业基于伦理立场拒绝政府订单」的情形，在科技史上并不常见，也是 EA 从思想变成政治力量的直接证据。