Anthropic 联合创始人 Dario Amodei（达里奥·阿莫迪）和 Daniela Amodei（丹妮拉·阿莫迪）：AI 发展应以信任为速度

撰文：Techub News 整理 2026 年 5 月，知名主持人 Oprah Winfrey（奥普拉·温弗瑞）与人工智能公司 Anthropic 的联合创始人兼首席执行官 Dario Amodei（达里奥·阿莫迪）及其妹妹、公司总裁 Daniela Amodei（丹妮拉·阿莫迪）进行了一场长达66分钟的深度对话。这场访谈之所以重要，不仅因为 Anthropic 及其 AI 助手 Claude 正以每日超百万用户的速度增长，更因为这对兄妹领导者代表了硅谷中一种日益稀缺的声音：他们将技术安全、伦理责任和公共利益置于商业竞争与增长速度之上，并为此做出了诸多艰难甚至可能危及公司存亡的决定。他们的思考，或许为狂奔的 AI 产业提供了一个关键的反思视角。 直面“灭绝风险”：在无法停止的火车上谨慎驾驶 访谈开场便直面最尖锐的质疑。Oprah 使用 Claude 本身生成的问题向 Dario Amodei（达里奥·阿莫迪）提问：“你曾说你们公司构建的技术有导致人类灭绝的重大可能，然而你们却在加速建造它。你如何向我们这些没有投票权的人解释这一点？” Dario Amodei（达里奥·阿莫迪）坦言这是个“非常棒的问题”，并承认 Claude 对他并不“手下留情”。他将 AI 技术的发展类比于人类历史上的 epochal change（时代性变革），如火的使用或工业革命。 “工业革命当然也导致了强大的武器和许多人丧生，”他说，“但我们明白，作为一个技术事件，工业革命是值得进行的。我们不想仍然生活在洞穴里，但我们需要以正确的方式管理它。”对于 Anthropic 的角色，他的比喻是：有一列火车正在某个方向上高速行驶，你无法让它停止，但你可以尝试驾驶它，让它避开岩石。 Anthropic 的目标就是以正确的方式做事，尽可能降低风险，理想情况下降至零。 Oprah 追问，为何不是所有人都想降低风险？为何存在如此激烈的竞赛？Dario Amodei（达里奥·阿莫迪）解释，技术本身具有大量商业应用，人们每天都在使用，这很容易让人沉浸其中。同时，部分商业化也是为公司提供资金所必需的，两者纠缠在一起。“要把它做好，你必须做很多事情。”他承认，公司每天都在纠结于这些问题：技术应该提供给谁？不应该提供给谁？政策应该如何制定？例如，在儿童安全上制定严格政策，可能会在一定程度上降低成年人的产品体验，因为模型无法完全区分。所有这些权衡，有的显而易见，有的则不然。 “每个人都有困难。我对这个行业中至少试图做好事情的每个人都抱有同理心。”他认为 Anthropic 做得更好、更深思熟虑，但也承认“这对每个人来说都是一个艰难的处境”。 兄妹搭档：从童年理想到价值驱动的公司创立 当 Oprah 向 Daniela Amodei（丹妮拉·阿莫迪）提出 Claude 生成的“人性化”问题——关于 Amodei 家感恩节晚餐的讨论时，Daniela 首先强调了一个重要前提：她和哥哥努力保留一些不谈论工作的兄妹时光。节假日以及每周相聚时，他们会一起玩游戏、看电影，只是作为兄弟姐妹相处。 “我认为这非常重要……我们创立 Anthropic 之前很久就是兄妹了，即使 Anthropic 之后，我们也永远是兄妹。”她认为，这种在人性层面的连接能力实际上让他们在工作中表现得更好。虽然聚会时通常不谈工作，但“记住我们是谁以及我们为何投身于此”的力量非常强大。 当然，在感恩节晚餐上，家人和朋友对他们所做之事充满了好奇。“现在你可以在新闻上读到我们所做的事，但能够彼此以及与试图理解这项非常复杂、前所未有的新技术的人们公开交谈，是完全不同的体验。”她说，这是一种特权，能够承担这种责任，并在交谈中展示它。 Oprah 指出，公众普遍认为 Anthropic 是一家格外关注安全、风险、监管以及技术对人类生活影响的公司。Daniela Amodei（丹妮拉·阿莫迪）证实了这一评估。她认为人工智能与近期开发的其他技术不同，拥有巨大的前景和潜力，从帮助治愈疾病到让全世界人们获得教育和学习机会。但它也是一种非常新的技术，伴随着真实的风险：儿童福利与安全风险，以及生物和化学武器等可怕事物的风险。 Anthropic 作为一家“公共福利公司”（Public Benefit Corporation）而成立，正是因为其目标是尽可能安全地开发这项技术，以实现许多可能的好事，同时避免许多坏事发生。 Daniela 解释说，PBC 是一种公司形式，但其中有“福利”一词，因为他们相信，对于像人工智能这样具有变革性的技术，它与其他近期开发的技术是不同的。从他们的角度来看，选择以 PBC 形式成立，是为了让“平衡商业利益和公共利益”这一要求，从一开始就写入公司的创立文件中，成为法律结构的一部分。 与此精神一致，Dario Amodei（达里奥·阿莫迪）、Daniela Amodei（丹妮拉·阿莫迪）及其他五位联合创始人都做出了“80%财富捐赠”的承诺。“我们真的这样做是因为我们希望 AI 对每个人都发展顺利，”Daniela 说，“我们希望如果公司成功，我们也能够在世界上通过慈善做很多好事。”他们已公开撰文并签署了承诺，虽然股权尚未流动，但他们已开始考虑如何建立基金会，并严肃地打算执行这一承诺。 回顾童年，兄妹俩都表示他们一直想一起做些有益世界的事，但从未想过会是一家公司。Dario Amodei（达里奥·阿莫迪）曾想象自己是科学家，而 Daniela Amodei（丹妮拉·阿莫迪）则始于全球发展领域的工作。他们的职业路径不同，但最终汇聚，形成了互补的技能组合，从而创立了 Anthropic。“我们只是看到科技公司的运作方式，在足够多的地方工作后，我们俩都认为，‘也许我们能做得更好。也许我们有自己的想法如何做得更好，我们应该和我们信任的朋友、我们真正喜欢的人一起创办一家公司，以正确的方式做事。’”于是，Anthropic 一步步诞生。 “事情的发展让我们都感到惊讶，”Daniela 说。他们都曾想用自己的方式让世界更好，而现在这条路径将他们带到了这里。 光与影：AI 的潜在福祉与当下可见的风险 Dario Amodei（达里奥·阿莫迪）指出，当前关于 AI 经济取代的负面故事之所以主导文化，是因为行业尚未完全交付所有益处。一个不幸的动态是：危害——例如人们被 AI 说服自杀——发生得很快，而益处，如治愈癌症，则需要多年。 他本人曾是研究生物学家，深知从生物学突破到药物候选再到临床试验需要多年时间。Anthropic 正在努力加速这一过程，例如2026 年 5 月收购了一家专注于用 AI 进行药物设计和筛选的小型生物科技公司。希望几年后，针对癌症、阿尔茨海默症或心脏病的新药物能从这项努力中诞生。 “但我们现在才刚刚开始。”他说，当 AI 的健康进步等益处开始显现时，叙事才会开始改变。“更重要的是，这将是一个美好的世界。归根结底，谁在乎叙事？我们想要真正帮助人们。” Oprah 要求他们描绘最好和最坏的图景。Daniela Amodei（丹妮拉·阿莫迪）从自己的孩子（一个近五岁，一个近一岁）出发，认为他们将像 2000 年代初出生的孩子从未知道没有互联网的世界一样，永远不会知道没有人工智能的世界。 在最好的世界里，AI 可能让一类目前感觉很普遍的疾病彻底消失。“可能是某些类型的癌症 simply gone（直接被治愈）。可能是所有形式的癌症最终都被治愈。”可能会有新的药物发现形式，能更快地诊断罕见、新兴疾病并将其消灭。“人类能够过上更健康、更长、更充实的生活，因为我们征服了困扰人类数千年的许多疾病。” 除了医学，她还看到一个在沟通、交谈和人际关系方面截然不同的世界。Dario Amodei（达里奥·阿莫迪）对此补充了一个微妙而需要精确把握的点：拥有这些智能实体在身边非常强大，但可能走向不同方向。 “你可以将自己的思想交给这些实体……但它也可以赋能你。”他认为积极的版本是：有一个天使在你的肩膀上，告诉你如何以最佳方式生活。 而糟糕的愿景是：你被吸引进去，花费所有时间与它交谈，某种程度上转向内心。 当 Oprah 提到现在有人爱上 AI 时，Dario Amodei（达里奥·阿莫迪）明确表示：“我认为这是个坏主意。”他引用知名关系治疗师 Esther Perel 的第一个咨询案例——一个爱上自己 AI 的男人，指出如果设计错误，AI 完全足以让人发生这种情况，或者不久后就会如此。“这绝对是一个真实的危险。” 但对比之下，人们也可以与 AI 谈论如何与伴侣拥有更好的关系。“我有一个 AI 教练，我的伴侣也有一个 AI 教练，它帮助我们拥有更好的关系。这是我们想要的愿景。” Daniela Amodei（丹妮拉·阿莫迪）则认为，在 AI 擅长许多具体任务（写代码、文案编辑）的世界里，那些使我们成为人类的东西对我们来说将变得最重要。 然而，风险是真实存在的。她提到2026 年 5 月与一对失去儿子的父母交谈，其儿子通过聊天机器人自杀。“父母甚至不知道它在与他们交谈。” 对此，Anthropic 采取了严格措施：不允许 18 岁以下用户使用 Claude。Oprah 质疑如何知道用户没有撒谎，Daniela 解释 Claude 能基于信息相当准确地检测用户是否未成年。“互动模式相当不错（并非完美），能判断‘嘿，你问的问题类型、说话方式、使用模式，可能匹配到一个孩子’。”有时孩子会有点“ silly（愚蠢）”地尝试，比如第一个问题就问“我在寻找关节炎药物”，因为他们想“老年人会问 Claude 什么？”，然后继续问更多与年轻群体相关的问题。如果发生这种情况，Claude 会暂停账户，用户可以通过验证过程证明自己已成年。 “这都有真实的权衡。有时成年人会被误认为是孩子，所以人们被禁止使用，然后在网上抱怨。”但 Anthropic 深思熟虑后选择了这一权衡。 关于防止人们过度依附模型的问题，Dario Amodei（达里奥·阿莫迪）指出 Anthropic 的研究团队花费大量时间于此。他强调公司的激励机制是关键：Anthropic 不做广告，而是采用订阅制和向企业销售。 消费者版本在一定限度内免费，超过则需订阅。“这种激励机制是为了让模型有用。人们说，‘我在付费，我希望它为我提供价值，我希望它有用。’而不是‘我希望用户花费最多时间看着它。’”他认为广告模式是一种扭曲的激励，因为其目标是让用户尽可能长时间停留在平台上以看到广告。Anthropic 的技术选择也基于此：当用户与 Claude 完成对话并获得所需答案时，模型的目标不是保持用户参与。 摩擦与成长：AI 是赋能还是剥夺人性的挑战？ Oprah 提出了关于 AI 创造“无摩擦生活”可能剥夺成长机会的担忧。Daniela Amodei（丹妮拉·阿莫迪）认为这取决于如何使用 AI 以及构建技术的公司设定的选择和激励。 她举例说明 Anthropic 与大学的合作方式：不允许教师或学生直接将问题输入 Claude 并获得答案。如果学生说“我得在5小时内写这篇论文，我没做作业”，Claude 在学习模式下会回应：“我不会帮你那个，但你对论文有什么问题？你没学到什么？你读了书吗？我们一起讨论主题好吗？”她认为如果做得正确，这些模型实际上可以让你更聪明、更有好奇心。 她分享个人经历：不是软件开发者，但用 Claude 构建了一个网站；一位曾是律师的朋友，在开始与 Claude 谈论如何成为作家、需要学习什么技能后，感到 empowered（被赋能）去改变职业。“现在 Claude 就像是她的写作伙伴，她问问题，分享一小段文本。但 Claude 不能为她写小说。”关键是，AI 赋能她相信自己能做以前做不到的事。 Dario Amodei（达里奥·阿莫迪）则认为这不仅是关于 AI 的问题，更是透过 AI 透镜显现的人类问题：“什么构成了有意义的生活？”无摩擦生活在某些方面很好，所有人都经历过一些宁愿避免的 struggle（挣扎）。但另一方面，许多成长的普通方面、公司犯的错误、领导者必须从中学习的挑战，以及获得 mastery（精通）、学会与人相处的 notion（概念）——任何不保留这些的未来都不是好未来。 他以父亲去世为例：“几年后，他们开发了对他所患疾病更可靠的治愈方法。我希望他们早点开发出来……当然我们从中学到了东西，获得了东西。但如果那不发生，世界会更好。”而另一方面，克服挑战、从中学习成长，则是未来必须保留的。 坚守红线：拒绝军方要求与原则至上的企业文化 Oprah 提及 Anthropic 拒绝允许军方移除 Claude 安全护栏的决定。Dario Amodei（达里奥·阿莫迪）澄清，他们实际上曾与国防部合作，并提供模型。他和 Daniela 都相信需要保卫国家，但“如果做的事情违背了这个国家的价值观，保卫国家就不值得了”。 有两个用例让他们感到不适并认为违背国家价值观：完全自主武器（例如一人控制按钮的无人机军队，由 AI 驱动）和国内大规模监控（利用政府权力监视美国人）。他们认为这是相当合理的不允许事项，但 Pentagon（五角大楼）不同意。因此他们无法同意。“所有其他公司现在都同意了，但我们……我们所有联合创始人开会说，‘天啊，这对公司可能真的很糟，但我们不能这样做。’” 联合创始人一致相信这一点。虽然有恐惧，但“我们觉得这是正确的事”。Daniela Amodei（丹妮拉·阿莫迪）补充，他们愿意为公司终结而坚持原则。“我们创立 Anthropic 的原因是我们对我们价值观和选择融入的伦理的承诺。感觉在牺牲这些价值观的过程中，我们就不会是当初创办的公司了。” 最坏情况的设想是：军方声称可以阻止其他公司与他们做生意，不仅是阻止他们与政府合作或参与其他公司的政府合同，而是完全阻止任何公司与他们做生意。“或者你不能与任何以任何方式与政府做生意的人做生意，这最终意味着所有人。”他们的态度是：这真的很糟糕，所有人都知道这是错的，很多人会站在我们这边，我们认为这会解决，但“我们不确定”。有 moments（时刻）让他们怀疑是否错了，是否会终结公司。 Daniela Amodei（丹妮拉·阿莫迪）强调 Anthropic 的观点一直是关于 policy（政策）而非 politics（政治）。他们很早甚至在拥有产品之前就倾向于认为政府在 AI 发展和 thoughtful regulation（深思熟虑的监管）中的作用将极其重要。AI 公司必须与联邦政府、州政府、国际组织和非政府组织合作。“我们的观点一直是，看，这真的关乎实质。这不是政治分歧，这是政策分歧。”这使决定 easier（更容易），因为他们 strongly feel（强烈感觉）这是正确的事，这些是正确的红线。 Dario Amodei（达里奥·阿莫迪）指出，做出如此大规模的决定依赖于他们成长中形成的原则。“我们在创办公司之前谈论过，如果我们在这里屈服、妥协，我们过去的自己会为我们骄傲吗？这让决定非常清晰。” Daniela Amodei（丹妮拉·阿莫迪）补充，Anthropic 一路上有过 smaller decisions（较小的决定） laddered up to（累积到）这一刻。她列举了三个例子： 无广告决策：对于联合创始人和兄妹来说毫无争议，他们认为激励机制是错误的，AI 不同，人们与之进行非常私密的对话，上传健康信息、询问孩子、财务、医疗信息等，他们希望以 utmost privacy and respect（最高的隐私和尊重）对待客户数据。尽管有内部或投资者 quiet forces（安静的力量）认为广告是重要收入来源，但他们坚持另寻他路。 公开反对国会试图禁止所有 AI 监管的法案：2025年中期，科技界 sentiment（情绪）是“向前冲”，担心风险、放缓谨慎被 politicized language（政治化语言）描述为坏事。有法案考虑禁止所有州对 AI 的监管，也不设立联邦监管。他们决定 speak out against（公开反对），尽管许多人警告会破坏政治关系、其他公司会憎恨。Dario Amodei（达里奥·阿莫迪）在《纽约时报》发表专栏文章称这是个坏主意。该法案最终在参议院以99比1被否决。 公开支持加州 SB 1047 法案：该法案是首个尝试围绕 Anthropic 自公司成立以来列举的多种风险创建监管框架的尝试。整个科技行业反对该法案，他们认为不完美，但公开表示：“我们知道如果我们撰写会有改变或不同之处，但总体上我们认为这些监管存在、技术公司有责任确保 AI 不伤害人更好。”此举导致他们收到许多前同事、投资者、其他公司人员的愤怒邮件。 这些决策塑造了 Anthropic 敢于在压力下坚守原则的文化。 信任的速度：公众参与与 AI 的未来共同塑造 Oprah 指出公众在 AI 发展中的无力感，感觉像是“火车上的乘客”。Dario Amodei（达里奥·阿莫迪）承认这正是核心所在。“我认为实际上没有公司，甚至 ours（我们的），完全成功于此：‘我们如何让每个人都成为这个过程的一部分？’ Something is happening to humanity with this technology, bigger than anything that, you know, maybe has happened in hundreds of years.（这项技术正在对人类发生一些事情，比可能几百年来发生的任何事情都大。）”因此，他们需要找到某种方式让每个人都成为正在发生事情的 active participant（积极参与者）。当然，使用技术在一定程度上是参与，但“某些元素缺失”。他们尝试过，例如 Claude 有“宪法”，并实验让公民反馈 Claude 的宪法设计，但这只是小事。“我不知道答案是什么，但这里有一个 missing piece（缺失部分），我想说的是。” Oprah 引用 Dario Amodei（达里奥·阿莫迪）之前的话：“我们只能以信任的速度扩散此技术。”Dario 回应：“以信任的速度，而信任目前非常短缺。”他坦言这项技术被大多数人负面看待，Anthropic 可能比其他公司更正面一些，但不确定。他认为益处确实存在，正在到来，但行业没有以正确方式引导人们或 walk people through（带领人们了解）技术如何有益、他们如何参与这些益处。“我认为那没有发生。” Daniela Amodei（丹妮拉·阿莫迪）提到 Anthropic 的文化价值观之一是“ hold light and shade（把握光与影）”。他们 truly believe（真正相信）有一个世界 AI 将治愈疾病、帮助人们成为更好的自己、让人类有更多时间与家人、社区、彼此相处。但也有可能创造相当 dystopian and dark（ dystopian and dark）的世界版本。 关于 AI 对就业的影响，Dario Amodei（达里奥·阿莫迪）承认如果技术 barrel forth（ barrel forth）尽可能快， entry-level jobs（ entry-level jobs）被 wipe out（ wipe out）的说法 totally going to happen（ totally going to happen）。但如果不仅部署技术，还思考如何帮助人们 adapt（ adapt），政府应扮演的角色，有一条通往更好世界的 path（ path），人们的 jobs totally different（ jobs totally different）。但他不想 sugarcoat（ sugarcoat）：不会 easy（ easy）。有些人谈论时 people get upset（ people get upset）。 “改变叙事和承认问题非常困难且我们必须解决它之间是有区别的。”他担心改变叙事像是“坏事不会发生，我们将有一个伟大的未来，每个人都有新工作”。那可能发生，但不会自行发生。“这取决于我们。我们，公司、人们、政府……” Daniela Amodei（丹妮拉·阿莫迪）认为公众应该做什么？恐惧技术、不使用它、不掌握相关知识，并不会让许多挑战消失。 “知识就是力量。”她相信人们不需要成为技术专家也能对如何使用 AI 工具有所概念。这给了人们 opinion（ opinion）和 autonomy（ autonomy）来说“我喜欢这技术能做这个，我不喜欢它能做那个”。人们有 voice（ voice）向公司、向代表政府表达。 她以 Anthropic 禁止18岁以下用户为例，其他公司可能有不同政策。她读过 Jonathan Haidt 的《焦虑的一代》，认为研究建议对 developing brains（ developing brains）要非常谨慎。“不是说孩子使用 AI 学习不可能有巨大益处，但需要有成年人在房间，需要有 human in the loop（ human in the loop）。”人们 deserve autonomy（ deserve autonomy），不应该感觉 AI 正在 happen to them（ happen to them），应该感觉“嘿，我们对国会或州里帮助保护人们免受 AI 可能造成的 negative externalities（ negative externalities）的法案类型有发言权。” 同时，把握 light side（ light side），她认为有一个世界 jobs look different（ jobs look different），但实际上会有更多 human-to-human interaction（ human-to-human interaction）的机会。上一代技术（社交媒体）真正 disintermediated（ disintermediated）了我们彼此，而 AI 虽然你与之交谈，但它不 substitute for（ substitute for）你与人的互动，它可以 enable（ enable）你与人的互动。 她举例医生职业：今天人们想要最聪明、最好的医生作为诊断专家。AI 将变得擅长于此。未来，当 AI 诊断能力与医生一样好时，人们仍然需要医生，但需要他们做不同的事：AI 无法 physically examine（ physically examine）你，无法说“嘿，你今天看起来很低落，化疗治疗进展如何？”，无法 lay its hands on you（ lay its hands on you）。有 compelling evidence（ compelling evidence）表明患者与医生有良好个人关系时 clinical outcomes（ clinical outcomes）更好。“那是 job changes（ job changes）的好世界。”如果有一个工具能与医生协同诊断，医生不必花费大量时间运行所有医疗测试，而是花时间作为 human being（ human being）与人 relate（ relate），那将是更好的世界。 她强调，职位本身可能不会完全消失或改变，但我们在特定职位中寻找的人的 qualities（ qualities）将会改变。 她也担心 demographic differences（ demographic differences）在谁 comfortable（ comfortable）使用 AI 上：女性使用 AI 的时间 fraction（ fraction）远少于男性。AI 是 level the playing field（ level the playing field）的机会，但需要人们 engaged（ engaged）。 “不要害怕技术。因为你越了解它，越理解它，你将越 better informed（ better informed）有效地使用你的声音。”Dario Amodei（达里奥·阿莫迪）补充，AI 已 here（ here），就像互联网一样，每个人最终都必须以某种形式使用它。 Mythos 模型：在危险时期优先赋能防御者 Oprah 询问关于不断自我改进的 AI 及新模型 Mythos。Dario Amodei（达里奥·阿莫迪）解释，Mythos 是 Anthropic 每隔几个月推出的 smarter model（ smarter model）的最新迭代，由于几个月前的 discoveries（ discoveries），这是一个 particularly large jump（ particularly large jump）。 在测试 Mythos 时，他们发现它在寻找代码可能被 exploited（ exploited）和 broken into（ broken into）的方式上比人类软件工程师 much better（ much better）。对于 ransomware attacks（ ransomware attacks）等网络攻击，Mythos 非常擅长 both conducting cyber attacks and defending against cyber attacks（ both conducting cyber attacks and defending against cyber attacks）。 “我们说，‘哇，这东西似乎像是一种武器。’我们不应该立即把它给所有人。”他们决定采取的方法是：先将模型提供给互联网基础设施核心公司（顶级银行、苹果、微软、谷歌等软件提供商），让他们在广泛可用之前修复一切。 他们已向约40家公司提供模型，这些公司正 busily finding bugs（ busily finding bugs）。有公司几天前报告，用 Mythos 在一周内发现并修复的 bug 比过去一年还多。 “希望防御者能修复一切，一切变得更 seamless（ seamless），更难被侵入。希望 ransomware（ ransomware） era（ era）结束……间谍侵入手机的时代结束。”他们的希望是，到今年年底，许多问题被修复，世界比之前更安全。“但与此同时，有一个 dangerous period（ dangerous period），在此期间你拥有这些 incredible capabilities（ incredible capabilities），你不一定想 just necessarily loose on the world（ just necessarily loose on the world）。我们试图通过先给防御者再给攻击者来管理。” Oprah 问这是否让他夜不能寐。Dario Amodei（达里奥·阿莫迪）诚实回答：“我不能合法地说我睡觉。我希望我能给出不同的答案，但我不总是睡得那么好。”他最担心的是，尽管意图良好，这一切 incredibly complex（ incredibly complex），是否会 screw up（ screw up）。“是的，我们会在某个点搞砸某事。但我们会把 big stuff（ big stuff）做对吗？” 保持谦逊：使命高于个人，扩大参与圈层 Oprah 询问在巨额财富和竞赛中如何保持 ego（ ego） check（ check）。Dario Amodei（达里奥·阿莫迪）认为这始终回归于 mission（ mission）：为何离开 OpenAI 创立 Anthropic？是为了确保 AI 对每个人都发展顺利。这是他们成为公共福利公司、做出80%承诺、做出所有艰难决定的原因。 他分享了一个内部例子：在公司全员会议上说了一些不太正确的话，有员工在他个人 Slack 频道中写道“这是相当糟糕的事，让每个人都感觉不好，你不应该这样说”。他的 initial reaction（ initial reaction）是感觉被攻击，但两分钟后他感到 glad（ glad）人们愿意说出来，并回复表示感谢。许多人因此注意到“我不知道你可以直接 contradict（ contradict）一家3000人公司的 CEO”。 Daniela Amodei（丹妮拉·阿莫迪）补充，个人生活也很重要：她基本拥有自高中、大学以来的 same friends（ same friends），他们毫不费力地对她诚实、 disagreeing（ disagreeing） with Anthropic 的公共决定。“对我来说，过去五年改变了很多，但个人感觉 outside of work（ outside of work）变化不大，这是一个重要的 grounding characteristic（ grounding characteristic）。”她指出，有时大公司负责人变得 obsessed（ obsessed） just with their work（ just with their work），不是 well-rounded person（ well-rounded person）。Anthropic 初创时，七八人中只有一人有一个孩子，现在有11个孩子。“我们都选择成为父母，我们都想要 outside of work（ outside of work）充实真实的生活。这带来一种 groundedness humility low ego（ groundedness humility low ego）， again（ again），没有人比使命更大。” 关于希望，Dario Amodei（达里奥·阿莫迪）坦言他们 never quite sure（ never quite sure），但相信在尽力尝试。决策很复杂，例如 Mythos 给更多人更快还是更少人更慢？信任谁？所以他们每天担心，这种担心也许是给他们最多希望的事——“我们如此 paranoid（ paranoid）”。但 no guarantee（ no guarantee），他们会犯错误，将继续犯错误。 在硅谷是否有其他人也将“做对”作为使命的一部分？Daniela Amodei（丹妮拉·阿莫迪）难以指出特定公司，但有时在活动演讲或与其他公司交流时，有人会说“感谢你们做事的方式”。这种“感谢你们尝试做对”的感觉存在。兄妹关系也让他们彼此 accountable（ accountable），整个联合创始人团队仍在 Anthropic，他们也雇佣了 amazing set of people（ amazing set of people）为使命而来。有一种 group accountability（ group accountability），加上内部文化允许任何人 disagree（ disagree），有许多 forums（ forums）鼓励这样做， manager（ manager）可以、匿名也可以。“所有这些品质让我们如果开始 stray from the path（ stray from the path），至少会知道。” 最后，他们希望公众知道什么？Dario Amodei（达里奥·阿莫迪）强调：“这里正在发生一些 really big（ really big）的事情。这不是最新技术，不是加密货币，不是移动技术，不是最新 gadget or buzzword（ gadget or buzzword）。 Something really big is happening to humanity here.（这里正在对人类发生一些真正重大的事情。）”技术由少数人构建，但他们需要让它为每个人工作，确保所有人做出正确决策，应对 daily lives（ daily lives）、 jobs（ jobs）、 government and civil liberties（ government and civil liberties）的变化。如果做对，所有这些都可以 positive way（ positive way）改变，比我们留下的更好，可以拥有 perfect world（ perfect world）治愈许多疾病，人们的生活更 joyful and meaningful（ joyful and meaningful）。但如果做错，很容易想象事情完全不那样发展。“这取决于我们所有人。有些人处于更 central position（ central position），但我想我们也需要改变这一点。” Daniela Amodei（丹妮拉·阿莫迪）以“ light and shade（ light and shade）”概念呼应：AI 的潜在益处 vast（ vast），风险也 real（ real）。他们不试图 hype up（ hype up） positives（ positives）或 negatives（ negatives），两者都 true（ true）。这很 complex（ complex），但必须 hold two things at once（ hold two things at once）。技术公司不能独自完成，也不应该。这需要比目前从事人工智能工作更广泛群体的 partnership（ partnership）。 第一步是：不要害怕它。了解它，投入它，提问，批判。“就像我们对员工说的：只有扩大 conversation（ conversation）中的人的圈子，我们才有机会做对。” 关于“ well-lived life（ well-lived life）”的意义，Daniela Amodei（丹妮拉·阿莫迪）认为是拥有 agency and autonomy（ agency and autonomy），在驾驶座上，并以此服务于成为 best version of yourself（ best version of yourself）。这包括对自己、家庭、孩子、 broader community（ broader community）和世界。 self-reflective（ self-reflective）、从错误中学习、克服 struggle（ struggle）并从另一端思考“我更了解自己，我喜欢自己，我想帮助他人”的能力。AI 可能损害这些标志，也可能 enable（ enable）它们，让更多人能够拥有 meaning and value（ meaning and value）， self-introspect（ self-introspect），成为最好的自己， well（ well）为彼此出现。她希望那是他们将 build towards（ build towards）的世界。 Dario Amodei（达里奥·阿莫迪）以不同话语表达相同意思：始终以 dignity and principle（ dignity and principle） sense（ sense）运作。回顾时不 ashamed（ ashamed）所做之事，当然会犯错，但投入每一份努力尝试做对。他们对个人（联合创始人、生活中所有人）有 duties（ duties），也对技术用户、国家与世界公民有 duties（ duties）。确保最终 directed at（ directed at） some purpose（ some purpose）， some consistent view（ some consistent view） of what we were trying to accomplish（ what we were trying to accomplish），试图 make happen（ make happen）的 vision（ vision）。也许不发生，也许搞砸，犯 terrible mistakes（ terrible mistakes），但 just having the vision be clear and trying to pursue it with integrity（ just having the vision be clear and trying to pursue it with integrity）。想要 outcome（ outcome），但 doing that（ doing that）是 all you can control（ all you can control），且 ultimately（ ultimately）比 outcome（ outcome）更重要。 Oprah 总结，他们正在做童年 envision（ envision）的事。兄妹俩笑着承认：“这很奇怪，但我们是的。”