Anthropic 周四在华尔街迎来“首秀”,并完成了历史上规模最大的 IPO。首席执行官 Dario Amodei 在纳斯达克开盘钟声前发表讲话,重申公司致力于负责任地开发人工智能。他表示,这家 AI 公司不会屈从于商业或政治压力,并将“始终处于人类控制之下”。
Amodei 读着打印稿开始演讲,先谈到 Anthropic 的创立初衷:打造能够造福人类的强大技术。他说,这一想法受到他父亲因一种在几年后就变得可治愈的疾病去世的影响。
他承认,尽管人类智慧已经让鼠疫、天花和脊髓灰质炎等疾病在世界大部分地区成为历史,但仍有太少的科学家、太少的时间去推动其他疾病领域的进展。他表示,AI 可以通过与人类协作来帮助推进医学进步。
Amodei 以强调 AI 可能带来救命用途的故事开场,也颇具意味,因为他一直反复警告技术推进过快的风险。9 月,Amodei 曾因提出一项放缓 AI 发展的计划而受到关注,其中包括与其他领先公司协调安全标准,以及引入第三方组织的评估人员,核实企业是否遵守其安全承诺。
OpenAI 首席执行官 Sam Altman、Google DeepMind 负责人 Demis Hassabis 以及 xAI 创始人 Elon Musk 都表示认同 Amodei 的立场,不过几乎没有人作出具体承诺。
在周四上午的讲话中,Amodei 再次强调,推进 AI 技术与确保安全同样重要。他提到,AI 落入不良行为者之手会带来“非常真实的风险”,无论这些行为者是个人还是民族国家;此外,还可能引发“经济扰动”以及“失去对 AI 系统的控制”。
他表示,只要有相应保障措施,这些风险是可以避免的。Amodei 说,公司将继续投入 AI 对齐与测试工作,并开发新的方式来理解 AI 行为,从而让其保持在人类控制之下。
“还有很多工作要做,最困难的安全工作还在前方,”他说,“公司令人难以置信的人才帮助我们构建了最强大的 AI 系统,但接下来需要比以往更加把精力放在反复确认这些系统是安全的,并且仍然受人类控制。”
“我明确地说,我们会放缓 AI 系统的训练和部署,在获得足够信心、确认它们安全且仍受人类控制之前,会尽可能花费必要的时间,”Amodei 总结道。
Anthropic 联合创始人、Amodei 的妹妹 Daniela Amodei 周四在接受 CNBC 采访时也表达了类似观点。她说,虽然风险真实存在,但 AI 的前景同样“令人难以置信”。
“我们创立公司的初衷就是要减轻这些风险,我认为到目前为止我们在这方面做得非常出色。显然,我们还有很多工作要做,但我们对安全有着深度承诺,”她补充说。
以下为 Dario Amodei 开场演讲全文:
谢谢你,Daniela。我的联合创始人和我创立 Anthropic,是因为我们相信,当代最强大的技术应该为全人类的利益而构建。Daniela 和我都曾失去父亲,他死于一种几年后就变得可治愈的疾病。我最初从事生物学研究,希望能帮助未来的治愈来得更早一些。在实验室里,我看到了科学家在理解疾病和开发新疗法时所面对的巨大复杂性。许多能够穿透这种复杂性的科学工具——基因编辑工具、基因合成工具、用光控制脑细胞的工具——最初都只是纯粹的想法。换句话说,它们来自思考,来自智能。
人类智慧已经让鼠疫、天花和脊髓灰质炎在世界大部分地区成为历史。但在其他疾病上的进展,对太多患者和家庭来说仍然太慢。从一个伟大的想法到一种治疗方法,往往需要几十年。从 DNA 中发现一种奇怪重复模式,到首个利用 CRISPR 治疗某种疾病的方法获批,中间也经历了很多年。自然界充满这些模式,但我们一直缺乏足够的智能去解读其中大多数。科学家太少,时间太少。现在我们可以构建这种智能。无论是蛋白质折叠、药物设计、癌症遗传学,还是临床试验管理,生物和医学许多领域的科学家都发现 Claude 能帮助他们在远少于几年前所需的时间内完成研究。我相信,足够强大的 AI 如果与人类协同工作,能够把一个世纪的科学和医学进步压缩到十年之内。
我不想说得太超前。到目前为止,我们只有早期结果。实验和临床试验仍然需要时间,尽管它们涉及缓慢而繁琐的流程,但我相信 AI 可以大幅加速这些流程。我们希望未来更少的家庭会因为晚了几年而错过治愈。医学只是一个特别鲜明的例子,但 Claude 还有许多其他应用。我们的客户——世界上最有雄心的公司、非营利组织和个人——已经在利用我们构建的智能来刺激经济增长、帮助人们摆脱贫困、保护民主和自由社会,甚至让像车管所这样的日常服务运转得更好。我们很荣幸能与他们并肩合作,我对我们未来能够共同实现的成就极为乐观。
与此同时,我们一直坦诚承认,这项技术存在非常真实的风险。这些风险包括个人或民族国家对技术的滥用、经济扰动,以及失去对 AI 系统的控制。我们讨论这些风险,并不是因为我们认为它们不可避免、而我们仍会继续推进;相反,我们认为这些风险是可以避免的,而我们也能避免它们。避免这些风险取决于开发 AI 的人所做出的选择。对安全关注甚少的 AI 发展路径,与对安全极度执着的路径之间,存在巨大的差异。从一开始,Anthropic 的基因里就写入了对安全和公共利益的执着:从防范生物和网络风险的保护措施,到对齐训练和测试,再到像做 X 光一样审视我们的模型,Anthropic 一直在开创理解和引导 AI 行为、并让其保持在人类控制之下的方法。还有很多工作要做,最困难的安全工作还在前方;公司令人难以置信的人才帮助我们构建了最强大的 AI 系统,但接下来需要比以往更加把精力放在反复确认这些系统是安全的,并且仍然受人类控制。
我明确地说,我们会放缓 AI 系统的训练和部署,在获得足够信心、确认它们安全且仍受人类控制之前,会尽可能花费必要的时间;我们不会屈从于商业或政治压力。今天让公司处于更强的财务位置,而这只会进一步增强我们做正确事情的决心。如果我们能够证明,在重视安全的同时也能打造一家极其成功的公司,行业中的其他人也会受到鼓舞,去做同样的事。我们把这称为“向上竞赛”。
当“向上竞赛”运转良好时,哪家公司拥有最好的模型并不重要。因为大家都在安全地构建,所有人都会受益。向上竞赛在由领先者带动时效果最好,而我们完全希望并期待自己能处于这一位置。但目标是让整个行业变得更好,不论 Anthropic 在任何时点是赢还是输。机器智能的出现是人类历史上的一个里程碑,我们有一个难得的机会把它引向更好的方向。谢谢。












