ournews.aiLive news in the AI era.

达里奥的IPO演讲:我们不会向商业或政治压力屈服。

我和联合创始人创办Anthropic,是因为我们相信,这个时代最强大的技术应当为造福人类而打造。

丹妮埃拉和我失去了父亲,他死于一种疾病,而这种病就在短短几年后变得可以治愈。我从事生物学研究开启了职业生涯,希望能帮助未来的治疗方法更早问世。在实验室里,我看到了科学家试图了解疾病和开发新疗法时所面对的极其复杂的难题。

许多能够拨开这些难题的科学工具——用于基因编辑、基因合成、用光控制脑细胞的工具——最初都只是纯粹的想法。换句话说,它们来自思考,来自智能。

人类智能已经让鼠疫、天花和脊髓灰质炎等疾病在世界大部分地区成为历史。但对许多患者及其家人来说,其他疾病的治疗进展太慢。从一个伟大的想法到一种疗法,可能需要几十年:从首次发现DNA中一种奇特的重复模式,到首个使用CRISPR治疗疾病的疗法获批,就花费了许多年。

自然界充满了这样的模式。但我们过去缺少足够的智能来破译其中大多数模式;科学家太少,时间也太少。现在,我们可以构建这种智能。无论是在蛋白质折叠、药物设计、癌症遗传学还是临床试验管理方面,生物学和医学多个领域的科学家都发现,Claude可以帮助他们在过去短短两年前所需时间的一小部分内完成研究。我相信,足够强大的AI与人类协作,可以将一个世纪的科学和医学进步压缩到十年之内。

我不想言之过早。目前我们取得的还只是初步成果。实验和临床试验仍然需要时间。尽管它们涉及缓慢而繁重的流程,我相信AI可以大幅加快这些流程。我们希望,未来能有更少家庭仅仅因为相差几年而错过治愈的机会。

医学只是一个特别鲜明的例子,其他例子还有很多。我们的客户——世界上最有雄心的公司、非营利组织和个人——已经在运用我们构建的智能,推动经济增长,帮助人们摆脱贫困,保护民主和自由社会,甚至让机动车管理局等日常服务运转得更好。我们为能与他们并肩合作而感到自豪。我对我们未来能够共同实现的目标极为乐观。

与此同时,我们一直坦诚地指出,这项技术存在非常现实的风险。这些风险包括个人或民族国家滥用技术、经济受到冲击,以及AI系统失去控制。我们讨论这些风险,并不是因为我们认为它们不可避免,而是因为我们认为它们可以避免。

能否避免这些风险,取决于AI开发者作出的选择。如果我们对安全不够重视,AI的发展将与我们全力关注安全时大不相同。对安全和公众利益的高度重视,从一开始就融入了Anthropic的基因。从防范生物和网络风险的安全措施,到对齐训练和测试,再到像X光一样审视模型内部,Anthropic开创了理解和引导AI系统行为的方法。

还有大量工作要做,而最艰难的安全工作就在前方。公司拥有非凡的人才,使我们能够打造出能力最强的AI系统。我们需要比以往更加充分地运用这些人才,对AI系统的安全性进行反复核查。

我要明确无误地说,我们将把控AI系统的训练和部署节奏,花费必要的时间,确保我们有信心认为这些系统是安全的,并将始终处于人类控制之下。 我们不会向商业或政治压力屈服。 今天,公司财务状况更加稳健,这只会更加坚定我们做正确之事的决心。

如果我们能够证明,既可以在安全问题上作出正确选择,又可以建立一家极其成功的公司,行业内的其他公司就会受到激励,效仿这一做法。我们称之为向上竞赛。当向上竞赛正常发挥作用时,哪家公司拥有最好的模型并不重要——所有人都是赢家,因为所有人都在安全地构建AI。 由领跑者推动时,向上竞赛的效果最好。我们完全希望并期待自己能够担当这一角色,但目标是让整个行业变得更好,无论Anthropic在任何特定时刻是领先还是落后。

机器智能的出现是人类历史上的重大转折时刻之一,我们有一个难得的机会,可以引导它向更好的方向发展。

这一时刻的意义超越了任何一家公司或任何一个国家。我们所有人都需要共同努力,确保这项技术造福我们和未来世世代代。从今天开始,我们希望你们加入我们,共同完成这一使命。