ournews.aiLive news in the AI era.

達里奧的IPO演說:我們不會向商業或政治壓力屈服。

我和共同創辦人創立Anthropic,是因為我們相信,這個時代最強大的技術應該為人類的福祉而打造。

丹妮埃拉和我失去了父親,他死於一種疾病,而這種病就在短短幾年後變得可以治癒。我從生物學研究開始職涯,希望能幫助未來的療法更早問世。在實驗室裡,我看見科學家試圖了解疾病、開發新療法時,面對的是多麼錯綜複雜的難題。

許多能夠破解這些難題的科學工具——用於基因編輯、基因合成、以光控制腦細胞的工具——最初都只是純粹的想法。換句話說,它們來自思考,來自智慧。

人類智慧已經讓鼠疫、天花和小兒麻痺等疾病在世界大部分地區成為歷史。但對許多病人及其家人而言,其他疾病的治療進展太慢。從一個偉大的想法到一種療法,可能需要數十年:從首次發現DNA中一種奇特的重複模式,到首個使用CRISPR治療疾病的療法獲准,就花了許多年。

大自然充滿了這類模式。但我們過去缺乏足夠的智慧來破解其中大多數模式;科學家太少,時間也太少。現在,我們可以建構這樣的智慧。無論是蛋白質摺疊、藥物設計、癌症遺傳學或臨床試驗管理,生物學和醫學多個領域的科學家都發現,Claude能幫助他們在短短兩年前所需時間的一小部分內完成研究。我相信,足夠強大的AI與人類協作,可以將一個世紀的科學和醫學進展壓縮到十年之內。

我不想言之過早。目前我們取得的還只是初步成果。實驗和臨床試驗仍然需要時間。雖然其中涉及緩慢而繁瑣的程序,我相信AI可以大幅加速這些程序。我們希望,未來能有更少家庭僅僅因為相差幾年而錯過治癒的機會。

醫學只是一個特別鮮明的例子,其他例子還有很多。我們的客戶——全球最有雄心的企業、非營利組織和個人——已經在運用我們建構的智慧,促進經濟成長、幫助人們脫離貧窮、保護民主與自由社會,甚至讓車輛管理機關等日常服務運作得更好。我們很自豪能與他們並肩合作。我對我們未來能夠共同達成的目標極為樂觀。

與此同時,我們一向坦承,這項技術存在非常真實的風險。這些風險包括個人或民族國家濫用技術、經濟受到衝擊,以及AI系統失去控制。我們討論這些風險,不是因為我們認為它們無可避免,而是因為我們認為它們可以避免。

能否避免這些風險,取決於AI開發者做出的選擇。如果我們不太重視安全,AI的發展將與我們全心關注安全時截然不同。對安全和公共利益的高度重視,從一開始就融入了Anthropic的DNA。從防範生物和網路風險的安全措施,到對齊訓練和測試,再到像X光一樣檢視模型內部,Anthropic開創了理解和引導AI系統行為的方法。

還有許多工作要做,而最艱鉅的安全工作就在前方。公司擁有非凡的人才,讓我們得以打造出能力最強的AI系統。我們需要比以往更加充分地運用這些人才,對AI系統的安全性反覆檢查、再三確認。

我要明確地說,我們將掌握AI系統訓練和部署的步調,花費必要的時間,確保我們有信心認為這些系統是安全的,並將持續處於人類控制之下。 我們不會向商業或政治壓力屈服。 今天讓公司的財務狀況更加穩健,也因此更加堅定了我們做正確之事的決心。

如果我們能證明,既可以在安全問題上做出正確選擇,又可以建立一家極為成功的公司,業界其他公司就會受到鼓舞,跟進這麼做。我們稱之為向上競賽。當向上競賽正常發揮作用時,哪家公司擁有最好的模型並不重要——所有人都是贏家,因為所有人都在安全地建構AI。 由領先者推動時,向上競賽的效果最好。我們完全希望並期待自己能擔任這個角色,但目標是讓整個產業變得更好,無論Anthropic在任何特定時刻是領先還是落後。

機器智慧的出現是人類歷史上的重大轉折時刻之一,我們有一個難得的機會,可以引導它朝更好的方向發展。

這個時刻的意義超越任何一家公司或任何一個國家。我們所有人都必須共同努力,確保這項技術造福我們和未來世世代代。從今天起,我們希望你們加入我們,共同完成這項使命。