OpenAI CEO Sam Altman 指出，「AI 對齊」非常重要。 （美聯社圖片）

去年11 月推出的ChatGpt，引發人們對人工智能的擔憂。（美聯社圖片）

對於人工智能的發展，OpenAI CEO Sam Altman 不只一次表達擔憂。Altman 前（10）日通過視頻連線參加2023智源人工智能大會時表示，「未來十年內我們就很可能會擁有非常強大的人工智能（AI）系統，愈來愈接近通用人工智能，但隨之任何潛在影響都會成倍增加。不計後果的開發和部署所帶來的事故將影響我們所有人，我們必須共同管理風險。」

為應對通用人工智能（AGI）帶來的潛在的風險，Altman認為，「國際社會需要協調合作，針對通用人工智能建立國際規範和標準，使各國可以公平地在框架範圍內開展研究。」

通用人工智能（Artificial General Intelligence）指的是具備與人類同等智能、或超越人類的人工智能，能表現正常人類所具有的所有智能行為。

Altman稱，隨著愈發強大的AI系統出現，全球合作的利害關係變得前所未有的重要。如果我們不夠謹慎，沒有建立起一個「對齊機制」（AI alignment，AI對齊，引導人工智能系統行為，使其符合設計者利益和預期目標），AI可能會提出不可靠的建議，進而破壞整個醫療系統。類似地，旨在優化農業實踐的AI系統，如果缺乏對長期可持續性的考量，可能反而導致自然資源的耗盡、生態系統的破壞，從而影響糧食生產和環境平衡。

國際合作需建立規範標準

AGI擁有徹底改造文明的能力，因此，有意義的國際合作非常必要。他認為，如果能實現治理上的合作，並以安全、負責的方式引導這個過程，AGI系統可以為全球經濟做出無與倫比的貢獻，幫助解決氣候變化、衛生安全等共同挑戰，每個人都可以從中獲益。

國際合作需要建立規範和標準，並注重過程和包容性。要為所有國家建立相同的使用AGI的防護措施；在這些措施範圍內，人們也有足夠的機會做出自己的選擇。其次，要建立起全球互信，以可驗證的方式，安全地建立日益強大的AI系統。應該推動、引導「AI對齊」和進行安全研究。

訓練AI 系統輔助對齊研究

Altman表示，對於更高級的AI系統來說，對齊仍然是一個未解決的問題。OpenAI正朝幾個研究方向前進，第一是「可擴展的監督」，嘗試利用AI系統輔助人類，監督其他AI系統。其次是「可解釋性」，需要更好地理解，人工智能模型內部發生了甚麼。最終的目標則是訓練AI系統，來輔助對齊研究。這種方法的優勢在於，它能跟隨AI技術同步發展。未來，模型會變得更加智能、更加有用，也能更好地輔助我們找到更好的對齊技術。

目前，AIlman正在全球旅行，了解不同國家和用戶的價值篇好。2022年11 月，OpenAI推出ChatGPT，立刻風靡全球。隨著全球科技企業競逐大模型，相關應用開始落地，其可能存在的風險亦引起各方關注。

5 月30日， 包括Altman、谷歌DeepMind CEODemis Hassabis、微軟CTO Kevin Scott等370多名企業家和科研人員聯合呼籲，降低人工智能帶來的滅絕風險應該是全球的一個優先事項，就像全社會面對的其他風險——疫情大流行和核戰爭一樣。