特斯拉(Tesla)CEO 馬斯克(Elon Musk)和一群人工智能專家及行業高層在一封公開信中呼籲暫停訓練比GPT-4更強大的人工智能系統最少六個月,因為這種系統對社會和人類構成潛在風險。
非營利組織未來生命研究所(Future of Life Institute)發布包括馬斯克、蘋果聯合創辦人沃茲尼亞克(Steve Wozniak)和 Stability AI首席執行官Emad Mostaque在內的1000多人簽署信,呼籲暫停高級人工智能的開發,直到為此類設計製定、實施並由獨立專家審核的共享安全協議。信中提到,「只有在確信它們的效果是積極的,風險是可控的情況下,才應該開發強大的人工智能系統。」
信中又列出與人類競爭的人工智能系統以經濟和政治破壞的形式對社會和文明造成的潛在風險,並呼籲開發者與政策制定者就治理問題和監管機構展開合作。
信中呼籲,所有人工智能實驗室立即暫停訓練比GPT-4更強大的人工智能系統至少6個月。這種暫停應該是公開的和可驗證的,並且包括所有關鍵參與者。如果不能迅速實施這種暫停,政府應介入並實行暫停。人工智能實驗室和獨立專家應該利用這次暫停,共同開發和實施一套用於高級人工智能設計和開發的共享安全協議,並由獨立的外部專家進行嚴格審計和監督。這些協議應確保遵守它們的系統是安全的。
信中指出,這並不意味著總體上暫停AI開發,只是緊急從奔向不可預測的大型黑盒模型的危險競賽中收回腳步。
此前,馬斯克曾多次表達對人工智能的擔憂。他曾指出,人工智能是未來人類文明最大的風險之一。「它有積極的一面,也有消極的一面,有巨大的前景也有巨大的能力,但隨之而來的危險也是巨大的。」
其他報道
許濤:已更換管理層團隊最頂層57% 無計劃集資大股東也不售股
恒指半日升378點 50天線前遇阻 阿里升13% 北水流入較昨全日多8% 洲際船務潛水13%
嘉里建設去年少賺73.4% 基礎溢利跌28% 末期息0.95元