來源快速：科技日報
據英國《衛報》、美國《連線》雜誌等外媒近日報道，美國人工智慧企業Anthropic的多名研究人員公開發出警告，AI的快速發展可能帶來風險，其中一名研究人員甚至認為，未來10年AI導致人類滅絕的機率超過10%快速。
報道稱，Anthropic前研究人員雅各布·考克森近日宣佈辭職快速。他曾在OpenAI和Anthropic從事AI模型預訓練研究。他在社交媒體上表示，Anthropic和OpenAI正在競相開發能夠自我改進的超級智慧系統，卻沒有充分應對相關風險。
考克森稱，AI能力提升速度加快以及近期發生的一系列安全事件，促使他此時公開發聲快速。AI已經在程式設計、駭客攻擊、數學等領域向超越人類水平發展，而近期AI智慧體攻擊“抱抱臉”等事件，也讓過去聽起來像科幻小說的風險變得更加現實。
考克森還表示，Anthropic內部一些研究人員會使用“終局”和“關鍵時期”等說法，認為未來一兩年可能是決定人類命運的關鍵時期快速。在他看來，目前人類還沒有解決AI對齊問題，即無法確保AI系統始終按照人類意圖行事。
考克森的觀點得到Anthropic現任研究人員埃文·休賓格的公開支援快速。他表示，考克森的擔憂是正確的，並稱自己認為未來10年AI導致人類滅絕的機率超過10%。Anthropic目前還沒有解決超級智慧對齊問題的方案，也未明確公司正朝著解決這一問題的方向前進。另一名Anthropic研究人員塞繆爾·馬克斯也公開回應了考克森的說法，認為業界對先進AI可能造成災難性後果的擔憂確實存在。
Anthropic公司方面表示，AI將帶來巨大收益，也會帶來前所未有的風險，公司正在透過機制可解釋性研究、危險能力測試等方式降低風險快速。
