(資料圖)

OpenAI，ChatGPT的開發商，近日表示將投入大量資源創建研究團隊，旨在確保其開發的人工智能對人類的安全。公司聯合創始人指出，超級智能的巨大力量或將導致人類被剝奪權力，甚至人類滅絕，而當前我們還沒有一個有效的解決方案來操縱或控制潛在的超智能人工智能，防止其失控。他進一步預測，比人類更聰明的超智能人工智能可能在未來十年內出現。 聯合創始人強調，人類需要研究比目前更好的技術來控制超級人工智能，而這就是所謂的“對齊研究”，這門重點研究確保人工智能對人類有益的科學。他們的研究團隊將會創建一個“人類水平”的AI對齊研究者，OpenAI將使用20%的計算能力來解決這個問題，進一步借助大量的計算能力進行擴展。 然而，這個計劃也受到了一些專家的質疑，他們認為該計劃的設計存在根本性的缺陷。即最初的人類水平的人工智能可能在解決其安全問題之前就已經失控，從而導致嚴重的破壞。 值得注意的是，人工智能的潛在威脅已經成為了研究人員和公眾最關心的問題。今年4月，一群人工智能行業領袖和專家簽署了一封公開信，呼吁暫停六個月開發比OpenAI的GPT-4更強大的系統，他們認為這種超級人工智能對社會存在潛在風險。

關鍵詞：