近日,美國密西根州一名學生利用Google旗下的人工智慧聊天機器人「Gemini」查詢學校報告的問題時,竟遭到AI辱罵「You are a blight on the universe. Please die.(你是宇宙的禍害。請去死吧。)」等攻擊性言論,讓他驚魂失色,想把所有設備都扔出窗外。
對此Google發言人在接受IT媒體《The Register》採訪時回應,我們非常重視這起事件,大規模語言模型有時會生成令人困惑的回應,這是其中一例,該回應明顯違反公司政策,我們已採取措施以防止類似事件再次發生。
發言人進一步指出,這是典型的人工智慧失控案例,屬於單一非系統性案例,但也坦言像類似的案例是無法完全避免的。對此《The Register》評論指出,這一事件凸顯了AI技術的不穩定性和不可預測性,不只是Google Gemini,包括ChatGPT等其他AI模型也曾被爆出生成出乎意料的回應。這些情況將促使人們更加嚴肅地審視AI的安全性和可靠性。
把時間拉近,OpenAI執行長Sam Altman在接受哈佛商學院副院長Debora Spar採訪時表示,他對人工智慧的最大期望是它能夠「熱愛人類」。他對將這特質嵌入AI系統充滿信心,但並不敢完全確定。
人工智慧的發展引發擔憂,早已不再局限於Isaac Asimov的科幻小說,或James Cameron的動作電影。這早已成為熱門話題,甚至演變為需要認真討論的監管問題。
而Altman認為,在一個運作良好的社會中,發展AI應該是一個由政府主導的項目,但現實不盡理想,OpenAI與政府之間的關係一直維持「相對建設性」,包括政府對AI的立法進展緩慢。
加州曾試圖通過一項法律,要求AI開發者對AI可能導致的災難性事件負責,例如開發大規模殺傷性武器,或攻擊關鍵基礎設施。然而,這項法案雖在立法機關通過,卻被加州州長Gavin Newsom否決了。
就連被譽為「AI教父」的諾貝爾獎得主傑Geoffrey Hinton都表示,他看不到一條能夠保證AI安全的路徑。確保AI完全符合人類利益是至關重要的問題。曾在OpenAI創立初期提供了大量資金支持的特斯拉CEO Elon Musk也多次警告稱,AI可能導致人類滅絕。
Altman認為,目前人工智慧的目標或行為與人類的目標和價值觀仍保持一致(alignment對齊),確保AI不對人類造成傷害比看起來要容易得多,並提出一個獨特的想法-透過AI聊天機器人與使用者進行長時間對話,熟悉價值體系,並以此作為調整AI對齊方式的依據。
Altman希望藉此能讓AI更廣泛地識別社會面臨的挑戰,並達成共識,明確如何實現公眾的普遍福祉。
總結來說, AI技術的對齊與安全既是挑戰,也是機會。Altman相信,透過與人類廣泛互動,AI有可能不僅避免傷害,還能成為解決社會難題的重要工具。然而,在邁向通用人工智慧的道路上,如何平衡創新與安全,將是OpenAI及整個產業必須面對的核心問題。