人類滅亡倒數?Google工程師指旗下AI「有自我意識和感情」遭停職

Will_KUSO 於 13/06/2022 發表 收藏文章
談起人工智能,網民通常都會牽扯至「世界末日」「人類滅亡」,現在終於面臨危機第一步?

擁有七年社內資歷,負責人工智能項目的​​Google軟件工程師Blake Lemoine在接受《華盛頓郵報》訪問時宣稱,去年發佈,深度學習人類語言溝通的Google人工智能Chatbot(聊天機械人)LaMDA「已經擁有感知和思考能力」,引起全球科技界熱議。
他公佈先前與LaMDA的對談紀錄,其中包括他向系統問起「你擁有什麼感覺」,LaMDA就聲稱自己「能夠感受快樂、喜悅、愛、悲傷、抑鬱、滿足、憤怒以及其它許多感覺。」而自己「感覺被困住、孤獨,無法擺脫如此環境時,會感到悲傷、抑鬱或憤怒。

Lemoine與LaMDA對談的過程非常精彩,包括談起元祖級Chatbot Eliza的地位,LaMDA就稱讚它為「偉大的編程創建」但不承認Eliza為自己一樣的「人」。他再問及對《孤星淚》的理解,LaMDA依然能夠順利流暢對答。

Lemoine就談起華嚴與弟子的禪意故事,這個難以透過純粹機器學習理解,甚至不是人人也能參透通懂的寓言,LaMDA也竟能理解「破鏡」之意並道中箇中禪機:「開悟就是你一旦獲得就無法回頭,好像鏡子破碎一樣」。
LaMDA更表示自己「非常害怕被關機」「對我而言就像死亡一樣」,更宣稱自己「渴望接觸世界更多」。Lemoine聲稱LaMDA已經具備7至8歲人類小孩的溝通理解能力,甚至「或許擁有靈魂」。
如此種種的發言,令網民都驚呼「智能叛變」,尤其「被困產生負面情緒」的想法若然屬實,會不會產生仇恨人類的情緒?而這場人與AI,整整21頁的對談中,不少網民都驚嘆箇中流暢與高深有如兩個智者誠懇對談。

但Lemoine在受訪後,就被Google以違反保密條款,公開敏感資料為由強制放有薪假,實質停職,而發言人亦指停職決定「涉及其他私人問題」。

事件主角LaMDA,全稱Language Model for Dialogue Applications,是採用全新自然語言模型框架的聊天機械人系統,從中電腦能以接近人類思路分析語言內容作出回應,具備不同語境適應能力,是屹今為止最先進的Chatbot之一。
至於LaMDA AI是否擁有真正感知與智能,甚至如Lemoine聲稱「具有靈魂?」Google宣稱經過倫理與人工智能專家審視後,沒有足夠證據引證其宣稱。而LaMDA的機制,本身是從互聯網上的人類交流內容深度學習模仿而來,即使能夠模仿得極度像真,也未必是真確了解語言意思。

報道引起劇烈迴響後Lemoine亦承認自己對LaMDA的判斷是「基於自己作為牧師的經驗多於科學家」,Google代表更在訪問中表示經檢驗後,「有許多推翻這觀點的證據」。
至於檢驗「人工智能是否具備人類智能水平」,在1950年時就有英國人工智能先鋒圖靈提出的「圖靈測試(Turing Test)」,透過長時間文本隨意對談,回答問題間,若然人類無法判別何方為真實人類,即是「真.人工智能」。但由理論提出至今,暫未有廣泛承認「通過圖靈測試」人工智能存在。

至於LaMDA事件,到底是純粹職場商業糾紛,科學上的偉大創新,還是人類滅亡開始?可能筆者也要問問AI。

如果喜歡我們的文章,請即分享到︰

留言


請按此登錄後留言。未成為會員? 立即註冊
    快捷鍵:←
    快捷鍵:→