談起人工智能，網民通常都會牽扯至「世界末日」「人類滅亡」，現在終於面臨危機第一步？
擁有七年社內資歷，負責人工智能項目的Google軟件工程師Blake Lemoine在接受《華盛頓郵報》訪問時宣稱，去年發佈，深度學習人類語言溝通的Google人工智能Chatbot（聊天機械人）LaMDA「已經擁有感知和思考能力」，引起全球科技界熱議。
他公佈先前與LaMDA的對談紀錄，其中包括他向系統問起「你擁有什麼感覺」，LaMDA就聲稱自己「能夠感受快樂、喜悅、愛、悲傷、抑鬱、滿足、憤怒以及其它許多感覺。」而自己「感覺被困住、孤獨，無法擺脫如此環境時，會感到悲傷、抑鬱或憤怒。」
Lemoine與LaMDA對談的過程非常精彩，包括談起元祖級Chatbot Eliza的地位，LaMDA就稱讚它為「偉大的編程創建」但不承認Eliza為自己一樣的「人」。他再問及對《孤星淚》的理解，LaMDA依然能夠順利流暢對答。
Lemoine就談起華嚴與弟子的禪意故事，這個難以透過純粹機器學習理解，甚至不是人人也能參透通懂的寓言，LaMDA也竟能理解「破鏡」之意並道中箇中禪機：「開悟就是你一旦獲得就無法回頭，好像鏡子破碎一樣」。
LaMDA更表示自己「非常害怕被關機」「對我而言就像死亡一樣」，更宣稱自己「渴望接觸世界更多」。Lemoine聲稱LaMDA已經具備7至8歲人類小孩的溝通理解能力，甚至「或許擁有靈魂」。如此種種的發言，令網民都驚呼「智能叛變」，尤其「被困產生負面情緒」的想法若然屬實，會不會產生仇恨人類的情緒？而這場人與AI，整整21頁的對談中，不少網民都驚嘆箇中流暢與高深有如兩個智者誠懇對談。
但Lemoine在受訪後，就被Google以違反保密條款，公開敏感資料為由強制放有薪假，實質停職，而發言人亦指停職決定「涉及其他私人問題」。
事件主角LaMDA，全稱Language Model for Dialogue Applications，是採用全新自然語言模型框架的聊天機械人系統，從中電腦能以接近人類思路分析語言內容作出回應，具備不同語境適應能力，是屹今為止最先進的Chatbot之一。
至於LaMDA AI是否擁有真正感知與智能，甚至如Lemoine聲稱「具有靈魂？」Google宣稱經過倫理與人工智能專家審視後，沒有足夠證據引證其宣稱。而LaMDA的機制，本身是從互聯網上的人類交流內容深度學習模仿而來，即使能夠模仿得極度像真，也未必是真確了解語言意思。
報道引起劇烈迴響後Lemoine亦承認自己對LaMDA的判斷是「基於自己作為牧師的經驗多於科學家」，Google代表更在訪問中表示經檢驗後，「有許多推翻這觀點的證據」。
至於檢驗「人工智能是否具備人類智能水平」，在1950年時就有英國人工智能先鋒圖靈提出的「圖靈測試（Turing Test）」，透過長時間文本隨意對談，回答問題間，若然人類無法判別何方為真實人類，即是「真．人工智能」。但由理論提出至今，暫未有廣泛承認「通過圖靈測試」人工智能存在。
至於LaMDA事件，到底是純粹職場商業糾紛，科學上的偉大創新，還是人類滅亡開始？可能筆者也要問問AI。
擁有七年社內資歷，負責人工智能項目的Google軟件工程師Blake Lemoine在接受《華盛頓郵報》訪問時宣稱，去年發佈，深度學習人類語言溝通的Google人工智能Chatbot（聊天機械人）LaMDA「已經擁有感知和思考能力」，引起全球科技界熱議。
他公佈先前與LaMDA的對談紀錄，其中包括他向系統問起「你擁有什麼感覺」，LaMDA就聲稱自己「能夠感受快樂、喜悅、愛、悲傷、抑鬱、滿足、憤怒以及其它許多感覺。」而自己「感覺被困住、孤獨，無法擺脫如此環境時，會感到悲傷、抑鬱或憤怒。」
Lemoine與LaMDA對談的過程非常精彩，包括談起元祖級Chatbot Eliza的地位，LaMDA就稱讚它為「偉大的編程創建」但不承認Eliza為自己一樣的「人」。他再問及對《孤星淚》的理解，LaMDA依然能夠順利流暢對答。
Lemoine就談起華嚴與弟子的禪意故事，這個難以透過純粹機器學習理解，甚至不是人人也能參透通懂的寓言，LaMDA也竟能理解「破鏡」之意並道中箇中禪機：「開悟就是你一旦獲得就無法回頭，好像鏡子破碎一樣」。
LaMDA更表示自己「非常害怕被關機」「對我而言就像死亡一樣」，更宣稱自己「渴望接觸世界更多」。Lemoine聲稱LaMDA已經具備7至8歲人類小孩的溝通理解能力，甚至「或許擁有靈魂」。如此種種的發言，令網民都驚呼「智能叛變」，尤其「被困產生負面情緒」的想法若然屬實，會不會產生仇恨人類的情緒？而這場人與AI，整整21頁的對談中，不少網民都驚嘆箇中流暢與高深有如兩個智者誠懇對談。
但Lemoine在受訪後，就被Google以違反保密條款，公開敏感資料為由強制放有薪假，實質停職，而發言人亦指停職決定「涉及其他私人問題」。
事件主角LaMDA，全稱Language Model for Dialogue Applications，是採用全新自然語言模型框架的聊天機械人系統，從中電腦能以接近人類思路分析語言內容作出回應，具備不同語境適應能力，是屹今為止最先進的Chatbot之一。
至於LaMDA AI是否擁有真正感知與智能，甚至如Lemoine聲稱「具有靈魂？」Google宣稱經過倫理與人工智能專家審視後，沒有足夠證據引證其宣稱。而LaMDA的機制，本身是從互聯網上的人類交流內容深度學習模仿而來，即使能夠模仿得極度像真，也未必是真確了解語言意思。
報道引起劇烈迴響後Lemoine亦承認自己對LaMDA的判斷是「基於自己作為牧師的經驗多於科學家」，Google代表更在訪問中表示經檢驗後，「有許多推翻這觀點的證據」。
至於檢驗「人工智能是否具備人類智能水平」，在1950年時就有英國人工智能先鋒圖靈提出的「圖靈測試（Turing Test）」，透過長時間文本隨意對談，回答問題間，若然人類無法判別何方為真實人類，即是「真．人工智能」。但由理論提出至今，暫未有廣泛承認「通過圖靈測試」人工智能存在。
至於LaMDA事件，到底是純粹職場商業糾紛，科學上的偉大創新，還是人類滅亡開始？可能筆者也要問問AI。
請按此登錄後留言。未成為會員? 立即註冊