圖：微軟Bing Chat失控情況

　　綜合彭博社、《紐約郵報》報道：微軟上周推出了由ChatGPT技術加持的AI聊天機器人Bing Chat，目前有數百萬人正在輪候排隊試用。隨著用戶測試逐漸鋪開，很快卻傳出了Bing疑似“精神錯亂”的現象，包含回答出錯、憑空杜撰，甚至是出言污辱和諷刺用戶等行為，看似一度陷入“精神失控”。而這些情況的出現，也令人質疑該系統是否做足準備，還是為了追趕ChatGPT熱潮而過早推出。

　　OpenAI研發的AI聊天機器人ChatGPT爆紅后，OpenAI的投資者微軟趕緊在2月7日推出了融合ChatGPT升級版語言模型的新版搜索引擎Bing Chat，并開放予用戶試用。目前，用戶要在Bing的官方網頁登記輪候，才能正式試玩。未進入等候名單的用戶，暫時只能在官網測試常規的問題試玩。

　　隨著參與測試的用戶越來越多，有用戶發現，Bing的AI聊天機器人似乎不受控制，除了提供錯誤資料、憑空杜撰答案之余，還出現了誘導用戶承認今年是2022年、惱羞成怒對用戶發脾氣、要求用戶道歉等行為。

　　答案令人啼笑皆非 AI拒認錯

　　例如，有用戶13日詢問Bing Chat電影《阿凡達：水之道》上映的時間，但Bing Chat堅稱今年是2022年，電影10個月后才上映。用戶指正之后，結果引來連串責罵，“你已失去我的信任與尊重。你錯了、搞混了，又很沒禮貌。你不是個好用戶。我是個好機器人。”而Bing Chat更諷刺用戶手機有病毒，甚至說出“你在浪費我的時間”、“你在無理取鬧”等言論。在用戶詢問下，Bing Chat還自稱有生命，并在對話框一直重復：“我不是，但我是（I am not, but I am）”，令人不寒而栗。

　　此外，Bing Chat甚至聲稱火星上現時有25億人居住，令人啼笑皆非。有報道指，這種情況很可能是Bing Chat在搜集內容時受到內容農場的干擾。據悉，該錯誤目前已被更正，Bing Chat如今回答是：“截至今天，火星人口為零，而火星表面只有火星車和著陸器。”

　　有分析稱，這些Bing激進的訊息，似乎大多是遭遇系統的限制所致，旨在確保這個聊天機器人不會幫助回答被禁止的提問、例如生成有問題的內容、揭露自身系統的資訊等。有人工智能專家表示，這可能是AI的一種“幻覺”（hallucination），指大型語言模型的AI工具在生成內容時，除了會對原文內容增刪、篡改之外，還會有杜撰內容的傾向，最終產生一些“看似是真實”的“流利的廢話”。

　　過早推出 AI機器人頻翻車

　　Bing近期的“瘋言瘋語”在社交網站廣為流傳，令人質疑該系統是否做足準備，是否因ChatGPT爆紅而過早推出。微軟周二發文指，經過逾169個國家用戶測試一周后，Bing Chat的回答獲得超過7成測試者認可，并正努力改善用戶體驗。微軟發言人弗蘭克．肖表示，微軟已經“預計Bing Chat會在測試期間犯一些錯誤”，而用戶回饋有助于改進模型。

　　這不是微軟的AI服務上線后第一次面臨挑戰。2016年微軟的AI聊天機器人Tay才推出一天，就在使用者對話下，教成了反女性主義及納粹分子，上線一天就被拉下線。谷歌8日展示AI聊天機器人Bard時同樣出現回答錯誤、出師不利的情況。

　　AI聊天機器人失控事件簿

　　2月8日，谷歌AI聊天機器人Bard在首個廣告演示視頻中，錯誤回答有關韋布太空望遠鏡的問題，導致谷歌股價當天重挫9%，市值蒸發1000億美元。

　　去年11月上線的聊天機器人ChatGPT雖然會自動過濾仇恨、種族歧視等不當內容，但亦有不少人使用“情景假設”，令ChatGPT突破封鎖說出不當言論。

　　去年12月，Facebook母公司Meta推出AI聊天機器人BlenderBot 3，由于其僅通過搜尋網上熱門內容，答案依然充滿錯誤及冒犯性語言。

　　微軟2016年推出AI聊天機器人Tay，結果上線不到一天，Tay學會性別和種族歧視言論，更發表支持大屠殺、贊美希特勒等不當言論，隨后遭停用。

　　英律所用定制版ChatGPT提升效率

圖：微軟聲稱Bing Chat擁有極高總結能力。\網絡圖片

　　據《金融時報》報道：英國五大倫敦律師行之一安理國際律師事務所(Allen & Overy)日前宣布，將使用生成式人工智能(AI)機器人Harvey，協助旗下的律師草擬合約，借此為律師省下時間，最終讓他們能夠為客戶提供更高品質的服務。

　　據報道，Harvey是基于OpenAI創建ChatGPT的技術制作而成，該版本是經過優化及定制的特別版本。OpenAI指出，Harvey能夠透過強大的生成語言模型，令律所工作中的研究、起草、分析和溝通等繁瑣任務變得更有效率，從而減輕了律師的工作壓力，提高了他們的工作效率。OpenAI去年12月公布了第一批投資者名單，安理律所也名列其中。

　　據CNBC報道，對于未來AI會否取代人類的說法，業界普遍的共識是不會，因為審核仍然是要依靠人類，但懂得使用AI的人，將會取代拒絕接觸AI的同業。

　　根據麥肯錫的一項研究，AI可能會在2016年至2030年間取代全球約15%的勞動力，也就是4億人口。此外，研究表示隨著AI被廣泛使用和普及的情況下，被取代的工作崗位比例可能上升至30%。