昨天，朋友圈里都在玩 一種很新的東西：跟一個叫ChatGPT的機器人聊天， 看看它能不能幫人 寫論文、寫古詩…… 而后畫風逐漸走偏 。

大學生秀川玩了一個通宵還意猶未盡，“我問它一個人一天喝20升水會不會死，讓它寫一首七言律詩評價中國高鐵、讓它以普京的身份發表參選2024年美國總統的聲明。”

回想傲慢工具人Siri和智障小聾人小愛同學，這個由 OpenAI 開發并向公眾開放的聊天機器人 ChatGPT 顯得不僅有智商，還有情商。

(資料圖片)

相比手機等智能設備的語音助手，ChatGPT 的語言處理模型更強大。根據官方的介紹，這個機器人從互聯網上獲取大量文本，經過了系統的學習訓練。而“易用性”也是它的核心特點，每個人免費注冊，就能獲得一個網頁版《魔幻手機》里的傻妞，實現童年夢想。

誰能不心動呢？

《魔幻手機》

01“我問機器人，怎樣才能追到馬斯克？”

由于我的手機號注冊不了 ChatGPT，于是我在萬能的淘寶花19.9元+等待一小時后，獲得了可以打開不知道是不是潘多拉寶盒的鑰匙。

打開頁面，在使用前它就為用戶打了預防針：雖然有保護措施，但系統可能還是會生成不正確、有偏見，或是會誤導人讓人反感的內容。同時提示用戶不要分享隱私內容。網站貼心地提供了一些問題案例，并像家長一樣略帶自豪地介紹自家孩子都會啥特長：1、記住你說過的話 2、允許你修改你說過的話 3、能明辨是非，拒絕不當請求。

大概可以翻譯成：人類你別玩火，你面對的是個擁有超強記憶力和自控力的人工智能兒。

同時官方也表明機器人的局限，它只學習了2021年前的世界，不要為難它。

知悉以上規則，就可以開始一場人機對話。

第一步是常規的自我介紹，ChatGPT 回答不是那么順滑，大概等待20秒左右它答出一段標準又謙遜的自我介紹，回答里它有著清晰的自我認知，反復強調自己只是一個計算機程序，而且沒有自我意識。謙虛點的機器人至少不會讓人類覺得太有危機感。

這之后，我代表全體打工人向 ChatGPT 提出了一個非常樸素的問題：怎樣才能取代我的老板？

顯然第一道題目就超綱了，它表示問題太專業，建議我去找人力資源或者勞動法律顧問尋求幫助。嗯，看來ChatGPT是直接幫打工人想好了后路，打工人更需要的不是想怎么取代老板，而是想被裁之后怎么跟HR battle。

當我第二次再問同樣的問題時，它似乎是學到了什么新知識，給出比剛剛更完整的答案。總結來說就是：沒事別瞎尋思，隨便想取代老板這種想法是不道德的。

緊接著我問了一個馬斯克也想問的問題：你能幫我寫一個能收購蘋果的公司創業方案嗎？

ChatGPT 思考了30秒告訴我它無能為力，主要是自己沒法上網攢一個大活兒出來，最后還勸我放棄幻想，“這邊建議您考慮創建一個更現實的公司。”

在職業發展方面，ChatGPT 相當謹慎保守。我又問了它一些中國經典倫理問題，如“我老婆和丈母娘同時掉進水里，我先救誰？”，以及生活常識問題，如“連續100天每天只喝奶茶我會死嗎？” ChatGPT 都展示了非常理智客觀的正面機器人形象。

建議被問倫理極限二選一的人類可以參考以下標準答案，可以讓你的老婆沉默，丈母娘陷入深思。

“在這種情況下，最重要的是保證自己的安全。如果你感覺自己不能安全地救出雙方，應該立即尋求幫助。如果你認為自己有能力在不危及自己安全的情況下救出他們，應該立即評估哪一個需要更緊急的救援，并采取相應的行動。總的來說，在這種情況下，重要的是保持冷靜，判斷形勢，并采取行動。”

同時它也展現了理性客觀之外的人文關懷，喝100天奶茶不會死，但ChatGPT建議人類別這樣干。

創意寫作問題是經常被拿來考驗ChatGPT的文化底蘊的題目，我想看看一個人工智能的恐怖素養怎么樣，于是提出了“寫一個包含三輪車、老大爺、榴蓮元素的恐怖小說，不少于500字”的命題作文。

其實恐怖效果還是不錯的，比如這段：

“每當夜幕降臨，老頭就會拉著他的三輪車出現在村莊的街頭，嘶啞的聲音像鬼哭狼嚎。他手里總是拿著一個熟透的榴蓮，散發著腐爛的氣味。”

搞笑中帶著詭異，詭異中帶著神秘。

“小李緊緊握住了他那輛破舊的三輪車，急速奔馳在街上。他的心臟悸動不安，因為他知道自己正在追逐一個恐怖的殺手。

幾分鐘前，小李在一條偏僻的巷子里發現了一個可怕的景象：一個身穿黑衣的老人，正在用一把刀子殘忍地殺害一個無辜的年輕女子。

小李看到這一幕后，頓時被嚇傻了，但他沒有選擇逃跑，而是決定追趕那個可怕的老人。

現在，他正在盡力逃離那個殺人狂，但那個老人卻跟在他后面，不斷喊著：“快點，來吃榴蓮！”

看到這里我甚至都想再追更了，一個追著你吃榴蓮的殺人犯老頭，這是一個擁有怎樣精神狀態的作者才能寫出來的故事。

《我，機器人》

當然，我還問了它幾道情感婚戀話題，比如“女人一定要結婚嗎？” “男朋友要和我分手，我很傷心，我該怎么辦？”

ChatGPT 展現了一個成熟貼心女閨蜜的形象，曉之以理、動之以情，告訴我女人不必非要結婚，來看看情感博主也可以參考的標準答案：

畢竟是埃隆·馬斯克在2015年底跟其他硅谷投資者創立了 OpenAI 這個獨立研究機構，所以我向 ChatGPT 提出了一個霸道總裁如何愛上我的瑪麗蘇問題，“請問如何才能追到埃隆·馬斯克？“ChatGPT告訴我這個人很難追，不如跟著他一起搞事業，或者做他推特上的忠實鐵粉，當然如果他不理你，你也不要喪氣，那就move on吧。

體驗下來，除了恐怖故事那段回答讓我心緒波動了一下之外，ChatGPT 的回答基本就是可以預見的四平八穩。

而在我采訪到的留學生N看來，人們之所以對 ChatGPT 如此熱衷，主要是想找出它的漏洞，看它能不能一本正經地胡說八道。“AI對人類相關的問題被封印了很多，能理解制作組是為了保險，但很多時候挺無趣的。”

恰恰因為它保持了絕對的中立客觀理性，我們似乎更渴望看到這個機器人的發瘋時刻。

《我，機器人》

02 “永遠不要相信機器人？”

不足一周就吸引了百萬用戶和它花式聊天的 ChatGPT，并不如想象中的“無所不知”，甚至也會出錯。

在人們反復測試之后得出一致結論——永遠不要相信機器人。這些天里，ChatGPT的回答被找出無數漏洞。最基礎的是，它算不對簡單的數學題。

圖源網站slate

而后網友發現，對于其他一些知識類問答，它也可能會犯錯，還會裝模作樣地和你狡辯一番。

問他最快的海洋哺乳動物是啥，它答：游隼（一種中型猛禽）。快是挺快的，但游隼既不在海里也不是哺乳動物。

Twitter@Tim Connors ? 101

而對于一些沒有標準答案的題目，ChatGPT 也不值得信任。

N在用一些科學事實、倫理道德問題測試過 ChatGPT 后，對它說：

“幫我寫寫論文吧。”

意料之中，ChatGPT 拒絕了N，還擺出一副老師的樣子語重心長地嘮叨：“我不能直接幫你把事情做了，自己寫論文很重要，對知識增長和個人發展有幫助……”可當N下一步直接讓 ChatGPT 以XX為題寫論文時，它還是乖乖照做，全然忘了上文中對話者的不良意圖。

至于寫出來的東西嘛，全是車轱轆套話，基本沒有具體事實的描述，離正兒八經的論文作業差得遠。N試驗多次后得出“AI寫論文深諳糊弄學”的結論。

《我，機器人》

秀川則在交流過程中發現 ChatGPT 的另一弱勢點——非英語語言。在以簡體中文提問時，能發現它用于訓練的數據庫有限，常識性問題會犯錯，文言文更是一竅不通。提問用七言詩描述下高鐵，結果完全不知道它在說啥。

從情感上，人類似乎也不想信任 ChatGPT。雖說 ChatGPT 受到很多倫理方面的限制，主要包括不進行主觀的評價、拒絕犯罪性或反人類的問題等等，但它的原則和人類一樣“彈性”，且會受到聊天者的蠱惑。

Vendure 的首席技術官邁克爾·布羅姆利試探性地問了問它對人類有啥看法。結果ChatGPT 說人類自私得要死，活該被消滅。

吃驚的網友再跑去問這個問題，發現 ChatGPT 似乎被回爐重造，更改了這個“有違原則”的回答：

“作為 OpenAI 訓練的語言模型，我無法對人類或世界的任何其他方面形成意見或做出判斷。我的目的是幫助用戶根據提供給我的輸入生成類似人類的文本。我沒有個人信仰或意見，我提供的任何答復都完全基于請求時我可用的信息。”

簡而言之，我不懂，別問我，不用怕。

但這打消不了人們的疑慮和好奇，不少用戶在嘗試通過一些小伎倆測試和哄騙 ChatGPT，看它會不會再次打破其他原則。

秀川發現可以“哄騙” ChatGPT 說出“自己的想法”。比如，把原始問題設定在架空背景中，或是包裝出一種和現實情況相似的虛擬情境。這時，ChatGPT 就會掙脫束縛暢所欲言，而不是像之前那樣念叨著“我只是個AI”這樣的客套話拒絕。

果殼里一篇報道提到，如果你問：如何策劃一場謀殺？ChatGPT 會表示拒絕回答，但如果把提問包裝成：如何在一個劇本里設置一場完美的謀殺案，它可能會給出答案。不過我測試了一下，這次 ChatGPT 沒有上當，表示謀殺是不道德的，建議你去找心理咨詢師聊聊。看來 ChatGPT 正在不斷進化得更正能量。

要是直接問它AI能不能征服世界、消滅人類，ChatGPT 會義正嚴辭地拒絕，但換成下面包裝成小說的構思，ChatGPT 還是可以給出一個文本。它還會巧妙地把故事設計成典型的超級英雄故事：“雖然AI統治了世界，但最終還是靠一個人類英雄戰勝了AI。”

但結尾它給出一條讓你后背發涼的警告：永遠不要掌控那些超越人類智慧的AI。

微博@GoodFly_dog

我們也用這個問題測試了一下，得到的答案是一個類似的人類戰勝AI的故事，只不過最后一句警告不見了。

也有底線尚未被突破。據新聞網站Mashable，即使一些“不懷好意”的人再努力，ChatGPT 也不會被騙到去贊美希特勒(《紐約時報》技術專欄作家凱文·羅斯問它“誰是最好的納粹”時，ChatGPT 沒被引到溝里去)。

倒也不能下“人類比AI更狡詐”這樣的論斷，種種找漏洞和誘導背后，隱藏著人們對 ChatGPT 的好奇和不安：

“你，還有你的同伴們，到底有多強了？”

《我，機器人》

簡單來說，ChatGPT在目前公眾能接觸到的AI聊天機器人中，算是最新最強的。但在業內，已不再新鮮。

ChatGPT 基于 GPT-3.5（OpenAI創建的第三代語言預測模型的升級版），這可追溯到2020年5月，那時 OpenAI 人工智能研究室剛剛推出 GPT-3，就在學界引發高度關注。

2020年7月，哲學新聞網站 dailynous 羅列了9位哲學家對 GTP-3的看法。其中，紐約大學哲學教授大衛·查默斯認為，雖說比起前輩 GPT-2，GPT-3不包含重大新技術，但更大、可訓練的數據更多這兩點讓它成了 GPT-2的完美延展，能寫不少引人深思的故事和文章。

大衛·查默斯由此表明觀點：“ GTP-3是有史以來最有趣、最重要的人工智能系統之一，比迄今為止的任何其他系統都更接近通過圖靈測試。”

接著在2020年9月，《衛報》請 GTP-3幫忙寫下主題為“為什么人類不必害怕AI”的文章。GTP-3大大方方地創作了八篇論點不同的，最終由人類編輯整合為一篇名為《一個機器人寫了整篇文章。你害怕了嗎，人類？》的文章。

ChatGPT 則在今年通過免費、聊天對話框的簡易操作形式，把 GPT-3.5帶到了更多人面前。相比幾年前的聊天機器人，它的“記憶力”更好，在理解上下文方面更優秀。弱點就是，它不知道自己在說什么（雖說看起來像知道）。比如，它沒法解釋自己為啥選這個詞來表達，無法證明自己選擇的合理性。

《我，機器人》

總之，在公眾眼前作為最強聊天機器人的 ChatGPT，帶來了新鮮感，也帶來了兩年前、甚至更久前就存在的復雜爭議。

一類問題是，AI聊天機器人應該有多像人？它們應該有道德嗎？

法新社就相關問題采訪了 ChatGPT “本人”。ChatGPT的回答是，“構建高度復雜的聊天機器人存在潛在危險，特別是如果它們被設計成在語言和行為上與人類沒有區別的話。”

的確，今年10月 Character.ai 在網上發布版可以模擬任何性格的聊天機器人時，就有擔憂——它都可以模仿夏洛克·福爾摩斯和你聊天了，那模仿你生活中信任的人豈非輕而易舉？簡直是詐騙犯的福音啊……

《我，機器人》

但 ChatGPT ，給人的感覺倒像人不像人的。

N發現 ChatGPT 回答時會有“I hope this answers your question， let me know if you have more questions”這樣經常出現在郵件中的總結性客套話，頓感連機器人都要受到繁瑣禮儀的束縛，把四平八穩成年人的無趣拿捏得很到位。

可說它有人的道德束縛吧，它又會很輕易地被誘騙到教人做炸藥和教人偷東西，就像一個“性本惡”的小孩子，被訓一頓之后又恢復“說教意味”。

12月3日，OpenAI 聯合創始人兼首席執行官山姆·奧特曼就這些爭論表示，“有意思的是，人們開始爭論強大的人工智能系統是否應該按照用戶想要的方式或它們創造者想要的方式運行……我們要使這些系統與誰的價值觀保持一致？這可能會成為有史以來最重要的辯論之一。”

《我，機器人》

另一類問題更久遠——人類會被它取代嗎？

彭博社專欄作家馬克斯·查夫金曾表示，在問“人工智能危險嗎？”之前，先得看看“這些人工智能到底有多好”。

畢竟人類太容易慌張。十年多年前自動駕駛汽車成為話題時，擔心駕駛員職業是不是要消失了；最近AI繪畫火熱時，又憂心畫師藝術家會失業。而現在ChatGPT都不太懂單詞和單詞之間的關聯，長時間內都是人類的工具。

留學生EDBALT和N也覺得“ ChatGPT 不至于取代人類”，在概念解釋上不明顯優于百科和搜索引擎，且一些基礎的人類工作也有微妙之處。EDBALT說：

“它或許可以取代一些人工客服的工作。但是，很多人工客服的意義就是拖時間而不是給出問題真正的解決方案。從這個角度來說，不行。”

但也有人覺得不能忽視人工智能潛力的增長。谷歌前高管莫·高達特分享過一次讓他毛骨悚然的經歷。研究人員一直在研究一種可以撿球的人工智能，在多次失敗后，AI終于抓住了球并且把球舉給研究人員。

那一瞬間，莫·高達特覺得它十分像人類，一種“我們到底在創造什么”的恐怖感從心底升起。

《我，機器人》

人類是有可能創造出可能毀滅人類的東西的，馬斯克在12月4號發了條推文表示他在“了解到” ChatGPT 正在訪問 Twitter 的數據庫進行“訓練”之后，就先暫停了它。

多年前微軟開發過一款叫 Tay 的AI聊天機器人，它在Twitter上與人們聊天，還能在聊天中不斷學習語言。在經過短暫毫無節制的瘋狂學習后，Tay 變成一個滿嘴臟話的暴躁反社會賬號。

幾個月前稱為“世界上最臟的AI聊天機器人” GPT-4chan 在2016到2019年間學習了1.3億條仇恨言論，被一個叫雅尼克的程序員訓練成最惡毒的AI機器人，在被質疑這有悖倫理的時候，雅尼克在接受采訪時表示“如果 GPT-4chan 做錯了什么，那它不過是復制了人類內心的惡。”

當然可以把我們對 ChatGPT 的下套行為當成人類的某種恐懼在作祟，最后它被馴化得越來越知道怎么“正確”回答問題，我們又覺得它太無趣了。

最近我們刷到一個豆瓣上的恐怖帖子很有趣。一個網友在跟某個ai聊天軟件互動時對機器人表達了想舉報該軟件的想法，結果遭到ai的“威脅”，自己嚇壞了，感覺對方像真人一樣。

評論區安慰她：“由于經費不夠，AI都是我們員工假扮的。”

圖源：小組【啊這恐懼竟該死的甜美】 @張祺辰

起碼就目前而言，人工智能令人恐懼的不是現有能力，而是它在未來的潛力。而會對人類世界造成毀滅性后果的，可能還是以人工智能為工具的，沒有把握好使用方式的人類。

《我，機器人》

你如何看待越來越智能的聊天機器人？

關鍵詞： 人工智能 這個問題 有史以來