作者：Gary Marcus，編譯：元宇宙之心（MetaverseHub）

除了被稱爲室溫超導體的LK-99可能只是曇花一現外，我從未見過有什么事情比生成式人工智能更受追捧。許多公司的估值達到數十億美元，新聞報道不絕於耳；從硅谷到華盛頓，再到日內瓦，所有人都在談論它。

但實際上，目前的收入還未達到預期，甚至可能永遠無法實現。

這些估值預計會有萬億美元的市場，但目前生成式人工智能的實際收入據傳僅爲數億美元。盡管這些收入可能會增長1000倍，但這純屬猜測。我們不應該簡單地假設它會實現。

到目前爲止，大部分收入似乎來自兩個方面， 一是編寫半自動代碼（程序員喜歡使用生成工具作爲助手），二是撰寫文本 。

我認爲，程序員將樂於使用生成式人工智能的輔助工具；其自動補全特性對他們的工作非常有幫助，而且他們受過培訓，能夠發現和修復並不常見的錯誤。本科生們將繼續使用生成式人工智能，但他們的口袋並不寬裕（他們很可能會轉向开源的競爭對手）。

其他潛在付費客戶可能很快失去興趣。今天上午，頗具影響力的風險投資家Benedict Evans在“X”（原Twitter）上發表了一系列文章，提到了這一問題：

我那些試圖使用ChatGPT來回答搜索，以幫助學術研究的朋友們也面臨着類似的失望。一位律師在法律研究中使用ChatGPT後受到了法官的譴責，並書面承諾以後不在無監督的情況下使用ChatGPT。幾周前，一則新聞報道稱，GPT的使用可能正在減少。

如果Evans的經歷是一個警示信號，那么整個生成式人工智能領域，在目前的估值下，可能會迅速走向終結。程序員會繼續使用它，那些需要撰寫大量文案來推廣產品，以提高搜索引擎排名的營銷人員也會繼續使用它。但無論是編碼還是速度、質量平平的文案寫作，都遠遠不足以維持當前的估值夢想。

即使是OpenAI，也很難實現其290億美元的估值；如果年復一年只能實現數千萬或數億美元的營收，那么估值低至數十億美元的競爭初創公司很可能最終倒閉。微軟今年的股價上漲了近一半，或許主要是由於人工智能的期望，但其股價可能會下跌；NVIDIA的股價飆升得更厲害，但也可能會回落。

最近，我和軟件投資領域的早期先鋒Roger McNamee討論了這個問題。也許唯一真正吸引我們的經濟應用場景是搜索。例如，使用由ChatGPT支持的必應代替谷歌搜索，但是相關的技術問題非常巨大；我們沒有理由認爲“幻覺”問題會很快得到解決。如果不能解決，泡沫很容易破滅。

但現在讓我擔心的不僅僅是整個生成式人工智能經濟，更多地是基於期望而非實際商業用途，將來可能會出現大規模、令人痛心的修正，還有我們正在把整個世界和國家政策建立在人工智能生成將改變世界的前提之上，而事後看來，這種前提可能是不現實的。

在國家層面上，可能會延緩保護消費者的監管措施（例如圍繞隱私、減少偏見、要求數據透明性、打擊虛假信息等），因爲反對意見認爲應盡快推進生成式人工智能的發展。我們可能無法獲得所需的消費者保護，因爲我們正試圖培育一種可能不會如預期增長的東西。

在我看來，幾乎所有人都犯了一個根本性的錯誤，那就是認爲生成式人工智能等同於AGI（通用人工智能，智能和機敏程度與人類相當或更高）。

也許每個行業的人都希望你相信AGI即將來臨。這激發了他們對必然性的敘述，並推動了他們的股價和初創公司的估值。Anthropic公司的首席執行官Dario Amodei最近預測，我們將在2-3年內實現AGI。谷歌DeepMind首席執行官Demis Hassabis也對近期的AGI做出了預測。

我對此深表懷疑。 在生成式人工智能的核心問題上，我們面臨的不是一個，而是許多嚴重的、尚未解決的問題 ，從它們容易制造幻覺與虛假信息，到它們無法可靠地與Wolfram Alpha等外部工具可靠對接，再到從一個月到另一個月的不穩定（這使得它們無法在大型系統中進行工程應用）。

現實情況是，除了純粹的技術樂觀主義之外，我們沒有任何具體理由認爲這些問題的解決迫在眉睫。通過擴大系統規模來擴展系統在某些方面有所幫助，但在其他方面則不然；我們仍然無法保證任何特定系統都是誠實、無害或有益的，而不是諂媚、不誠實、有害或有偏見的。

人工智能研究人員多年來一直在研究這些問題。幻想這些具有挑战性的問題會突然全部迎刃而解是不現實的。22年來，我一直在抱怨幻覺錯誤；人們一直在承諾解決方案即將到來，但卻從未實現。因爲我們現在的技術是基於自動補全，而不是建立在事實基礎上的。

過去一段時間，人們對這種擔憂充耳不聞；但最近一些科技領導者似乎終於明白了這個道理。就在幾天前，《財富》雜志刊登了這樣一則報道：

如果幻覺問題無法解決，生成式人工智能可能也無法每年創造萬億美元的產值。如果它可能無法創造萬億美元的產值，那么它可能也不會產生人們期望的影響。如果它不會產生這種影響，也許我們不應該基於這種前提來構建我們的世界。

鄭重聲明：本文版權歸原作者所有，轉載文章僅為傳播信息之目的，不構成任何投資建議，如有侵權行為，請第一時間聯絡我們修改或刪除，多謝。