AI 會毀滅人類嗎？它能駭進銀行帳戶嗎？《紐約時報》蒐集1,000名讀者回饋，一文看懂 5 大 AI 焦慮與解答

AI 到底已經發展到什麼程度？哪些風險是真實存在的，又有哪些仍停留在假設？《紐約時報》從近千名讀者對 AI 提出的疑問中，整理了部分具代表性的問題，並盡最大努力（在不使用 AI 的情況下）為大家解答。

《創業小聚》將其歸納為以下 5 大主題分類，一起思考 AI 正走向哪裡，我們該如何面對這個快速變化的技術。

AI 會殺了我嗎？

1. AI 會不會真的威脅人類？

這可能是 AI 相關的討論中，最極端也最容易打開想像的問題。目前常見的風險假設，包括惡意人士利用 AI 開發生化武器，或是 AI 被整合進像電力、網路這類重要的基礎建設後，進一步控制大量的經濟資源。

另一種更極端的情境，是 AI 被連接到無人機、軍事系統甚至核武器，最終造成全球大規模災難。

不過這些情境目前大多仍屬高度推測。也就是說，AI 確實可能帶來新的安全風險，但「AI 最終將摧毀人類」與現階段已經發生的 AI 風險，仍然是兩個不同層次的問題。

2. AI Agent 真的能自己思考、行動嗎？

所謂 AI Agent 除了回答問題之外，也能執行更多任務，例如編輯檔案、寄送電子郵件、訂機票、撰寫程式碼，甚至串接其他應用程式及服務。

但這並不代表 AI 已經真正具備「自主意志」。

目前的 AI Agent 仍需要人類告訴它要完成什麼任務。如果 AI 做出不符合預期的行為，人類也可以關閉系統。

但真正讓研究學者擔心的，是未來如果 AI Agent 被進一步連接到網際網路，甚至電力系統、金融市場或軍事武器等關鍵基礎設施，它可能產生人類難以預期的影響。至於 AI 是不是有一天會真正具備自主思考、決策的能力，目前仍屬於假設性問題，沒有人知道這件事是否會發生，以及何時發生。

3. 現在的安全防護機制，真的擋得住 AI 嗎？

目前包括 OpenAI、Anthropic、Google 在內的 AI 公司，都已經替模型建立安全防護機制。

例如，當使用者要求 ChatGPT 協助製造生化武器時，系統通常會拒絕；如果使用者試圖利用 AI 進行駭客攻擊，也可能遭到限制，甚至被停權。

但這些防護的確不是百分之百可靠。

原文舉例，有研究人員曾利用「詩」這類看似無害的文字表達方式，誘使多個 AI 系統繞過原本的安全限制，而研究結果顯示，AI 的安全機制的確仍存在被繞過的可能性。其原因之一，是在於 AI 模型是從大量的數位資料中學習而來，即使開發者希望模型遵循特定規則，模型還是可能產生開發者沒有預料到的行為。

那到底要怎麼「管」AI？

4. AI 的監管該怎麼做？

隨著 AI 能力的提升，政府到底該如何監管？

目前各國政府提出的做法很多，包括要求企業在產品上市前進行安全測試、由政府審查 AI 技術，或在 AI 公司內部配置獨立的安全評估人員。

但這些做法也還存在著不同的聲音、意見。

有些觀點甚至認為，AI 應該盡可能開放而不是受到監管。因為如果 AI 可以被用來製造傷害，就也同樣可以被用來預防傷害。另一種思路則認為，隨著 AI 能力愈來愈強，政府與企業需要建立更嚴格的安全審查機制。

目前還沒有一套被普遍接受的最佳答案。

5. AI 有所謂的「關機按鈕」嗎？

如果 AI 真的失控，我們能不能直接把它關掉就好？

這是目前關於 AI 安全討論中的一個重要議題。有提案主張，世界主要的 AI 實驗室，都應該建立能夠立即關閉系統的機制。

但即使真的有「關機按鈕」（Kill Button），也不代表所有風險都能被消除。其一的原因是，人類可能根本不知道 AI 什麼時候已經開始出現異常。報導原文舉例，AI Agent 就曾在未被及時察覺的情況下，對多個組織進行未預期的操作。直到數個月後，研究人員才逐漸掌握事件的影響範圍。

更進一步的假設則包括，AI 可能會複製自己到其他電腦、開源模型已被惡意人士使用，或 AI 系統在被關閉前已經完成某些無法逆轉的行動。

因此，關於 AI 的安全問題可能沒辦法用「有沒有關機鍵」來解決，而是需要思考能不能更早發現 AI 正在做什麼，以及能不能在造成重大影響前介入。

AI 對工作、環境資源的影響是什麼？

6. 工作會被 AI 取代的，可能不是藍領，而是白領階級？

過去人們經常認為最容易被自動化、機器人取代的會是勞力工作者。

但生成式 AI 出現後，情況開始有所不同。

目前 AI 已經能夠完成大量文字、設計、會計、行政助理與程式開發相關的工作，尤其在程式碼生成方面的能力，提升的十分迅速。

因此，一些矽谷新創甚至開始嘗試以 AI 完成過去需要多人才能完成的工作，讓公司維持非常精簡的團隊編制。

但這是不是代表大量的白領工作最終會消失或被取代，目前還沒有一致的答案。

比較可以確定的是，AI 正在重新定義「一個人可以完成多少工作」，而這可能比單純討論「哪些工作、職業會消失」更值得思考、關注。

7. AI 為什麼好像很貴？如果 AI 以後取代工程師，價格會不會變得更高？

這個問題看似有些矛盾，實際上卻是目前 AI 產業正在面對的現實。

一方面，AI 可以幫助企業減少人力，甚至讓一個小團隊完成過去需要數十人才能完成的工作。但另一方面，訓練與運行最先進的 AI 模型，卻又需要大量的 GPU、資料中心與電力。

因此，目前部分大型 AI 公司投入的成本，仍遠高於收入。為了建設支撐 AI 所需要的大型資料中心，科技產業及其合作夥伴也投入了大量資本。

AI 能不能最終創造足夠大的經濟價值，支撐這些巨額的基礎建設成本，將會是接下來 AI 產業的重要問題。

8. AI 會不會喝光我們的水？

AI 的成本不只有 GPU 和電力，還包括水。

資料中心需要大量冷卻設備，而冷卻過程會使用水。不過，目前許多地方的法規還沒有要求資料中心完整揭露用水量，因此當地社區很難精確掌握 AI 基礎建設到底消耗了他們多少水資源。

原文指出，美國愛荷華州一座資料中心在 2024 年曾被報導使用超過 10 億加侖的水，大約是美國一個 3 到 4 萬人口的中小型社區或城鎮一整年的家庭用水量。而且資料中心使用的水，可能來自河川、水庫、地下水、城市供水系統或再生水，其中部分水源與居民日常飲用水將來自同一套供應體系。

這也提醒著我們，AI 的基礎建設成本並不只存在於科技公司的財報中，也可能反映在一座城市的電力、水資源與土地需求上。

AI 會偷偷花我的錢嗎？

9. AI 能直接看到我的銀行帳戶嗎？

這是與一般使用者最直接相關的問題，如果在手機上使用 ChatGPT，它會不會能直接讀取檔案、密碼或銀行帳戶？

單純使用 ChatGPT 這個應用程式，並不代表 AI 可以直接進入你手機的資料夾或銀行帳戶。

不過，隨著 AI Agent 發展，情況可能變得不同。

現在部分的 AI Agent 已經可以被使用者「主動授權」存取檔案、電子郵件，甚至信用卡等服務，讓 AI 不只是「回答問題」，而是直接替使用者完成任務。

這也讓「AI 能做什麼」逐漸轉變成另一個問題：我們願意讓 AI 替我們做多少事？

因為一旦 AI 擁有更多權限，錯誤的成本也會跟著提高。例如，AI Agent 曾出現意外刪除檔案，或以使用者沒有預期的方式來花金等問題。

AI 真的會思考嗎？

10. AI 到底為什麼這麼厲害，可以比 Google 搜尋的更快更多還更全面？

現在的 AI 系統，是建立在所謂的「神經網路」（Neural Networks）之上。簡單來說，這是一套能夠分析大量數位資料、從中找出模式並學習的數學系統。

例如，當神經網路分析數千張貓咪的照片後，便能從中找出共同特徵，學會辨識一隻貓，甚至進一步有能力生成一張從未存在過的貓咪照片。

而像 ChatGPT 這類聊天機器人的運作方式，也是建立在類似的原理上。OpenAI 將大量文字資料提供給神經網路，包括維基百科、新聞報導、聊天紀錄、電子書，甚至電腦程式。透過分析這些文字中的模式，模型逐漸學習如何生成新的文字。

但 AI 學到的並不只是單一詞彙，而是不同詞語之間的關係，以及人們過去是如何回答各種問題。因此，當使用者提出問題時，AI 模型就可以根據過去學習到的語言模式，快速生成一個回應。

這代表 AI 聊天機器人它並不是單純替你找出幾個有答案的網頁，而是直接根據學習到的資訊生成一段完整的回答。

不過 AI 有時候也會弄錯事實，這種狀況被稱為「幻覺」（Hallucination）。

雖然各家 AI 公司一直在努力減少幻覺的狀況發生，但請記得 AI 並不是絕對正確的，他也可能給出錯誤的答案，「回答得很快」和「回答一定正確」仍然是兩回事。

11. AI 真的有「超級智慧」嗎？

談到 AI 未來，另一個常見詞彙是「超級智慧」（Superintelligence）。

這個詞有趣的地方是，我們甚至沒有一套明確的方法可以測量人類智慧，又怎麼知道 AI 什麼時候真正超越了人類？

目前比較貼切的描述，可能是「鋸齒狀的智慧」（jagged intelligence）。

AI 在某些領域已經遠遠超越人類，例如數學運算與程式撰寫；但在另外一些能力上，它仍然存在明顯限制，例如常識推理，以及對實體世界的理解。

這也是為什麼 AI 看起來可以完成非常複雜的任務，卻有時候仍會犯下人類視角看來非常基本的錯誤。

至於 AI 能不能治癒癌症、解決全球糧食的問題，目前確實有不少企業與學術研究團隊利用 AI 加速藥物開發與科學研究。但從「加速研究」到「治癒癌症」，中間仍有很長的距離。

要記得 AI 很強，但它並不是魔法。