多數人每天都在使用人工智慧。
寫文案、生成圖片、寫程式、做簡報...
這些能力,正逐漸滲透進創作者與知識工作者的日常。但一個幾乎被忽略的事實是:
我們正在依賴一群我們無法理解、也無法檢視的系統。
這些系統多半來自像 OpenAI、Google 等公司,強大,但封閉。
你不知道它們如何訓練,不知道使用了哪些資料,也無法真正掌握它們的邏輯。你只知道:要用,就得付費。
這樣的模式,在過去幾年幾乎成為「理所當然」。
直到最近,一件事情開始出現不同的跡象。筆者透過 AIMochi 筆記工具,整理多方公開資訊和最新報導內容,探討封閉系統的護城河,還剩多少?
NVIDIA 推出的 Nemotron 3 Super,並不是第一個大型語言模型。
但它做了一件極少見的事:它不只提供模型,還公開了建構這個系統的完整方法。
包括:
訓練數據規模(25兆 tokens)
模型參數(1200億)
技術設計細節
一份長達51頁的研究報告
這在AI產業中,幾乎是「反直覺」的行為。
過去,最先進的模型通常是:
高成本(數十億美元訓練)
高機密(細節完全不公開)
高門檻(只能透過API使用)
而現在,一個接近一年半前頂級模型水準的系統,被打開了。
這不只是「免費」的問題。這是整個權力結構的改寫。
如果說 Nemotron 3 Super 有一個最令人震驚的地方,那不是它「有多聰明」,而是:
它在維持智能的前提下,速度大幅提升。
關鍵來自一個技術:NVFP4,NVIDIA在Blackwell架構中推出的創新4位元浮點數(E2M1)格式,專為AI推論與訓練設計
1. NVFP4:讓AI「學會偷懶」的藝術
簡單說,NVFP4做了一件事:把數字變得更粗略。
就像你把:3.1415926535 → 3.14
這樣可以減少計算量,但問題也很明顯:會面臨失去精度的風險
在大多數情況下,這會讓AI輸出錯誤甚至胡言亂語。
但這次不同。研究人員做了一個關鍵設計:
只在不敏感的地方進行簡化,保留關鍵計算的精度
結果是:
計算量大幅下降
精度幾乎不變
整體速度提升數倍
這是一種極其精細的「取捨設計」。
2. Multi-token Prediction:一次說完整句話
傳統語言模型是怎麼生成文字的?一個字、一個字往外吐
這意味著每一步都要計算。
但 Nemotron 做了另一件事:一次預測多個 token(例如7個)
就像從:「我」→「今天」→「想」→「寫」→「文章」
變成:「我今天想寫文章」
一次生成。
這不只是加速,而是計算模式的改變。
當系統能「預測未來一段話」,而不是逐步生成時,效率會出現質變。
3. Mamba:重新設計AI的記憶方式
另一個關鍵,是所謂的「Mamba層」。
傳統模型的問題是:它們會反覆讀取上下文(就像學生一直翻課本),這非常耗費資源。
Mamba的做法則像是:讀一次,做摘要,只保留關鍵資訊
這帶來兩個結果:
記憶更高效
能處理更長的上下文
對於需要長對話或複雜推理的應用,這是關鍵突破。
如果只看技術,Nemotron 3 Super 是「優秀」。
但還沒到「顛覆」。
真正的轉折,在於這些技術被公開了。
這意味著什麼?任何人都可以:
學習這套方法
複製這個架構
在此基礎上改進
這就是開源的力量。
過去幾年,AI世界有一條清楚的分界線:
| 類型 | 特徵 |
|---|---|
| 封閉模型 | 最強、最貴、不可見 |
| 開源模型 | 次強、便宜、可修改 |
但現在,這條線正在模糊。
以 Meta 為代表的開源陣營,已經持續縮小差距。
而 Nemotron 這類模型,則進一步帶來三個改變:
1. 能力差距縮小
開源模型已經能在多數任務中接近頂級模型。
2. 成本優勢放大
速度更快 → 運行成本更低 → 更容易普及
3. 創新速度提升
開放 → 更多人參與 → 進化更快
這三點加在一起,會產生一個關鍵結果:護城河正在變淺
這並不代表像 OpenAI 或 Google 會被取代。
它們仍然擁有:
最前沿的研究能力
最大規模的資源
最完整的產品生態
但問題在於:這些優勢,是否足以抵擋「開放」帶來的加速?
歷史上,類似的故事並不少見:
Linux 對抗商業作業系統
Android 對抗封閉手機系統
一開始,開源總是「比較弱」。
但當它「夠用」,甚至「接近」,整個市場就會開始轉向。
從這個角度看,Nemotron 的意義就變得清晰:
它不是在證明「我們有一個更強的模型」。
而是在宣告一件事:未來的AI競爭,不再只是模型本身。
而是:「誰能建立生態」
這包含:
誰讓開發者更容易使用
誰讓模型更容易被修改
誰讓企業更容易部署
誰能形成社群與網絡效應
在這場競爭中:
封閉模型 → 像是高性能引擎
開源模型 → 像是開放平台
而歷史一再顯示:平台,往往比產品更有力量
回到一開始的問題:為什麼這件事重要?
因為它正在改變一個更根本的問題:誰可以擁有AI?
過去:
大公司擁有AI
使用者只能「租用」
現在開始出現另一種可能:
個人可以部署AI
團隊可以修改AI
社群可以共同打造AI
這是一種從「工具」到「基礎設施」的轉變。
如果從短期看,Nemotron 只是又一個模型。
但如果拉長時間看,它更像是:一個訊號
這個訊號在說:
AI 不會永遠被少數公司壟斷
技術門檻正在被快速壓低
創新的重心正在轉移
對創作者與工程師來說,這意味著:未來的機會,不只在「使用AI」,而是在「掌握AI」。
很多人看到這件事,第一反應是:
「太好了,有免費AI了!」
但真正值得注意的,不是免費。
而是:控制權正在轉移
當更多人能理解、修改、甚至重新建構AI時,
這場競爭的本質,就已經改變了。
而這,也許才是這一切最值得關注的地方。
以上僅供參考與資訊分享之用!若想快速了解更多資訊,透過 AIMochi 筆記工具,幫我們從海量資料中,梳理出關鍵資訊,讓我們精準掌握重要訊息!