AIMochi | 當開源AI開始逼近頂級模型:AI筆記封閉系統的護城河,還剩多少
當開源AI開始逼近頂級模型:AI筆記封閉系統的護城河,還剩多少

當開源AI開始逼近頂級模型:AI筆記封閉系統的護城河,還剩多少

多數人每天都在使用人工智慧。

寫文案、生成圖片、寫程式、做簡報...

這些能力,正逐漸滲透進創作者與知識工作者的日常。但一個幾乎被忽略的事實是:

我們正在依賴一群我們無法理解、也無法檢視的系統。

這些系統多半來自像 OpenAI、Google 等公司,強大,但封閉。

你不知道它們如何訓練,不知道使用了哪些資料,也無法真正掌握它們的邏輯。你只知道:要用,就得付費。

這樣的模式,在過去幾年幾乎成為「理所當然」。

直到最近,一件事情開始出現不同的跡象。筆者透過 AIMochi 筆記工具,整理多方公開資訊和最新報導內容,探討封閉系統的護城河,還剩多少?

一個不尋常的選擇:公開一切

NVIDIA 推出的 Nemotron 3 Super,並不是第一個大型語言模型。

但它做了一件極少見的事:它不只提供模型,還公開了建構這個系統的完整方法。

包括:

  • 訓練數據規模(25兆 tokens)

  • 模型參數(1200億)

  • 技術設計細節

  • 一份長達51頁的研究報告

這在AI產業中,幾乎是「反直覺」的行為。

過去,最先進的模型通常是:

  • 高成本(數十億美元訓練)

  • 高機密(細節完全不公開)

  • 高門檻(只能透過API使用)

而現在,一個接近一年半前頂級模型水準的系統,被打開了。

這不只是「免費」的問題。這是整個權力結構的改寫

速度革命:當AI變快7倍,但不變笨

如果說 Nemotron 3 Super 有一個最令人震驚的地方,那不是它「有多聰明」,而是:

它在維持智能的前提下,速度大幅提升。

關鍵來自一個技術:NVFP4,NVIDIA在Blackwell架構中推出的創新4位元浮點數(E2M1)格式,專為AI推論與訓練設計

1. NVFP4:讓AI「學會偷懶」的藝術

簡單說,NVFP4做了一件事:把數字變得更粗略。

就像你把:3.1415926535 → 3.14

這樣可以減少計算量,但問題也很明顯:會面臨失去精度的風險

在大多數情況下,這會讓AI輸出錯誤甚至胡言亂語。

但這次不同。研究人員做了一個關鍵設計:

只在不敏感的地方進行簡化,保留關鍵計算的精度

結果是:

  • 計算量大幅下降

  • 精度幾乎不變

  • 整體速度提升數倍

這是一種極其精細的「取捨設計」。

2. Multi-token Prediction:一次說完整句話

傳統語言模型是怎麼生成文字的?一個字、一個字往外吐

這意味著每一步都要計算。

但 Nemotron 做了另一件事:一次預測多個 token(例如7個)

就像從:「我」→「今天」→「想」→「寫」→「文章」

變成:「我今天想寫文章」

一次生成。

這不只是加速,而是計算模式的改變

當系統能「預測未來一段話」,而不是逐步生成時,效率會出現質變。

3. Mamba:重新設計AI的記憶方式

另一個關鍵,是所謂的「Mamba層」。

傳統模型的問題是:它們會反覆讀取上下文(就像學生一直翻課本),這非常耗費資源。

Mamba的做法則像是:讀一次,做摘要,只保留關鍵資訊

這帶來兩個結果:

  • 記憶更高效

  • 能處理更長的上下文

對於需要長對話或複雜推理的應用,這是關鍵突破。

但真正厲害的,不是這些技術

如果只看技術,Nemotron 3 Super 是「優秀」。

但還沒到「顛覆」。

真正的轉折,在於這些技術被公開了。

這意味著什麼?任何人都可以:

  • 學習這套方法

  • 複製這個架構

  • 在此基礎上改進

這就是開源的力量。

當開源開始逼近頂級模型

過去幾年,AI世界有一條清楚的分界線:

類型 特徵
封閉模型    最強、最貴、不可見
開源模型 次強、便宜、可修改
 

但現在,這條線正在模糊。

以 Meta 為代表的開源陣營,已經持續縮小差距。

而 Nemotron 這類模型,則進一步帶來三個改變:

1. 能力差距縮小

開源模型已經能在多數任務中接近頂級模型。

2. 成本優勢放大

速度更快 → 運行成本更低 → 更容易普及

3. 創新速度提升

開放 → 更多人參與 → 進化更快

這三點加在一起,會產生一個關鍵結果:護城河正在變淺

封閉模型的優勢,還剩什麼?

這並不代表像 OpenAI 或 Google 會被取代。

它們仍然擁有:

  • 最前沿的研究能力

  • 最大規模的資源

  • 最完整的產品生態

但問題在於:這些優勢,是否足以抵擋「開放」帶來的加速?

歷史上,類似的故事並不少見:

  • Linux 對抗商業作業系統

  • Android 對抗封閉手機系統

一開始,開源總是「比較弱」。

但當它「夠用」,甚至「接近」,整個市場就會開始轉向。

真正的競爭,已經改變

從這個角度看,Nemotron 的意義就變得清晰:

它不是在證明「我們有一個更強的模型」。

而是在宣告一件事:未來的AI競爭,不再只是模型本身。

而是:「誰能建立生態」

這包含:

  • 誰讓開發者更容易使用

  • 誰讓模型更容易被修改

  • 誰讓企業更容易部署

  • 誰能形成社群與網絡效應

在這場競爭中:

  • 封閉模型 → 像是高性能引擎

  • 開源模型 → 像是開放平台

而歷史一再顯示:平台,往往比產品更有力量

一個更安靜但更深遠的改變

回到一開始的問題:為什麼這件事重要?

因為它正在改變一個更根本的問題:誰可以擁有AI?

過去:

  • 大公司擁有AI

  • 使用者只能「租用」

現在開始出現另一種可能:

  • 個人可以部署AI

  • 團隊可以修改AI

  • 社群可以共同打造AI

這是一種從「工具」到「基礎設施」的轉變。

我們可能低估了這件事

如果從短期看,Nemotron 只是又一個模型。

但如果拉長時間看,它更像是:一個訊號

這個訊號在說:

  • AI 不會永遠被少數公司壟斷

  • 技術門檻正在被快速壓低

  • 創新的重心正在轉移

對創作者與工程師來說,這意味著:未來的機會,不只在「使用AI」,而是在「掌握AI」。

免費,只是表面

很多人看到這件事,第一反應是:

「太好了,有免費AI了!」

但真正值得注意的,不是免費。

而是:控制權正在轉移

當更多人能理解、修改、甚至重新建構AI時,

這場競爭的本質,就已經改變了。

而這,也許才是這一切最值得關注的地方。

以上僅供參考與資訊分享之用!若想快速了解更多資訊,透過 AIMochi 筆記工具,幫我們從海量資料中,梳理出關鍵資訊,讓我們精準掌握重要訊息!

馬上開始使用AIMochi