PrismML 正在將微型語言模型推進到智慧眼鏡場景中。高通在 Snapdragon Summit 上展示了這家公司開發的 1- bit Bonsai LLM，已經可以在基於 Snapdragon AR1 Gen 1 平台的 AI 智慧眼鏡上本地運行。

這意味著部分視覺與語言任務可以直接在設備端完成，不必依賴雲端處理。按照 PrismML 的設定，佩戴者可以針對眼前所見的內容實時提問，設備再給出相應的回答。

2B 参数版本面向視覺語言

此次用於智能眼鏡的是一個200億參數的模型，針對視覺與語言任務進行了調優。文章稱，PrismML的主要賣點是將更大的模型壓縮到更小的體積，在這一案例中可縮小約4倍，同時盡量保留標準基準測試中的大部分表現。

PrismML 由加州理工学院的研發人員創立，顧問團隊包括加州大學伯克利分校的教授 Ion Stoica。該公司希望推動開放權重模型在終端設備上的運行，更充分地利用現有的硬體計算能力。

端側 AI 瞄準隱私與算力效率

PrismML 將這一路線定位為另一種選擇，即減少對封閉式 AI 實驗室的依賴。其思路是將更多推理任務放在本地執行，從而降低對雲端算力及外部隱私承諾的依賴。

對於高通來說，這類模型也有助於強化 Snapdragon 在 AI 眼鏡等新硬體中的端側能力。隨著可穿戴設備加入更多實時識別和問答功能，模型體積、功耗和響應速度正變得越來越關鍵。

仍未公布搭载產品

不過，目前還沒有搭載 PrismML 的智慧眼鏡正式發布。現階段披露的重點仍是模型已經完成對高通芯片平台的適配，並在大會上完成展示。

這使得 PrismML 在「向設備端開放權重 AI」的目標上又向前推進了一步，但是否能真正進入消費級硬體領域，仍取決於後續是否有廠商推出相應產品。