Strata 0.2.0 測試版發佈:內存與顯存合計僅需 27.6GB,本地運行大模型門檻再降

BlueSky

AI 摘要

  • Strata 0.2.0 測試版將內存與顯存合計最低需求降至 27.6GB,並推出原生中文圖形界面。
  • 來源指出 IQ2_XS 推薦檔所需配置由 48GB 降至 40GB,IQ3_XXS 推薦檔由 64GB 降至 48GB。
  • 新版支持 Windows、macOS 與 Linux,並集成支持文件操作與聯網搜索的 AI 編程 Agent。

開源本地 AI 大模型運行工具 Strata 0.2.0 推出測試版更新。Strata 的定位是讓一般家用電腦也能流暢運行 Qwen3.8-Flash-Next、Qwen3.6-35B-A3B 等大語言模型。本次版本的重點包括全新獨立圖形界面、更低的硬件門檻,以及針對不同顯卡平台的推理加速。

硬件門檻進一步降低

Strata 0.2.0 對內存與顯存(RAM + VRAM)的綜合佔用進行了優化,內存與顯存合計最低僅需 27.6GB 即可流暢運行本地大模型。以 12GB 顯存顯卡搭配 20GB 系統內存為例,即可滿足最低部署要求。

在模型推薦檔位方面,原本需要 48GB 配置的 IQ2_XS 推薦檔降至 40GB,原本需要 64GB 的 IQ3_XXS 高質量推薦檔降至 48GB,整體硬件要求降低 8GB 至 16GB 不等。

推薦檔位舊版所需配置Strata 0.2.0 所需配置降幅
IQ2_XS48GB40GB8GB
IQ3_XXS(高質量)64GB48GB16GB

多平台推理性能提升

Strata 0.2.0 針對不同陣營的顯卡提供了加速優化,來源披露的數據如下:

顯卡陣營測試型號效能提升指標來源披露數據
NVIDIARTX 3060文本生成速度提升 10.2%
NVIDIARTX A4000文本生成速度提升 13%
AMDRX 9000 系列(部分模型)提示詞處理速度接近翻倍
IntelArc A750提示詞處理速度提升約 42%

來源指出,NVIDIA RTX 30 系列顯卡的文本生成速度最高提升約 13%;RX 9000 系列在部分模型上的提示詞處理速度接近翻倍。

跨平台支持與易用性改進

Strata 0.2.0 不再依賴命令行編譯部署,全面支持 Windows、macOS 與 Linux 平臺,並新增原生中文圖形界面與智能化安裝指導,降低一般用戶的使用門檻。

內建 AI 編程 Agent 與功能擴展

新版圖形界面深度集成一款 AI 編程 Agent,支持文件讀取與修改、聯網搜索及自動化任務執行。此外,Strata 0.2.0 針對 NVIDIA 與 AMD 顯卡預設啟用圖片理解功能,並優化模型下載機制,加入多線程併發與斷點續傳。

產品定位觀察

Strata 0.2.0 的核心方向是把本地大模型的部署門檻降到消費級電腦可接受的範圍,同時以圖形界面與安裝引導取代複雜的命令行流程。對於希望在本地運行模型、重視隱私或想降低雲端調用成本的用戶而言,這次更新值得關注。不過目前版本為測試版,實際表現仍需更多獨立測試驗證。

Reference Link : news.aibase.com

Related Articles

Stay Connected

0FansLike
0FollowersFollow
22,800SubscribersSubscribe
spot_img

Latest Articles