8 月 8 日消息，統信軟件今日宣布，中國首款操作系統級端側模型 UOS LM 正式發布。目前，UOS LM 端側模型面向所有統信 UOS 社區版（deepin V23）用戶發起定向邀約內測，添加 deepin 小助手申請內測資格。

為保證流暢體驗，統信推薦以下硬件性能：

1.5B 模型：內存 2G，GPU 顯存 4G，10TOPS

7B 模型：內存 8G，GPU 顯存 10G，20TOPS

對于個人用戶，UOS LM V1.0 版本實現本地文檔構建知識庫，并通過向量數據庫支持基于語義的相似性搜索和向量分析操作，幫助用戶通過 UOS AI 桌面智能助手實現問答、翻譯、創作等功能。

對于組織用戶，UOS LM V1.0 版本針對組織用戶的原始文檔，知識庫系統的處理總共分為五個部分，分別是文檔預處理、文本智能分塊、向量化計算、向量索引構建、元數據索引文件的保存和調用。

匯總如下：

文檔預處理階段，知識庫系統可提取各類格式文檔的文本內容，如 txt、docx、xlsx、ppt、pdf 等文本格式，并對文本進行清洗、過濾，準備進行文本分塊；

文本智能分塊階段，對文本四種切分方式，如固定長度切分、段切分、句切分、語義切分，盡量平衡分塊個數和語義信息的完整性；

向量化計算階段，顧名思義，就是將文本轉化為向量的過程。主要作用是進行語義表征，向量檢索就是使用查詢文本的向量和向量數據庫中的向量進相似性計算；

向量索引構建階段，分為全量索引、倒排索引、乘積量化索引、乘積量化加倒排索引四種方式，主要目的是將文本向量化計算出來的結果通過不同的索引方式組合，得到一個最優的檢索性能和存儲空間兼顧的向量索引庫；

元數據索引文件的保存和調用階段，將向量化索引數據作為結構體數據來存儲到電腦中，并通過向量化檢索和大模型處理檢索結果后，輸出用戶檢索的內容。

對于開發者，UOS LM 提供了豐富的功能和靈活的擴展性，并提供了強大的文檔支持，助力開發者簡化 AI 應用開發流程，加速行業應用、業務系統的開發，拓展 AI 應用場景。

AI SDK 提供三個層面的接口能力：

AI 業務插件（AI-Plugin）：靈活的 AI 業務插件能力，具備系統級和應用級調用配置，三方應用可注冊自己功能接口進入 AI 推理邏輯。

AI 接口能力（DTK AI）：面向編程的 DTK AI 接口能力，提供文件搜索、問答、總結、潤色、語音等業務能力，減少應用開發工作。

AI 模型管理（Modelhub）：原生模型接口能力，融合模型原生輸入輸出接口能力，方便用戶調試自定義提示詞或內容解析。