🧰 核心能力

模块
功能说明
RAG Pipeline完整生命周期：从知识源接�?�?检�?�?生成
50+ 小型专用模型专注企业任务：问答、分类、摘要、提取（�?SLIM、BLING、DRAGON 系列�?
**模型目录（ModelCatalog�?*统一调用 150+ 模型（支�?GGUF、HuggingFace、OpenAI 等）
**文档处理（Library�?*支持 PDF、Word、Excel、PPT、图片等格式的解析、切块、向量化
**检索（Query�?*文本检索、语义检索、混合检索、元数据过滤
**提示与生成（Prompt�?*支持“带来源的提示”（Prompt with Sources），自动将检索结果注�?LLM
**代理（Agents�?*多模型协作，支持函数调用（如情感分析、提取、摘要）

🚀 快速上�?

1. 安装

`pip3 install llmware

或完整安�?

pip3 install ‘llmware[full]’`### 2. 运行第一个例子（本地合同分析�?

`from llmware.prompts import Prompt
from llmware.setup import Setup
import os

# 下载示例合同
sample_path = Setup().load_sample_files()
contracts_path = os.path.join(sample_path, "Agreements")

# 加载本地模型
prompter = Prompt().load_model("bling-phi-3-gguf")

# 分析合同
contract = os.listdir(contracts_path)[0]
prompter.add_source_document(contracts_path, contract, query="executive employment agreement")
responses = prompter.prompt_with_source("What is the executive's base salary?")
print(responses[0]["llm_response"])`

🔥 最新亮�?

•�?SLIM 模型*：支持函数调用，适合构建多步代理工作流�?
•�?DRAGON 系列*�?-9B 参数，企业级 RAG 优化，支�?GGUF 本地部署�?
•�?BLING 系列*�?-5B 参数，笔记本即可运行，适合快速原型开发�?
•�?新工�?�?
•�?BizBot*：本�?RAG + SQL 商业智能聊天机器人�?
•�?Lecture Tool*：语音转文字 + 问答�?
•�?OCR 支持*：提�?PDF/图片中的文字�?
•�?多数据库支持*：SQLite（免安装）、Mongo、Postgres、Milvus、ChromaDB 等�?

📦 模型速览

系列
参数规模
特点
示例模型
SLIM1-3B
函数调用、代理任�?
slim-extract-tool, slim-sentiment-tool
BLING1-5B
RAG 优化、笔记本运行
bling-phi-3-gguf, bling-tiny-llama-v0
DRAGON6-9B
高精度、企业部�?
dragon-yi-answer-tool, dragon-mistral-answer-tool
Industry BERT-
行业专用嵌入模型
industry-bert-sec, industry-bert-loans