一体化 AI 框架

txtai 是一个用于语义搜索、LLM 编排和语言模型工作流的一体化 AI 框架。

txtai 的核心组件是一个嵌入数据库，它是向量索引（稀疏和密集）、图网络和关系数据库的集合。

这一基础使向量搜索成为可能，并/或作为大型语言模型 (LLM) 应用的强大知识来源。

构建自主代理、检索增强生成 (RAG) 流程、多模型工作流等。

txtai 特性总结

• 🔎 向量搜索，支持 SQL、对象存储、主题建模、图分析和多模态索引
• 📄 为文本、文档、音频、图像和视频创建嵌入
• 💡 由语言模型驱动的流水线，可运行 LLM 提示、问答、标签、转录、翻译、摘要等功能
• ↪️ 工作流，用于连接流水线并聚合业务逻辑。txtai 流程可以是简单的微服务或多模型工作流。
• 🤖 代理，智能地连接嵌入、流水线、工作流及其他代理，自主解决复杂问题
• ⚙️ Web 和模型上下文协议 (MCP) API。提供 JavaScript、Java、Rust 和 Go 绑定。
• 🔋 内置默认配置，可快速上手
• ☁️ 本地运行或通过容器编排横向扩展

txtai 使用 Python 3.10+、Hugging Face Transformers、Sentence Transformers 和 FastAPI 构建。txtai 根据 Apache 2.0 许可证开源。

对运行托管 txtai 应用程序的简单安全方式感兴趣？立即加入 txtai.cloud 预览版了解更多。