AI生态圈
按分类浏览组件与文档入口。
应用框架
5向量库
4模型
7Hugging Face
AI模型共享与协作平台,提供transformers库
LlamaIndex
将LLMs连接到外部数据的数据框架
Qwen
由阿里云达摩院研发的大规模预训练语言模型系列,支持多种下游任务,在中英双语理解、生成、对话等方面表现优异,广泛应用于AI助手、搜索、编程等场景。
Ollama
在本地运行大型语言模型的框架
DeepSeek
专注深度学习和大型语言模型的AI研究实验室
vLLM
高性能LLM推理和服务框架,支持PagedAttention技术,显著提升推理速度和吞吐量
Xinference
由 Xorbits 开发的多模型推理平台,支持 LLM、Embedding、语音及多模态模型的统一部署与服务,基于 Ray 实现分布式高并发推理