PinnedPinnedPrivate
huyenchip.com我从 900 种最流行的开源人工智能工具中学到了什么不能只看表面答案,真正重要的是理解问题背后的机制、边界和现实代价。你也可以在我 GitHub 上的 cool-llm-repos 列表中找到其中大部分。最底层的堆栈是基础设施,包括服务工具(vllm、英伟达的 Triton)、计算管理(skypilot)、矢量搜索和数据库(faiss、milvus、qdrant、lancedb)、....。最流行的应用类型包括编码、工作流程自动化、信息聚合... 在这 4 层之外,我还有一个类别,即模型 repos,由公司和研究人员创建,用于共享与他们的模型相关的代码。最流行的应用程序类型是编码、机器人(例如 角色扮演、WhatsApp 机器人、Slack 机器人),以及信息聚合(如:...... "让我们把它连接到我们的 Slack,让它每天汇总信息")。该层的最新类别是向量数据库,包括 Qdrant、Pinecone 和 LanceDB 等公司。