微信客服
微信公众号
Moonshot AI 近期发布了 Kosong，这是一种用于智能体应用的 LLM 抽象层，旨在解决与多个模型和工具交互时的技术栈可维护性问题。Kosong 通过统一消息结构、异步工具编排和可插拔的聊天提供商，帮助团队避免将业务逻辑硬编码到单一 API，从而简化智能体的构建过程。它是 Kimi CLI 的核心驱动层，提供了强大的支持。
Kosong 是一个 Python 库，位于代理逻辑与 LLM 提供商之间。其公共 API 保持精简，用户只需导入必要的模块和类型。Kosong 提供的模块定义了流式传输格式、令牌计数和工具调用的封装，使得开发者能够更轻松地管理代理应用程序。
在 Kosong 中，核心的集成点是 ChatProvider。Moonshot 团队展示了 Kimi 的提供程序实现，开发者可以轻松初始化并与系统提示符、工具和消息历史记录进行交互。消息由 `Messages` 类表示，能够支持丰富的多模态有效负载，确保了新用户的友好体验。
Kosong 还包括一个工具模块，方便使用搜索、代码执行或数据库调用等功能。开发者可以通过定义工具类并注册到简单工具集来实现工具的调用和管理。该库提供了两个主要功能:`generate` 用于单次聊天完成，`step` 则用于工具使用的代理。这些功能帮助团队更好地控制对工具的调用，并简化参数解析和结果处理的流程。
值得一提的是，Kosong 内置了一个可以在本地运行的演示代理，便于开发者测试和展示功能。通过设置环境变量和使用命令行启动，用户能够体验 Kimi 作为聊天提供商的强大能力。
Kosong 为 Moonshot 的 Kimi CLI 提供了底层的 LLM 抽象层，确保了智能体应用的灵活性和可扩展性，使开发者能够专注于业务逻辑，而不必担心底层实现的复杂性。
github:https://github.com/MoonshotAI/kosong
划重点: