taskmatrix.ai的整体架构及其四个主要组成部分:
•多模态对话基础模型(mcfm):它负责与用户通信,理解他们的目标和(多模态)上下文,并基于api生成可执行代码以完成特定任务。
•api平台:提供一个统一的api文档模式来存储具有不同功能的数百万个api,并允许api开发人员或所有者注册、更新和删除他们的api。
•api选择器:根据mcfm对用户命令的理解推荐相关的api。
•api执行器:通过调用相关api执行生成的操作代码,并返回中间和终执行结果。
这4个子系统共同工作,使taskmatrix.ai能够理解用户目标,并为特定任务执行基于api的可执行代码。多模态会话基础模型(mcfm)作为用户交流的主要接口,可以理解多模态上下文。api平台提供了一个统一的api文档模式和一个存储数百万api的地方。api选择器使用mcfm对用户目标的理解来推荐相关的api。后,api执行器执行由相关api生成的操作代码并返回结果。此外,该团队还利用人工反馈(rlhf)技术的强化学习来训练一种奖励模型,该模型可以优化任务矩阵(taskmatrix)。该方法可以帮助mcfm和api选择器找到优策略,提高复杂任务的性能。