一、路由链
继续上面的提示链实现流程,对于问题Q的分发给哪一个M的P,这个一个任务分发的问题,对于这个问题就涉及路由(负责将请求分发给哪一个模块(工具、模型、库)进行处理)
二、路由选择
对于路由的选择有三种方式(路由链):
①向量路由(使用向量的相似度的方式进行):如输入的子问题转换为与各路由中预存的问题进行向量计算,将其相似度高的路由作为任务的分发对象。
②规则路由:基于关键词的结构化数据来分发对应的路由,其在复杂输入场景灵活性较为缺乏。
③预训练微调路由:使用机器学习进行监督微调,获取不同任务的学习权重,进行路由的各个场景的快速部署和使用,便于任务的精准分发。