目前看了下实现,是调的quicker官方的模块,好处是支持了stream输出,但是结果是markdown格式的,相比于之前的,柑橘不太友好,之前的输出结果我可以直接用,但是这个我还得删除一些多余的代码,现在输出的就是下面这种,看是否有方式可以优化一下
流式输入很不稳定,我个人还是用的直接返回最终结果.
流式输入很不稳定,我个人还是用的直接返回最终结果.