首页 新闻 会员 周边

Semantic Kernel: 如何修改所请求的 OpenAI API url 中的 schem 与 hostname

0
悬赏园豆:30 [已解决问题] 解决于 2024-02-09 22:00

Semantic Kernel 没有提供通义千问 Qwen 的内置支持,通义千问也没有提供对 Semantic Kernel 的支持,但通义提供了兼容 OpenAI api 的 api,已经成功部署通义千问,详见博文 以容器方式部署通义千问 Qwen

Semantic Kernel 内置支持 OpenAI,如果能修改 Semantic Kernel 所请求的 OpenAI API url 就能以最简单的方式实现对通义千问的支持,请问如何实现?

dudu的主页 dudu | 高人七级 | 园豆:30925
提问于:2024-02-09 21:33
< >
分享
最佳答案
0

参考 github 上 Allow Modifying the OpenAI endpoint 中的一个评论解决了

using Microsoft.Extensions.DependencyInjection;
using Microsoft.SemanticKernel;

var builder = Kernel.CreateBuilder();
builder.AddOpenAIChatCompletion("gpt-3.5-turbo", "***");
builder.Services.ConfigureHttpClientDefaults(b =>
    b.ConfigurePrimaryHttpMessageHandler(() => new MyRedirectingHandler()));

var kernel = builder.Build();

var result = await kernel.InvokePromptAsync("博客园是什么网站");

Console.WriteLine(result);

sealed class MyRedirectingHandler() : DelegatingHandler(new HttpClientHandler())
{
    protected override Task<HttpResponseMessage> SendAsync(
        HttpRequestMessage request, CancellationToken cancellationToken)
    {
        request.RequestUri = new UriBuilder(request.RequestUri!) { Scheme = "http", Host = "localhost", Port = 8901 }.Uri;
        return base.SendAsync(request, cancellationToken);
    }
}
dudu | 高人七级 |园豆:30925 | 2024-02-09 21:59
清除回答草稿
   您需要登录以后才能回答,未注册用户请先注册