解决php因为输出内容太短无法流式(Stream)输出问题

实测得知,如果用PHP做流式输出每次echo的内容太短的话,就没有流式的效果了,而是会等输出的长度达到一定时前端才能拿到结果,如下:

这是我这边的测试结果,可见,这里仅接收到了两次流式输出,但是我在PHP里是输出了10次,从而证明了每次流式的内容达到一定长度时才能有流式得到效果,这个长度到底是多少,我没有细致去测试了,我的想法是:判断下输出的内容的长度,如果不够1024,则拼接一些内容,再在前端剔除这些拼接的内容即可,这样前端就无损后端的操作了。

完整PHP代码如下,不需要更改nginx或者php.ini的配置:   

 function actionStreamOut()

    {

        $flag = "[[++--~!@#$%^&*()--++]]";
           

        // 设置脚本超时时间,以防止脚本被服务器过早终止
        set_time_limit(0);
        // 禁用输出缓冲
        while (ob_get_level()) {
            ob_end_flush();
        }
        ob_implicit_flush(true);
        header('Content-Type: text/event-stream'); // 必须要加

        $data = json_encode([
            'data' => '测试短文本'
        ], JSON_UNESCAPED_UNICODE); // 长度太短无法流式
        // 填充数据长度不够1024的情况
        while (strlen($data) < 1024) {
            $data .= $flag; // ai生成的内容总不会有这种内容吧?前端拿到后再多次剔除即可还原真正的消息了
        }

        for ($i = 1; $i <= 10; $i++) {
            echo $i . "{$data}\n";
            // 强制刷新输出缓冲区
            flush();
            // 模拟延迟,便于观察输出效果
            usleep(200000);
        }
    }

前段接收到消息后,再全量剔除一下flag内容,代码如下:

var pattern = /\[\[\+\+--~!@#\$%\^&\*\(\)--\+\+\]]/g; // 匹配特定字符串的正则表达式
var result = str.replace(pattern, ''); // 删除所有匹配到的特定字符串
console.log(result);

实验一下:

没问题!

这篇分享文章就到这里啦!如果你对文章内容有疑问或想要深入讨论,欢迎在评论区留言,我会尽力回答。同时,如果你觉得这篇文章对你有帮助,不妨点个赞并分享给其他同学,让更多人受益。

想要了解更多相关知识,可以查看我以往的文章,其中有许多精彩内容。记得关注我,获取及时更新,我们可以一起学习、讨论技术,共同进步。

感谢你的阅读与支持,期待在未来的文章中与你再次相遇!

我的微信公众号:【xdub】,欢迎大家订阅,我会同步文章到公众号上。

  • 4
    点赞
  • 2
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 0
    评论
对于使用PHP搭建ChatGPT并实现输出,你可以使用以下步骤: 1. 安装OpenAI的PHP SDK:你可以通过composer安装OpenAI的官方PHP SDK,运行以下命令: ```shell composer require openai/api ``` 2. 导入OpenAI SDK并设置API密钥:在你的PHP文件中,导入OpenAI的SDK并设置你的API密钥。你可以在OpenAI网站上创建一个帐户并生成一个API密钥。 ```php require 'vendor/autoload.php'; use OpenAI\OpenAI; $openai = new OpenAI('YOUR_API_KEY'); ``` 3. 发送请求并处理输出:使用`openai->complete()`方法发送请求,并将`stream`参数设置为`true`以实现输出。你可以使用循环来处理多个回复。 ```php $prompt = "你的对话起始语句"; $response = $openai->complete([ 'prompt' => $prompt, 'max_tokens' => 50, // 设置生成的最大令牌数 'temperature' => 0.8, // 设置生成的多样性,值越高则越多样化 'n' => 1, // 设置要生成的回复数量 'stream' => true, // 启用输出 ]); foreach ($response->choices as $choice) { $reply = $choice->text; // 处理回复 } ``` 4. 处理中间状态:如果你想在生成回复期间获取中间状态,你可以在请求中添加`'logprobs' => 0`参数。这将返回一个包含每个令牌的概率的数组。 ```php $response = $openai->complete([ 'prompt' => $prompt, 'max_tokens' => 50, 'temperature' => 0.8, 'n' => 1, 'stream' => true, 'logprobs' => 0, // 获取中间状态 ]); foreach ($response->choices as $choice) { $reply = $choice->text; $logprobs = $choice->logprobs->token_probs; // 处理回复和中间状态 } ``` 这样,你就可以使用PHP搭建ChatGPT并实现输出了。记得将`YOUR_API_KEY`替换为你的实际API密钥。
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

一方_self

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值