android 简易实现一个ai流式问答——流式接收数据与使用JetPack Compose 流式显示内容

已于 2024-11-20 15:39:00 修改
阅读量2.2k 收藏 11
点赞数 28
文章标签： android kotlin android jetpack okhttp
于 2024-11-12 16:00:51 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/weixin_45782795/article/details/143716705
版权

背景

实现一个AI聊天问答功能，其中AI的回复是分段返回的。为了给用户带来更好的交互体验，需要设计一个流式读取AI回复的接口，并在UI上实时显示这些分段内容。具体来说，我们需要实现以下功能：

  • 流式接口： 设计一个接口，能够持续从AI模型获取回复内容，并以段落为单位返回。

  • UI流式显示： 在UI界面上，随着新段落内容的获取，实时将这些内容追加到聊天窗口中，营造出AI在持续思考、逐步回答的氛围

流式传输网络设计

APP整体设计大致是

okhttp - retrofit - 自定义网络解析封装层（api） - repository - ViewModel - view

以下关于流式传输的设计，是基于自定义网络解析封装层来实现的

整体架构设计.drawio.png

OkHttp响应的流式读取

当我们使用OkHttp发送网络请求时，服务器返回的数据通常会以流的形式传输。为了高效地处理这些数据，我们可以采用流式读取的方式，即边接收数据边处理，而不是一次性将所有数据读入内存。

为什么不直接使用string()方法？

OkHttp提供的string()方法会将整个响应体一次性读入内存，然后转换为字符串。对于大数据量

最低0.47元/天 解锁文章
今人见明
关注
Android实现文字逐字显示出来效果 (附完整源码)
希望我的博客，能帮上你解决学习中工作中所遇到的问题
11-21 588
Android实现文字逐字显示出来效果 (附完整源码)
第二章 使用Android完成KIMI API流式输出
alishaoxiong的博客
07-05 2006
前面第一章主要介绍了怎么申请Kimi的API Key和怎么通过API调用。这一章主要介绍怎么使用Kimi的流式输出。流式相对与非流式来说，用户体验会更好一点。当用户输入一个问题或者一个对话时，机器人一个一个字生成回答，有一种拟人化。同时如果机器人需要回到的内容比较大时，一次性输出需要等待的时间非比较长，用户体验就比较差了。功能还是挺简单，主要就是通过Kimi的api接口根据回调依次显示即可。
AI对话的逐字输出：流式返回才是幕后黑手
邓占勇的博客
03-05 2141
在现代AI对话系统中，逐字输出效果已经成为提升用户体验的关键手段。通过流式返回，AI能够逐字或逐块生成响应，模拟人类对话的自然节奏，减少用户等待时间，并提供更流畅的交互体验
实现AI问答的流式输出
m0_73179389的博客
04-15 3600
当用户写好问题时，进行一次http请求，也就是相当于把问题和用户信息给后端（其实这里可以直接通过socket实现对话的方式进行AI问答，由于我需要对用户使用AI情况进行统计、管理，所以加了层http请求）， 通过请求拿到userId，进而拿到对应的session，这时用户一定是和服务器有socket连接的，后端服务器与星火的服务器进行socket连接，星火的服务器给后端服务器响应内容，后端服务器就把相应的内容响应给前端，前端进行展示即可；WebSocketServer 代码。Controller层。
Android 智能问答机器人的实现
Android_1314的博客
05-06 1015
android:layout_toLeftOf=“@id/id_chat_send” android:background=“@drawable/login_edit_normal” android:singleLine=“true” android:textSize=“18sp” /> <ListV 《Android学习笔记总结+最新移动架构视频+大厂安卓面试真题+项目实战源码讲义》无偿开源 徽信搜索公众号【编程进阶路】 iew android:id=“@+id/id_chat_listVi
Android流式接口请求实践
折翅鵬的博客
09-07 1544
最近做项目，接入，接口是流式返回的，于是对流式接口请求做了下总结。项目中采用的实现网络请求、因为后面的标识可能会被GPT拆成两个，因此需要拼装后进行解析。
请面向一个没有编程经验的新手，讲解原生化app开发的流程，代码实现细节，对接后端大模型接口等全面功能，越详细越好，流程越全面越好
最新发布
03-21
- 选择开发框架：Android使用Kotlin/Jetpack Compose，iOS使用Swift/SwiftUI - 架构设计推荐MVVM模式： ```kotlin // Android ViewModel示例 class MainViewModel : ViewModel() { private val _data = ...
在Seeed Studio reComputer Jetson Orin使用英伟达最新发布的VLM视觉语言大模型
m0_53134931的博客
08-14 1065
视觉语言模型（VLMs）是支持图像、视频和文本的多模态模型，它们结合了大型语言模型和视觉变换器。基于这一能力，它们能够支持通过文本提示来查询视频和图像，从而实现与视频聊天、定义基于自然语言的警报等功能。能够快速部署VLMs，以用于视频洞察应用。VLM服务公开了REST API端点，用于配置视频流输入、设置警报并以自然语言询问关于输入视频流的问题。本教程将指导如何在上运行VLM。
常见Android面试问题汇总--持续更新
qq601517284的博客
04-04 165
1 handler的机制 2 view事件分发流程 3 自定义view流程 4 listview和recyclerview区别，优缺点 5 常见的设计模式 6 activity的启动流程 7 卡顿问题如何处理 8
如何在Seeed Studio reComputer Jetson上使用Jetson平台服务运行零样本检测
m0_53134931的博客
08-14 1033
生成式AI视觉变换器（如CLIP）使得构建零样本检测模型成为可能，这种模型能够进行开放词汇物体检测。这意味着，模型不受预定义类别的限制，可以根据用户在运行时配置的目标进行检测。零样本检测AI服务能够利用Jetson服务快速部署生成式AI，用于视频直播输入的开放词汇检测。该零样本检测AI服务通过REST API端点控制流输入和检测对象。本教程将指导如何在上运行零样本检测。
Android流式TextView,类似文字标签。
11-17
Android流式TextView,类似文字标签。
Android自定义瀑布流文字展示
u012108336的博客
11-29 692
思路就是，首选我们需要确定当前自定义的view的宽和高，确定宽和高后。我们就需要确定子view的位置，位置的处理需要注意换行，当满足一行或者在下一个view的内容超过屏幕，换行的处理。我们的宽和高都是wrap_content,那么我们就应该首选对自定义的控件的meause进行测量。在历史搜索功能中，我们常用到一个瀑布流展示控件，用来展示我们的搜索记录，所以就自定义一个吧！既然测量好了，那么就要对我们view进行布局。以上demo仅供参考。
AI技术栈 —— 流式输出
键盘国治理专家的博客
03-09 1017
Server-Sent Events（SSE）技术是实现流式输出功能的核心。// 显式声明CORS模式。// 提取data字段内容。// 修复事件解析逻辑。
Android Studio 基础 之 使用 okhttp 长连接，流式获取数据的方法简单整理了
热门推荐
仙魁XAN
05-17 1万+
Android 开发中的一些基础操作，使用整理，便于后期使用。本节介绍，浏览器向服务器发送一个HTTP请求，保持长连接，服务器不断单向地向浏览器推送“信息”（message），这么做是为了节约网络资源，不用一直发请求，建立新连接。这里使用 okhttp 获取长连接的流数据，并且边获取边展示，方法不唯一，仅供参考。在post请求使用方法中讲了一种传递参数的方法，就是创建表单请求体对象，然后把表单请求体对象作为post方法的参数。post请求传递参数的方法还有很多种，但都是通过post方法传递的。
Vue实现Ai 聊天（流式请求处理和碰到的问题）
weixin_52911459的博客
10-24 1372
Vue2项目实现实现Ai 聊天，使用Fetch实现流式请求和使用Axios流式请求碰到的问题
Android不依赖okhttp处理SSE流式接口(如AI逐句回复)
derek_chou的博客
11-28 418
/line就是每行的数据了，也就是“逐句”//4.设置Content-Type。//12.关闭输入流。//9.写入参数（json格式）参考别的前辈的代码，忘记在哪里看的了。//6.设置DoOutput。//7.设置DoInput。//5.设置Accept。//2.打开URL连接。//3.设置请求方式。//10.获取输入流。
【鸿蒙】大模型对话应用（二）：对话界面设计与实现
weixin_44348327的博客
01-27 3098
本demo对接阿里云和百度的大模型API，实现一个简单的对话应用。：API9关键点：ArkTS、ArkUI、UIAbility、网络http请求、列表布局、层叠布局。
android自定义view实现流式布局（FlowLayout）和热门标签
我的博客
01-25 1635
流式布局的效果图如图所示：应用场景诸如在搜索框的关键词显示等等。自定义view的流式布局(这里定义为FlowLayout)其实它就是一个Viewgroup，而后重写了它的几个方法， 代码如下： package com.imooc.view; import java.util.ArrayList; import java.util.List; import android.content
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值