【DeepLearning.AI】吴恩达系列课程——使用Gradio构建AI应用

已于 2024-04-15 18:22:41 修改
阅读量1.6k 收藏 34
点赞数 31
分类专栏： DeepLearning-AI 可视化工具 文章标签： 机器学习 深度学习 自然语言处理 图像处理 数据可视化 python
于 2023-11-28 13:29:44 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/weixin_42475060/article/details/134526296
版权

目录

前言

Gradio可以让你快速构建用户界面，无需编写太多代码，使用Gradio构建AI应用（NLP任务、图像生成任务、聊天机器人任务等）

一、Gradio介绍

1-1、Gradio介绍

Gradio：

  • Gradio是一个用于构建交互式界面的Python库。它可以帮助您快速创建自定义的Web界面，用于展示和测试机器学习模型、自然语言处理模型、计算机视觉模型等。

  • Gradio使得构建交互式界面变得非常简单，无需编写繁琐的HTML、CSS和JavaScript代码。您可以使用Gradio来创建一个具有输入字段（如文本输入或图像上传）和输出字段（如模型预测结果）的界面，用户可以直接与您的模型进行交互。

  • Gradio支持多种输入和输出类型，包括文本、图像、音频和视频。您可以通过定义回调函数来处理输入，并将输出返回给用户。Gradio还提供了自动化的界面布局和样式，使得界面设计变得简单而直观。

在这里插入图片描述

1-2、安装

安装：Gradio需要python版本为3.8以上

pip install python
pip install gradio

# update
pip install --upgrade gradio -i https://mirror.baidu.com/pypi/simple

1-3、小栗子

小栗子：将会在浏览器自动弹出（地址： http://localhost:7860）

gr.Interface类: 可以使用用户界面包装任何函数

  • fn: 要运行的函数或模型。这个函数接受输入并返回输出。
  • inputs: 输入组件的类型和顺序。可以使用字符串表示组件类型（如"text"、“checkbox”、"slider"等），也可以使用Gradio提供的组件对象（如gr.TextInput()、gr.Checkbox()、gr.Slider()等）。
  • outputs: 输出组件的类型和顺序。同样可以使用字符串或Gradio提供的组件对象表示。
import gradio as gr

def greet(name):
    return "Hello " + name + "!"

demo = gr.Interface(fn=greet, inputs="text", outputs="text")

    
if __name__ == "__main__":
    demo.launch()

输出：
在这里插入图片描述

有关于Gradio的一些基础知识可以查看我的另一篇文章: 【完全攻略】Gradio：建立机器学习网页APP

二、使用Gradio构建AI应用

2-1、NLP任务

2-1-1、文本摘要

概述：这里我们使用到的是DistilBART，可以在HuggingFace官网下载模型，地址：https://huggingface.co/sshleifer/distilbart-cnn-12-6, 模型下载以及使用方法详见附录。文本摘要使用到的模型为
distilbart-cnn-12-6。更多huggingFace的更多使用方法请详见我的另一篇文章：【完全攻略】畅游NLP海洋：HuggingFace的快速入门
在这里插入图片描述

  • 使用Gradio构建文本摘要应用代码如下：
from transformers import pipeline
from transformers import AutoTokenizer, AutoModelForSeq2SeqLM
import gradio as gr

# 使用我们下载到本地的模型
model = AutoModelForSeq2SeqLM.from_pretrained('./model/distilbart-cnn-12-6')
tokenizer = AutoTokenizer.from_pretrained('./model/distilbart-cnn-12-6')
get_completion = pipeline("summarization", model=model, tokenizer=tokenizer)

# 输入文本，调用模型来返回输出
def summarize(input):
    output = get_completion(input)
    return output[0]['summary_text']


gr.close_all()
demo = gr.Interface(fn=summarize, inputs="text", outputs="text")
demo.launch(share=True)

结果如下：
在这里插入图片描述

  • 改进版如下，其中输入部分引入了gradio组件Textbox。
  • gradio.Textbox是Gradio库中的一个组件，它创建了一个文本区域，用户可以在这个区域中输入字符串或者显示字符串输出。
from transformers import pipeline
from transformers import AutoTokenizer, AutoModelForSeq2SeqLM
import gradio as gr

model = AutoModelForSeq2SeqLM.from_pretrained('./model/distilbart-cnn-12-6')
tokenizer = AutoTokenizer.from_pretrained('./model/distilbart-cnn-12-6')
get_completion = pipeline("summarization", model=model, tokenizer=tokenizer)


def summarize(input):
    output = get_completion(input)
    return output[0]['summary_text']


gr.close_all()
demo = gr.Interface(fn=summarize,
                    inputs=[gr.Textbox(label="Text to summarize", lines=6)],
                    outputs=[gr.Textbox(label="Result", lines=3)],
                    title="Text summarization with distilbart-cnn",
                    description="Summarize any text using the `shleifer/distilbart-cnn-12-6` model under the hood!"
                   )
demo.launch()

结果如下：
在这里插入图片描述

2-1-2、命名实体识别

概述：命名实体识别这里用到的模型为bert-base-NER，与上边的文本摘要一样，也是将模型下载到本地之后调用。

from transformers import pipeline
from transformers import AutoTokenizer, AutoModelForTokenClassification
import gradio as gr

model = AutoModelForTokenClassification.from_pretrained('./model/bert-base-NER')
tokenizer = AutoTokenizer.from_pretrained('./model/bert-base-NER')
get_completion = pipeline("token-classification", model=model, tokenizer=tokenizer)


def ner(input):
    output = get_completion(input)
    return {"text": input, "entities": output}


gr.close_all()
demo = gr.Interface(fn=ner,
                    inputs=[gr.Textbox(label="Text to find entities", lines=2)],
                    # gr.HighlightedText是Gradio库中的一个组件，它创建了一个可以高亮显示文本的区域。你可以在gr.HighlightedText中使用label参数来设置文本区域的标签
                    outputs=[gr.HighlightedText(label="Text with entities")],
                    title="NER with dslim/bert-base-NER",
                    description="Find entities using the `dslim/bert-base-NER` model under the hood!",
                    allow_flagging="never",
                    #Here we introduce a new tag, examples, easy to use examples for your application
                    examples=["My name is Andrew and I live in California", "My name is Poli and work at HuggingFace"])
demo.launch(share=True)

输出：
在这里插入图片描述

2-2、聊天任务（ChatYuan）

2-2-1、模型介绍

概述：这里我们使用到的模型元语功能型对话大模型，下载模型网站为魔搭社区，详见附录二。模型链接：https://modelscope.cn/models/ClueAI/ChatYuan-large/summary

介绍：ChatYuan: 元语功能型对话大模型,这个模型可以用于问答、结合上下文做对话、做各种生成任务，包括创意性写作，也能回答一些像法律、新冠等领域问题。它基于PromptCLUE-large结合数亿条功能对话多轮对话数据进一步训练得到。
PromptCLUE-large在1000亿token中文语料上预训练，累计学习1.5万亿中文token，并且在数百种任务上进行Prompt任务式训练。针对理解类任务，如分类、情感分析、抽取等，可以自定义标签体系；针对多种生成任务，可以进行采样自由生成。

在这里插入图片描述

2-2-2、模型下载、参数设置

from modelscope.pipelines import pipeline
from modelscope.utils.constant import Tasks
from modelscope.models.nlp import T5ForConditionalGeneration
from modelscope.preprocessors import TextGenerationT5Preprocessor
model = T5ForConditionalGeneration.from_pretrained('ClueAI/ChatYuan-large', revision='v1.0.0')
preprocessor = TextGenerationT5Preprocessor(model.model_dir)
pipeline_t2t = pipeline(task=Tasks.text2text_generation, model=model, preprocessor=preprocessor)

def preprocess(text):
  text = text.replace("\n", "\\n").replace("\t", "\\t")
  return text

def postprocess(text):
  return text.replace("\\n", "\n").replace("\\t", "\t")

def answer(text, sample=True, top_p=1, temperature=0.7):
  '''sample：是否抽样。生成任务，可以设置为True;
  top_p：0-1之间，生成的内容越多样'''
  text = preprocess(text)
  
  if not sample:
    out_text = pipeline_t2t(text, return_dict_in_generate=True, output_scores=False, max_new_tokens=2048, num_beams=1, length_penalty=0.6)
  else:
    out_text = pipeline_t2t(text, return_dict_in_generate=True, output_scores=False, max_new_tokens=2048, do_sample=True, top_p=top_p, temperature=temperature, no_repeat_ngram_size=3)
  
  return postprocess(out_text["text"])

2-2-3、模型测试

单轮对话：

input_text = '为什么地球是圆的？'
input = "用户：" + input_text + "\n小元："
output_text = answer(input)
print(f"{input}{output_text}")

输出：

用户：为什么地球是圆的？
小元：地球上的地球是圆形的，这是从地球公转的角度而言。地球公自转方向由南向北，自转周期为12天，自重为1010kg，公转轨道为椭圆。地球自转一周为360度，其自转速度为1440kmh，公自重是950kg。地球的自转轴为南北极，自自转角度为360，公转动角为340。地球绕太阳公转一圈需要326天，绕月亮公转一周需要448天。地球与太阳公自，自，公，自公转的间隔是36552413天，太阳和地球之间公自的间隔为3365944天。

2-2-4、嵌入到Gradio里

#Back to Lesson 2, time flies!
import gradio as gr
def generate(input, slider):
    output = answer("用户：" + input + "\n小元：")
    print(output)
    return output

demo = gr.Interface(fn=generate, 
                    inputs=gr.Textbox(label="Prompt"), 
                    outputs=[gr.Textbox(label="Completion")])

gr.close_all()
demo.launch(share=True)

图示如下：
在这里插入图片描述

2-2-5、gr.Chatbot()

概述：gr.Chatbot()接口是专为聊天机器人设计的接口，允许保存聊天历史，并且展示在app上。

import random
import gradio as gr


def respond(message, chat_history):
        #No LLM here, just respond with a random pre-made message
        bot_message = random.choice(["Tell me more about it",
                                     "Cool, but I'm not interested",
                                     "Hmmmm, ok then"])
        chat_history.append((message, bot_message))
        return "", chat_history


with gr.Blocks() as demo:
	# 聊天框
    chatbot = gr.Chatbot(height=240) #just to fit the notebook
    # 输入框
    msg = gr.Textbox(label="Prompt")
    # 提交按钮
    btn = gr.Button("Submit")
    # 清空内容按钮
    clear = gr.ClearButton(components=[msg, chatbot], value="Clear console")
	
	# 提交按钮的功能函数
    btn.click(respond, inputs=[msg, chatbot], outputs=[msg, chatbot])
    msg.submit(respond, inputs=[msg, chatbot], outputs=[msg, chatbot]) #Press enter to submit

gr.close_all()
demo.launch(share=True)

图示如下：
在这里插入图片描述

附录一：使用HuggingFace来下载模型

1、如何手动下载模型？

  • 访问官网https://huggingface.co/models, 搜索我们想要的模型
    在这里插入图片描述

  • 找到我们需要的文件（如果不知道下载哪个就全部下载），这里全部下载，放在本地文件夹下

  • 将这些文件放在指定文件夹内调用(我这里放置的文件夹是当前的bert-base-uncased文件夹内)
    在这里插入图片描述

  • 详细使用pipeline调用，点击use in Transformers按钮。
    在这里插入图片描述

  • 调用代码如下

# 使用pipeline去下载，极大可能会因为网络问题中断！
# Use a pipeline as a high-level helper
from transformers import pipeline

pipe = pipeline("summarization", model="sshleifer/distilbart-cnn-12-6")

# 使用下载到本地的模型，推荐
# Load model directly
from transformers import AutoTokenizer, AutoModelForSeq2SeqLM

tokenizer = AutoTokenizer.from_pretrained("sshleifer/distilbart-cnn-12-6")
model = AutoModelForSeq2SeqLM.from_pretrained("sshleifer/distilbart-cnn-12-6")

附录二：使用魔搭社区来下载模型

1、魔搭社区介绍

11 月 3 日，达摩院联手中国计算机学会（CCF）开源发展委员会重磅推出AI 模型社区魔搭 ModelScope，首批合作方还包括澜舟科技、智谱AI、深势科技、中国科学技术大学等多家科研机构，旨在打造下一代开源的模型即服务共享平台，致力降低 AI 应用门槛。

主页如下所示：https://modelscope.cn/home
在这里插入图片描述

2、特点

  • 下载速度快：相比于HuggingFace，使用魔法的龟速下载，魔搭社区无需梯子下载速度即可达到10M+/s。
    在这里插入图片描述
  • 使用简洁：这里以sd模型为例，直接复制用法即可下载使用。
    在这里插入图片描述
  • 提供微调方法、以及其他优秀大模型，加速AI开发者的开发进度。

参考：
deeplearning 短课官网

ChatGPT 使用 拓展资料：2023年6月 吴恩达大咖Deeplearning.ai最新课程
段智华的博客
06-01 1091
ChatGPT 使用 拓展资料：2023年6月 吴恩达大咖Deeplearning.ai最新课程。
吴恩达gradio课程：diffusion 文生图（Image to Text）模型
Cachel Wood的博客
08-31 619
使用了基于Diffusion模型的图像生成技术,可以从文本描述中生成图像。通过简单的Python代码调用模型接口,只需要提供文本提示即可生成图像。使用Gradio构建了一个简洁的网页界面,可以自定义文本提示来生成图像。接口可以控制生成图像的大小和细节程度等参数。使用,它可以创建更复杂的用户界面布局。
微软和吴恩达的两门超绝的免费AI公开课，打破小白的AI认知
weixin_40780178的博客
01-06 1947
大家好，我是凡人。前两天有好几个朋友在问我，有没有大厂出品的权威AI课程，在对比40多个免费AI课程后，选择了微软和吴恩达两门公开课程，他们在GitHup上有超高的人气，分别是18.3K和66.1K颗星，下面我们就一起来看看这两门课程。
Coursera吴恩达机器学习课程 总结笔记及作业代码——第1,2周
启人zhr的博客
04-23 5万+
Linearregression 1 Model representation 2 Cost function 3 Gradient descent 4 Gradient descent for linear regression 1 Mul2ple features 2 Feature Scaling 3 Learningrate 4 Features and polynomial regress
【gradio】使用Gradio快速开发前端界面：基础知识
放纵小开爱的博客
03-20 2513
在机器学习和深度学习项目中，模型的部署和展示往往是一个重要的环节。然而，传统的前端开发流程可能对数据科学家或算法工程师来说过于复杂。Gradio 是一个轻量级的 Python 库，能够帮助开发者快速构建交互式的前端界面，用于展示模型的功能或进行简单的数据处理。下面将零帧起手，学习Gradio 的基础知识，并通过一个简单的示例掌握其用法。我将所学内容汇总于这个专栏。Gradio 是一个开源的 Python 库，专为机器学习和数据科学项目设计。允许用户通过几行代码快速创建交互式界面，无需任何前端开发经验。
完结篇 | 吴恩达deeplearning.ai专项课程精炼笔记全部汇总
红色石头的专栏
05-05 7万+
个人网站：红色石头的机器学习之路 CSDN博客：红色石头的专栏 知乎：红色石头 微博：RedstoneWill的微博 GitHub：RedstoneWill的GitHub 微信公众号：AI有道（ID：redstonewill） 从去年8月份开始，AI界大IP吴恩达在coursera上开设了由5们课组成的深度学习专项课程，掀起了一股人工智能深度学习热潮。这...
重磅发布！吴恩达 AI 完整课程资源超级大汇总！
fengdu78的博客
02-19 3333
编辑 | Will出品 | 字节AI吴恩达（Andrew Ng），毫无疑问，是全球人工智能（AI）领域的大 IP！随着近些年来 AI 越来越火的大趋势下，吴恩达一直致力于普及、宣传、推广...
感动！有人将吴恩达的视频课程做成了文字版
热门推荐
AI科技大本营
04-23 10万+
 整理 | 阿司匹林 机器学习和深度学习如何入门？相信很多人都会推荐吴恩达的在线课程。 不过，这种视频在线课程也有其弊端，就跟很多人不喜欢微信语音一样，想要在视频中查找和回顾相关的知识点并不方便。 于是，以黄海广博士为首的一群机器学习爱好者发起了一个公益性质的项目（http://www.ai-start.com）：吴恩达机器学习和深度学习课程的字幕翻译以及笔记整理。 近日，这个项目终...
吴恩达DeepLearning.AI课程系列 —— 大语言模型微调
Python_cocola的博客
08-30 1161
在了解怎么来微调模型之前，我们其实心里是不是都有一个疑问，为什么我们需要微调模型呢？模型是不是非得微调才能正常使用呢？实际上，微调模型的目的其实就是将一个有一定语言能力的模型变成一个特定使用场景的模型，比如将只会词语接龙的模型GPT-3通过各种方式调整为我们熟知的ChatGPT，又比如说将强大且通用的GPT-4调整为专用于代码纠错的GitHub Copilot以及将用于常规诊断的模型PCP变成专业的心脏病查询的专家（Cardiologist）以及皮肤病的专家（Dermatologist）。
吴恩达gradio课程：基于开源LLM（large language model）的聊天应用chatbot
Cachel Wood的博客
09-08 1139
Falcon 40B是当前最好的开源语言模型之一。使用库调用Falcon 40B的问答API接口。首先仅仅在代码中与模型聊天,后续通过Gradio构建聊天界面。Gradio聊天界面可以保存对话历史上下文。在聊天过程中,需要将之前对话记录与新消息一起发送给模型,才能进行连续对话。组件可以简化发送历史对话上下文的过程。通过库+组件即可实现与开源语言模型的流畅聊天。本课程使用免费的开源模型构建应用,可以自由自定义。展示了利用开源模型和Gradio进行快速原型开发和验证的流程。
吴恩达LLM学习笔记，吴恩达LangChain学习笔记（转载，免费，仅供学习）
最新发布
05-06
吴恩达老师与 OpenAI 合作推出的大模型系列教程，入门基于 OpenAI API 以及 LangChain 大模型开发。 含课程 Prompt Engineering for Developers、Building Systems with the ChatGPT API、LangChain for LLM ...
吴恩达深度学习DeepLearning-详细中文和英文笔记总结以及知识图谱三剑客
10-25
吴恩达深度学习DeepLearning-详细中文和英文笔记总结以及知识图谱三剑客,比较全面的总结，看完这些应该算是入门了
ChatGPT 使用 拓展资料：吴恩达大咖 基于LangChain的LLM应用程序开发-1
段智华的博客
06-02 728
ChatGPT 使用 拓展资料：吴恩达大咖 基于LangChain的LLM应用程序开发基于LangChain的LLM应用程序开发。
吴恩达DeepLearning.AI官方课程系列——Pretraining LLMs
lhx17673139267的博客
08-02 996
机智流后续会继续跟进解读吴恩达DeepLearning.AI官方课程系列——Pretraining LLMs课程，欢迎小伙伴们在留言区积极互动转发分享，你们的支持是我们更新最大的动力~
笔记 | 吴恩达Coursera Deep Learning学习笔记
AI科技大本营
09-27 6305
向AI转型的程序员都关注了这个号☝☝☝作者：Lisa Song微软总部云智能高级数据科学家，现居西雅图。具有多年机器学习和深度学习的应用经验，熟悉各种业务场景下机器学习和人工智能产品的需求分析、架构设计、算法开发和集成部署。吴恩达Coursera Deep Learning学习笔记 1 （上）【学习心得】Coursera和deeplearning.ai合作的Deep Learning Specia
吴恩达deeplearning
prin1127的博客
07-23 864
完结撒花！吴恩达DeepLearning.ai《深度学习》课程笔记目录总集 https://blog.csdn.net/Koala_Tree/article/details/79913655 完结篇 | 吴恩达deeplearning.ai专项课程精炼笔记全部汇总 https://blog.csdn.net/red_stone1/article/details/80207815 网易云课堂在线 h...
吴恩达课程
Zerokas的博客
11-24 873
课程名称：Machine Learning作者：Andrew Ng（吴恩达） 中文： http://deeplearning.stanford.edu/wiki/index.php/UFLDL%E6%95%99%E7%A8%8B 英文： http://openclassroom.stanford.edu/MainFolder/CoursePage.php?course=MachineLear
吴恩达机器学习Deeplearning.ai课程学习笔记(Supervised Machine Learning Regression and Classification---week1)
weixin_61573157的博客
02-13 505
机器学习即Machine learning，涉及很多学科，简单点来说，就是使用计算机通过“学习“大量的数据模拟实现人类的行为，也就是让计算机自己学习到一些所谓的”知识与技能“（例如什么是苹果？什么是香蕉？），而且能够通过一些算法组织其实现不断学习不断完善自身的性能与知识架构，换句话说，让计算机越来越”知识渊博“，也就是-----人工智能。
deep learning（吴恩达）深度学习笔记
weixin_61797530的博客
08-20 1071
通过向量化可以显著加快代码的运行速度。下一步，我们将继续讨论向量化的更多示例，并开始向量化逻辑回归算法。通过向量化技术，你可以非常高效地同时计算出所有样本的激活值A，而无需逐一遍历样本。在下一视频中，我们将探讨如何利用向量化技术高效地进行反向传播计算，以获得梯度。虽然我们建议尽量避免显式的for循环，但在需要多次迭代的梯度下降中，仍然需要在迭代次数上使用一个外部的for循环。不过，能够在单次梯度下降中完全消除for循环，仍然是一个非常酷的技巧。
吴恩达deeplearning.ai课程作业分析与总结
deeplearning.ai是一个专注于深度学习的在线学习平台，由吴恩达教授及其团队设计，旨在通过一系列的课程教授深度学习的理论和实践。以下是根据标题、描述、标签以及文件名称列表提取出的知识点： 1. 神经网络和深度...
评论 7
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

ㄣ知冷煖★

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值