- 博客(27)
- 收藏
- 关注
RSS订阅原创 Qwen-72b单卡运行
一旦 Xinference 服务运行起来，可以有多种方式来使用，包括使用网页、cURL 命令、命令行或者是 Xinference 的 Python SDK。如果需要使用 Xinference 进行模型推理，可以根据不同的模型指定不同的引擎。在下载模型的同时，当模型结束下载，自动拉起model.你可以通过openai的调用方法进行访问qwen-72b。如果你想使用 GGML 格式的模型，建议根据当前使用的硬件手动安装所需要的依赖，以充分利用硬件的加速能力。在图形化界面的基础上，原因在上面。
2024-03-27 10:40:19
706
原创 嵌入模型（embedding ）和重排序模型（rerank）与bert的关系
上下文嵌入模型：与为每个单词分配固定向量表示的传统单词嵌入不同，ELMo（来自语言模型的嵌入）和 BERT（来自 Transformers 的双向编码器表示）等上下文嵌入模型会生成上下文感知嵌入。总之，BERT 可以成为重新排名模型中的一个有价值的组件，提供丰富的上下文嵌入，提高模型根据相关性和用户意图理解和排名搜索结果或推荐的能力。预训练的词嵌入根据训练数据中单词的共现模式捕获单词之间的语义关系。迁移学习模型：一些嵌入模型利用迁移学习技术，其中在大型数据集上预训练的模型在较小的特定领域数据集上进行微调。
2024-03-18 10:32:16
539
原创 TEXT2SQL-顶峰：Vanna部署及介绍
Vanna 是一款采用 MIT 许可的开源 Python RAG (检索增强生成)框架，用于生成 SQL 语句和相关功能。如何使用 VannaVanna 的使用分为两个简单步骤 - 在你的数据上训练一个 RAG "模型"，然后提出问题，该问题将返回可设置为自动在你的数据库上运行的 SQL 查询。1.。2.。如果你不知道什么是 RAG，不用担心 -- 你不需要知道这是如何在底层工作的。你只需要知道你需要“训练”一个模型，它会存储一些元数据，然后你可以用它来“提问”。
2024-01-23 17:03:36
1770
原创 NL2sql的相关参考文献
ChatGPT 零样本文本转 SQL 能力的综合评估：https://arxiv.org/abs/2303.13547。如何提示 LLM 进行文本转 SQL：https://arxiv.org/abs/2305.11853。探索文本转 SQL 的思维链样式提示：https://arxiv.org/abs/2305.14215。FROM-SQL 论文：https://arxiv.org/abs/2304.11015。分而发：https://arxiv.org/abs/2304.11556。
2023-12-29 10:48:00
428
原创 关于hadoop集群出现datanode只显示一个并且动不动dead的问题。同时存在使用率动不动爆满问题。
hadoop集群通过web管理界面只显示一个节点，datanode只启动一个。问题解决！！！
2023-11-22 10:58:56
438
原创 前端之路-JavaScript 提升
数组，是有序的元素序列。若将有限个类型相同的变量的集合命名，那么这个名称为数组名。组成数组的各个变量称为数组的分量，也称为数组的元素，有时也称为下标变量。用于区分数组的各个元素的数字编号称为下标。数组是在程序设计中，为了处理方便， 把具有相同类型的若干元素按无序的形式组织起来的一种形式。这些无序排列的同类数据元素的集合称为数组。数组是用于储存多个相同类型数据的集合数组方法
2023-10-17 14:18:48
66
原创 Text2SQL_DB-GPT-HUB微调
DB-GPT-Hub 是一个利用 LLMs 实现 Text-to-SQL 解析的实验项目，主要包含数据集收集、数据预处理、模型选择与构建和微调权重等步骤，通过这一系列的处理可以在提高 Text-to-SQL 能力的同时降低模型训练成本，让更多的开发者参与到 Text-to-SQL 的准确度提升工作当中，最终实现基于数据库的自动问答能力，让用户可以通过自然语言描述完成复杂数据库的查询操作等工作。脚本中默认带着参数 --quantization_bit 为 QLoRA 的预测，去掉即为 LoRA 的预测方式。
2023-10-17 14:15:17
1328
9
原创 前端之路-JavaScript 介绍
JavaScript是由Web发展初期的网景(Netscape)公司创建,“JavaScript”是Sun Microsystem公司(现在的 Oracle)的注册商标,用来特指网景(现在的Mozilla)对这门语言的实现。
2023-10-13 15:32:45
49
原创 前端之路-css++
margin调整div外边距;padding调整div内边距，它调整的是自身大小，所以如果不希望破坏外观，则尽量使用margin布局（padding有可能撑大外盒子，但如果是margin过大，则盒子内容会被挤出，但不会改变盒子本身大小）；border内部div和外部div定位时需要找到边界，外部div如没有设置border，则内部div的margin设置时会一直往上找，直到找到边界位置。内部相邻div间的margin，取值为两个div各自设置margin的最大值，而不是相加值。
2023-10-13 15:31:45
31
原创 windows部署maven
于是希望有一种标准化的方式构建项目，一个清晰的方式定义项目的组成，一个容易的方式发布项目的信息，以及一种简单的方式在多个项目中共享JARs。由于 Maven 的缺省构建规则有较高的可重用性，所以常常用两三行 Maven 构建脚本就可以构建简单的项目。由于 Maven 的面向项目的方法，许多 Apache Jakarta 项目发文时使用 Maven，而且公司项目采用 Maven 的比例在持续增长。Maven项目对象模型(POM)，可以通过一小段描述信息来管理项目的构建，报告和文档的软件项目管理工具。
2023-10-12 14:03:25
32
原创 前端学习之路-css
CSS 全称 Cascading Style Sheets，翻译过来就是层叠样式表。选择符会从上到下按照层叠关系匹配。说具体一点，假设多个选择符都给一个元素 应用了样式，那么后定义的规则就会覆盖先定义的规则。总的原则是把通用选择符放在最前面定义，而把更具体的选择符放在 后面定义如果说HTML是网页的结构，那么CSS就是网页化妆师。之前写了html页面，但是原生的html页面并不美观，各方面都谈不上好看，所以为了页面更加美观好看，所以必须要想办法去美化页面，那么CSS就是一个化妆师，可以让页面更加美观。
2023-10-11 14:33:56
31
1
原创 前端学习之路-html
元素定义一个段落所有标签统计： https://developer.mozilla.org/zh-CN/docs/Web/HTML/Element--超文本-申明文档类型-->--超文本-申明文档类型--> < html lang = " en " > <!--html元素表示一个HTML文档的根(顶级元素)根元素。所有其他元素必须是此元素的后代。
2023-10-09 09:25:30
205
1
原创 text2sql：SQLCoder的简介、安装、使用方法之详细攻略
SQLCoder 是一个 15B 参数模型，在sql-eval框架上，它的性能优于自然语言到 SQL 生成任务，并且明显优于所有流行的开源模型。在给定架构上进行微调时，它的性能也优于SQLCoder 在基本的 StarCoder 模型上进行了微调。性能对比：在 SQL 生成任务的评估框架上，SQLCoder（64.6%）的性能略微超过了 gpt-3.5-turbo（60.6%）。训练数据：Defog 在两个周期内对10,537个人工策划的问题进行了训练，这些问题基于10种不同的模式。使用方法。
2023-10-08 14:34:17
2679
1
原创 spark知识基础
Spark解决什么问题?海量数据的计算，可以进行离线批处理以及实时流计算Spark有哪些模块?核心SparkCore、SQLf算(SparkSQL) 、流计算(SparkStreaming)、图计算(GraphX)、机器学习(MLlib)Spark特点有哪些?速度快、使用简单、通用性强、多种模式运行。
2023-09-27 11:18:30
43
1
原创 前后端分离项目部署-JAVA/VUE本地部署为例
若您使用的是云服务平台（如AWS、Azure、Google Cloud等），您可以将打包后的文件上传至云存储服务，并配置相应的域名和路由规则，使您的应用程序可以通过云服务平台提供的URL进行访问。若您的应用程序需要全球范围内的高速访问，您可以将打包后的文件上传至CDN服务商，并配置CDN加速域名。若您的Vue应用程序仅包含静态文件，可以将其打包后的文件部署到支持静态文件访问的服务器上。您只需将打包的文件复制到服务器指定目录，然后通过服务器相应的URL来访问您的应用程序。1.打开IDEA并打开你的项目。
2023-09-09 23:17:23
210
1
原创 Ubuntu llama 2搭建及部署，同时附问题与解决方案
AMD Ryzen7480 OH with Radeon Graphics(16 CPUs),~2.9GHzCard name: NVIDIA GeForce RTX 2060内存：4G存储：100G镜像地址：git clone https://hub.fastgit.xyz/facebookresearch/llama.git![[Pasted image 20230803191542.png]]![[Pasted image 20230803191612.png]]
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人