elasticsearch jdbc问题及解决

mvn依赖

    <repositories>
        <repository>
            <id>elastic.co</id>
            <url>https://artifacts.elastic.co/maven</url>
        </repository>
    </repositories>
    
        <dependency>
            <groupId>org.elasticsearch.plugin</groupId>
            <artifactId>x-pack-sql-jdbc</artifactId>
            <version>6.4.0</version>
        </dependency>

问题1:
目前最新的版本是6.5.1,使用这个版本的jdbc会报如下错误

java.lang.NoClassDefFoundError: org/elasticsearch/xpack/sql/client/Version

这是一个bug,会在6.5.2版本解决,折腾了好久,太激进终究不是好事,所以最好使用低版本的jdbc
issues:https://github.com/elastic/elasticsearch/issues/35786

问题2:
异常

current license is non-compliant for [jdbc]

原因:JDBC需要一个白金(或试用)许可证。

解决办法:
修改XPackBuild.java 和LicenseVerifier.java 重新编译elasticsearch;
下载源码

git clone https://github.com/elastic/elasticsearch.git
切换到6.5.1分支
git checkout v6.5.1

修改源码:

vi LicenseVerifier.java

package org.elasticsearch.license;
public class LicenseVerifier
{
    public static boolean verifyLicense(final License license, final byte[] encryptedPublicKeyData) {
        return true;
    }
    public static boolean verifyLicense(final License license) {
        return true;
    }
}

vi XPackBuild.java

package org.elasticsearch.xpack.core;
import org.elasticsearch.common.io.*;
import java.net.*;
import org.elasticsearch.common.*;
import java.nio.file.*;
import java.io.*;
import java.util.jar.*;
public class XPackBuild
{
    public static final XPackBuild CURRENT;
    private String shortHash;
    private String date;
    @SuppressForbidden(reason = "looks up path of xpack.jar directly")
    static Path getElasticsearchCodebase() {
        final URL url = XPackBuild.class.getProtectionDomain().getCodeSource().getLocation();
        try {
            return PathUtils.get(url.toURI());
        }
        catch (URISyntaxException bogus) {
            throw new RuntimeException(bogus);
        }
    }
    XPackBuild(final String shortHash, final String date) {
        this.shortHash = shortHash;
        this.date = date;
    }
    public String shortHash() {
        return this.shortHash;
    }
    public String date() {
        return this.date;
    }
    static {
        final Path path = getElasticsearchCodebase();
        String shortHash = null;
        String date = null;
        Label_0157: {
            shortHash = "Unknown";
            date = "Unknown";
        }
        CURRENT = new XPackBuild(shortHash, date);
    }
}

编译环境

jdk-11.0.1(jdk需要时10以上版本)

配置阿里云仓库

cd elasticsearch-6.5.1
vi build.gradle
在文件最后加上

allprojects{
    repositories {
        def REPOSITORY_URL = 'http://maven.aliyun.com/nexus/content/groups/public/'
        all { ArtifactRepository repo ->
            if(repo instanceof MavenArtifactRepository){
                def url = repo.url.toString()
                if (url.startsWith('https://repo1.maven.org/maven2') || url.startsWith('https://jcenter.bintray.com/')) {
                    project.logger.lifecycle "Repository ${repo.url} replaced by $REPOSITORY_URL."
                    remove repo
                }
            }
        }
        maven {
            url REPOSITORY_URL
        }
    }
}

编译

./gradlew assemble

包生成路径

elasticsearch-6.5.1/distribution/archives/tar/build/distributions/elasticsearch-6.5.1-SNAPSHOT.tar.gz

部署参照

https://blog.csdn.net/woloqun/article/details/84770233

配置文件和之前不同的是添加:xpack.security.enabled: false,贴下完整的

cluster.name: myes
node.name: node2
path.data: /home/qun/data/es/data
path.logs: /home/qun/data/es/log
http.port: 9200
network.host: 0.0.0.0
discovery.zen.ping.unicast.hosts: ["192.168.120.5", "192.168.120.6","192.168.120.7"] 
discovery.zen.minimum_master_nodes: 2
http.cors.enabled: true 
http.cors.allow-origin: "*"
xpack.security.enabled: false

接下来是申请license,地址

https://license.elastic.co/registration

注册完后会给邮箱发邮件,邮件里有license文件下载地址,文件大致像下面这样

xxx-xxx-42c7a741-db4e-492e-8cc1-ac1b8b40defe-v5.json

重命名文件

mv xxx-xxx-42c7a741-db4e-492e-8cc1-ac1b8b40defe-v5.json license.json

修改license.json 文件

"type":"platinum"   #白金版
"expiry_date_in_millis":2524579200999   #截止日期 2050年

导入license.json文件

curl -XPUT -u elastic 'http://192.168.120.5:9200/_xpack/license' -H "Content-Type: application/json" -d @license.json
Enter host password for user 'elastic':
{"acknowledged":true,"license_status":"valid"}

使用elastic用户[elasticsearch自带的],会提是输入密码,默认为:changeme;到这里,elasticsearch配置就结束了,启动

bin/elasticsearch

测试程序

import java.sql.Connection;
import java.sql.DriverManager;
import java.sql.ResultSet;
import java.sql.Statement;
import java.util.Properties;
public class Test {

    public static void main(String[] args) throws Exception{

        Class.forName("org.elasticsearch.xpack.sql.jdbc.jdbc.JdbcDriver");
        String elasticsearchAddress = "192.168.120.5:9200";
        String address = "jdbc:es://http://" + elasticsearchAddress;
        Properties properties = new Properties();
        Connection connection =
                DriverManager.getConnection(address, properties);

        Statement statement = connection.createStatement();
        String sql = "select about,content,message,title,user from blog";
        ResultSet results = statement.executeQuery(sql);
        while (results.next()){
             System.out.println(results.getString(1)+"\t"+results.getString(2)+
                    "\t"+results.getString(3)+"\t"+results.getString(4));
        }
    }
}

打印

i'd like to play	asdf	null	红楼梦
null	null	trying out Elasticsearch	null
about	使用okhttp的put方式增加index	message	title

其实可以直接使用okhttp3发起get,post,put请求elasticsearch,如果是sql语句的话可以使用接口

http://192.168.120.5:9200/_xpack/sql?format=json

伪代码如下

String url = "http://192.168.120.5:9200/_xpack/sql?format=json";
        Map<String,Object> map = new HashMap<String,Object>();
        map.put("query", "select * from  mess limit 3");
        String result = OkHttpUtil.postOrPutOrDelete(url,map,null,OkHttpUtil.OkHttpMethod.POST);

        String[] split = result.split("\n");
        int i = 0;
        for(String s:split){
            System.out.println(++i+"\t"+s);
        }

返回结果json结果

{
    "columns":[
        {
            "name":"dddd",
            "type":"text"
        },
        {
            "name":"field",
            "type":"text"
        },
        {
            "name":"message",
            "type":"text"
        },
        {
            "name":"postDate",
            "type":"date"
        },
        {
            "name":"user",
            "type":"text"
        }
    ],
    "rows":[
        [
            null,
            null,
            "trying out Elasticsearch2",
            "2018-12-04T06:54:32.234Z",
            "kimchy2"
        ],
        [
            null,
            null,
            "trying out Elasticsearch8",
            "2018-12-04T06:54:32.235Z",
            "kimchy8"
        ],
        [
            null,
            null,
            "trying out Elasticsearch1",
            "2018-12-04T06:54:32.119Z",
            "kimchy1"
        ]
    ]
}

参考:

  • 1
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 1
    评论
### 支持向量机非线性回归通用MATLAB程序解析 #### 一、概述 本文将详细介绍一个基于MATLAB的支持向量机(SVM)非线性回归的通用程序。该程序采用支持向量机方法来实现数据的非线性回归,并通过不同的核函数设置来适应不同类型的数据分布。此外,该程序还提供了数据预处理的方法,使得用户能够更加方便地应用此程序解决实际问题。 #### 二、核心功能与原理 ##### 1. 支持向量机(SVM) 支持向量机是一种监督学习模型,主要用于分类和回归分析。对于非线性回归任务,SVM通过引入核技巧(kernel trick)将原始低维空间中的非线性问题转换为高维空间中的线性问题,从而实现有效的非线性建模。 ##### 2. 核函数 核函数的选择直接影响到模型的性能。本程序内置了三种常用的核函数: - **线性核函数**:`K(x, y) = x'y` - **多项式核函数**:`K(x, y) = (x'y + 1)^d` - **径向基函数(RBF)**:`K(x, y) = exp(-γ|x - y|^2)` 其中RBF核函数被广泛应用于非线性问题中,因为它可以处理非常复杂的非线性关系。本程序默认使用的是RBF核函数,参数`D`用于控制高斯核函数的宽度。 ##### 3. 数据预处理 虽然程序本身没有直接涉及数据预处理的过程,但在实际应用中,对数据进行适当的预处理是非常重要的。常见的预处理步骤包括归一化、缺失值处理等。 ##### 4. 模型参数 - **Epsilon**: ε-insensitive loss function的ε值,控制回归带宽。 - **C**: 松弛变量的惩罚系数,控制模型复杂度与过拟合的风险之间的平衡。 #### 三、程序实现细节 ##### 1. 函数输入与输出 - **输入**: - `X`: 输入特征矩阵,维度为(n, l),其中n是特征数量,l是样本数量。 - `Y`: 目标值向量,长度为l。 - `Epsilon`: 回归带宽。 - `C`: 松弛变量的惩罚系数。 - `D`: RBF核函数的参数。 - **输出**: - `Alpha1`: 正的拉格朗日乘子向量。 - `Alpha2`: 负的拉格朗日乘子向量。 - `Alpha`: 拉格朗日乘子向量。 - `Flag`: 标记向量,表示每个样本的类型。 - `B`: 偏置项。 ##### 2. 核心代码解析 程序首先计算所有样本间的核矩阵`K`,然后构建二次规划问题并求解得到拉格朗日乘子向量。根据拉格朗日乘子的值确定支持向量,并计算偏置项`B`。 - **核矩阵计算**:采用RBF核函数,通过`exp(-(sum((xi-xj).^2)/D))`计算任意两个样本之间的相似度。 - **二次规划**:构建目标函数和约束条件,使用`quadprog`函数求解最小化问题。 - **支持向量识别**:根据拉格朗日乘子的大小判断每个样本是否为支持向量,并据此计算偏置项`B`。 #### 四、程序扩展与优化 - **多核函数支持**:可以通过增加更多的核函数选项,提高程序的灵活性。 - **自动调参**:实现参数自动选择的功能,例如通过交叉验证选择最优的`Epsilon`和`C`值。 - **并行计算**:利用MATLAB的并行计算工具箱加速计算过程,特别是当样本量很大时。 #### 五、应用场景 该程序适用于需要进行非线性回归预测的场景,如经济预测、天气预报等领域。通过调整核函数和参数,可以有效应对各种类型的非线性问题。 ### 总结 本程序提供了一个支持向量机非线性回归的完整实现框架,通过灵活的核函数设置和参数调整,能够有效地处理非线性问题。对于需要进行回归预测的应用场景,这是一个非常实用且强大的工具。
评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值