导入数据进入solr中

将数据导入到solr中
创建Controller类 调用Service类

后期整理 仅供参考

配置Controller
web端的Controller

package com.xu.controller;

import org.springframework.beans.factory.annotation.Autowired;
import org.springframework.stereotype.Controller;
import org.springframework.web.bind.annotation.RequestMapping;
import org.springframework.web.bind.annotation.ResponseBody;

import com.xu.service.SolrService;
import com.xu.utils.TaotaoResult;

//进行注解扫描

@Controller
public class SearchController {

    // 引入需要导入的接口
    @Autowired
    private SolrService solrService;

    // 调用方法
    @RequestMapping("/importd")
    @ResponseBody
    private TaotaoResult importItem() {
        return solrService.itemSolr();
    }

}

SolrService

package com.xu.service;

import com.xu.utils.TaotaoResult;

public interface SolrService {

    TaotaoResult itemSolr();

}

Service的pom.xml

        <!-- solr客户端 -->
        <dependency>
            <groupId>org.apache.solr</groupId>
            <artifactId>solr-solrj</artifactId>
            <version>${solrj.version}</version>
        </dependency>

配置solr客户端信息
applicationContext-solr.xml

 <!-- 创建HttpSolrServer对象 -->
      <bean class="org.apache.solr.client.solrj.impl.HttpSolrServer">
           <constructor-arg index="0" value="http://10.0.129.149:8080/solr/collection1"></constructor-arg>
      </bean>

SolrServiceImpl

package com.xu.service;

import java.util.List;

import javax.annotation.Resource;

import org.apache.solr.client.solrj.SolrServer;
import org.apache.solr.common.SolrInputDocument;
import org.springframework.beans.factory.annotation.Autowired;
import org.springframework.stereotype.Service;

import com.xu.mapper.ItemMapper;
import com.xu.pojo.SearchItem;
import com.xu.utils.TaotaoResult;

@Service
public class SolrServiceImpl implements SolrService {

    // 逆向工程生成的文件
    @Autowired
    private ItemMapper itemMapper;

    // 调用jar包
    @Resource
    private SolrServer solrServer;

    @Override
    public TaotaoResult itemSolr() {
        // 查询所有需要导入的数据
        List<SearchItem> items = itemMapper.findItems();
        try {
            for (SearchItem item : items) {
                SolrInputDocument doc = new SolrInputDocument();

                System.out.println("正在进行");
                doc.setField("id", item.getId());
                doc.setField("item_title", item.getTitle());
                doc.setField("item_sell_point", item.getSell_point());
                doc.setField("item_price", item.getPrice());
                doc.setField("item_image", item.getImage());
                doc.setField("item_category_name", item.getCategory_name());

                // 分别将遍历出来的数值进行存进solr中
                solrServer.add(doc);
            }

            // 需要进行事务回滚 否则将无法存进数值
            solrServer.commit();

            // 返回执行状态
            return TaotaoResult.ok();

        } catch (Exception e) {
            e.printStackTrace();

            // 出现异常后 返回执行状态
            return TaotaoResult.build(500, "导入数据失败");
        }
    }

}

工具类

TaotaoResult

package com.xu.utils;

import java.io.Serializable;
import java.util.List;

import com.fasterxml.jackson.databind.JsonNode;
import com.fasterxml.jackson.databind.ObjectMapper;

/**
 * 淘淘商城自定义响应结构
 */
public class TaotaoResult implements Serializable{

    // 定义jackson对象
    private static final ObjectMapper MAPPER = new ObjectMapper();

    // 响应业务状态
    private Integer status;

    // 响应消息
    private String msg;

    // 响应中的数据
    private Object data;

    public static TaotaoResult build(Integer status, String msg, Object data) {
        return new TaotaoResult(status, msg, data);
    }

    public static TaotaoResult ok(Object data) {
        return new TaotaoResult(data);
    }

    public static TaotaoResult ok() {
        return new TaotaoResult(null);
    }

    public TaotaoResult(Object data) {
        this.status = 200;
        this.msg = "OK";
        this.data = data;
    }

    public TaotaoResult() {

    }

    public static TaotaoResult build(Integer status, String msg) {
        return new TaotaoResult(status, msg, null);
    }

    public TaotaoResult(Integer status, String msg, Object data) {
        this.status = status;
        this.msg = msg;
        this.data = data;
    }



//    public Boolean isOK() {
//        return this.status == 200;
//    }

    public Integer getStatus() {
        return status;
    }

    public void setStatus(Integer status) {
        this.status = status;
    }

    public String getMsg() {
        return msg;
    }

    public void setMsg(String msg) {
        this.msg = msg;
    }

    public Object getData() {
        return data;
    }

    public void setData(Object data) {
        this.data = data;
    }

    /**
     * 将json结果集转化为TaotaoResult对象
     * 
     * @param jsonData json数据
     * @param clazz TaotaoResult中的object类型
     * @return
     */
    public static TaotaoResult formatToPojo(String jsonData, Class<?> clazz) {
        try {
            if (clazz == null) {
                return MAPPER.readValue(jsonData, TaotaoResult.class);
            }
            JsonNode jsonNode = MAPPER.readTree(jsonData);
            JsonNode data = jsonNode.get("data");
            Object obj = null;
            if (clazz != null) {
                if (data.isObject()) {
                    obj = MAPPER.readValue(data.traverse(), clazz);
                } else if (data.isTextual()) {
                    obj = MAPPER.readValue(data.asText(), clazz);
                }
            }
            return build(jsonNode.get("status").intValue(), jsonNode.get("msg").asText(), obj);
        } catch (Exception e) {
            return null;
        }
    }

    /**
     * 没有object对象的转化
     * 
     * @param json
     * @return
     */
    public static TaotaoResult format(String json) {
        try {
            return MAPPER.readValue(json, TaotaoResult.class);
        } catch (Exception e) {
            e.printStackTrace();
        }
        return null;
    }

    /**
     * Object是集合转化
     * 
     * @param jsonData json数据
     * @param clazz 集合中的类型
     * @return
     */
    public static TaotaoResult formatToList(String jsonData, Class<?> clazz) {
        try {
            JsonNode jsonNode = MAPPER.readTree(jsonData);
            JsonNode data = jsonNode.get("data");
            Object obj = null;
            if (data.isArray() && data.size() > 0) {
                obj = MAPPER.readValue(data.traverse(),
                        MAPPER.getTypeFactory().constructCollectionType(List.class, clazz));
            }
            return build(jsonNode.get("status").intValue(), jsonNode.get("msg").asText(), obj);
        } catch (Exception e) {
            return null;
        }
    }

}

mapper文件

package com.xu.mapper;

import java.util.List;
import com.xu.pojo.SearchItem;
public interface ItemMapper {

    //查询所有需要导入到solr的数据
    List<SearchItem>  findItems();

}


mapper.xml文件

<?xml version="1.0" encoding="UTF-8" ?>
<!DOCTYPE mapper PUBLIC "-//mybatis.org//DTD Mapper 3.0//EN" "http://mybatis.org/dtd/mybatis-3-mapper.dtd" >
<mapper namespace="com.xu.mapper.ItemMapper">
    <select id="findItems" resultType="com.xu.pojo.SearchItem">
        SELECT 
        a.id,
        a.title,
        a.sell_point,
        a.price,
        a.image,
        b.name category_name
        FROM tb_item a LEFT JOIN tb_item_cat b
        ON a.cid=b.id 
        where a.status=1
    </select>

</mapper>

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
要使用Python增量导入Oracle数据Solr,您需要遵循以下步骤: 1. 安装Solr和Python的相关库(如pysolr)。 2. 编写Python脚本,连接Oracle数据库并执行增量查询,将查询结果转换为Solr文档格式,并使用pysolr库将文档添加到Solr。 3. 您可以使用定时任务(如cron)来定期运行Python脚本,以便进行增量导入。 下面是一个示例Python脚本,用于从Oracle数据查询并导入数据Solr: ``` import cx_Oracle import pysolr # Oracle数据库连接配置 dsn_tns = cx_Oracle.makedsn('localhost', '1521', 'XE') conn = cx_Oracle.connect(user='username', password='password', dsn=dsn_tns) cursor = conn.cursor() # Solr连接配置 solr = pysolr.Solr('http://localhost:8983/solr/mycore', timeout=10) # 查询增量数据 query = "SELECT * FROM mytable WHERE updated_at > :last_update" last_update = '2021-01-01 00:00:00' # 上次更新时间 cursor.execute(query, last_update=last_update) # 将查询结果转换为Solr文档格式 docs = [] for row in cursor: doc = { 'id': str(row[0]), 'title': row[1], 'content': row[2], 'updated_at': row[3].strftime('%Y-%m-%dT%H:%M:%SZ') } docs.append(doc) # 添加文档到Solr solr.add(docs) # 更新上次更新时间 last_update = datetime.now().strftime('%Y-%m-%d %H:%M:%S') # 关闭Oracle连接和Solr连接 cursor.close() conn.close() solr.commit() solr.close() ``` 此脚本将从Oracle数据查询更新时间大于上次更新时间的数据,并将查询结果转换为Solr文档格式。然后,使用pysolr库将文档添加到Solr,并更新上次更新时间。您可以根据需要调整查询和文档格式。
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值