从Oracle导出BLOB(方案2:dblink)

1. 需求

在服务器2(数据库服务器)操控服务器1(数据库服务器)上的一个含有blob字段的表格,导出该blob字段到服务器1的一个文件。

2. 方案

2.1 展示图


为了传输文件的目的,有一个DBMS_FILE_TRANSFER包,它含有put_file过程用于在远端文件系统创建一份拷贝。但是,它要求被复制的文件的大小必须是512字节的整数倍,我们很难保证每个文件都能达到这个要求。换句话说,当我们利用该过程来传输任意大小的文件时,我们会得到违背该条要求的错误信息。

2.2 步骤

2.2.1 在服务器1上

  1. 在服务器1上创建一个含有blob字段的表格.

    blob_export(
    id number,
    photoblob)

  2. 向该表格插入一些数据.

  3. 在服务器1上建立一个目录,比如 '/tmp/photo_export'

2.2.2 在服务器2上

  1. 在服务器2上建立一个指向服务器1的dblink.

  2. 在服务器2上建立一个material view.
    建立material view的原因是我们不能直接使用远程表格的LOB指针(Error ORA-22992).

  3. 在服务器2上建立一个db directory,比如 'LOCAL_PHOTO_EXPORT' 指向 '/tmp/photo_export'

    CREATE OR REPLACE DIRECTORY LOCAL_PHOTO_EXPORT AS '/tmp/photo_export';
    GRANT all ON DIRECTORY LOCAL_PHOTO_EXPORT TO user;

  4. 在服务器2上创建一个shell脚本用于sftp.
  5. #!/bin/expect 
    
    set timeout -1
    
    puts $argc
    
    if { $argc<6 } {
      puts "Usage $argv0 host user passwd localdir filename remotedir"
      exit 1
    }
    
    
    set host [lindex $argv 0]
    set user [lindex $argv 1]
    set passwd [lindex $argv 2]
    set localdir [lindex $argv 3]
    set filename [lindex $argv 4]
    set remotedir [lindex $argv 5]
    
    puts $host  
    puts $user
    puts $passwd
    puts $localdir
    puts $filename
    puts $remotedir
    
    spawn /usr/bin/sftp -oStrictHostkeyChecking=no -oCheckHostIP=no $user@$host
    expect *assword:
    
    send "$passwd\r"
    expect sftp>
    
    send "cd $remotedir\r"
    expect sftp>
    
    send "lcd $localdir\r"
    expect sftp>
    
    send "put $filename\r"
    expect sftp>
    
    send "exit\r"
    expect eof
    


  6. 在服务器2上创建一个java source用于执行系统命令.

    CREATE OR REPLACE AND COMPILE JAVA SOURCE NAMED "Host" AS
    import java.io.*;
    public class Host {
      public static void executeCommand(String command) {
        try {
          String[] finalCommand;
          if (isWindows()) {
            finalCommand = new String[4];
            finalCommand[0] = "C:\\windows\\system32\\cmd.exe";
            finalCommand[1] = "/y";
            finalCommand[2] = "/c";
            finalCommand[3] = command;
          }
          else {
            finalCommand = new String[3];
            finalCommand[0] = "/bin/sh";
            finalCommand[1] = "-c";
            finalCommand[2] = command;
          }
          System.out.println(command);
           
          final Process pr = Runtime.getRuntime().exec(finalCommand);
          new Thread(new Runnable() {
            public void run() {
              try {
                BufferedReader br_in = new BufferedReader(new InputStreamReader(pr.getInputStream()));
                String buff = null;
                while ((buff = br_in.readLine()) != null) {
                  System.out.println("Process out :" + buff);
                  try {Thread.sleep(100); } catch(Exception e) {}
                }
                br_in.close();
              }
              catch (IOException ioe) {
                System.out.println("Exception caught printing process output.");
                ioe.printStackTrace();
              }
            }
          }).start();
       
          new Thread(new Runnable() {
            public void run() {
              try {
                BufferedReader br_err = new BufferedReader(new InputStreamReader(pr.getErrorStream()));
                String buff = null;
                while ((buff = br_err.readLine()) != null) {
                  System.out.println("Process err :" + buff);
                  try {Thread.sleep(100); } catch(Exception e) {}
                }
                br_err.close();
              }
              catch (IOException ioe) {
                System.out.println("Exception caught printing process error.");
                ioe.printStackTrace();
              }
            }
          }).start();
        }
        catch (Exception ex) {
          System.out.println(ex.getLocalizedMessage());
        }
      }
       
      public static boolean isWindows() {
        if (System.getProperty("os.name").toLowerCase().indexOf("windows") != -1)
          return true;
        else
          return false;
      }
       
    };
    /
  7. 创建一个package用于包含实现需求的存储过程。

    create or replace PACKAGE FILE_TRANSFER AS
     
        
       PROCEDURE REMOTE_BLOB_EXPOERT (P_LOCAL_DIRECTORY in varchar2);
        
       PROCEDURE SFTP(P_HOST in varchar2,P_USER in varchar2,P_PASSWD in varchar2,P_REMOTE_DIR in varchar2, P_LOCAL_DIR in varchar2, P_FILE_NAME in varchar2);
        
       PROCEDURE EXPORT_SFTP;
        
       PROCEDURE host_command (p_command  IN  VARCHAR2);
    END FILE_TRANSFER;
  8. 其中, host_command过程定义如下:

    PROCEDURE host_command (p_command  IN  VARCHAR2)
        AS LANGUAGE JAVA
        NAME 'Host.executeCommand (java.lang.String)';

    它实际是调用刚建立的java source来执行系统命令。REMOTE_BLOB_EXPOERT 用于导出blob到文件,SFTP用于从服务器2传输文件到服务器1,EXPORT_SFTP是执行所有功能的入口。

    
      CREATE OR REPLACE PACKAGE BODY "CDU_IDM"."FILE_TRANSFER" AS
      /*
      purpose:export a remote blob column to a local directory
      before running this:
      1. a db link established;
      2. a material view is established;
      3. a local directory is established;
      */
      PROCEDURE REMOTE_BLOB_EXPOERT(P_LOCAL_DIRECTORY in varchar2) AS 
        l_id number;
        l_photo_len number;
        l_photo blob;
        
        l_file      UTL_FILE.FILE_TYPE;
        l_buffer    RAW(32767);
        l_amount    BINARY_INTEGER := 32767;
        l_pos       NUMBER := 1;
        
        c_photo_ext varchar2(5);
        l_file_name varchar2(30);
        BEGIN
          c_photo_ext :='.png';
          
          --mv_blob_export is the material view getting a blob column via a db link 
          for rec in 
            (select *
            from mv_blob_export)
          loop
              l_id:=rec.id;
              l_photo:=rec.photo;
              l_photo_len := DBMS_LOB.getlength(l_photo);
              
              l_file_name := to_char(l_id)||c_photo_ext;
              
              --open file
              l_file := UTL_FILE.fopen(P_LOCAL_DIRECTORY,l_file_name,'wb',32767);
              
              --write file
              WHILE l_pos < l_photo_len LOOP
                DBMS_LOB.read(l_photo, l_amount, l_pos, l_buffer);
                UTL_FILE.put_raw(l_file, l_buffer, TRUE);
                l_pos := l_pos + l_amount;
              END LOOP;
        
              -- Close the file.
              UTL_FILE.fclose(l_file);
          end loop;
        END REMOTE_BLOB_EXPOERT;
        
        PROCEDURE host_command (p_command  IN  VARCHAR2)
        AS LANGUAGE JAVA
        NAME 'Host.executeCommand (java.lang.String)';
    
        /*
        purpose: transfer a file by sftp
        before running this:
        1. a sftp shell script is established 
        */
        PROCEDURE SFTP(P_HOST in varchar2,P_USER in varchar2,P_PASSWD in varchar2,P_REMOTE_DIR in varchar2, P_LOCAL_DIR in varchar2, P_FILE_NAME in varchar2) AS
          l_sftp_prog       VARCHAR2(100) := '/tmp/photo_export/sftp.sh';
          l_sftp_command    VARCHAR2(500); 
        BEGIN
           l_sftp_command := l_sftp_prog || ' "' || p_host || '" "' || p_user || '" "' ||
                              p_passwd || '" "'|| p_local_dir || '" "' ||
                              p_file_name||'" "'|| p_remote_dir||'"' ;
     
          dbms_output.put_line(l_sftp_command);
     
          host_command(l_sftp_command);
     
          
        END SFTP;
        
        /*
        a combine procedure for usage
        */
        PROCEDURE EXPORT_SFTP AS
          l_LOCAL_DIRECTORY varchar2(30) :='LOCAL_PHOTO_EXPORT';
          l_host        VARCHAR2(100) := 'server1.xxx.com';
          l_user        VARCHAR2(100) := 'sftpuser';
          l_passwd      VARCHAR2(100) := 'password';
          l_remote_dir  VARCHAR(500) := '/tmp/photo_export';  
          l_local_dir   VARCHAR2(500) := '/tmp/photo_export';  
          
          c_photo_ext varchar2(5):='.png';
          
          l_file_name  varchar2(100):='*'||c_photo_ext;
        BEGIN
          REMOTE_BLOB_EXPOERT(l_LOCAL_DIRECTORY);
          sftp(l_host,l_user,l_passwd,l_remote_dir,l_local_dir,l_file_name);
        END EXPORT_SFTP;
      
    
    END FILE_TRANSFER;
    
    /
    

  9. 最后,执行EXPORT_SFTP过程来实现整个功能.

    set serveroutput on;
    call dbms_java.set_output(50);
     
    begin
    file_transfer.export_sftp;
     
    end;


参考

  1. Extract files from an Oracle BLOB fieldhttp://stackoverflow.com/questions/6332032/how-can-i-extract-files-from-an-oracle-blob-field
  2. SFTP from PLSQL https://slobaray.com/2015/09/10/sftp-from-plsql/
  3. What is SFTP, and how do I use it to transfer fileshttps://kb.iu.edu/d/akqg
  4. Install Tclhttp://www.linuxfromscratch.org/blfs/view/svn/general/tcl.html
  5. Install Expecthttp://www.linuxfromscratch.org/blfs/view/svn/general/expect.html
<think>好的,用户想了解如何将MySQL数据库迁移到Oracle数据库,包括方法和工具。首先,我需要回忆之前的相关引用内容,比如引用[1]提到了使用cx_Oracle库进行数据迁移的代码示例,而引用[2]则解释了MySQL和Oracle在用户和数据库结构上的差异,比如Oracle中用户相当于MySQL的数据库,需要创建同名用户并分配权限。 接下来,我应该整理迁移的一般步骤。通常,数据库迁移分为结构迁移和数据迁移两部分。结构迁移需要处理表结构、数据类型转换,比如MySQL的INT要转成Oracle的NUMBER,VARCHAR可能需要调整长度。还要注意主键、索引、约束的转换。工具方面,Oracle的SQL Developer似乎是个不错的选择,因为它支持跨数据库迁移,可能自动处理部分转换。 数据迁移方面,需要考虑全量和增量迁移。全量迁移可以用ETL工具或者自定义脚本,比如用Python连接两个数据库,逐批读取和插入数据。引用[1]中的代码示例就是这种方法。增量迁移可能需要监控MySQL的binlog或者使用第三方工具。 另外,用户权限和对象的不同也是重点。根据引用[2],Oracle需要创建相应用户并分配权限,不像MySQL那样直接。存储过程、函数等可能需要重写,因为语法差异较大。 工具推荐部分,除了SQL Developer,还可以提到AWS DMS、GoldenGate等商业工具,以及开源工具如Pentaho。同时提醒用户注意字符集、保留字、自增字段的处理,比如Oracle用序列和触发器实现自增。 最后,用户可能需要优化迁移后的性能,比如重建索引,更新统计信息。需要确保这些步骤都被涵盖,并且给出具体的例子或命令,比如使用Oracle的impdp或创建序列的SQL语句。 现在要检查是否有遗漏点,比如数据类型转换的具体例子,权限配置的示例,以及测试和验证的重要性。可能还需要提到迁移前的备份步骤,确保安全性。此外,处理大文本字段如CLOB时,导出导入可能需要特殊处理,比如设置正确的参数。 总结下来,回答需要结构清晰,分步骤说明,推荐工具,并提供注意事项和示例,确保用户能按步骤操作,同时避免常见问题。</think>### MySQL迁移至Oracle方法与工具指南 #### 一、迁移核心步骤 1. **结构迁移** - **数据类型转换** MySQL的`INT`转为Oracle的`NUMBER(10)`,`VARCHAR(255)`需检查Oracle的`VARCHAR2(4000)`限制[^2] - **主键与索引** Oracle不支持`AUTO_INCREMENT`,需通过`SEQUENCE`+`TRIGGER`实现自增: ```sql CREATE SEQUENCE table_seq START WITH 1 INCREMENT BY 1; CREATE TRIGGER table_trigger BEFORE INSERT ON table FOR EACH ROW BEGIN SELECT table_seq.NEXTVAL INTO :new.id FROM DUAL; END; ``` - **约束差异** MySQL的`ON UPDATE CURRENT_TIMESTAMP`需改为Oracle的`TRIGGER`实现 2. **数据迁移** - **全量迁移示例**(Python实现跨库传输): ```python import mysql.connector, cx_Oracle # MySQL读取 mysql_conn = mysql.connector.connect(user='root', database='test') mysql_cursor = mysql_conn.cursor(dictionary=True) mysql_cursor.execute("SELECT * FROM orders") # Oracle写入 oracle_conn = cx_Oracle.connect('user/pwd@host:port/service') oracle_cursor = oracle_conn.cursor() for row in mysql_cursor: oracle_cursor.execute("INSERT INTO orders VALUES (:1,:2,:3)", (row['id'], row['amount'], row['create_time'])) oracle_conn.commit() ``` - **增量迁移** 通过`MySQL binlog`解析工具(如Maxwell)捕获变更数据 #### 二、推荐迁移工具对比 | 工具名称 | 类型 | 核心功能 | 适用场景 | |----------------|----------|-----------------------------------|-----------------------| | Oracle SQL Dev | 官方免费 | 自动转换表结构,生成迁移报告 | 中小型数据库全量迁移 | | AWS DMS | 商业服务 | 支持持续数据复制,自动类型映射 | 云环境增量迁移 | | Pentaho Kettle | 开源ETL | 自定义转换规则,处理复杂逻辑 | 需要数据清洗的迁移 | | GoldenGate | 企业级 | 零停机实时同步,双向复制 | 关键业务系统迁移 | #### 三、关键问题解决方案 1. **字符集冲突** Oracle建议使用`AL32UTF8`,需在创建数据库时指定: ```sql CREATE DATABASE orcl CHARACTER SET AL32UTF8; ``` 2. **大对象处理** 使用`DATA_PUMP`导出`BLOB/CLOB`字段时需添加参数: ```sql expdp system/password DIRECTORY=dpump_dir DUMPFILE=clob.dmp TABLES=doc_table CONTENT=DATA_ONLY LOB_STORAGE=SECUREFILE ``` 3. **性能优化** - 禁用迁移期间索引:`ALTER INDEX idx_name UNUSABLE` - 使用并行加载: ```sql INSERT /*+ APPEND PARALLEL(4) */ INTO target_table SELECT * FROM source_table ``` #### 四、验证流程 1. **数据一致性检查** ```sql -- Oracle执行 SELECT 'Oracle', COUNT(*) FROM orders MINUS SELECT 'MySQL', COUNT(*) FROM mysql.orders@dblink; ``` 2. **应用兼容性测试** - 使用`DBMS_SQL`包验证存储过程兼容性 - 执行边界值测试:`TIMESTAMP '9999-12-31 23:59:59'` #### 五、典型错误处理 - **ORA-00972: 标识符过长** 将超过30字节的表名改为缩写形式 - **ORA-02287: 此处不允许序列号** 在插入自增字段时直接调用序列: ```sql INSERT INTO table(id, name) VALUES(table_seq.NEXTVAL, 'test') ```
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值