SQL2005 BCP使用心得

 SQL Server的导出导入方式有:

  1. 在SQL Server中提供了导入导出的界面操作。
  2. 在界面操作中又分【复制一个或多个表或视图的数据】和【编写查询以指定要传输的数据】两种模式,第一种是直接对表、视图进行全部字段、记录进行导出,而第二种就是可以通过SQL语句来控制导出导入的字段和行。
  3. 使用 简单但有用的SQL脚本 中的【表复制】这里面的方法。
  4. 再一种就是在命令行中使用bcp命令来导入导出数据,需要特别说明的是,这是对大数据量导入导出就好的办法。
 一、四个动作
  
01. 导入:这个动作使用 IN 命令完成,后面跟需要导入的文件名
  
02. 导出:这个动作使用 OUT 命令完成,后面跟需要导出的文件名,数据源是表或者视图
  
03. 使用SQL语句导出:这个动作使用QueryOut命令完成,跟 OUT 类似,数据源是SQL语句
  
04. 导出格式文件:这个动作使用Format命令完成,后而跟格式文件名
 
二、 常用的选项
  
01. -f Format_File
  
Format_File表示格式文件名。这个选项依赖于上述的动作,如果使用的是 IN OUT ,Format_File表示已经存在的格式文件,如果使用的是Format则表示是要生成的格式文件
  
02. -x
  
这个选项要和-f Format_File配合使用,以便生成XML格式的格式文件
  
03. -F First_Row
  
指定从被导出表的哪一行导出,或从被导入文件的哪一行导入
  
04. -L last_Row
  
指定被导出表要导到哪一行结束,或从被导入文件导数据时,导到哪一行结束
  
05. -c
  
使用 Char 类型做为存储类型,没有前缀且以 "\t" 做为字段分割符,以 "\n" 做为行分割符
  
06. -w
  
和-c类似,只是当使用Unicode字符集拷贝数据时使用,且以 nChar 做为存储类型
  
07. -t Field_Term
  
指定字符分割符,默认是 "\t"
  
08. -r Row_Term
  
指定行分割符,默认是 "\n"
  
09. -S Server_Name[ \Instance_Name]
  
指定要连接的SQL Server服务器的实例,如果未指定此选项,BCP连接本机的SQL Server默认实例。如果要连接某台机器上的默认实例,只需要指定机器名即可
  
10. -U Login_ID
  
指定连接SQL Sever的用户名
  
11. -P Password
  
指定连接SQL Server的用户名密码
  
12. -T
  
指定BCP使用信任连接登录SQL Server。如果未指定-T,必须指定-U和-P
  
13. -k
  
指定空列使用 NULL 值插入,而不是这列的默认值


--整个表导出(out)
bcp 数据库名.dbo.表名 out c:\currency.txt -S"数据库实例" -U"用户" -P"密码" -

--使用SQL语句导出(queryout)

bcp "select * from 数据库名.dbo.表名" queryout c:\currency.txt -S 数据库实例 -U"用户" -P"密码" -c

--设置字段分隔符和行分隔符(-c -t"," -r"\n"),不想输入字段类型等请配合-c一起使用

 bcp "select * from 数据库名.dbo.表名" queryout c:\currency.txt -S 数据库实例 -U"用户" -P"密码" --t"," -r"\n"

--指定每批导入数据的行数、指定服务器发出或接收的每个网络数据包的字节数(-k -b5000 -a65535)

 bcp "select * from 数据库名.dbo.表名" queryout c:\currency.txt -S 数据库实例 -U"用户" -P"密码" --t"," -r"\n" --b5000 -a65535

--在查询分析器上执行(EXEC master..xp_cmdshell)

EXEC master..xp_cmdshell 'bcp "select * from 数据库名.dbo.表名" queryout c:\currency.txt -S 数据库实例 -U"用户" -P"密码" -c'

--把SQL语句生成一个.sql文件,然后调用
--注:路径的文件夹名称中间不能有空格
exec master..xp_cmdshell 'osql -S 数据库实例 -U 用户 -P 密码 -i    C:\cmdshellTest.sql'  

--将数据导入到currency表中

EXEC master..xp_cmdshell 'bcp 数据库名.dbo.表名 in c:\currency.txt -c -T'
--导入数据也同样可以使用-F和-L选项来选择导入数据的记录行。
EXEC master..xp_cmdshell 'bcp 数据库名.dbo.表名 in c:\currency.txt -c -F 10 -L 13 -T' 

在使用命令xp_cmdshell的时候需要设置权限:

/* MSsql2005 如何启用xp_cmdshell
默认情况下,sql server2005安装完后,xp_cmdshell是禁用的(可能是安全考虑),如果要使用它,可按以下步骤
*/

-- 允许配置高级选项
EXEC sp_configure 'show advanced options'1
GO
-- 重新配置
RECONFIGURE
GO
-- 启用xp_cmdshell
EXEC sp_configure 'xp_cmdshell'1
GO
--重新配置
RECONFIGURE
GO

--执行想要的xp_cmdshell语句
Exec xp_cmdshell 'query user'
GO

--用完后,要记得将xp_cmdshell禁用(出于安全考虑)
--
 允许配置高级选项
EXEC sp_configure 'show advanced options'1
GO
-- 重新配置
RECONFIGURE
GO
-- 禁用xp_cmdshell
EXEC sp_configure 'xp_cmdshell'0
GO
--重新配置
RECONFIGURE
GO
 
或者使用图形界面:
 
 
 遇见的错误:

1、发生以下错误:
[Error][Microsoft][Native]Error = [Microsoft][SQL Native Client]无法打开 BCP 主数据文件

使用如下命令:
EXEC xp_cmdshell 'ECHO %USERDOMAIN%\%USERNAME%'
返回 :NT AUTHORITY\NETWORK SERVICE

然后在配置管理器(configuration manager)里面的SQL server2005服务里打开,看到登陆内置账号为Network service,
改成local system问题解决。

2、SQLState = 22018, NativeError = 0
Error = [Microsoft][SQL Native Client]对于造型说明无效的字符值
如果是表与表之间的数据导入,可用 -N, 或者 -w, 而不要用 -c
用-c的话, 如果导出的某个列中的数据中包含分隔符, 则会导致你 bcp 导入的时候失败
-N 或者 -w 不会有这个问题 
 
bcp用法: bcp {dbtable | query} {in | out | queryout | format} 数据文件
  [-m 最大错误数]             [-f 格式化文件]         [-e 错误文件]
  [-F 首行]                       [-L 末行]                  [-b 批大小]
  [-n 本机类型]                 [-c 字符类型]            [-w 宽字符类型]
  [-N 将非文本保持为本机类型] [-V 文件格式版本]     [-q 带引号的标识符]
  [-C 代码页说明符]           [-t 字段终止符]       [-r 行终止符]
  [-i 输入文件]                   [-o 输出文件]         [-a 数据包大小]
  [-S 服务器名称]              [-U 用户名]            [-P 密码]
  [-T 可信连接]                  [-v 版本]                [-R 允许使用区域设置]
  [-k 保留空值]                  [-E 保留标识值]
  [-h"加载提示"]                 [-x 生成 xml 格式化文件]
 
 
其它:
新建查询->输入SQL查询语句,执行得到需要的结果,在查询结果栏点击鼠标右键->将结果另存为
导出文件(*csv)即可导出为 逗号分割的excel文件。
此时,由于没有分列,所以应先新建一个空白的Excel文档,然后选择打开刚才保存的的文件;
然后它会出现文本导入步骤,选中分割符号,下一步,选中 逗号,预览区域正常,然后在下一步和完成,保存为excel文件
 
4. 其他方法导入导出数据
  
01. 导入数据
  
SELECT * INTO authors1
FROM OPENDATASOURCE( 'SQLOLEDB' , 'Data Source=192.1.1.2; UserID=sa; Password=qwert1' ).pubs.dbo.authors
  
02. 导出数据
  
INSERT INTO OPENDATASOURCE( 'SQLOLEDB' , 'Data Source=192.1.1.2; UserID=sa; Password=qwert1' ).test.dbo.authors
SELECT * FROM pubs.dbo.authors
  
INSERT INTO OPENDATASOURCE( 'MICROSOFT.JET.OLEDB.4.0' , 'Text;DATABASE=c:\')[data#txt] SELECT * FROM text1
  
INSERT INTO OPENROWSET(' MICROSOFT.JET.OLEDB.4.0 ',' Text; DATABASE =c:\ ', [data#txt]) SELECT * FROM text1
  
03. 导入Excel数据
  
SELECT * INTO excel FROM OPENDATASOURCE(' MICROSOFT.JET.OLEDB.4.0 ', ' Excel 5.0; DATABASE =c:\book1.xls ' )[Sheet1$]
  
04. 导入到Excel
  
INSERT INTO OPENDATASOURCE(' MICROSOFT.JET.OLEDB.4.0 ', ' Excel 5.0; DATABASE =c:\book1.xls' )[Sheet1$] SELECT * FROM excel
 
 
使用优化算法,以优化VMD算法的惩罚因子惩罚因子 (α) 和分解层数 (K)。 1、将量子粒子群优化(QPSO)算法与变分模态分解(VMD)算法结合 VMD算法背景: VMD算法是一种自适应信号分解算法,主要用于分解信号为不同频率带宽的模态。 VMD的关键参数包括: 惩罚因子 α:控制带宽的限制。 分解层数 K:决定分解出的模态数。 QPSO算法背景: 量子粒子群优化(QPSO)是一种基于粒子群优化(PSO)的一种改进算法,通过量子行为模型增强全局搜索能力。 QPSO通过粒子的量子行为使其在搜索空间中不受位置限制,从而提高算法的收敛速度与全局优化能力。 任务: 使用QPSO优化VMD中的惩罚因子 α 和分解层数 K,以获得信号分解的最佳效果。 计划: 定义适应度函数:适应度函数根据VMD分解的效果来定义,通常使用重构信号的误差(例如均方误差、交叉熵等)来衡量分解的质量。 初始化QPSO粒子:定义粒子的位置和速度,表示 α 和 K 两个参数。初始化时需要在一个合理的范围内为每个粒子分配初始位置。 执行VMD分解:对每一组 α 和 K 参数,运行VMD算法分解信号。 更新QPSO粒子:使用QPSO算法更新粒子的状态,根据适应度函数调整粒子的搜索方向和位置。 迭代求解:重复QPSO的粒子更新步骤,直到满足终止条件(如适应度函数达到设定阈值,或最大迭代次数)。 输出优化结果:最终,QPSO算法会返回一个优化的 α 和 K,从而使VMD分解效果最佳。 2、将极光粒子(PLO)算法与变分模态分解(VMD)算法结合 PLO的优点与适用性 强大的全局搜索能力:PLO通过模拟极光粒子的运动,能够更高效地探索复杂的多峰优化问题,避免陷入局部最优。 鲁棒性强:PLO在面对高维、多模态问题时有较好的适应性,因此适合海上风电时间序列这种非线性、多噪声的数据。 应用场景:PLO适合用于优化VMD参数(α 和 K),并将其用于风电时间序列的预测任务。 进一步优化的建议 a. 实现更细致的PLO更新策略,优化极光粒子的运动模型。 b. 将PLO优化后的VMD应用于真实的海上风电数据,结合LSTM或XGBoost等模型进行风电功率预测。
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值