分析工具与数据库交互
温蒂先生
不积跬步,无以至千里;不积小流,无以成江海~
展开
-
python 调用oracle存储过程及参数说明
一般我们会把数据的整合、预处理过程及需要展示的数据处理过程放到oracle中,而把模型运算放到python中。因此造成了运维人员的工作复杂度,因此把oracle存储过程的调用权限给python,是一种很好的选择。下面我把自己用python调用oracle中需要注意的细节在这里阐述一番。以代码的形式展示如下: import cx_Oracle as cx address = "用户名/密码@IP:端口/实例名" conn = cx.connect(address , encoding = 'UTF-8原创 2020-06-10 17:16:20 · 2176 阅读 · 0 评论 -
python 访问oracle过程中报错DPI-1047的解决方法
python 访问oracle过程中报错DPI-1047,去这个网址下载oracle的客户端https://www.oracle.com/database/technologies/instant-client/winx64-64-downloads.html然后把这3个文件拷贝在Anaconda的安装目录下问题就解决了...原创 2019-10-31 14:35:08 · 2637 阅读 · 1 评论 -
Python 读取Oracle数据,中文乱码问题
https://www.cnblogs.com/rainbo/p/10836302.html原创 2019-10-31 14:46:40 · 574 阅读 · 0 评论 -
在R语言中调用存储过程
R语言作为数据分析的工具,是建模分析的利器,然而数据的预处理和指标体系表的创建过程放在oracle数据库存储过程里面更高效, 如何实现指标体系表创建完成后立马开始建模和分析,是数据分析人员关注的重点,就是把存储过程的调用放在R代码里面, 使得存储过程执行结束后立马开始建模分析的无缝对接, 那么如何在R语言里调用Oracle 存储过程呢, 下面我把自己写的代码呈上来:options(java.pa...原创 2019-05-28 19:25:53 · 408 阅读 · 1 评论 -
python3.6.4安装及离线安装cx_Oracle相关软件
下载地址为:https://repo.anaconda.com/archive/下载的是安装好以后,从已经安装好的cx_Oracle的环境里面的安装目录下,搜索cx_Oracle,把这4个文件拷贝出来放到对应的site-package下面。就好了。...原创 2019-10-24 17:53:22 · 1112 阅读 · 2 评论 -
python访问mysql和pg库
【代码】python访问mysql和pg库。原创 2023-04-28 15:50:22 · 277 阅读 · 0 评论 -
python把dataframe回写到mysql和pg库
【代码】python把dataframe回写到mysql和pg库。原创 2023-05-11 16:29:27 · 597 阅读 · 0 评论 -
PYTHON访问hive数据,并返回DataFrame代码封装
之前写过py访问oracle的代码,这次在之前的基础上加工而成,把过程记录下来,方便日后查阅!def pyVisitHive(params ,sql_text): from pyhive import hive import pandas as pd conn=hive.Connection(host = params.get('ip'), port = params.get('port'),原创 2021-04-09 09:56:19 · 1693 阅读 · 0 评论 -
python 访问mysql数据库代码封装
python访问mysql数据库,并返回DataFrame类型的数据import pymysql.cursorsimport pandas as pdimport numpy as npdef pyvisitMysql(params ,sql_text): ## 数据库参数信息 conn=pymysql.Connection(host = params.get('ip'), port = params.get('port')原创 2022-02-12 20:36:14 · 1013 阅读 · 0 评论 -
py按照某个字段取值访问数据,并将结果存放到excel的不同sheet中
按照区县编码写进excel中,并把不同区县编码的信息写入到不同的sheet中# 访问数据,获取所有的区分信息bhpt_fail = visitOracle(address , "select * From bhpt_fail")dist_base_bhpt_fail = pd.DataFrame(bhpt_fail['区县编码'].value_counts()).index# 需要在指定路径下创建xlsx文件writer = pd.ExcelWriter('按区县编码存放.xlsx',mode=原创 2022-02-18 10:34:05 · 546 阅读 · 0 评论 -
python向excel中写数据涉及的相关知识(先按照地市编码建文件夹,再按照区县创建excel文件)
参考博客1: https://blog.csdn.net/weixin_44333889/article/details/118487220参考博客2:https://blog.csdn.net/xihen7/article/details/119540825import ospath = r'文件路径' for dist_code , dist_name in zip(data_code,data_path) : #print (dist_code , dist_name) o原创 2022-02-21 18:34:31 · 503 阅读 · 0 评论 -
py读取文件夹中的excel文件,并将多个文件的内容进行融合
# 多个文件夹名称dist_code = ['X1市',X2市','X3市','X4市','X5市','X6市','X7市','X8市','X9市','X10市' ]import osimport pandas as pdfile_path = 'D:/job/work/'# 按照指定结构创建一个空DataFrameres = pd.DataFrame({ '字段1' :[], '字段2' :[] ,原创 2022-02-28 20:56:39 · 237 阅读 · 0 评论 -
R语言从Oracle数据库查询DataFrame与写入DataFrame数据
查询数据:library(DBI)library(rJava)library(RJDBC)library(RODBC)drv <- JDBC(driverClass="oracle.jdbc.driver.OracleDriver", classPath = "路径/ojdbc6.jar")conn <- dbConnect(drv , "jdbc:oracle:thin...原创 2019-06-11 10:16:10 · 580 阅读 · 1 评论 -
python 往oracle里面写DataFrame(二)
之前写了python 往oracle里面DataFrame, 在自己的笔记本上奏效,但是放在集群上去,就会失效了,报错内容为:sqlalchemy.exc.DatabaseError: (cx_Oracle.DatabaseError) ORA-12505: TNS: 监听程序当前无法识别连接描述符中所给出的 SID解决方案为创建引擎的方式有所变化,具体的代码入下from sqlalchem...原创 2019-05-15 18:25:23 · 1533 阅读 · 1 评论 -
PYTHON 从oracle查询数据并且存入DataFrame中
python对数据的分析操作简单易行,且基本的DataFrame类型的数据是数据分析与建模的基础数据类型。那么如何把数据从关系型数据库取出来并直接存到DataFrame中呢,在参考前人的基础上,我对该过程进行了简单的封装,代码如下: import cx_Oracle as oracle def visitOracle(address , sql): conn = o...原创 2019-02-27 12:32:21 · 4671 阅读 · 1 评论 -
Python DataFrame写入OACLE数据库
Python 直接把DataFrame写入OACLE数据库python 把模型跑出来的结果写入csv,txt等文档中,不便于后续的存储和分析,于是乎我想把它直接写入数据库,但是问题来了,百度了很多写法,都是需要把DataFrame的每一行逐条插入,虽然逻辑清晰明了,但是也有很多弊端,需要提前在数据库创建和这个DataFrame字段相同的表,我就在想如何把DataFrame整体直接‘塞’入数据库中...原创 2019-02-27 09:53:37 · 7019 阅读 · 1 评论