关于sqlalchemy读写mysql密码含有【@】、中文读写、迭代器读写、数据精度

1 篇文章 0 订阅
1 篇文章 0 订阅
class Database:
    def __init__(self):
        self.save_schema = 'dwd'
        self.save_table = 'dwd_xxx'
        self.mysql_dwd_config = {
            'drivername': 'mysql+pymysql',
            'username': 'user_a',
            'password': 'xxx@#$xxx',
            'host': 'am-xxxxx.ads.aliyuncs.com',
            'port': 3306,
        }

        if sqlalchemy.__version__ >= '1.4': #其实大于1.4.15之后,密码里面含有@,就必须以这种方式创建正确正则识别密码的引擎了。
            self.mysql_engine_url = sqlalchemy.engine.URL.create(**self.mysql_dwd_config)
            self.mysql_engine_url = self.mysql_engine_url.update_query_dict({'charset': 'utf8mb4'})
        else:
            # password 含有@
            self.mysql_engine_url = '{drivername}://{username}:{password}@{host}:{port}/?charset=utf8mb4'.format(**self.mysql_dwd_config)
        self.mysql_dwd_engine = sqlalchemy.create_engine(self.mysql_engine_url)

    @Usual.time_stat
    def drop_mysql(self):
        sql = f"DROP TABLE IF EXISTS {self.save_schema}.{self.save_table};"
        with self.mysql_dwd_engine.connect() as conn:
            conn.execute(sqlalchemy.text(sql))
        print('drop_table_done.')
        return

    @Usual.time_stat
    def get_mysql_data(self, sql, chunksize=None):
        if not chunksize:
            new_df = pd.read_sql(sql=sql, con=db.mysql_dwd_engine, chunksize=None)
        else:
            df_iter = pd.read_sql(sql=sql, con=db.mysql_dwd_engine, chunksize=chunksize)
            new_df = pd.DataFrame()
            for temp_df in df_iter:
                new_df = new_df.append(temp_df, ignore_index=True)
        print(f'get_df shape: {new_df.shape}')
        return new_df

    @Usual.time_stat
    def write_mysql_data(self, df, if_exists='replace'):
        df.to_sql(
            con=self.mysql_dwd_engine,
            schema=self.save_schema,
            name=self.save_table,
            if_exists=if_exists,
            index=False,
            index_label='id',
            chunksize=10000,
        )
 
	@Usual.time_stat
	def save_csv_feature_to_db(self, csv='/tmp/xxx_feature.csv', chunksize=1000):
	    with pandas.read_csv(csv, iterator=True, chunksize=chunksize) as reader:
	        for i,df in enumerate(reader):
	        	df = df.round(4) # 精度设置为4或6位,一般sql计算出来的小数位数可达16位,严重影响数据大小
	            self.write_mysql_data(df, if_exists='append')
	            logger.info(f'Saved to db: {(i+1)*chunksize}')
	    return     
-- 插入中文不仅是读写引擎的encoding=utf8mb4问题,一般现在都是默认的
-- 所以是创建schema的原始问题
create schema your_schema collate utf8mb4_unicode_ci;
  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
### 回答1: 首先需要安装 `PyMySQL` 和 `SQLAlchemy` 库,可以使用以下命令进行安装: ``` pip install PyMySQL pip install SQLAlchemy ``` 然后,使用以下代码连接 MySQL 数据库: ```python from sqlalchemy import create_engine # 创建数据库连接,格式为:mysql+pymysql://<username>:<password>@<host>/<dbname>[?<options>] engine = create_engine('mysql+pymysql://username:password@hostname/dbname') # 测试连接是否成功 conn = engine.connect() result = conn.execute('SELECT 1') print(result.fetchone()) ``` 需要将 `username`、`password`、`hostname` 和 `dbname` 替换为实际的值。如果连接成功,上述代码会输出 `(1,)`。 ### 回答2: SQLAlchemy是一个功能强大的Python库,用于在Python应用程序中操作数据库。它提供了一个对象-关系映射(ORM)工具,可以将数据库中的表和数据映射为Python对象。 要连接MySQL数据库,首先需要安装SQLAlchemy库和MySQL驱动程序。可以使用`pip`命令进行安装: ``` pip install sqlalchemy pip install mysql-connector-python ``` 安装完成后,可以使用以下步骤来连接MySQL数据库: 1. 导入所需的模块: ```python from sqlalchemy import create_engine from sqlalchemy.orm import sessionmaker ``` 2. 创建引擎并连接到MySQL数据库: ```python engine = create_engine('mysql+mysqlconnector://username:password@hostname:port/databasename') ``` 其中,`username`是数据库用户名,`password`是密码,`hostname`是数据库地址,`port`是端口号(默认为3306),`databasename`是数据库名称。 3. 创建会话: ```python Session = sessionmaker(bind=engine) session = Session() ``` 这里使用`sessionmaker`函数创建了一个会话类,`bind`参数接收上一步创建的引擎对象。 4. 使用会话进行数据库操作: ```python # 查询示例 result = session.execute("SELECT * FROM tablename") for row in result: print(row) # 插入示例 new_data = MyModel(name='John', age=25) session.add(new_data) session.commit() ``` 这里的`MyModel`是一个自定义的模型类,用于映射数据库中的表。 5. 关闭会话: ```python session.close() ``` 以上就是使用SQLAlchemy连接MySQL数据库的简单示例。通过这种方式,我们可以方便地使用Python操作MySQL数据库,进行查询、插入、更新、删除等操作。 ### 回答3: SQLAlchemy是一种流行的Python库,用于与数据库进行交互。要连接MySQL数据库,首先需要安装SQLAlchemy库以及适当的MySQL驱动程序。在安装完成后,可以按照以下步骤连接MySQL数据库: 1. 导入必要的模块和类: ```python from sqlalchemy import create_engine from sqlalchemy.orm import sessionmaker ``` 2. 创建一个数据库连接引擎: ```python engine = create_engine('mysql+pymysql://username:password@localhost/database_name', echo=True) ``` 这里的`mysql+pymysql`表示使用PyMySQL驱动程序连接MySQL数据库,`username`和`password`分别为MySQL的用户名和密码,`localhost`为MySQL服务器的地址,`database_name`是要连接的数据库名称。`echo=True`用于在控制台输出与数据库的交互信息。 3. 创建一个会话工厂: ```python Session = sessionmaker(bind=engine) ``` 通过将上一步创建的数据库连接引擎绑定到会话工厂上,可以创建会话对象进行数据库操作。 4. 创建一个会话: ```python session = Session() ``` 使用会话工厂创建一个会话对象,可以使用该对象执行各种数据库操作,如查询、插入、更新和删除数据等。 5. 完成数据库操作: ```python # 查询数据 results = session.query(User).all() # 插入数据 new_user = User(name='John Doe', age=30) session.add(new_user) session.commit() # 更新数据 user = session.query(User).filter_by(name='John Doe').first() user.age = 31 session.commit() # 删除数据 user = session.query(User).filter_by(name='John Doe').first() session.delete(user) session.commit() ``` 这里的`User`是一个映射到数据库表的类,可以使用ORM(对象关系映射)进行数据库操作。 最后,记得在程序结束时关闭会话: ```python session.close() ``` 通过以上步骤,我们可以轻松地使用SQLAlchemy连接MySQL数据库,并进行各种数据库操作。

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值