HIVE SQL中替换不可见字符的正则表达式

文章介绍了如何使用trim()、ltrim()、rtrim()函数去除字符串首尾空格,以及如何利用正则表达式regexp_replace替换中间的空白字符和不可见的非法字符。在数据清洗过程中,当s+无法完全解决问题时,可以进一步使用[\x00-\x08\x0B-\x0C\x0E-\x1F]+来处理不可见的非法字符。
摘要由CSDN通过智能技术生成

一.替换字符串中的空白字符

对于剔除字符串首尾的空格,使用较多的是trim()ltrim()rtrim()函数,但是他们无法去除字符串中间的空格。
这个时候通常会使用正则表达式来替换字符串中的空白字符\s表示匹配任何空白字符,包括空格、制表符、换页符等等, 等价于[ \f\n\r\t\v]。

select regexp_replace('  abcd  ef  g ','\\s+','');

返回结果:
‘abcdefg’

二.替换字符串中的无法解析的非法字符

在实际清洗过程中,发现即使使用了'\\s+'正则进行替换后,仍旧出现字符串中存在不可见字符的情况。这往往是因为上有数据在解析过程中未将无法解析的非法字符剔除掉。
这个时候可以使用regexp_replace(col_name,'[\\x00-\\x08\\x0B-\\x0C\\x0E-\\x1F]+|\\s+','')进一步对不可见字符进行处理。

HiveSQL,可以使用正则表达式进行模式匹配和替换操作。HiveSQL提供了一些内置函数来处理正则表达式,其包括regexp_replace函数。该函数的语法如下: regexp_replace(string A, string B, string C) 其,A是要进行替换字符串,B是要匹配的正则表达式,C是要替换的内容。该函数会将字符串A符合正则表达式B的部分替换为C。 需要注意的是,在HiveSQL正则表达式的语法与Java的正则表达式语法相似。如果需要使用特殊字符,可能需要进行转义。可以参考Java正则表达式的语法来编写HiveSQL正则表达式。 参考资料: \[1\] regexp_replace函数的说明,https://blog.csdn.net/weixin_37536446/article/details/81053172 #### 引用[.reference_title] - *1* [hive sql正则表达式总结](https://blog.csdn.net/weixin_40659514/article/details/127105119)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_source":"vip_chatgpt_common_search_pc_result","utm_medium":"distribute.pc_search_result.none-task-cask-2~all~insert_cask~default-1-null.142^v91^insert_down28v1,239^v3^insert_chatgpt"}} ] [.reference_item] - *2* [hive sql 正则表达式](https://blog.csdn.net/u011919863/article/details/119900339)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_source":"vip_chatgpt_common_search_pc_result","utm_medium":"distribute.pc_search_result.none-task-cask-2~all~insert_cask~default-1-null.142^v91^insert_down28v1,239^v3^insert_chatgpt"}} ] [.reference_item] [ .reference_list ]
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值