shell 循环排序剔除重复数据

1.通过循环得到可能出现的数值交叉情况,可能一个数值,可能两个数值,可能三个数值

var_mem_id_2=(100
              200
              300
              400
              500
              600)
for line_01 in ${var_mem_id_2[@]}
do
    echo $line_01 >> file.txt
    for line_02 in ${var_mem_id_2[@]}
    do
        arry_02=($line_01,$line_02)
        echo $arry_02 >> file.txt
        for line_03 in ${var_mem_id_2[@]}
        do
            arry_03=($line_01,$line_02,$line_03)
            echo $arry_03 >> file.txt
            for line_04 in ${var_mem_id_2[@]}
            do
                arry_04=($line_01,$line_02,$line_03,$line_04)
                echo $arry_04 >> file.txt
                for line_05 in ${var_mem_id_2[@]}
                do
                    arry_05=($line_01,$line_02,$line_03,$line_04,$line_05)
                    echo $arry_05 >> file.txt
                    for line_06 in ${var_mem_id_2[@]}
                    do
                        arry_06=($line_01,$line_02,$line_03,$line_04,$line_05,$line_06)
                        echo $arry_06 >> file.txt
                    done
                done
            done
        done
    done
done

2.对于得到的交叉的情况,剔除同一行的重复数据并排序

for line_01 in $(cat file.txt)
do
arry_01=`echo $line_01 | sed 's/,/\n/g' | sort | uniq | tr -s '\n' ',' | sed 's/,$//g'`
echo $arry_01 >> sort.csv
done

3.剔除整个文件的重复数据

sort -k2n sort.csv | uniq > a.csv
  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 1
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值