《SAS编程和数据挖掘商业案例》学习笔记＃ 19

继续《SAS编程与数据挖掘商业案例》学习笔记，本文側重数据处理实践。包含：HASH对象、自己定义format、以及功能强大的正則表達式

一：HASH对象

Hash对象又称散列表，是依据关键码值而直接进行訪问的数据结构。是依据关键码值而直接进行訪问的数据结构。

sas提供了两个类来处理哈希表。用于存储数据的hash和用于遍历的hiter,hash类提供了查找、加入、改动、删除等方法，hiter提供了用于定位和遍历的first、next等方法。

长处：键值的查找是在内存中进行的，有利于提高性能；

              hash表能够在数据步执行时，动态的加入更新或删除观測。

              hash表中能够非常快的定位数据，降低查找次数。

经常用法：

definekey：定义键

Definedata:定义值

definedone：定义完毕。能够加载数据

add：加入键值。如在hash表中已存在，则忽略；

replace：假设健在hash表中存在，则替换。假设不存在则加入键值

remove：清除键值对

find：查找健值，假设存在则将值写入相应变量

check：查找键值，假设存在则返回rc=0，不改动当前变量的值；

output：将hash表输出到数据集

clear：清空hash表，但并不删除对象

equal：推断两个hash类是否相等

 

find方法的演示样例：

libname chapt12 'f:\data_model\book_data\chapt12';

data results;

 if _n_=0 then set chapt12.participants;                  

   if _n_ = 1 then do;

    declare hash h(dataset:'chapt12.participants');    

    h.definekey('name');

    h.definedata('gender', 'treatment');

    h.definedone();

  end;

   set chapt12.weight;

  if h.find() = 0 then

    output;

run;

 

hiter对象的引例：

data patients;

  length patient_id $ 16 discharge 8;

  input patient_id discharge:date9.;

datalines;

smith-4123 15mar2004

hagen-2834 23apr2004

smith-2437 15jan2004

flinn-2940 12feb2004

;

data _null_;

  if _n_=0 then set patients;

  declare hash ht(dataset:"patients",ordered:"ascending");

  ht.definekey("patient_id");

  ht.definedata("patient_id", "discharge");

  ht.definedone();

  declare hiter iter("ht");

  rc = iter.first();

  do while (rc=0);

    put patient_id discharge:date9.;

    rc = iter.next();

  end;

run;

用declare hiter iter("ht");给hash表ht定义了一个遍历器iter，之后调用first方法将遍历器定位到hash表的第一条观測，然后使用next方法遍历hash表中的全部记录并输出。

 

商业实战-两个数据集的合并：

    data both1(drop=rc);    

      declare hash plan ();   

   rc = plan.definekey ('plan_id'); 

   rc = plan.definedata ('plan_desc'); 

   rc = plan.definedone ();  

   do until (eof1) ;     

     set chapt12.plans end = eof1;

     rc = plan.add ();    

  end;

  do until (eof2) ; 

     set chapt12.members end = eof2;

     call missing(plan_desc);

     rc = plan.find (); 

     output;   

  end;

  stop;

run;

上述程序能够简化为：

data both2;

   length plan_id $3 plan_desc $20;

   if _n_ = 1 then do;

         declare hash h(dataset:'chapt12.plans');

         h.definekey('plan_id');

         h.definedata('plan_desc');

         h.definedone();

         call missing(plan_desc);

      end;

   set chapt12.members;

   rc=h.find();

run;

二：format

自己定义format：

Proc Format;

    Value $ Sex_Fmt

    'F'='女'

    'M'='男'

    Other = '未知';

    Value Age_Dur

    Low-10="10岁下面"            

    11-13="11-13岁"

    14-<15="14-15"

    15-High="15岁以上";

Run;

应用：

Data  test;

Set  sashelp.class(keep=sex age);

x=put(sex,$sex_fmt);y=put(age,age_dur.);

Run;

三：正則表達式：

/.../  一个正則表達式的起止。

|  数项之间的选择，“或”运算；

()   匹配组，标记一个子表达式的開始和结束位置。

.    除换行符以外的随意字符。

\w  任一单词字符，数字大写和小写字母以及下划线

\W  任一非单词字符

\s   任一空白字符，包含空格、制表符、换行符、回车符、中文全角空格等；

\S   任一非空白字符，

\d   0-9任一数字

\D  任一非数字字符

[...]

[^...]

[a-z]  从a到z

[^a-z]  不在从a到z范围内的随意字符

^  匹配输入字符串的開始位置

$  匹配输入字符串的结尾位置

\b  描写叙述单词的前或后边界

\B  表示非单词边界

*  匹配0次或多次

+ 匹配一次或多次

?  匹配零次或 一次

{n}  匹配n次

{n,}  匹配n次以上

{n,m}  匹配n到m次

 

经常使用函数：

Prxparse     定义一个正則表達式

Prxmatch  返回匹配模式的首次匹配位置

Call prxsubstr   返回匹配模式在目标字符串的開始位置和长度

Prxposn    返回正則表達式子表达式相应的匹配模式值

Call  prxposn    返回正則表達式子表达式相应的匹配模式和长度

Cal l  prxnext  返回匹配模式在目标字符串中的多个匹配位置和长度

Prxchange    替代匹配模式的值

Call prxchange   替代匹配模式的值

 

eg1：

data _null_;

   if _n_ = 1 then pattern_num = rxparse("/cat/");

  

   retain pattern_num;

   input string $30.;

   position = rxmatch(pattern_num,string);

   file print;

   put pattern_num= string= position=;

datalines;

there is a cat in this line.

does not match cat

cat in the beginning

at the end, a cat

cat

;

run;

eg2：数据验证

data match_phone;

   set chapt12.phone_numbers;

   if _n_ = 1 then pattern = prxparse("/\(\d\d\d\) ?

\d\d\d-\d{4}/");

   retain pattern;

   if prxmatch(pattern,phone) gt 0 then output;

run;

找出不匹配的手机号码

data unmatch_phone;

   set chapt12.phone_numbers;

   where not prxmatch("/\(\d\d\d\) ?

\d\d\d-\d{4}/",phone);

run;

Eg3:提取匹配某种模式的字符串

data extract;

   if _n_ = 1 then do;

      pattern = prxparse("/\(\d\d\d\) ?

\d\d\d-\d{4}/");

      if missing(pattern) then do;

         put "error in compiling regular expression";

         stop;

      end;

   end;

   retain pattern;

   length number $ 15;

   input string $char80.;

   call prxsubstr(pattern,string,start,length);

      if start gt 0 then do;

      number = substr (string,start,length); 

      number = compress(number," ");

      output;

   end;

   keep number;

datalines;

this line does not have any phone numbers on it

this line does: (123)345-4567 la di la di la

also valid (123) 999-9999

two numbers here (333)444-5555 and (800)123-4567

;

run;

eg4：提取名字

data ReversedNames;

   input name & $32.;

   datalines;

Jones, Fred

Kavich, Kate

Turley, Ron

Dulix, Yolanda

;

data FirstLastNames;

   length first last $ 16;

   keep first last;

   retain re;

   if _N_ = 1 then

      re = prxparse('/(\w+), (\w+)/');

   set ReversedNames;

   if prxmatch(re, name) then

      do;

         last = prxposn(re, 1, name);

         first = prxposn(re, 2, name);

      end;

run;

注：1,2分别代表正則表達式中的两个组

eg5：提取符合规定的名字

data old;

   input name $60.;

   datalines;

Judith S Reaveley

Ralph F. Morgan

Jess Ennis

Carol Echols

Kelly Hansen Huff

Judith

Nick

Jones

;

data new;

   length first middle last $ 40;

   re1 = prxparse('/(\S+)\s+([^\s]+\s+)?(\S+)/o');

   re2 = prxparse('/(\S+)(\s+)([^\s]+\s+)(?)(\S+)/o');

   set old;

   id1=prxmatch(re1, name);

   id2=prxmatch(re2, name);

   if id1 then

      do;

         first = prxposn(re1, 1, name);

         middle = prxposn(re1, 2, name);

         last = prxposn(re1, 3, name);

      end;

   if id2 then test=prxposn(re1, 4, name);

   put test=;

run;

Eg6:返回匹配模式的多个位置

data _null_;

   expressionid = prxparse('/[crb]at/');

   text = 'the woods have a bat, cat, and a rat!';

   start = 1;

   stop = length(text);

   call prxnext(expressionid, start, stop, text, position, length);

      do while (position > 0);

         found = substr(text, position, length);

         put found= position= length=;

         call prxnext(expressionid, start, stop, text, position, length);

      end;

run;

注：首次运行call prxnext返回一个position，然后进入循环，在抽取满足条件的子串中。再次运行all prxnext，此时会返回下一个匹配的position；

Eg7:替换文本

data cat_and_mouse;

   input text $char40.;

   length new_text $ 80;

   if _n_ = 1 then match = prxparse("s/[Cc]at/mouse/");

   retain match;

   call prxchange(match,-1,text,new_text,len,trunc,num);   

   if trunc then put "note: new_text was truncated";

datalines;

the Cat in the hat

there are two cat cats in this line

here is no replacement

;

run;

 

 

版权声明：本文博客原创文章。博客，未经同意，不得转载。