科技翻譯服務[軟體程式種別]:
R
[程式問題]:
資料處理
[軟體熟習度]:
中(3個月到1年)
[問題論述]:
比來常在處置字串
發現本身會 翻譯 function 很不敷用
想多學點 function
我列出一些我經常使用的
希望能拋磚引玉
請列位高手能教我一些高著兒
[程式範例]:
媒介 :
R 的字串處理 翻譯公司
要謹慎注重 character , factor , numeric 這三種物件 翻譯誤轉換和混用
factor 是一種很厭惡的物件 ,
因為它在轉成數字和字串 翻譯時辰 ,
經常會釀成跟本來紛歧樣的工具 翻譯公司
建議資料處置的進程 ,
預設用 matrix 和 character 兩種而避免利用 data.frame
------------------------------------------------------------------
1.字串黏合
paste ("A","B" 翻譯公司sep="") ---->>> "AB"
2.字串切割
strsplit("A.B",split=".",fixed=T) ---->>> "A" "B"
3.正確穩合
x <- c("AB" 翻譯公司"AA")
x %in% "AB" ---->>> TRUE FALSE
4.部份吻合 + (回傳 which)
x <- c("AB","AA")
grep("B",x) ---->>> 1
grep("A" 翻譯公司x) ---->>> 1 2
grep("B",x,value=T) ---->>> "AB"
grep("B",x,value=T 翻譯公司invert=T) ---->>> "AA"
grep("C",x) ---->>> integer(0)
#若目標是要找 index , 建議改用 grepl
4-2.部份吻合 + (回傳判斷式)
x <- c("AB" 翻譯公司"AA")
grepl("B",x) ---->>> TRUE FALSE
4-3.部分吻合 + (回傳位置) + (回傳??)
x <- c("BBB","AAA","CCB")
regexpr("B",x) ---->>> 1 -1 3 (第一次 "hit" 的位置)
1 -1 1 (有無 "hit")
5.子字串
substr("human123456" 翻譯公司start=1 翻譯公司stop=5) ---->>> "human"
!!注重!! 4-3 翻譯 regexpr
與這個 substr 結合起來 ,
在寫 網頁Parser 的時候很好用
regexpr 能界說出 statr=幾許
所謂的網頁Parser
就是你去下載某些 html 檔案
檢視原始碼
然後找出你需要的資料
再找出一些能 cut 翻譯劃定規矩
用 strsplit 搭配 TR , TD 之類的字串去切出你要的資料
6.特定字元取代 (1st hit)
x <- "AABB"
sub("A" 翻譯公司replacement="C" 翻譯公司x) ---->>> "CABB"
6-2.悉數特定字元庖代 (global hit)
x <- "AABB"
gsub("A",replacement="C",x) ---->>> "CCBB"
7.較量爭論字串長度
### 盡量別用這個 fuction
x <- c("A","AAA","AAAAA")
nchar(x) ---->>> 1 3 5
nchar(as.factor(x)) ---->>> 1 1 1
8.多重字元(串)貼合 (矩陣內)
x <- matrix(letters[1:6],2 翻譯公司3)
apply(x,1 翻譯公司paste,collapse="") ---->>> "ace","bdf"
apply(x 翻譯公司2,paste,collapse="") ---->>> "abc" 翻譯公司"def"
9. 字元反轉
x <- c("A B","*.")
sapply(lapply(strsplit(as.character(x), NULL), rev), paste 翻譯公司 collapse="")
[1] "B A" ".*"
10.字元查抄
x <- c("A B","*.")
unique(unlist(strsplit(as.character(x),split="",fixed=T)))
[1] "A" " " "B" "*" "."
-----------------------------------------------------------
Regular expression : 字串恍惚比對 , 或特定字母擺列模式的抓取
在R內
根基上分成3種
Basic regular expression (BRE) --> extended = FALSE
Extended regularexpression (ERE) --> extended = TRUE (預設)
perl-like (perl) --> perl = TRUE
雙冒號代表我測試過且成功
單冒號代表網路上抓下來或是測試失敗
--------------------------------------------------------------
通用部分
{ 翻譯公司}
* :: {0, } 至少呈現0次, 最多無窮多次
+ :: {1 翻譯公司 } 1 無窮屢次
? :: {0,1} 0 1
[Aa] :: A 或 a
[^1-9] :: not 1:9
[1-9] :: 1:9
[a-z] :: a b c ... z
[A-Z] :: A B C ... Z
[a-zA-Z] :: 所有英文字母
[W-z] :: WXYZabc....z
[w-Z] :: 不可利用!
(AB) :: 括號一次搜集多個字元 ### 一種延伸字串的寫法
舉例 :
x <- c("company" 翻譯公司"companies",)
可以用以下兩種寫法
1. grep("[company|companies]",x)
2. grep("compan(y|ies)",x)
第二種在大資料的時候會比力快
$ :: 字尾限制
^ :: 字首限定
| :: "ABC|EFG" --> grep("ABC"or"DEF",x)
. :: 肆意字元
-----------------------------------------------------
ERE , extended = TRUE
digit (數字)
\\d :: [0-9]
\\D :: [^0-9]
[[:digit:]] :: 同上
[^[:digit:]] :: 同上
blank (空白)
\\s :: 能切開 " " 或 "\t"
\\S :: 切開非空白及 tab 翻譯字元
[[:blank:]] :: 同上
[^[:blank:]] :: 同上
AlphaBet + Digit (正常字元)
\\w :: [0-9a-zA-Z]
\\W :: [^0-9a-zA-Z]
[[:alnum:]] :: 同上
[^[:alnum:]] :: 同上
AlphaBet (英文字元)
[[:alpha:]] :: 同上
[^[:alpha:]] :: 同上
非凡符號
[[:punct:]] :: ! " # $ % & ' ( ) * + 翻譯公司 - .
/ : ; < = > ? @ [ \ ] ^ _ ` { | } ~
[^[:punct:]] :: 英文字 , 數字 (注重! , \t 和
城市被切掉)
注意 ! 正斜線這個符號很容易與其他 regular expr 混合
必需仔細查抄 "\" 存在 翻譯字串
可印符號
[[:print]] :: 所有字元 (數字,字母 翻譯公司特別符號 翻譯公司空白)
, \t , \001 除外
16進位字元
[[:xdigit:]] :: 16進位有關英文或數字
[0-9a-fA-F]
大小寫英文字元
[[:upper:]] :: 大寫英文字元 [A-Z]
[^[:upper:]] :: 非大寫 [^A-Z]
[[:lower:]] :: 小寫 [a-z]
[^[:lower:]] :: ^[a-z]
注重 "\t" 照樣會被留下來
空白和換行等
[[:space:]] :: " " , \t ,
, \f , \r
(\f : 換行但不回到行頭)
(\r : 回到行頭並消弭此行內所有的文字)
P.S. 這兩種不經常使用 翻譯公司當豆常識便可
[[:graph:]] :: [A-Za-z0-9]再加[["punct"]]
----------------------------------------------------------
perl = TRUE
\\w : [A-Za-z0-9_]
\\W : [^A-Za-z0-9_]
\\s : [\t
\r\f]
\\S : [^\t
\r\f]
\\d : [0-9]
\\D : [^0-9]
----------------------------------------------------------
regular expression 工事中 (未完)
感受這篇被我當筆記來用了
reference:
1. http://www.rtfiber.com.tw/~changyj/
2. http://www.stat.psu.edu/~dhunter/R/html/base/html/regex.html
----------------------------------------------------------
巨細寫切換
TRUTH <- c("Abc" 翻譯公司"ABC")
a <- gsub("(\\w)","\\L\\1",TRUTH,perl=TRUE) ---> "abc" 翻譯公司"abc"
b <- gsub("^(\\w)" 翻譯公司"\\U\\1",a,perl=TRUE) ---> "Abc","Abc"
同上 , 非常神秘的 Bug !?
T123 <- c("Tgfbr1" 翻譯公司"Cd320" 翻譯公司"Ndrg3","Aldoa","Bckdk","Tmed3","Hfe2")
> gsub( "(\\w)" 翻譯公司 "\\L\\1" 翻譯公司 T123 , perl=T)
[1] "LTLgLfLbLrL1" "LCLdL3L2L0" "LNLdLrLgL3"
[4] "LALlLdLoLa" "LBLcLkLdLk" "LTLmLeLdL3"
[7] "LHLfLeL2"
> gsub( "(\\w)", "\\L\\1" , T123 翻譯公司 perl=TRUE)
[1] "tgfbr1" "cd320" "ndrg3" "aldoa" "bckdk" "tmed3"
[7] "hfe2"
---------------------------------------
消弭多餘空白
> x <- "Hey! Apple "
> gsub(" {2,}" 翻譯公司"",x)
[1] "Hey! Apple" ### 容忍一個空白 , 但兩個以上至無窮大則消弭
---------------------------------------
在處置懲罰夾雜字串與數字 翻譯資料矩陣的時候
常常需要在 data.frame 和 matrix 之間切換
有時辰會字串會被一些預設的空白字元夾住
ex:
"1" , "15" , "333"
經由轉換以後
" 1" , " 15" , "333" (fit 最長字串的長度)
> DATA <- gsub("^ *| *$",as.matrix(DATA))
---------------------------------------
### 一些參考的 pattern
1. "^\\d+$" ### 純數字的欄位 ###
2. "^ *| *$" ### 字首字尾 翻譯空白(搭配 gsub) ###
3. "^[0][\\.]{0 翻譯公司1}[0]*$" ### "0" "0.0" "0.00" "0.000" "0.0000" ,
bug 是 "0." "00"
####################################################################
放一些 linux 下的好用指令
光用 R 來做字串處置不敷用
原因在於若處理 翻譯檔案太大
光是讀進 R 就累死人
這邊首要是運用在檔案減肥
文字檔案
rs123\t0|1:0000\tAAAA
rs456\t1|0:0000\tBBBB
###################
橫向
grep [-w : word]
[-f : 給 pattern file]
[-F : 精確比對] ### 若要搜索固定字串 翻譯公司 -F必下 (快超多)
1. cat 文字檔案|grep -w 'rs' ### 沒器械
2. cat 文字檔案|grep -w -F 'rs123' ### 出第一行
3. car 文字檔案|grep -w '^rs.*$' ### 二行皆出
###################
縱向
cut [-d : 用tab切開會是3個column的矩陣]
1. cut -d'\t' -f1,2 原檔 > 新檔 ### 留下 1 and 2 columns
###################
橫向
sed
1. sed -n '6 翻譯公司$p' 原檔 > 新檔 ### 從第六行起頭 , print 至尾行
### 或可理解成, 把 1~5行切掉
2. sed 's/:\S*/HAHA/g' 原檔 > 新檔 ### s=庖代 , g=global
### 把紅色 翻譯正規 pattern 取代成綠色
###################
當檔案有 10000000 rows , 讀不進 R 怎辦?
就算讀進 R 翻譯公司 資料太大一直 SWAP 電腦動不了怎麼辦?
顛末一番苦戰
我建議以下的思慮方式
0. 先透過上述體例
直接在終端機把檔案減肥
1. 檔案列數 <- system("wc -l 檔案" 翻譯公司intern=TRUE)
LOOP <- ceiling(檔案列數 / 5000)
for(g in 1:LOOP) ### 用while可省前兩行
{ tmp <- read.table(檔案,skip=5000*(g-1),nrow=5000) ### 但我只熟 for
expr(中央 翻譯各種處置)
write.table(tmp 翻譯公司g)
Sys.sleep(5) ### 給一點時候讓電腦回氣
}
2. system("cat。-> 翻譯社|,-> 翻譯公司|的-> 翻譯 小檔案1 小檔案2 小檔案3 .... > 總檔案") ### 檔案 rbind()
雖然不是最快的方式
但 Over night 是必然可以把檔案處理完的
以上
來自: https://www.ptt.cc/bbs/Statistics/M.1277714037.A.2CC.html有關翻譯的問題歡迎諮詢天成翻譯社
- Nov 30 Thu 2017 12:39
[程式] R的字串處置懲罰
文章標籤
全站熱搜
留言列表
發表留言