python 全角半角互換的實現(xiàn)示例
在自然語言處理過程中,全角、半角的的不一致會導致信息抽取不一致,因此需要統(tǒng)一。
有規(guī)律(不含空格):
全角字符unicode編碼從65281~65374 (十六進制 0xFF01 ~ 0xFF5E)
半角字符unicode編碼從33~126 (十六進制 0x21~ 0x7E)
特例:
空格比較特殊,全角為 12288(0x3000),半角為 32(0x20)
除空格外,全角/半角按unicode編碼排序在順序上是對應的(半角 + 0x7e= 全角),所以可以直接通過用+-法來處理非空格數(shù)據(jù),對空格單獨處理。
注:
1. 中文文字永遠是全角,只有英文字母、數(shù)字鍵、符號鍵才有全角半角的概念,一個字母或數(shù)字占一個漢字的位置叫全角,占半個漢字的位置叫半角。
2. 引號在中英文、全半角情況下是不同的
示例
# 全角轉(zhuǎn)半角
def strQ2B(ustring):
ss = []
for s in ustring:
rstring = ""
for uchar in s:
inside_code = ord(uchar)
if inside_code == 12288:
inside_code = 32
elif (inside_code >= 65281 and inside_code <= 65374):
inside_code -= 65248
rstring += chr(inside_code)
ss.append(rstring)
return ''.join(ss)
# 半轉(zhuǎn)全角
def strB2Q(ustring):
ss = []
for s in ustring:
rstring = ""
for uchar in s:
inside_code = ord(uchar)
if inside_code == 32:
inside_code = 12288
elif (inside_code >= 33 and inside_code <= 126):
inside_code += 65248
rstring += chr(inside_code)
ss.append(rstring)
return ''.join(ss)
if __name__ == '__main__':
b = strQ2B('王大AA')
print(b)
a = strB2Q("王大AB")
print(a)
庫函數(shù)說明
chr()函數(shù)用一個范圍在range(256)內(nèi)的(就是0~255)整數(shù)作參數(shù),返回一個對應的字符。
unichr()跟它一樣,只不過返回的是Unicode字符。
ord()函數(shù)是chr()函數(shù)(對于8位的ASCII字符串)或unichr()函數(shù)(對于Unicode對象)的配對函數(shù),它以一個字符(長度為1的字符串)作為參數(shù),返回對應的ASCII數(shù)值,或者Unicode數(shù)值。
到此這篇關于python 全角半角互換的實現(xiàn)示例的文章就介紹到這了,更多相關python 全角半角互換內(nèi)容請搜索腳本之家以前的文章或繼續(xù)瀏覽下面的相關文章希望大家以后多多支持腳本之家!
相關文章
pandas數(shù)據(jù)拼接的實現(xiàn)示例
這篇文章主要介紹了pandas數(shù)據(jù)拼接的實現(xiàn)示例,文中通過示例代碼介紹的非常詳細,對大家的學習或者工作具有一定的參考學習價值,需要的朋友們下面隨著小編來一起學習學習吧2020-04-04
python 集合set中 add與update區(qū)別介紹
這篇文章主要介紹了python 集合set中 add與update區(qū)別介紹,具有很好的參考價值,希望對大家有所幫助。一起跟隨小編過來看看吧2021-03-03
python網(wǎng)絡編程之讀取網(wǎng)站根目錄實例
這篇文章主要介紹了python網(wǎng)絡編程之讀取網(wǎng)站根目錄實例,以quux.org站根目錄為例進行了實例分析,代碼簡單易懂,需要的朋友可以參考下2014-09-09

