• python实现全角半角的相互转换


    缘起

    在自然语言处理过程中,全角、半角的的不一致会导致信息抽取不一致,因此需要统一。

    转换说明

    全角半角转换说明


    有规律(不含空格):

    全角字符unicode编码从65281~65374 (十六进制 0xFF01 ~ 0xFF5E)
    半角字符unicode编码从33~126 (十六进制 0x21~ 0x7E)

    特例
    空格比较特殊,全角为 12288(0x3000),半角为 32(0x20)

    除空格外,全角/半角按unicode编码排序在顺序上是对应的(半角 + 0x7e= 全角),所以可以直接通过用+-法来处理非空格数据,对空格单独处理。

    1. 中文文字永远是全角,只有英文字母、数字键、符号才有全角半角的概念,一个字母或数字占一个汉字的位置叫全角,占半个汉字的位置叫半角。

    2. 引号在中英文、全半角情况下是不同的

     

    参考代码

    # -*- coding: cp936 -*-
    def strQ2B(ustring):
        """全角转半角"""
        rstring = ""
        for uchar in ustring:
            inside_code=ord(uchar)
            if inside_code == 12288:                              #全角空格直接转换            
                inside_code = 32 
            elif (inside_code >= 65281 and inside_code <= 65374): #全角字符(除空格)根据关系转化
                inside_code -= 65248
    
            rstring += unichr(inside_code)
        return rstring
        
    def strB2Q(ustring):
        """半角转全角"""
        rstring = ""
        for uchar in ustring:
            inside_code=ord(uchar)
            if inside_code == 32:                                 #半角空格直接转化                  
                inside_code = 12288
            elif inside_code >= 32 and inside_code <= 126:        #半角字符(除空格)根据关系转化
                inside_code += 65248
    
            rstring += unichr(inside_code)
        return rstring
    
    
    
    b = strQ2B("mn123abc博客园".decode('cp936'))                           
    print b
    
    c = strB2Q("mn123abc博客园".decode('cp936'))                           
    print c
    
        

    执行结果

     

    库函数说明

    chr()函数用一个范围在range(256)内的(就是0~255)整数作参数,返回一个对应的字符。
    unichr()跟它一样,只不过返回的是Unicode字符。

    ord()函数是chr()函数(对于8位的ASCII字符串)或unichr()函数(对于Unicode对象)的配对函数,它以一个字符(长度为1的字符串)作为参数,返回对应的ASCII数值,或者Unicode数值。

    案例

  • 相关阅读:
    [工作札记]01: CS系统中分页控件的制作
    【非技术】试占新型肺炎的情况与发展趋势
    给培训学校讲解ORM框架的课件
    SAAS云平台搭建札记: (二) Linux Ubutu下.Net Core整套运行环境的搭建
    SAAS云平台搭建札记: (一) 浅论SAAS多租户自助云服务平台的产品、服务和订单
    开源三维地球GIS引擎Cesium常用功能的开发
    Asp.net管理信息系统中数据统计功能的实现
    [Thrift]学习使用Thrift
    使用Netty实现一下简单RPC
    [Redis]Redis做简单的分布式限流
  • 原文地址:https://www.cnblogs.com/kaituorensheng/p/3554571.html
Copyright © 2020-2023  润新知