• python 过滤四字节字符 表情字符


    项目中有时需要过滤掉四字节以上的字符(表情),比如mysql数据库5.5.3以下的版本text字段不支持四字节以上字符

    于是就需要过滤掉再入库,python中的方法为:

    1.  
      try:
    2.  
      # python UCS-4 build的处理方式
    3.  
      highpoints = re.compile(u'[U00010000-U0010ffff]')
    4.  
      except re.error:
    5.  
      # python UCS-2 build的处理方式
    6.  
      highpoints = re.compile(u'[uD800-uDBFF][uDC00-uDFFF]')
       
      ----------------------------------------------------------------------------------

      后来发现,发现这问题的原因是:UTF-8编码中文的字节通常是3-4字节,Emoji表情是4字节,读写数据库稍不留神就报错!

      哈哈哈哈哈哈发现问题就简单了,目前我们文本分析不需要分析表情包,我决定把它们都删了!

      然后:emoji官网,https://pypi.org/project/emoji/(靠谱的emoji处理库)

      安装 pip install emoji

      清除命令:

      emoji.demojize(str)

  • 相关阅读:
    冒泡排序
    MySql
    利用mybatis-generator自动生成代码
    SQL,HQL,CQL,JPQL了解
    mysql中的约束
    详解CRUD?
    什么是数据库ACID?
    建造者模式(Builder Pattern)
    Java中的设计模式
    java中的排序面试题
  • 原文地址:https://www.cnblogs.com/luyanru66/p/9528118.html
Copyright © 2020-2023  润新知