项目中有时需要过滤掉四字节以上的字符(表情),比如mysql数据库5.5.3以下的版本text字段不支持四字节以上字符
于是就需要过滤掉再入库,python中的方法为:
-
try:
-
# python UCS-4 build的处理方式
-
highpoints = re.compile(u'[U00010000-U0010ffff]')
-
except re.error:
-
# python UCS-2 build的处理方式
-
highpoints = re.compile(u'[uD800-uDBFF][uDC00-uDFFF]')----------------------------------------------------------------------------------
后来发现,发现这问题的原因是:UTF-8编码中文的字节通常是3-4字节,Emoji表情是4字节,读写数据库稍不留神就报错!
哈哈哈哈哈哈发现问题就简单了,目前我们文本分析不需要分析表情包,我决定把它们都删了!
然后:emoji官网,https://pypi.org/project/emoji/(靠谱的emoji处理库)
安装 pip install emoji
清除命令:
emoji.demojize(str)