-------------------------------------------欢迎查看字符编码【专栏】------------------------------------------------------------------
汉字编码之GBK编码【点击】 推断汉字正則表達式更严谨方法【点击】
记事本输入“联通”俩字。关闭再打开乱码 【点击】 iPhone emoji问题牵出的Unicode代理区的思考【点击】
Unicdoe【真正的完整码表】对比表【点击】 开源projectZipArchive,压缩中文文件名称乱码问题【点击】
base64加密。解密。encode。decode,编码具体解释+实现【点击】
网络传输文本。urlEncode和urldecode的iOS实现【点击】 字符编码的奥秘utf-8, Unicode【点击】
--------------------------------------------------------------------------------------------------------------------------------------------------
一、通常做法
正如网上流传的。推断中文的正則表達式,绝大部分是这么写的(OC语言):
NSPredicate* predicate = [NSPredicate predicateWithFormat:@"SELF MATCHES %@",@"[u4e00-u9fa5]"]; /*推断是否为中文的正則表達式*/ if([predicate evaluateWithObject:name]){ //是中文 }else{ //不是中文 }
然而上面的正則表達式,逻辑上讲并不严谨:比方一些生僻字的Unicode不在0x4e00-0x9FA5之间<点击查看Unicode总编码>,那么它不能正确识别出来:比方一些四叠字:
另外另一些偏旁部首。有时候也会作为一个字出现。可是偏旁部首的Unicode相同不在0x4e00-0x9FA5之间,以下分别举例偏旁部首。叠字:
举几个例:
下载unicode和utf-8的转换工具。下载
如四个日的汉字,执行结果确“不是汉字”
二、原因
(如果你已经了解unicode的编码规则。和编码实现(utf-8);如果不了解。查看 字符编码的奥秘utf-8, Unicode)中国71226个汉字。分别分布在Unicode第0个平面。经常使用27973个,第2个平面43253个。而[u4e00-u9fa5]仅仅是代表了大约20901个汉字。剩余的汉字都在第2个平面(这部分可能是生僻字。非常少使用)。
换句话说:流行的正则仅仅能检測少部分汉字。却能够检測绝大部分经常使用汉字。
三、更严谨的做法
所以。在进行正則表達式的时候须要把第二平面的汉字囊括进去。
更严谨的正則表達式应该是这种:
//注意这是伪代码,不能执行。非常遗憾眼下正則表達式不支持四个字节unicode的表示。
为什么是[uDB40DC00-uDB7FDFFF]:这里须要说名一下utf-16代理区:依据unicode的规则,第0平面是直接utf-8表示。第1到第16平面是通过代理区表示的。
查看这里由iPhone emoji问题牵出的UTF-16编码。UTF-8编码探究——了解utf-8编码和代理区的概念。