• 看透“0”、“1”逻辑,轻松解决Python中文乱码


    Python中关于“中文乱码”的问题,现规整如下,并统一回答

    同学问:
    jacky:我在爬取XX网站信息的时候,中文怎么总是显示的乱码?
    jacky:UTF-8与GBK到底是个啥?
    jacky:我用的是Mac系统,网上说Python3中默认的编码是UTF-8,可我显示中文时怎么还是乱码?

    (一)逻辑导图

    Created with Raphaël 2.1.0Python中为什么会出现乱码?解码与编码方式不一致解码与编码具体方式有哪些?实质是什么?Python乱码问题总结

    (二)基础铺垫

    1.计算机的底层逻辑

    Created with Raphaël 2.1.0生活、交易、娱乐、科学研究,都离不开计算机(广义)。无所不能的计算机是怎样实现其功能的?通过计算机语言编码实现的(Python就是其中之一)。那么语言编码又是怎样构成的?计算机语言是由字母,字符和数字组合而成的,不同的排列组合,构成了不同的语言要素,其排列组合的规则就是编码语言的语法接下来,我们要探讨,这些规则是如何制定的?水印:@数据分析-jacky通过0和1的不同组合,若干个0和1,若干种组合,我们制定了编码语言的不同规则为什么只是0和1的组合?这里的0和1,也只是辅助我们标记计算机规则的标记的是什么?标记电路最底层的两种状态:通电和不通电标记电路最底层的两种状态:通电和不通电计算机底层就是电路,现阶段,人类处理电路可能的办法只能是让它通电,或不通电。人类是多么的伟大仅用0和1,就构建了我们现在这个机器智能的世界

    2.字符编码

    计算机只认二进制的“0”和“1”

    ASCII

    • 这个世界的规则就是谁发起,谁定规则。计算机是美国人发明的,在开发计算机的时候,美国人只考虑到了英文的兼容性,并没有考虑包括中文在内的其他语言。

    • 英语构成计算机最底层的元素就是:26个英语字母,加上特殊字符,加上数字。

    (1)发明计算机时,字符编码使用的是ascii码,包括Python2默认的字符编码就是ascii码(Python3默认使用的是UTF-8,详见下文);

    (2)ascii码为1字节(8位)

    • 8位二进制(例如:01010101)有多少种排列组合? 28 =256种可能

    • 对于英文来说,8位二进制足够用了,所有python2还默认ascii码也不足为奇。

    Unicode(万国码)

    • 全球化和科技共享,让计算机的开发者认识到,要开发一种各国语言都能兼容的编码,就有了unicode,也叫万国码。

    (1)unicode 包含各国所有的语言文件和符号,对于中文来说,8位已经不够用了,unicode规定:一个中文汉字最少用3个字节来表示。

    • 一个字节是8位,1byte=8bit=01010101,一个汉字最少有2的24次方种组合

    (2)Python中可以用bin函数将十进制转化为二进制

    bin(82)
    '0b1010010'  #b表示的R是二进制

    @数据分析-jacky

    (3)万国码的弊端

    • 占内存和硬盘

      • 用英文字母R举例:如何用ascii码表示为’0b1010010’,如何用万国码表示为
        ‘000000000b1010010’,因为万国码,最少是2个字节,与ascii相比,万国码白白浪费了1个字节的空间。
    • 针对unicode的弊端,如今的开发者,又对unicode进行了精简,开发了UTF-8编码

    (4)特别说明(读完下文在回来看,就好理解了)

    • Unicode是Python的内部编码,也是编码和解码的中间编码。

    UTF-8编码

    • UTF-8编码是对unicode 的一个再加工
      • 对unicode 的编码进行了划分和整理,用8位的就划分为用8位的,不额外在用空间
    • 规则:
      • 英文:8位
      • 欧洲:16位
      • 中文:24位
    • 特别说明:在Unicode编码方式下,才存在 utf-8,utf-16,utf-32的编码方式,这句话对于解释下文的解码与编码特别重要

    GBK编码

    UTF-8 GBK(@数据分析-jacky)
    外国人开发 中国人开发
    外国人看不会乱码 外国人看会乱码
    一个汉字占3个字节 一个汉字占2个字节

    (三)编码与解码

    1、基础内容

    编码:将字符转化为二进制字节的过程
    解码:将二进制字节转化为字符的过程

    Created with Raphaël 2.1.0字符字符二进制字节二进制字节编码(字符转化为字节的过程)可逆过程解码
    Created with Raphaël 2.1.0UTF-8|GBKUTF-8|GBKUnicode中间编码Unicode中间编码encode 编码可逆decode 解码

    2、解码和编码的实现方法

    (1) 基本逻辑

    字符串在Python内部的表示是Unicode编码。
    因此在做编码转换时,通常需要以Unicode作为中间编码,即先将其他编码的字符串解码(decode)成Unicode,再从Unicode编码(encode)成另一种编码。

    (2) encode与decode

    decode的作用是将其他编码的字符串转换成Unicode编码,如str1.decode(‘gbk’),表示将gbk编码的字符串str1转换成Unicode编码;
    encode的作用是将Unicode编码转换成其他编码的字符串,如str2.encode(‘UTF-8’),表示将Unicode编码的字符串str2转换成UTF-8编码

    因此,使用Python转码的时候一定要先搞明白,字符串str是什么编码,然后decode成Unicode,然后再encode成其他编码。

    特别注意:

    • 如果一个字符串已经是unicode了,再进行解码则将出错,因此通常要对其编码方式是否为unicode进行判断:

    • 用非unicode编码形式的string来encode也会报错

    (3)支持字符串类型的两种数据模型

    python编码有两种数据模型来支持字符串类型 :

    • 一种是str ;
    • 一种是unicode

    (四)解决Python乱码的思路

    Created with Raphaël 2.1.0乱码?Unicode中转码我们需要的编码方式

    代码的实现方式:

    decode()->unicode->encode转化为需要的格式

    实战案例:

    content为从文件中读取的gbk编码的内容,我们通过以上方法输出该内容。

    content.decode('gbk').encode('utf-8') 
    • decode方法将content内容转为unicode格式
    • encode方法将unicode格式的数据转化为自己所需要的编码方式。

    (五)数据科学领域需注意的问题

    作为数据分析(挖掘)师,python与数据库的关联是最常见的,我们用python连接数据库后,将数据写到数据库里的中文有时会是乱码

    解决办法是在python文件中加上这样几句话:

    conn.set_character_set('utf8')
    cur.execute('SET CHARACTER SET utf8')
    cur.execute('SET character_set_connection=utf8')
    • conn是数据库的connection,cur是connection的光标cursor
  • 相关阅读:
    [SDOI2011]消防
    10.15 上午 考试
    松鼠搬家 ( 切比雪夫距离 到 曼哈顿距离 )
    10.14 上午 考试
    10.13 下午
    bzoj2640 元素 线性基+贪心
    猪国杀 大模拟
    10.13 上午 考试
    10.12 两次考试
    阿狸和桃子的游戏
  • 原文地址:https://www.cnblogs.com/shujufenxi/p/9054453.html
Copyright © 2020-2023  润新知