• 教你如何让数据库支持emoji表情符存储


    From: http://www.cnblogs.com/janehoo/archive/2016/04/06/5359800.html

    一、教你如何让数据库支持emoji表情符存储

    解决方式:更换字符集utf8-->utf8mb4

     上周有开发人员反馈一个问题:前台应用抓取微博信息,每天总有几条数据插入不成功。应用日志显示:  

    java.sql.SQLException: Incorrect string value: 'xF0x9Fx92xAA",...' for column 'raw_json' at row 1, 异常:org.springframework.jdbc.UncategorizedSQLException:  

    其中raw_json字段显示如下:

      由上图可知,插入的字段里面包含emoji表情符。基本可以判定是字符编码的问题。我们的数据库里面使用的是utf8编码,普通的字符串或者表情都是占位3个字节,所以utf8足够用了,但是移动端的表情符号占位是4个字节,普通的utf8就不够用了,为了应对无线互联网的机遇和挑战、避免 emoji 表情符号带来的问题、涉及无线相关的 MySQL 数据库建议都提前采用utf8mb4 字符集,这必须要作为移动互联网行业的一个技术选型的要点。

    utf8与utf8mb4说明:  

    UTF- 8:Unicode Transformation Format-8bit,允许含BOM,但通常不含BOM。是用以解决国际上字符的一种多字节编码,它对英文使用8位(即一个字节),中文使用24为(三个字节)来编码。UTF-8包含全世界所有国家需要用到的字符,是国际编码,通用性强。UTF-8编码的文字可以在各国支持UTF8字符集的浏览器上显示。如果是UTF8编码,则在外国人的英文IE上也能显示中文,他们无需下载IE的中文语言支持包。  

    UTF8MB4:MySQL在5.5.3之后增加了utf8mb4的编码,mb4就是most bytes 4的意思,专门用来兼容四字节的unicode。   

    既然找到了原因就来执行吧.既然只有raw_json列含表情符,就先尝试修改此列的字符集:  

    1
    ALTER TABLE xx_pnl_weibo_usershow  <br>MODIFY ` raw_json` varchar(3000) CHARACTER SET utf8mb4 COLLATE utf8mb4_unicode_ci;

    改完后测试,插入失败。  

    尝试修改表的字符集:  

    1
    alter table xx_pnl_weibo_usershow CHARSET=utf8mb4 ;  (修改表的默认字符集)
    alter table xx_pnl_weibo_usershow CONVERT TO CHARACTER SET utf8mb4 COLLATE utf8mb4_unicode_ci;(修改表和字段的字符集)

    改完后测试,插入失败。  

    修改库级别的字符集 

    1
    2
    3
    4
    5
    6
    7
    8
    vi /etc/my.cnf 
     
    [client]  
    default-character-set=utf8mb4  
    [mysqld]  
    character-set-server = utf8mb4 
      
    service mysqld restart

     改完后测试,插入成功。查看插入的数据:  

    复制代码

    root@localhost zx_prod >select id,raw_json,hex(raw_json),length(raw_json) from  xx_pnl_weibo_usershow where id=2;

    +----+------------------+----------------------------------+---------------------+
    | id | raw_json | hex(raw_json) | length(raw_json) |
    +----+------------------+----------------------------------+---------------------+
    | 2 |  | F09F9894F09F9882F09F9898F09F9894 | 16 |
    +----+------------------+----------------------------------+---------------------+
    1 row in set (0.00 sec)

    复制代码

     

     因为是线上生产业务,需要先在测试环境做好测试工作。避免业务高峰期,线上申请停机窗口操作。

    emoji表情编码参考: 

      http://punchdrunker.github.io/iOSEmoji/table_html/flower.html

  • 相关阅读:
    bootstrap select动态赋值与赋默认值
    json学习
    JsonObject学习遇到的一个奇葩的问题,当value为空时,key不见了
    servlet+jsp实现文件上传,和图片预览
    解决webstorm运行vue项目时不能同步的问题
    webStrom配置less且自动生成.css和自动压缩为.min.css
    怎么升级本地vue版本
    css这一段时间学习中遇到的比较有用,但是容易忘记的属性
    vue.js将unix时间戳转换为自定义时间格式
    文档碎片——createDocumentFragment
  • 原文地址:https://www.cnblogs.com/joeblackzqq/p/7111888.html
Copyright © 2020-2023  润新知