字符编码-带你走出Unicode与UTF-8的误区

Ustinain
• 阅读 2103

字符编码集合

1. ASCII

ASCII(American Standard Code for Information Interchange,美国信息互换标准代码)是基于罗马字母表的一套电脑编码系统,它主要用于显示现代英语和其他西欧语言。它是现今最通用的单字节编码系统,并等同于国际标准ISO 646。

在计算机中,所有的数据在存储和运算时都要使用二进制数表示(因为计算机用高电平和低电平分别表示1和0),例如,像a、b、c、d这样的52个字母(包括大写)、以及0、1等数字还有一些常用的符号(例如、#、@等)在计算机中存*储时也要使用二进制数**来表示,而具体用哪些二进制数字表示哪个符号,当然每个人都可以约定自己的一套(这就叫编码),而大家如果要想互相通信而不造成混乱,那么大家就必须使用相同的编码规则,于是美国有关的标准化组织就出台了ASCII编码,统一规定了上述常用符号用哪些二进制数来表示。 字符编码-带你走出Unicode与UTF-8的误区

大小为一个字节,最多可代表255个符号,美国人发明的时候 对于几个简简单单的英文字母已经够用了,随着计算机普及,像中国、韩国、日本这样的象形文字,255个是远远不够的,光常用汉字都有8000个,一个字节可以代表255,不敢想,于是就有了GB-2312。

GB2312

GB2312又称为GB2312-80字符集,全称为《信息交换用汉字编码字符集·基本集》,由原中国国家标准总局发布,1981年5月1日实施,是中国国家标准的简体中文字符集。它所收录的汉字已经覆盖99.75%的使用频率,基本满足了汉字的计算机处理需要。在中国大陆和新加坡获广泛使用。

Unicode编码

九层之台,起于累土。这样世界性的标准绝不是一蹴而就,必有其坚实的基础,设计原则就是Unicode的一大基础,在《The Unicode Standard Version 6.2 - Core Specification》有提到Unicode的设计原则,

但是这样也不行,GB-2312虽然能包容绝大部分的中文汉字,这没问题,但是别的国家 比如韩国,新加坡,日本等等国家怎么办,他们有他们的专门编码 就像中国的GB-2312一样,那么问题就出现了 比如 4E 2D在GB-2312中表示一个汉字,而同样还是这个编码,却在不同的国家对应的文字不同,所以各种编码的字符互不兼容,相互之间的通信可能由于编码的不同,而导致对方看到的是乱码,这就如中国历史中的大秦统一文字和度量单位之前的华夏文明一样,语言不通、货币不通,交流困难。

时间的车轮滚滚向前,推动着历史的发展,于是Unicode(Universal Coded Character Set)出现了,它对世界上大部分的文字系统进行了整理、编码,形成了一张巨大的文字集,使得计算机能够以更简单的方式来呈现和处理字符,它的目的就是为所有的字符提供统一的编码,任何的平台、系统、设备、应用或者语言都能兼容且无风险使用。

Unicode编码的范围是:0-0xFFFF,可以容纳100多万个符号

UTF-16和UTF-8是Unicode的实现方式

Unicode只是一个符号集,只规定了符号的二进制代码,却没有规定这个二进制代码应该如何存储,于是有了UTF-16和UTF-8 并不是像大众哪有认为,Unicode就是UTF-8,这是不对了,虽然普遍形式是UTF-8,但是UTF-8和UTF-16只是Unicode集合中的一个子集而已

UTF-16

UTF-16是以16位无符号整数为单位,不表示一个字符只有16位,看字符的Unicode编码处于什么范围而定,有可能是2个字节,有可能是4个字节,现在机器上的Unicode编码一般指的就是UTF-16,如果不提UTF-16和UTF-8,只说Unicode的话不能认定是2个字节的,它只是一种符号集,存储方式有UTF-16和UTF-8规定

2个字节看一个存储单元,不满2字节也是使用2字节,超出2字节,也是按2的倍数节字存储,浪费了不少空间,导致网络传输的时候明明4个字节可以传输完的东西 硬是花费了8个字节,于是就有了UTF-8编码。

UTF-8:

Unicode编码(16进制) UTF-8字节流(二进制)
000000-00007F 0xxxxxxx
000080-0007FF 110xxxxx 10xxxxxx
000800-00FFFF 1110xxxx 10xxxxxx 10xxxxxx
01000-10FFFF 11110xxx 10xxxxxx 10xxxxxx 10xxxxxx

比如中国的“中”编码是 E4 B8 AD,对照上面这个范围段, E4 B8 AD 在000800-00FFFF 1110xxxx 10xxxxxx 10xxxxxx范围 转二进制: 原:1110 0100 1011 1000 1010 1101 对比: 1110 (0100)10(1 1000) 10(10 1101)

在UTF-8里括号里的才是有效数据,拿出来转0100 1110 0010 1101 转16进制=4E 2D,按我的思维可以理解为一个解密,4E 2D是Unicode对中国的中唯一标识,在UTF-16中直接存4E 2D,但在UTF-8里就会变长,先看4E 2D属于哪个区间,然后按对应的二进制存储 对比: UTF-16解析方便,拿到数据直接2个字节一砍 ,然后解析就行了,解析快但是可能有3个字节的时候会站4字节的空间,虽然UTF-8也是Unicode编码,但是是变长的,可能是1字节可能是4字节,解析就会麻烦些,如果项目、网络传输的数据流字母居多,是一个字节或俩个字节能存下的,就用UTF-8,1个字节搞定,如果项目、网络传输是中文居多,就用UTF-16,使用UTF-8的话 解析会很麻烦,而且空间也没剩下,可能还会多

UTF-32

对于UTF-16更暴力,不管你是多大数据,直接以4字节为单位存储

BOM (Byte Order Mark)字节顺序标识

在你的文件头部,存储这几个字节,告诉别人是以何种方式存储 UTF-8 EF BB BF
UTF-16LE FF FE 小端存储 UTF-16BE FE FF 大端存储

点赞
收藏
评论区
推荐文章
blmius blmius
3年前
MySQL:[Err] 1292 - Incorrect datetime value: ‘0000-00-00 00:00:00‘ for column ‘CREATE_TIME‘ at row 1
文章目录问题用navicat导入数据时,报错:原因这是因为当前的MySQL不支持datetime为0的情况。解决修改sql\mode:sql\mode:SQLMode定义了MySQL应支持的SQL语法、数据校验等,这样可以更容易地在不同的环境中使用MySQL。全局s
皕杰报表之UUID
​在我们用皕杰报表工具设计填报报表时,如何在新增行里自动增加id呢?能新增整数排序id吗?目前可以在新增行里自动增加id,但只能用uuid函数增加UUID编码,不能新增整数排序id。uuid函数说明:获取一个UUID,可以在填报表中用来创建数据ID语法:uuid()或uuid(sep)参数说明:sep布尔值,生成的uuid中是否包含分隔符'',缺省为
待兔 待兔
4个月前
手写Java HashMap源码
HashMap的使用教程HashMap的使用教程HashMap的使用教程HashMap的使用教程HashMap的使用教程22
Jacquelyn38 Jacquelyn38
3年前
2020年前端实用代码段,为你的工作保驾护航
有空的时候,自己总结了几个代码段,在开发中也经常使用,谢谢。1、使用解构获取json数据let jsonData  id: 1,status: "OK",data: 'a', 'b';let  id, status, data: number   jsonData;console.log(id, status, number )
Stella981 Stella981
3年前
KVM调整cpu和内存
一.修改kvm虚拟机的配置1、virsheditcentos7找到“memory”和“vcpu”标签,将<namecentos7</name<uuid2220a6d1a36a4fbb8523e078b3dfe795</uuid
Wesley13 Wesley13
3年前
mysql设置时区
mysql设置时区mysql\_query("SETtime\_zone'8:00'")ordie('时区设置失败,请联系管理员!');中国在东8区所以加8方法二:selectcount(user\_id)asdevice,CONVERT\_TZ(FROM\_UNIXTIME(reg\_time),'08:00','0
Wesley13 Wesley13
3年前
00:Java简单了解
浅谈Java之概述Java是SUN(StanfordUniversityNetwork),斯坦福大学网络公司)1995年推出的一门高级编程语言。Java是一种面向Internet的编程语言。随着Java技术在web方面的不断成熟,已经成为Web应用程序的首选开发语言。Java是简单易学,完全面向对象,安全可靠,与平台无关的编程语言。
Stella981 Stella981
3年前
Django中Admin中的一些参数配置
设置在列表中显示的字段,id为django模型默认的主键list_display('id','name','sex','profession','email','qq','phone','status','create_time')设置在列表可编辑字段list_editable
Wesley13 Wesley13
3年前
MySQL部分从库上面因为大量的临时表tmp_table造成慢查询
背景描述Time:20190124T00:08:14.70572408:00User@Host:@Id:Schema:sentrymetaLast_errno:0Killed:0Query_time:0.315758Lock_
Python进阶者 Python进阶者
10个月前
Excel中这日期老是出来00:00:00,怎么用Pandas把这个去除
大家好,我是皮皮。一、前言前几天在Python白银交流群【上海新年人】问了一个Pandas数据筛选的问题。问题如下:这日期老是出来00:00:00,怎么把这个去除。二、实现过程后来【论草莓如何成为冻干莓】给了一个思路和代码如下:pd.toexcel之前把这