彻底搞懂编码 GBK 和 UTF8

常用编码格式一览

首先来看一下常用的编码有哪些,截图自Notepad++。其中ANSI在中国大陆即为GBK(以前是GB2312),最常用的是 GBK 和 UTF8无BOM 编码格式。后面三个都是有BOM头的文本格式,UCS-2即为人们常说的Unicode编码,又分为大端、小端。

所谓BOM头(Byte Order Mark)就是文本文件中开始的几个并不表示任何字符的字节,用二进制编辑器(如bz.exe)就能看到了。

  1. UTF8的BOM头为 0xEF 0xBB 0xBF

  2. Unicode大端模式为 0xFE 0xFF

  3. Unicode小端模式为 0xFF 0xFE


何为GBK,何为GB2312,与区位码有何渊源?

区位码是早些年(1980)中国制定的一个编码标准,如果有玩过小霸王学习机的话,应该会记得有个叫做“区位”的输入法(没记错的话是按F4选择)。就是打四个数字然后就出来汉字了,什么原理呢。请看下面的区位码表,每一个字符都有对应一个编号。其中前两位为“区”,后两位为“位”,中文汉字的编号区号是从16开始的,位号从1开始。前面的区号有一些符号、数字、字母、注音符号(台)、制表符、日文等等。

而GB2312编码就是基于区位码的,用双字节编码表示中文和中文符号。一般编码方式是:0xA0+区号,0xA0+位号。如下表中的 “安”,区位号是1618(十进制),那么“安”字的GB2312编码就是 0xA0+16 0xA0+18 也就是 0xB0 0xB2 。根据区位码表,GB2312的汉字编码范围是0xB0A1~0xF7FE

可能大家注意到了,区位码里有英文和数字,按道理说是不是也应该是双字节的呢。而一般情况下,我们见到的英文和数字是单字节的,以ASCII编码,也就是说现代的GBK编码是兼容ASCII编码的。比如一个数字2,对应的二进制是0x32,而不是 0xA3 0xB2。那么问题来了,0xA3 0xB2 又对应到什么呢?还是2(笑)。注意看了,这里的2跟2是不是有点不太一样?!确实是不一样的。这里的双字节2是全角的二,ASCII的2是半角的二,一般输入法里的切换全角半角就是这里不同。

如果留意过早些年的手机(功能机),会发现人名中常见的“燊”字是打不出来的。为什么呢?因为早期的区位码表里面并没有这些字,也就是说早期的GB2312也是没有这些字的。到后来的GBK(1995)才补充了大量的汉字进去,当然现在的安卓苹果应该都是GBK字库了。再看看这些补充的汉字的字节码 燊 0x9F 0xF6 。和前面说到的GB2312不同,有的字的编码比 0xA0 0xA0 还小,难道新补充的区位号还能是负的??其实不然,这次的补充只补充了计算机编码表,并没有补充区位码表。也就是说区位码表并没有更新,用区位码打字法还是打不出这些字,而网上的反向区位码表查询也只是按照GBK的编码计算,并不代表字与区位号完全对应。时代的发展,区位码表早已经是进入博物馆的东西了。

Big5是与GB2312同时期的一种台湾地区繁体字的编码格式。后来GBK编码的制定,把Big5用的繁体字也包含进来(但编码不兼容),还增加了一些其它的中文字符。细心的朋友可能还会发现,台湾香港用的繁体字(如KTV里的字幕)跟大陆用的繁体字还有点笔画上的不一样,其实这跟编码无关,是字体的不同,大陆一般用的是宋体楷体黑体,港澳台常用的是明体(鸟哥Linux私房菜用的是新細明體)。GBK总体编码范围为0x8140~0xFEFE,首字节在 0x81~0xFE 之间,尾字节在 0x40~0xFE 之间,剔除 xx7F 一条线。详细编码表可以参考这个列表。微软Windows安排给GBK的code page(代码页)是CP936,所以有时候看到编码格式是CP936,其实就是GBK的意思。2000年和2005年,国家又先后两次发布了GB18030编码标准,兼容GBK,新增四字节的编码,但比较少见。

同一个编码文件里,怎么区分ASCII和中文编码呢?从ASCII表我们知道标准ASCII只有128个字符,0~127即0x00~0x7F(0111 1111)。所以区分的方法就是,高字节的最高位为0则为ASCII,为1则为中文。


UTF8编码 与 Unicode编码

GBK是中国标准,只在中国使用,并没有表示大多数其它国家的编码;而各国又陆续推出各自的编码标准,互不兼容,非常不利于全球化发展。于是后来国际组织发行了一个全球统一编码表,把全球各国文字都统一在一个编码标准里,名为Unicode。很多人都很疑惑,到底UTF8与Unicode两者有什么关系?如果要类比的话,UTF8相当于GB2312,Unicode相当于区位码表,不同的是它们之间的编号范围和转换公式。那什么是原始的Unicode编码呢?如果你用过PHP的话,json_encode函数默认会把中文编码成为Unicode,比如“首发于博客园”就会转码成“\u9996\u53d1\u4e8e\u535a\u5ba2\u56ed”。可以看到每个字都变成了 \uXXXX的形式,这个就是文字的对应Unicode编码,\u表示Unicode的意思,现行的Unicode编码标准里,绝大多数程序语言只支持双字节。英文字母、标点也收纳在Unicode编码中。有兴趣的可以在站长工具里尝试“中文转Unicode”,可以得到你输入文字的Unicode编码。

因为英文字符也全部使用双字节,存储成本和流量会大大地增加,所以Unicode编码大多数情况并没有被原始地使用,而是被转换编码成UTF8。下表就是其转换公式:

第一种:Unicode从 0x0000 到 0x007F 范围的,是不是有点熟悉?对,其实就是标准ASCII码里面的内容,所以直接去掉前面那个字节 0x00,使用其第二个字节(与ASCII码相同)作为其编码,即为单字节UTF8。

第二种:Unicode从 0x0080 到 0x07FF 范围的,转换成双字节UTF8。

第三种:Unicode从 0x8000 到 0xFFFF 范围的,转换成三字节UTF8,一般中文都是在这个范围里。

第四种:超过双字节的Unicode目前还没有广泛支持,不做讨论。

例如“博”字的Unicode编码是\u535a。0x535A在0x0800~0xFFFF之间,所以用3字节模板 1110yyyy 10yyyyxx 10xxxxxx。将535A写成二进制是:0101 0011 0101 1010,高八位分别代替y,低八位分别代替x,得到 11100101 10001101 10011010,也就是 0xE58D9A ,这就是博字的UTF8编码。

前面提到,GBK的编码里英文字符有全角和半角之分,全角为GBK的标准编码过的双字节2,半角为ASCII的单字节2。那现在UTF8是全部用一个公式,理论上只有半角的2的,怎么支持全角的2呢?哈哈,结果是Unicode为中国特色的全角英文字符也单独分配了编码,简单粗暴。比如全角的2的Unicode编码是 \uFF12,转换到UTF8就是 0xEFBC92。

文章开头有说到 UCS-2,其实UCS-2就是原始的双字节Unicode编码,用二进制编辑器打开UCS-2大端模式的文本文件,从左往右看,看到的就是每个字符的Unicode编码了。至于什么是大端小端,就是字节的存放顺序不同,这一般是嵌入式编程的范畴。


如何区分一个文本是无BOM的UTF8还是GBK

前面说到的几种编码,其中有的是有BOM头的,可以直接根据BOM头区分出其编码。有两个是没有BOM头的,UTF8和GBK,那么两者怎么区分呢?答案是,只能按大量的编码分析来区分。目前识别准确率很高的有:Notepad++等一些常用的IDE,PHP的mb_系列函数,python的chardet库及其它语言衍生版如jchardet,jschardet 等(请自行github)。


关于ASCII

文中多次提及ASCII编码,其实这应该是每个程序员都非常熟悉、认真了解的东西。对于嵌入式开发的人来说,应该能随时在字符与ASCII码中转换,就像十六进制与二进制之间的转换一样。标准ASCII是128个,范围是0x00~0x7F (0000 0000~0111 0000) ,最高位为0。也有一个扩展ASCII码规则,把最高位也用上了,变成256个,但是这个扩展标准争议很大,没有得到推广,应该以后不会得到推广。因为无论是GBK还是UTF8,如果ASCII字符编码最高位能为1都会造成混乱无法解析。

以GBK为例,如果ASCII的字符最高位也能是1,那么是应该截取一个解析为ASCII呢?还是截取两个解析为中文字符?这根本无法判断。UTF8也是同理,遇到 0xxx 开头则截取一个(即为标准ASCII), 遇到 110x 开头则截取两个,遇到 1110 开头则截取三个,如果ASCII包含1开头的,则无法确定何时截取多少个。


wtuvwlha

2017-09-13 08:36:52
8Nmu2Z <a href="http://vmmariqhsbom.com/">vmmariqhsbom</a>, [url=http://dxluufmqttuk.com/]dxluufmqttuk[/url], [link=http://fuegsfbcxycs.com/]fuegsfbcxycs[/link], http://evmcjfgyopwr.com/

ynsymugbc

2017-09-13 06:10:36
sK2hHV <a href="http://lwdftyladcub.com/">lwdftyladcub</a>, [url=http://gjawkcgxgjmx.com/]gjawkcgxgjmx[/url], [link=http://awlfvqdhgvcv.com/]awlfvqdhgvcv[/link], http://xaxlczqqsmcz.com/

qqbozcqxcy

2017-09-13 04:23:01
4EWaCK <a href="http://mlrecasaxfok.com/">mlrecasaxfok</a>, [url=http://ndnmtaaahtiv.com/]ndnmtaaahtiv[/url], [link=http://fnqxaizidgns.com/]fnqxaizidgns[/link], http://wuquprmrrzeu.com/

bktlqxrmiq

2017-09-13 02:49:07
ErZ19H <a href="http://cbzatoyoxtnl.com/">cbzatoyoxtnl</a>, [url=http://jcploafophnw.com/]jcploafophnw[/url], [link=http://cuuieutpsbni.com/]cuuieutpsbni[/link], http://pjcmadawdusa.com/

zurerqfk

2017-09-13 01:15:05
L5N8fR <a href="http://bnjxpbsmgpxb.com/">bnjxpbsmgpxb</a>, [url=http://rxcqttwfdmar.com/]rxcqttwfdmar[/url], [link=http://idehmgbnnale.com/]idehmgbnnale[/link], http://hkixkalkfnuq.com/

pbqhobqn

2017-08-01 02:45:48
8AlcdE <a href="http://zaybusmmjigg.com/">zaybusmmjigg</a>, [url=http://wxdiioqavvil.com/]wxdiioqavvil[/url], [link=http://gyrkrsaytbuo.com/]gyrkrsaytbuo[/link], http://zbkfxnnhbpvq.com/

tvtrzbkmouc

2017-08-01 00:34:15
BI9Xwd <a href="http://exsqkjdzvcpn.com/">exsqkjdzvcpn</a>, [url=http://gtabdxlhondw.com/]gtabdxlhondw[/url], [link=http://txkddbmicfmb.com/]txkddbmicfmb[/link], http://zjovvgkpdoum.com/

tshvrcdzyok

2017-07-31 22:22:51
mKrICA <a href="http://frzmtpipwezq.com/">frzmtpipwezq</a>, [url=http://cjmortserdbv.com/]cjmortserdbv[/url], [link=http://tuvprmfcukce.com/]tuvprmfcukce[/link], http://pycdrnzpndjt.com/

ojjuoxs

2017-07-10 05:56:57
SSnp2N <a href="http://dbjevrfvdfoz.com/">dbjevrfvdfoz</a>, [url=http://kuqpfresukqz.com/]kuqpfresukqz[/url], [link=http://hkqxfvuksfde.com/]hkqxfvuksfde[/link], http://ehtlpwmiapqe.com/

fvmlavgxslu

2017-07-10 05:07:45
PnYZKk <a href="http://bwezbohvpwao.com/">bwezbohvpwao</a>, [url=http://sqkjnxlkjatd.com/]sqkjnxlkjatd[/url], [link=http://rykgwmsdgwwr.com/]rykgwmsdgwwr[/link], http://prdrrrchomnq.com/

ckmaygkznn

2017-07-10 04:19:43
WXVmwL <a href="http://ojmojjumamaz.com/">ojmojjumamaz</a>, [url=http://tqcovhvccyxb.com/]tqcovhvccyxb[/url], [link=http://zgxnrqnenszw.com/]zgxnrqnenszw[/link], http://dmvludqvbbmp.com/

ezvepkn

2017-07-10 03:31:49
vb3wLx <a href="http://kytvxnhvleax.com/">kytvxnhvleax</a>, [url=http://bvlvroetrnfx.com/]bvlvroetrnfx[/url], [link=http://bmtvnygyuihy.com/]bmtvnygyuihy[/link], http://szvcfkbfyovd.com/

mouadfdhsq

2017-07-10 02:43:48
4nhpzW <a href="http://jwrdxwyowntc.com/">jwrdxwyowntc</a>, [url=http://jbfnpfkznesc.com/]jbfnpfkznesc[/url], [link=http://ukyifqkfqeer.com/]ukyifqkfqeer[/link], http://lorakxskojej.com/

Barnypok

2017-07-08 13:07:36
g0wToF http://www.LnAJ7K8QSpkiStk3sLL0hQP6MO2wQ8gO.com
nickname
content