编码、乱码及Unicode

作者: hello_steam | 来源:发表于2016-08-19 13:56 被阅读101次

在编程领域,我们最常见就是各种编码,最头疼也是各种编码。
utf-8 其实是最容易打交道一种编码类型。 刚开始code的时候,被质问为什么不用utf-8的时候就只能呈现一个大写的懵逼表情。

什么是编码

在久远的计算机设计中,所有的字符编码都是以8bit作为一个byte,一个字节所代表的数字有效值为0~255。所有要表达更大的数值,就只能使用更多的byte。计算机中所有字符(中文、英文、各种符号等)的显示其实都是通过相应的碼表进行映射实现的。
比如我们使用ASCII碼去操作英文大小写字母和英文符号。

编码类型

在ASCII设计时,由于只有各种英文大小写和英文符号,最后ASCII只包含了127个字符。
当中国人接触计算机想要在计算机里看到汉字和中文符号,怎么办呢。继续占用ASCII没用完的位置么,明显是不够用的。于是我们制定了一套新的编码GB2312,但是全世界所有国家的计算机从业人员都会面临一样的问题,比如韩文的Euc-kr,在各种编码里肯定会存在冲突,于是在混合文本里就出现了乱码的情况。

解决方案

那么处理这种问题呢存在了一种大混合的编码,用一种编码包含各种不一样的字符来乱码问题-这就是Unicode
在Unicode中最常用的是用两个字节表示一个字符,但是对于一些非常偏僻的字符,就需要4个字节。现在大部分的操作系统和各种编程语言都是支持Unicode编码的。其实这里还有一个问题就是空间浪费。
对于一篇全是英文的文档使用别的编码比如两个字节表示一个字符的编码方式就会产生极大的空间浪费。所有Unicode支持了可变长编码-utf-8。在utf-8中,最常用的英文字符是一个字节,对于汉字则是三个字节而其余一些特别不常见的字符则设置成立4~6个字节。需要注意的是utf-8其实在运行时效率并不如unicode高,所有一般的编码的工作方式都需要经过一次编码转换:
比如我们写代码的时候,所有的字符都会以Unicode编码读取到内存中,在存储的时候在转换成utf-8,
在浏览网页的时候服务器用的是Unicode,然后转成utf-8传输到浏览器这也是我们为什么网页上经常有<meta charset="UTF-8" />信息的原因。总结一下其实就是子啊计算机内存中,一般用的Unicode编码而在传输或存储的时候转为utf-8文本。

相关文章

  • 编码、乱码及Unicode

    在编程领域,我们最常见就是各种编码,最头疼也是各种编码。utf-8 其实是最容易打交道一种编码类型。 刚开始cod...

  • 编码与解码及乱码解决方案

    编码与解码及乱码解决方案 码表: 注意:Unicode不是一个码表,只是一个规范。 一、编码 编码: 把看得懂的字...

  • python 基础

    Unicode把所有语言都统一到一套编码里,这样就不会再有乱码问题了ASCII编码是1个字节,而Unicode编码...

  • 字符编码:unicode、utf-8、多字节

    笼统点说: unicode编码 unicode编码对所有语言的字符都采用两个字节表示,不会有乱码。 utf-8 u...

  • 国际化,不同语言(中英文)设置不同样式,以及CSS :befor

    注:直接写中文偶尔会出现乱码的问题,所以需要将中文转为unicode 编码如中文冒号 “:”对应unicode编...

  • Python编码问题

    乱码根源: 本地内存中编码方式都是“Unicode”,这是系统自动设定的! 而在本地硬盘(保存到文件中)编码方式,...

  • Unicode编码下用RegQueryValueEx和RegSe

    Unicode编码下用RegQueryValueEx和RegSetValueEx读写注册表乱码问题 我的解决方法是...

  • 2.2 将系统目录信息写入文件

    结果 标题出现乱码是因为使用了Unicode宽编码,但是文件名称是ANSI编码?内容中出现空格(NULL)是因为字...

  • chrome浏览器使用

    设置编码 “自定义及控制”--“更多工具”--“编码”:选择unicode(utf-8),及自动检测 查看源代码及...

  • 关于unicode随笔

    unicode感想总结 unicode是随着全球化的发展,全球网页采用Unicode编码的网站及网页愈来愈多,以及...

网友评论

    本文标题:编码、乱码及Unicode

    本文链接:https://www.haomeiwen.com/subject/aiebsttx.html