最近在用VC++開發(fā)一個(gè)小工具，平時(shí)用慣了.NET，用起VC++最郁悶的就是字符串處理。當(dāng)然最最讓人難于琢磨的就是字符集，編碼之間的轉(zhuǎn)換。通過這幾天的研究，終于明白了Unicode和UTF-8之間編碼的區(qū)別。Unicode是一個(gè)字符集，而UTF-8是Unicode的其中一種，Unicode是定長(zhǎng)的都為雙字節(jié)，而UTF-8是可變的，對(duì)于漢字來說Unicode占有的字節(jié)比UTF-8占用的字節(jié)少1個(gè)字節(jié)。Unicode為雙字節(jié)，而UTF-8中漢字占三個(gè)字節(jié)。
網(wǎng)魂小兵 http://xdotnet.cnblogs.com
UTF-8編碼字符理論上可以最多到6個(gè)字節(jié)長(zhǎng),然而16位BMP（Basic Multilingual Plane）字符最多只用到3字節(jié)長(zhǎng)。下面看一下UTF-8編碼表：
U-00000000 - U-0000007F: 0xxxxxxx
U-00000080 - U-000007FF: 110xxxxx 10xxxxxx
U-00000800 - U-0000FFFF: 1110xxxx 10xxxxxx 10xxxxxx
U-00010000 - U-001FFFFF: 11110xxx 10xxxxxx 10xxxxxx 10xxxxxx
U-00200000 - U-03FFFFFF: 111110xx 10xxxxxx 10xxxxxx 10xxxxxx 10xxxxxx
U-04000000 - U-7FFFFFFF: 1111110x 10xxxxxx 10xxxxxx 10xxxxxx 10xxxxxx 10xxxxxx
xxx 的位置由字符編碼數(shù)的二進(jìn)制表示的位填入， 越靠右的 x 具有越少的特殊意義，只用最短的那個(gè)足夠表達(dá)一個(gè)字符編碼數(shù)的多字節(jié)串。 注意在多字節(jié)串中, 第一個(gè)字節(jié)的開頭"1"的數(shù)目就是整個(gè)串中字節(jié)的數(shù)目。而第一行中以0開頭，是為了兼容ASCII編碼，為一個(gè)字節(jié)，第二行就為雙字節(jié)字符串，第三行為3字節(jié)，如漢字就屬于這種，以此類推。(個(gè)人認(rèn)為：其實(shí)我們可以簡(jiǎn)單的把前面的1的個(gè)數(shù)看成字節(jié)數(shù))
網(wǎng)魂小兵 http://xdotnet.cnblogs.com
為了要將Unicode轉(zhuǎn)換為UTF-8，當(dāng)然要知道他們的區(qū)別到底在什么地方。下面來看一下，在Unicode中的編碼是怎樣轉(zhuǎn)換成UTF-8的，在UTF-8中，如果一個(gè)字符的字節(jié)小于0x80（128）則為ASCII字符，占一個(gè)字節(jié)，可以不用轉(zhuǎn)換，因?yàn)閁TF-8兼容ASCII編碼。假如在Unicode中漢字“你”的編碼為“u4F60”，把它轉(zhuǎn)換為二進(jìn)制為100111101100000，然后按照UTF-8的方法進(jìn)行轉(zhuǎn)換。可以將Unicode二進(jìn)制從地位往高位取出二進(jìn)制數(shù)字，每次取6位，如上述的二進(jìn)制就可以分別取出為如下所示的格式，前面按格式填補(bǔ)，不足8位用0填補(bǔ)。
unicode: 100111101100000 4F60
utf-8: 11100100,10111101,10100000 E4BDA0
從上面就可以很直觀的看出Unicode到UTF-8之間的轉(zhuǎn)換，當(dāng)然知道了UTF-8的格式后，就可以進(jìn)行逆運(yùn)算，就是按照格式把它在二進(jìn)制中的相應(yīng)位置上取出，然后在轉(zhuǎn)換就是所得到的Unicode字符了（這個(gè)運(yùn)算可以通過“位移”來完成）。
網(wǎng)魂小兵 http://xdotnet.cnblogs.com
如上述的“你”的轉(zhuǎn)換，由于其值大于0x800小于0x10000，因此可以判斷為三字節(jié)存儲(chǔ)，則最高位需要向右移“12”位再根據(jù)三字節(jié)格式的最高位為11100000（0xE0）求或（|）就可以得到最高位的值了。同理第二位則是右移“6”位，則還剩下最高位和第二位的二進(jìn)制值，可以通過與111111（0x3F）求按位于（&）操作，再和11000000（0x80）求或（|）。第三位就不用移位了，只要直接取最后六位（與111111（ox3F）取&），在與11000000(0x80)求或（|）。OK了，轉(zhuǎn)換成功！在VC++中的代碼如下所示（Unicode到UTF-8的轉(zhuǎn)換）。
1 const wchar_t pUnicode = L"你";
2 char utf8[3+1];
3 memset(utf8,0,4);
4 utf8[0] = 0xE0|(pUnicode>>12);
5 utf8[1] = 0x80|((pUnicode>>6)&0x3F);
6 utf8[2] = 0x80|(pUnicode&0x3F);
7 utf8[3] = "\0";
8 //char[4]就是UTF-8的字符“你”了。
當(dāng)然在UTF-8到Unicode的轉(zhuǎn)換也是通過移位等來完成的，就是把UTF-8那些格式相應(yīng)的位置的二進(jìn)制數(shù)給揪出來。在上述例子中“你”為三個(gè)字節(jié)，因此要每個(gè)字節(jié)進(jìn)行處理，有高位到低位進(jìn)行處理。在UTF-8中“你”為11100100,10111101,10100000。從高位起即第一個(gè)字節(jié)11100100就是把其中的"0100"給取出來，這個(gè)很簡(jiǎn)單只要和11111（0x1F）取與（&），由三字節(jié)可以得知最到位肯定位于12位之前，因?yàn)槊看稳×弧Ｋ赃€要將得到的結(jié)果左移12位，最高位也就這樣完成了0100,000000,000000。而第二位則是要把“111101”給取出來，則只需將第二字節(jié)10111101和111111(0x3F)取與（&）。在將所得到的結(jié)果左移6位與最高字節(jié)所得的結(jié)果取或（|），第二位就這樣完成了，得到的結(jié)果為0100,111101,000000。以此類推最后一位直接與111111（0x3F）取與（&），再與前面所得的結(jié)果取或（|）即可得到結(jié)果0100,111101,100000。OK，轉(zhuǎn)換成功！在VC++中的代碼如下所示（UTF-8到Unicode的轉(zhuǎn)換）。
1 //UTF-8格式的字符串
2 const char* utf8 = "你";
3 wchar_t unicode;
4 unicode = (utf8[0] & 0x1F) << 12;
5 unicode |= (utf8[1] & 0x3F) << 6;
6 unicode |= (utf8[2] & 0x3F);
7 //unicode is ok!
網(wǎng)魂小兵 http://xdotnet.cnblogs.com
當(dāng)然在編程過程中不可能只轉(zhuǎn)換一個(gè)字符，這里需要注意的是字符的長(zhǎng)度一定要算清楚，不然會(huì)帶來...以上就是我這幾天研究的結(jié)果，至于Unicode的轉(zhuǎn)換為GB2312在MFC中Windows有自帶的API（WideCharToMultiByte）可以轉(zhuǎn)換。這樣也就能夠?qū)TF-8格式轉(zhuǎn)換為GB2312了，這里就不再贅述，如果大家有更好的方法希望指教。