1.問(wèn)題的起源
每個(gè)國(guó)家（或區(qū)域）都規(guī)定了計(jì)算機(jī)信息交換用的字符編碼集，如美國(guó)的 ASCII，中國(guó)的 GB2312-80，日本的 JIS 等，作為該國(guó)家/區(qū)域內(nèi)信息處理的基礎(chǔ)，有著統(tǒng)一編碼的重要作用。字符編碼集按長(zhǎng)度分為 SBCS（單字節(jié)字符集），DBCS（雙字節(jié)字符集）兩大類。早期的軟件（尤其是操作系統(tǒng)），為了解決本地字符信息的計(jì)算機(jī)處理，出現(xiàn)了各種本地化版本（L10N），為了區(qū)分，引進(jìn)了 LANG，Codepage 等概念。但是由于各個(gè)本地字符集代碼范圍重疊，相互間信息交換困難；軟件各個(gè)本地化版本獨(dú)立維護(hù)成本較高。因此有必要將本地化工作中的共性抽取出來(lái)，作一致處理，將特別的本地化處理內(nèi)容降低到最少。這也就是所謂的國(guó)際化（I18N）。各種語(yǔ)言信息被進(jìn)一步規(guī)范為 Locale 信息。處理的底層字符集變成了幾乎包含了所有字形的 Unicode。
現(xiàn)在大部分具有國(guó)際化特征的軟件核心字符處理都是以 Unicode 為基礎(chǔ)的，在軟件運(yùn)行時(shí)根據(jù)當(dāng)時(shí)的 Locale/Lang/Codepage 設(shè)置確定相應(yīng)的本地字符編碼設(shè)置，并依此處理本地字符。在處理過(guò)程中需要實(shí)現(xiàn) Unicode 和本地字符集的相互轉(zhuǎn)換，甚或以 Unicode 為中間的兩個(gè)不同本地字符集的相互轉(zhuǎn)換。這種方式在網(wǎng)絡(luò)環(huán)境下被進(jìn)一步延伸，任何網(wǎng)絡(luò)兩端的字符信息也需要根據(jù)字符集的設(shè)置轉(zhuǎn)換成可接受的內(nèi)容。
Java 語(yǔ)言內(nèi)部是用 Unicode 表示字符的，遵守 Unicode V2.0。Java 程序無(wú)論是從/往文件系統(tǒng)以字符流讀/寫文件，還是往 URL 連接寫 HTML 信息，或從 URL 連接讀取參數(shù)值，都會(huì)有字符編碼的轉(zhuǎn)換。這樣做雖然增加了編程的復(fù)雜度，容易引起混淆，但卻是符合國(guó)際化的思想的?！ ?
從理論上來(lái)說(shuō)，這些根據(jù)字符集設(shè)置而進(jìn)行的字符轉(zhuǎn)換不應(yīng)該產(chǎn)生太多問(wèn)題。而事實(shí)是由于應(yīng)用程序的實(shí)際運(yùn)行環(huán)境不同，Unicode 和各個(gè)本地字符集的補(bǔ)充、完善，以及系統(tǒng)或應(yīng)用程序?qū)崿F(xiàn)的不規(guī)范，轉(zhuǎn)碼時(shí)出現(xiàn)的問(wèn)題時(shí)時(shí)困擾著程序員和用戶。
2.GB2312-80，GBK，GB18030-2000 漢字字符集
其實(shí)解決 JAVA 程序中的漢字編碼問(wèn)題的方法往往很簡(jiǎn)單，但理解其背后的原因，定位問(wèn)題，還需要了解現(xiàn)有的漢字編碼和編碼轉(zhuǎn)換。
GB2312-80 是在國(guó)內(nèi)計(jì)算機(jī)漢字信息技術(shù)發(fā)展初始階段制定的，其中包含了大部分常用的一、二級(jí)漢字，和 9 區(qū)的符號(hào)。該字符集是幾乎所有的中文系統(tǒng)和國(guó)際化的軟件都支持的中文字符集，這也是最基本的中文字符集。其編碼范圍是高位0xa1－0xfe，低位也是 0xa1-0xfe；漢字從 0xb0a1 開始，結(jié)束于 0xf7fe；
GBK 是 GB2312-80 的擴(kuò)展，是向上兼容的。它包含了 20902 個(gè)漢字，其編碼范圍是 0x8140-0xfefe，剔除高位 0x80 的字位。其所有字符都可以一對(duì)一映射到 Unicode 2.0，也就是說(shuō) JAVA 實(shí)際上提供了 GBK 字符集的支持。這是現(xiàn)階段 Windows 和其它一些中文操作系統(tǒng)的缺省字符集，但并不是所有的國(guó)際化軟件都支持該字符集，感覺是他們并不完全知道 GBK 是怎么回事。值得注意的是它不是國(guó)家標(biāo)準(zhǔn)，而只是規(guī)范。隨著 GB18030-2000國(guó)標(biāo)的發(fā)布，它將在不久的將來(lái)完成它的歷史使命。
GB18030-2000(GBK2K) 在 GBK 的基礎(chǔ)上進(jìn)一步擴(kuò)展了漢字，增加了藏、蒙等少數(shù)民族的字形。GBK2K 從根本上解決了字位不夠，字形不足的問(wèn)題。它有幾個(gè)特點(diǎn)：
●它并沒有確定所有的字形，只是規(guī)定了編碼范圍，留待以后擴(kuò)充。
●編碼是變長(zhǎng)的，其二字節(jié)部分與 GBK 兼容；四字節(jié)部分是擴(kuò)充的字形、字位，其編碼范圍是首字節(jié) 0x81-0xfe、二字節(jié)0x30-0x39、三字節(jié) 0x81-0xfe、四字節(jié)0x30-0x39。
●它的推廣是分階段的，首先要求實(shí)現(xiàn)的是能夠完全映射到 Unicode 3.0 標(biāo)準(zhǔn)的所有字形。
●它是國(guó)家標(biāo)準(zhǔn)，是強(qiáng)制性的。
現(xiàn)在還沒有任何一個(gè)操作系統(tǒng)或軟件實(shí)現(xiàn)了 GBK2K 的支持，這是現(xiàn)階段和將來(lái)漢化的工作內(nèi)容。
3.JSP/Servlet 漢字編碼問(wèn)題及在 WAS 中的解決辦法
3.1 常見的 encoding 問(wèn)題的現(xiàn)象
網(wǎng)上常出現(xiàn)的 JSP/Servlet encoding 問(wèn)題一般都表現(xiàn)在 browser 或應(yīng)用程序端，如:
●瀏覽器中看到的 Jsp/Servlet 頁(yè)面中的漢字怎么都成了 ’?’ ?
●瀏覽器中看到的 Servlet 頁(yè)面中的漢字怎么都成了亂碼？
●JAVA 應(yīng)用程序界面中的漢字怎么都成了方塊？
●Jsp/Servlet 頁(yè)面無(wú)法顯示 GBK 漢字。
●Jsp/Servlet 不能接收 form 提交的漢字。
●JSP/Servlet 數(shù)據(jù)庫(kù)讀寫無(wú)法獲得正確的內(nèi)容。
隱藏在這些問(wèn)題后面的是各種錯(cuò)誤的字符轉(zhuǎn)換和處理（除第3個(gè)外，是因?yàn)?Java font 設(shè)置錯(cuò)誤引起的）。解決類似的字符 encoding 問(wèn)題，需要了解 Jsp/Servlet 的運(yùn)行過(guò)程，檢查可能出現(xiàn)問(wèn)題的各個(gè)點(diǎn)。
3.2 JSP/Servlet web 編程時(shí)的 encoding 問(wèn)題
運(yùn)行于Java 應(yīng)用服務(wù)器的 JSP/Servlet 為 Browser 提供 HTML 內(nèi)容，其過(guò)程如下圖所示：
其中有字符編碼轉(zhuǎn)換的地方有：
a.JSP 編譯。Java 應(yīng)用服務(wù)器將根據(jù) JVM 的 file.encoding 值讀取 JSP 源文件，并轉(zhuǎn)換為內(nèi)部字符編碼進(jìn)行 JSP 編譯，生成 JAVA 源文件，根據(jù) file.encoding 值寫回文件系統(tǒng)。如果當(dāng)前系統(tǒng)語(yǔ)言支持 GBK，那么這時(shí)候不會(huì)出現(xiàn) encoding 問(wèn)題。如果是英文的系統(tǒng)，如 LANG 是 en_US 的 Linux, AIX 或 Solaris，則要將 JVM 的 file.encoding 值置成 GBK 。系統(tǒng)語(yǔ)言如果是 GB2312，則根據(jù)需要，確定要不要設(shè)置 file.encoding，將 file.encoding 設(shè)為 GBK 可以解決潛在的 GBK 字符亂碼問(wèn)題。
b.Java 需要被編譯為 .class 才能在 JVM 中執(zhí)行，這個(gè)過(guò)程存在與a.同樣的 file.encoding 問(wèn)題。從這里開始 servlet 和 jsp 的運(yùn)行就類似了，只不過(guò) Servlet 的編譯不是自動(dòng)進(jìn)行的。
c.Servlet 需要將 HTML 頁(yè)面內(nèi)容轉(zhuǎn)換為 browser 可接受的 encoding 內(nèi)容發(fā)送出去。依賴于各 JAVA App Server 的實(shí)現(xiàn)方式，有的將查詢 Browser 的 accept-charset 和 accept-language 參數(shù)或以其它猜的方式確定 encoding 值，有的則不管。因此 constant-encoding 也許是最好的解決方法。對(duì)于中文網(wǎng)頁(yè)，可在 JSP 或 Servlet 中設(shè)置 contentType="text/html; charset=GB2312"；如果頁(yè)面中有GBK字符，則設(shè)置為contentType="text/html; charset=GBK"，由于IE 和 Netscape對(duì)GBK的支持程度不一樣，作這種設(shè)置時(shí)需要測(cè)試一下。
因?yàn)?6位 JAVA char在網(wǎng)絡(luò)傳送時(shí)高8位會(huì)被丟棄，也為了確保Servlet頁(yè)面中的漢字（包括內(nèi)嵌的和servlet運(yùn)行過(guò)程中得到的）是期望的內(nèi)碼，可以用 PrintWriter out=res.getWriter() 取代 ServletOutputStream out=res.getOutputStream(), PrinterWriter 將根據(jù)contentType中指定的charset作轉(zhuǎn)換(ContentType需在此之前指定！);也可以用OutputStreamWriter封裝 ServletOutputStream 類并用write(String)輸出漢字字符串。
對(duì)于 JSP，JAVA Application Server 應(yīng)當(dāng)能夠確保在這個(gè)階段將嵌入的漢字正確傳送出去。
d.這是 URL 字符 encoding 問(wèn)題。如果通過(guò) get/post 方式從 browser 返回的值中包含漢字信息， servlet 將無(wú)法得到正確的值。SUN的 J2SDK 中，HttpUtils.parseName 在解析參數(shù)時(shí)根本沒有考慮 browser 的語(yǔ)言設(shè)置，而是將得到的值按 byte 方式解析。這是網(wǎng)上討論得最多的 encoding 問(wèn)題。因?yàn)檫@是設(shè)計(jì)缺陷，只能以 bin 方式重新解析得到的字符串；或者以 hack HttpUtils 類的方式解決。參考文章 2、3 均有介紹，不過(guò)最好將其中的中文 encoding GB2312、 CP1381 都改為 GBK，否則遇到 GBK 漢字時(shí)，還是會(huì)有問(wèn)題。
Servlet API 2.3 提供一個(gè)新的函數(shù) HttpServeletRequest.setCharacterEncoding 用于在調(diào)用 request.getParameter(“param_name”) 前指定應(yīng)用程序希望的 encoding，這將有助于徹底解決這個(gè)問(wèn)題。
WebSphere Application Server 對(duì)標(biāo)準(zhǔn)的 Servlet API 2.x 作了擴(kuò)展，提供較好的多語(yǔ)言支持。上述c,d情況，WAS 都要查詢 Browser 的語(yǔ)言設(shè)置，在缺省狀況下zh、zh-cn 等均被映射為 JAVA encoding CP1381（注意：CP1381 只是等同于 GB2312 的一個(gè) codepage，沒有 GBK 支持）。這樣做我想是因?yàn)闊o(wú)法確認(rèn) Browser 運(yùn)行的操作系統(tǒng)是支持GB2312, 還是 GBK，所以取其小。但是實(shí)際的應(yīng)用系統(tǒng)還是要求頁(yè)面中出現(xiàn) GBK 漢字，最著名的是朱總理名字中的“?”(rong2 ，0xe946，\u9555)，所以有時(shí)還是需要將 Encoding/Charset 指定為 GBK。當(dāng)然 WAS 中變更缺省的 encoding 沒有上面說(shuō)的那么麻煩，針對(duì) a,b，參考文章 5 ），在 Application Server 的命令行參數(shù)中指定 -Dfile.encoding=GBK 即可； 針對(duì) d，在 Application Server 的命令行參數(shù)中指定-Ddefault.client.encoding=GBK。如果指定了-Ddefault.client.encoding=GBK，那么c情況下可以不再指定charset。
3.3 數(shù)據(jù)庫(kù)讀寫時(shí)的 encoding 問(wèn)題
JSP/Servlet 編程中經(jīng)常出現(xiàn) encoding 問(wèn)題的另一個(gè)地方是讀寫數(shù)據(jù)庫(kù)中的數(shù)據(jù)。
流行的關(guān)系數(shù)據(jù)庫(kù)系統(tǒng)都支持?jǐn)?shù)據(jù)庫(kù) encoding，也就是說(shuō)在創(chuàng)建數(shù)據(jù)庫(kù)時(shí)可以指定它自己的字符集設(shè)置，數(shù)據(jù)庫(kù)的數(shù)據(jù)以指定的編碼形式存儲(chǔ)。當(dāng)應(yīng)用程序訪問(wèn)數(shù)據(jù)時(shí)，在入口和出口處都會(huì)有 encoding 轉(zhuǎn)換。對(duì)于中文數(shù)據(jù)，應(yīng)當(dāng)保證數(shù)據(jù)的完整性。GB2312，GBK，UTF-8 等都是可選的數(shù)據(jù)庫(kù) encoding；如果選擇 ISO8859-1(8-bit SBCS)，那么應(yīng)用程序在寫數(shù)據(jù)之前須將 16Bit 的一個(gè)漢字或 Unicode 拆分成兩個(gè) 8-bit 的字符，讀數(shù)據(jù)之后則需將兩個(gè)字節(jié)合并起來(lái)，同時(shí)還有判別其中的 SBCS 字符。沒有充分利用數(shù)據(jù)庫(kù) encoding 的作用，反而增加了編程的復(fù)雜度，ISO8859-1不是推薦的數(shù)據(jù)庫(kù) encoding。JSP/Servlet編程時(shí)，可以先用數(shù)據(jù)庫(kù)管理系統(tǒng)提供的功能檢查其中的中文數(shù)據(jù)是否正確。
然后應(yīng)當(dāng)注意的是讀出來(lái)的數(shù)據(jù)的 encoding，JAVA 程序中一般得到的是 Unicode。寫數(shù)據(jù)時(shí)則相反。
3.4 定位問(wèn)題時(shí)常用的技巧
定位中文encoding問(wèn)題通常采用最笨的也是最有效的辦法——在你認(rèn)為有嫌疑的程序處理后打印字符串的內(nèi)碼。通過(guò)打印字符串的內(nèi)碼，你可以發(fā)現(xiàn)什么時(shí)候中文字符被轉(zhuǎn)換成Unicode，什么時(shí)候Unicode被轉(zhuǎn)回中文內(nèi)碼，什么時(shí)候一個(gè)中文字成了兩個(gè) Unicode 字符，什么時(shí)候中文字符串被轉(zhuǎn)成了一串問(wèn)號(hào)，什么時(shí)候中文字符串的高位被截掉了……
取用合適的樣本字符串也有助于區(qū)分問(wèn)題的類型。如：”aa啊aa?aa” 等中英相間、GB、GBK特征字符均有的字符串。一般來(lái)說(shuō)，英文字符無(wú)論怎么轉(zhuǎn)換或處理，都不會(huì)失真（如果遇到了，可以嘗試著增加連續(xù)的英文字母長(zhǎng)度）。
4.結(jié)束語(yǔ)
其實(shí) JSP/Servlet 的中文encoding 并沒有想像的那么復(fù)雜，雖然定位和解決問(wèn)題沒有定規(guī)，各種運(yùn)行環(huán)境也各不盡然，但后面的原理是一樣的。了解字符集的知識(shí)是解決字符問(wèn)題的基礎(chǔ)。不過(guò)，隨著中文字符集的變化，不僅僅是 java 編程，中文信息處理中的問(wèn)題還是會(huì)存在一段時(shí)間的。
