德尔福 & 印地 & utf8

Question

我在访问 utf8 字符集的网站时遇到问题，例如当我尝试访问此 www 时

Click for example

所有 utf8 字符均未正确编码。这是我的访问例程:

var
  Web     : TIdHTTP;
  Sito    : String;
  hIOHand : TIdSSLIOHandlerSocketOpenSSL;

begin
  Url := TIdURI.URLEncode(Url);


  try
    Web := TIdHTTP.Create(nil);
    hIOHand := TIdSSLIOHandlerSocketOpenSSL.Create(nil);
    hIOHand.DefStringEncoding := IndyTextEncoding_UTF8;
    hIOHand.SSLOptions.SSLVersions := [sslvTLSv1,sslvTLSv1_1,sslvTLSv1_2,sslvSSLv2,sslvSSLv3,sslvSSLv23];
    Web.IOHandler := hIOHand;
    Web.Request.CharSet := 'utf-8';


    Web.Request.UserAgent := INET_USERAGENT;       //Custom user agent string
    Web.RedirectMaximum := INET_REDIRECT_MAX;      //Maximum redirects
    Web.HandleRedirects := INET_REDIRECT_MAX <> 0; //Handle redirects
    Web.ReadTimeOut := INET_TIMEOUT_SECS * 1000;   //Read timeout msec
    try
      Sito := Web.Get(Url);
      Web.Disconnect;
    except
      on e : exception do
        Sito := 'ERR: ' +Url+#32+e.Message;
    end;
  finally
    Web.Free;
    hIOHand.Free;
  end;

我尝试了所有解决方案，但在 Sito var 中我发现始终错误的字符，例如“名称”的正确值是

"name": "Aire d'adhésion du Parc national du Mercantour",

但是在获取指令之后我有

"name": "Aire d'adhésion du Parc national du Mercantour",

你知道我的错误在哪里吗？谢谢大家!

Answer 1

在包括 XE6 的 Delphi 2009+ 中，string 是 UTF-16 编码的 UnicodeString。

您正在使用返回字符串的TIdHTTP.Get()的重载版本。它使用响应报告的任何字符集将发送的文本解码为 UTF-16。如果文本未正确解码，则可能意味着响应未报告正确的字符集。如果使用错误的字符集，文本将无法正确解码。

实际上，有问题的 URL 是发送一个设置为 application/json 的响应 Content-Type header ，而不指定 charset > 完全没有。 application/json 的默认字符集是 UTF-8，但 Indy 不知道这一点，因此它最终使用自己的内部默认值，而不是 UTF-8。这就是为什么当存在非 ASCII 字符时文本无法正确解码的原因。

在这种情况下，如果您知道字符集始终为 UTF-8，则可以选择一些解决方法:

• 您可以通过在 IdGlobal 单元中设置全局 GIdDefaultTextEncoding 变量，将 Indy 的默认字符集设置为 UTF-8:

  GIdDefaultTextEncoding := encUTF8;
  

• 您可以使用 TIdHTTP.OnHeadersAvailable 事件将 TIdHTTP.Response.Charset 属性更改为 'utf-8'如果为空或不正确。

  Web.OnHeadersAvailable := CheckResponseCharset;
  
  ...
  
  procedure TMyClass.CheckResponseCharset(Sender: TObject; AHeaders: TIdHeaderList; var VContinue: Boolean);
  var
    Response: TIdHTTPResponse;
  begin
    Response := TIdHTTP(Sender).Response;
    if IsHeaderMediaType(Response.ContentType, 'application/json') and (Response.Charset = '') then
      Response.Charset := 'utf-8';
    VContinue := True;
  end;
  

• 您可以使用 TIdHTTP.Get() 的其他重载版本来填充输出 TStream，而不是返回 字符串 。使用 TMemoryStream 或 TStringStream，您可以使用 UTF-8 自行解码原始字节:

  MStrm := TMemoryStream.Create;
  try
    Web.Get(Url, MStrm);
    MStrm.Position := 0;
    Sito := ReadStringFromStream(MStrm, IndyTextEncoding_UTF8);
  finally
    SStrm.Free;
  end;
  

  SStrm := TStringStream.Create('', TEncoding.UTF8);
  try
    Web.Get(Url, SStrm);
    Sito := SStrm.DataString;
  finally
    SStrm.Free;
  end;