windows - 在 Win32 GUI 应用程序中使用标准输出 : crashes if I don't have a redirect to file in arguments

Question

我正在构建一个 Win32 GUI 应用程序。在该应用程序中，我使用了一个旨在用于命令行应用程序的 DLL。

假设 Foo.exe 是我的 GUI 应用程序，而 bar() 是 DLL 中的一个函数，它将“hello”打印到标准输出。 Foo.exe 调用 bar()。

如果我从命令行运行 Foo.exe， 重定向 (>)(即 Foo.exe > out.txt)，它将“hello”写入 out .txt 并正常退出(如预期的那样)。

但是，如果我运行 Foo.exe 而不 重定向(从 cmd.exe 或通过在 Windows 资源管理器中双击)，它会在调用 bar() 时崩溃。

如果我在调试器中运行 Foo.exe， 在命令行中使用重定向(通过项目的 VS 属性设置)并调用“GetStdHandle(STD_OUTPUT_HANDLE)”，我会得到一个合理的地址一个 handle 。如果我在命令行中不带重定向调用它，我得到 0。

我需要一些东西来“初始化”标准输出吗？有没有一种方法可以在应用程序启动时设置此重定向？ (重定向到一个文件是最理想的。但是只丢弃 DLL 打印的数据也可以。)

最后，我怀疑这个DLL是通过CRT POSIX-like API写入stdout的，因为它是一个跨平台的DLL。我不知道这是否重要。

我试过使用 CreateFile 创建文件并调用 SetStdHandle，但这似乎不起作用。但是，我可能错误地创建了文件。请参阅下面的代码。

HANDLE hStdOut = GetStdHandle(STD_OUTPUT_HANDLE);
// hStdOut is zero  

HANDLE hFile;
hFile = CreateFile(TEXT("something.txt"),        // name of the write
                   GENERIC_WRITE,               // open for writing
                   0,                           // do not share
                   NULL,                        // default security
                   CREATE_NEW,             // create new file only
                   FILE_ATTRIBUTE_NORMAL,  // normal file
                   NULL);                  // no attr. template
BOOL r = SetStdHandle(STD_OUTPUT_HANDLE, hFile) ;   
hStdOut = GetStdHandle(STD_OUTPUT_HANDLE);
// hStdOut is now equal to hFile, and r is 1

bar();
// crashes if there isn't a redirect in the program arguments

更新:我刚找到这篇文章:http://support.microsoft.com/kb/105305 .它声明“请注意，此代码不纠正句柄 0、1 和 2 的问题。事实上，由于其他复杂情况，无法纠正此问题，因此有必要使用流 I/O 而不是低级 I/O。”

我的 DLL 肯定使用文件句柄 0,1 和 2。所以，这个问题可能没有好的解决方案。

我正在开发一种解决方案来检查这种情况，并使用 CreateProcess 适本地重新启动 exe。完成后我会在这里发布。

Answer 1

我找到的解决方案如下:

• 以某种方式获得一个有效的文件句柄来引导标准输出。让我们调用文件句柄“fh”。(请注意，在 Windows 上，文件句柄与文件描述符不同)
• 使用 _open_osfhandle 将文件描述符关联到文件句柄(详见 http://msdn.microsoft.com/en-us/library/kdfaxaay.aspx)让我们将新文件描述符称为“fd”，一个 int 值。
• 调用 dup2 将 STDOUT_FILENO 关联到给定的文件描述符:dup2(fd, STDOUT_FILENO)
• 创建一个与 stdout 文件描述符关联的文件 strem文件* f = _fdopen(STDOUT_FILENO, "w");
• memset stdout 到 f 的内容:*标准输出 = *f
• 在给定的文件句柄上调用 SetStdHandle:SetStdHandle(STD_OUTPUT_HANDLE, ofh);

请注意，我没有完全测试这个序列，但有些地方略有不同。

不知道有些步骤是不是多余。

无论如何，下面的文章很好地解释了文件句柄、描述符和文件流的概念:

http://dslweb.nwnexus.com/~ast/dload/guicon.htm