[KERNEL32]: While working on the CMAKE branch, Amine and myself discovered a rather...
authorSir Richard <sir_richard@svn.reactos.org>
Sat, 7 Aug 2010 05:02:58 +0000 (05:02 +0000)
committerSir Richard <sir_richard@svn.reactos.org>
Sat, 7 Aug 2010 05:02:58 +0000 (05:02 +0000)
commite4d5c13a6bdf5eac48d88b72687867abe96ab64f
tree49d30f1f4410509a0eb1dbfd5668152b6160a37d
parent9ce4714f6bdc88df246f9007a5a7eea95291410f
[KERNEL32]: While working on the CMAKE branch, Amine and myself discovered a rather serious issue in kernel32 (and perhaps other libraries as well). Unlike rbuild, CMake does not allow you to export non-existant DLL functions (try it: add "poopyhead" in kernel32's exports under RBuild, and will it export "poopyhead", God knowing what that will actually link to).
            As an additional feature on top of the "allow non-existing functions to be exported" "feature", because rbuild generates and links STDCALL function names without the proper decoration (vs. enforcing decoration at linking, but only removing it at export-time), this allows the definition (as an export) of a STDCALL function that is completely different from the actual function itself.
            For example, the 5-parameter Foo function is normally Foo@20, while the 3-parameter Foo function woudl be Foo@12. Linking one against the other would fail (say, 2 parameters were added to Foo in a newer version). However, under RBUILD, both of these would appear as "Foo", and the linker/compiler would happilly connect the caller of Foo@3 (that has pushed 3 parameters) to the receiving side of Foo@5 (that is about to pop 5 parameters).
            Even -if- decorations WERE to be applied, Foo@12 would STILL succeed, because of the first feature, which would enable the export of Foo@12 even though no such function exist.
            In a further, bizare, twist of fate, the behavior of this RBUILD "feature", when the target function is not found, is to link the exported DLL TO ITSELF.
            Therefore, one can see how, previously to this patch, kernel32.dll would import a dozen functions from itself (all the non-existing functions).
            To really seal the deal, the behavior of exported functions used by kernel32, but that are actually forwarded to another DLL deserves a special mention.
            GetLastError, for example, merely forwards to RtlGetLastWin32Error, so it is normal behavior to use a #define in the C code so that all internal calls to the function are routed correctly.
            This did not happen, so instead, kernel32 tried importing/linking/exporting GetLastError, but this symbol is not found in the binary, because it is only a forwarder.
            This caused kernel32 to import from itself (the behavior when an exported symbol is not found). When importing from itself, the loader would now find the _forwarded_ for GetLastError, and correctly link with ntdll.
            What should be a one-liner of assembly (inline TEB access) thus became a triple-call indirection (GetLastError@0->StubLastError@0->__impGetLastError@0->__impRtlGetLastWin32Error->RtlGetLastWin32Error.
            While analyzing these issues, we also realized a strange macro SetLastErrorByStatus that manually tried to perform what there already exists a function for: RtlSetLastNtStatusFromWin32Error.
    And, in an exciting coda, we also realized that our Server 2003 Kernel32 exports more than a dozen Windows 95 APIs, through an auto-stub generation mechanism within winebuild, that gets linked as an object behind the scenes.
[KERNEL32]: Removed all Win95 exports, cleaned up exports.
[KERNEL32]: Fixed up set/get error macros by making them inline and/or calling the correct ntdll function.
[KERNEL32]: Removed bizare calls to Wine-internal/specific APIs from our core Win32 DLL.
[KERNEL32]: Wrote stubs for all functions which should be exported, and set the correct number of parameters for them.
[KERNEL32]: Kernel32 is smaller, loads faster, does not export Windows 95 functions, does not export non-existing functions, and does not import from itself anymore.
Note: This is one of the many failings of RBUILD the CMAKE system has helped us discover. I believe these issues are serious enough to warrant an immediate sync with trunk, but rest assured, there are many more completely broken, infinitely-regressing things that we discovered while switching to CMAKE.

svn path=/trunk/; revision=48475
33 files changed:
reactos/dll/win32/kernel32/file/backup.c
reactos/dll/win32/kernel32/file/bintype.c
reactos/dll/win32/kernel32/file/cnotify.c
reactos/dll/win32/kernel32/file/copy.c
reactos/dll/win32/kernel32/file/create.c
reactos/dll/win32/kernel32/file/curdir.c
reactos/dll/win32/kernel32/file/delete.c
reactos/dll/win32/kernel32/file/dir.c
reactos/dll/win32/kernel32/file/dosdev.c
reactos/dll/win32/kernel32/file/file.c
reactos/dll/win32/kernel32/file/find.c
reactos/dll/win32/kernel32/file/hardlink.c
reactos/dll/win32/kernel32/file/iocompl.c
reactos/dll/win32/kernel32/file/lfile.c
reactos/dll/win32/kernel32/file/lock.c
reactos/dll/win32/kernel32/file/mailslot.c
reactos/dll/win32/kernel32/file/move.c
reactos/dll/win32/kernel32/file/npipe.c
reactos/dll/win32/kernel32/file/pipe.c
reactos/dll/win32/kernel32/file/rw.c
reactos/dll/win32/kernel32/file/tape.c
reactos/dll/win32/kernel32/file/volume.c
reactos/dll/win32/kernel32/include/kernel32.h
reactos/dll/win32/kernel32/kernel32.def [new file with mode: 0644]
reactos/dll/win32/kernel32/kernel32.pspec [deleted file]
reactos/dll/win32/kernel32/kernel32.rbuild
reactos/dll/win32/kernel32/misc/actctx.c
reactos/dll/win32/kernel32/misc/console.c
reactos/dll/win32/kernel32/misc/format_msg.c
reactos/dll/win32/kernel32/misc/lcformat.c
reactos/dll/win32/kernel32/misc/stubs.c
reactos/dll/win32/kernel32/misc/version.c
reactos/dll/win32/kernel32/process/session.c