#define private public - Claus Brod on software (13 Dec 2004)

topic end
<!--
   * Set TOPICTITLE = #define private public - Claus Brod on software (13 Dec 2004)
   * Set ALLOWTOPICCHANGE = Main.ClausBrod
-->

<style type="text/css">
pre {background-color:#ffeecc;}
</style>

%STARTINCLUDE%
<a name="20041213"></a>

---+++ [[BlogOnSoftware20041213][.NET tut net...]] (13. Dezember 2004)

Auf meine alten Tage befasse ich mich doch tatsächlich auch noch mit solchen Dingen
wie Microsoft .NET. Wenn man mir das während meines Studiums und meiner hyperaktiven
[[http://www.clausbrod.de/atari/atari.html][Atari-Zeit]] prophezeit hätte...

Nun denn. Kommt mir neulich so ein h&auml;&szlig;licher kleiner Käfer entgegen. Und das kam so:
Wenn man Werte vom Typ =bool= aus "managed code" in "unmanaged code" per Marshaling
überträgt, geht das in so richtig großen Stil schief.

Der "managed code" (in C++) stellt einen einfachen Aufruf zur Verf&uuml;gung mit einem
R&uuml;ckgabewert vom Typ =bool=. Vereinfachter Beispielcode:

<pre>
  public __gc __interface IBool {
    bool Foo(void);
  };

  public __gc class Booltest : public IBool 
  {
  public:
    Booltest() {}
    bool Foo(void) { return false; }
  };
</pre>

Diesen Code &uuml;bersetzt man in ein Assembly, und daraus produziert man mittels =regasm=
eine Typenbibliothek (tlb-Datei). Gleichzeitig registriert =regasm= das Assembly; und hinterher
werfen wir das Assembly in den Schlund des GAC. Auszug aus der erzeugten
Typenbibliothek:

<pre>
    interface IBool : IDispatch {
        [id(0x60020000)]
        HRESULT Foo([out, retval] unsigned char* pRetVal);
    };
</pre>

Man beachte, da&szlig; der Typ des R&uuml;ckgabewerts vom =bool= nach =unsigned char=
abge&auml;ndert wurde. Soweit keine &Uuml;berraschung, denn [[http://blogs.msdn.com/adam_nathan/][Nathan]]
erw&auml;hnt in seiner COM-Interop-Bibel, da&szlig; der Marshaling-Typ f&uuml;r Werte vom Typ
=bool= eben =UnmanagedType::U1= ist - also =unsigned char=.

So richtig &uuml;bel wird es aber, wenn ich nun =Foo()= aus einem COM-Client zu rufen versuche.
Der COM-Client erzeugt sich einen "smart pointer" vom Typ =IBoolPtr= und ruft dann =Foo()=:

<pre>
  bool ret = pBool->Foo();
</pre>

Nach diesem Aufruf ist allerdings der Stack besch&auml;digt. L&auml;ft man im Einzelschritt
durch den Code, merkt man, da&szlig; der COM-Client denkt, der R&uuml;ckgabewert sei ein
Byte gross; daher legt er auch nur ein Byte auf dem Stack f&uuml;r die Ergebnisvariable
=ret= an. Der Marshaling-Code allerdings schreibt munter _vier_ Bytes!

Das gleiche passiert, wenn man im "managed code" das Attribut 
=[MarshalAs(<nop>UnmanagedType::U1)]= ausdr&uuml;cklich anwendet. Microsoft beschreibt
im [[http://support.microsoft.com/default.aspx?scid=kb;en-us;823071][Knowledge-Base-Artikel 823071]]
einen m&ouml;glicherweise verwandten Fehler beim Marshaling von <tt>bool</tt>-Werten,
allerdings hilft der vorgeschlagene Hotfix in meinem Fall nicht. &Auml;ndere
ich den Marshaling-Typ auf =U2=, wird's noch lustiger: Dann &uuml;berschreibt
der Marshaler zwar keinen Speicher mehr, r&auml;umt daf&uuml;r aber den Stackpointer
nach dem Aufruf nicht mehr auf!

Hat jemand Ideen?

(Siehe auch http://groups.google.de/groups?hl=de&lr=&threadm=10gd95ifu6uoe9a%40corp.supernews.com.)

PS: Einige Zeit sp&auml;ter hat uns Microsoft best&auml;tigt, da&szlig; das in der Tat
ein Fehler in .NET 1.1 war. .NET 2.0 macht's nun richtig.

---

%STOPINCLUDE%

%COMMENT{type="below" nonotify="on"}%

---
to top
End of topic
Skip to action links | Back to top
You are here: Blog > BlogOnSoftware20041213

r1.1 - 28 Jan 2007 - 22:25 - ClausBrod to top
Blog