<!DOCTYPE HTML PUBLIC "-//W3C//DTD HTML 4.0 Transitional//EN">
<HTML xmlns="http://www.w3.org/TR/REC-html40" xmlns:v = 
"urn:schemas-microsoft-com:vml" xmlns:o = 
"urn:schemas-microsoft-com:office:office" xmlns:w = 
"urn:schemas-microsoft-com:office:word" xmlns:st1 = 
"urn:schemas-microsoft-com:office:smarttags"><HEAD>
<META http-equiv=Content-Type content="text/html; charset=us-ascii">
<META content="MSHTML 6.00.6000.16587" name=GENERATOR><!--[if !mso]>
<STYLE>v\:* {
        BEHAVIOR: url(#default#VML)
}
o\:* {
        BEHAVIOR: url(#default#VML)
}
w\:* {
        BEHAVIOR: url(#default#VML)
}
.shape {
        BEHAVIOR: url(#default#VML)
}
</STYLE>
<![endif]--><o:SmartTagType name="place" 
namespaceuri="urn:schemas-microsoft-com:office:smarttags"></o:SmartTagType><o:SmartTagType 
name="State" 
namespaceuri="urn:schemas-microsoft-com:office:smarttags"></o:SmartTagType><!--[if !mso]>
<STYLE>st1\:* {
        BEHAVIOR: url(#default#ieooui)
}
</STYLE>
<![endif]-->
<STYLE>@font-face {
        font-family: Tahoma;
}
@page Section1 {size: 8.5in 11.0in; margin: 1.0in 77.95pt 1.0in 77.95pt; }
P.MsoNormal {
        FONT-SIZE: 12pt; MARGIN: 0in 0in 0pt; FONT-FAMILY: "Times New Roman"
}
LI.MsoNormal {
        FONT-SIZE: 12pt; MARGIN: 0in 0in 0pt; FONT-FAMILY: "Times New Roman"
}
DIV.MsoNormal {
        FONT-SIZE: 12pt; MARGIN: 0in 0in 0pt; FONT-FAMILY: "Times New Roman"
}
A:link {
        COLOR: blue; TEXT-DECORATION: underline
}
SPAN.MsoHyperlink {
        COLOR: blue; TEXT-DECORATION: underline
}
A:visited {
        COLOR: purple; TEXT-DECORATION: underline
}
SPAN.MsoHyperlinkFollowed {
        COLOR: purple; TEXT-DECORATION: underline
}
P.MsoPlainText {
        FONT-SIZE: 10pt; MARGIN: 0in 0in 0pt; FONT-FAMILY: "Courier New"
}
LI.MsoPlainText {
        FONT-SIZE: 10pt; MARGIN: 0in 0in 0pt; FONT-FAMILY: "Courier New"
}
DIV.MsoPlainText {
        FONT-SIZE: 10pt; MARGIN: 0in 0in 0pt; FONT-FAMILY: "Courier New"
}
SPAN.EmailStyle18 {
        COLOR: navy; FONT-FAMILY: Arial; mso-style-type: personal-reply
}
DIV.Section1 {
        page: Section1
}
OL {
        MARGIN-BOTTOM: 0in
}
UL {
        MARGIN-BOTTOM: 0in
}
</STYLE>
</HEAD>
<BODY lang=EN-US vLink=purple link=blue>
<DIV><SPAN class=374490017-15102008><FONT face=Arial color=#0000ff size=2>Can 
you please send us the program that you have been using?</FONT></SPAN></DIV>
<DIV><SPAN class=374490017-15102008><FONT face=Arial color=#0000ff 
size=2></FONT></SPAN> </DIV>
<DIV><SPAN class=374490017-15102008><FONT face=Arial color=#0000ff 
size=2>Thanks</FONT></SPAN></DIV>
<DIV><SPAN class=374490017-15102008><FONT face=Arial color=#0000ff 
size=2>Tzachi</FONT></SPAN></DIV><BR>
<BLOCKQUOTE dir=ltr 
style="PADDING-LEFT: 5px; MARGIN-LEFT: 5px; BORDER-LEFT: #0000ff 2px solid; MARGIN-RIGHT: 0px">
  <DIV class=OutlookMessageHeader lang=en-us dir=ltr align=left>
  <HR tabIndex=-1>
  <FONT face=Tahoma size=2><B>From:</B> ofw-bounces@lists.openfabrics.org 
  [mailto:ofw-bounces@lists.openfabrics.org] <B>On Behalf Of </B>James 
  Yang<BR><B>Sent:</B> Wednesday, October 15, 2008 4:05 AM<BR><B>To:</B> James 
  Yang; ofw@lists.openfabrics.org<BR><B>Subject:</B> RE: [ofw] Disconnection 
  problem and AL reference<BR></FONT><BR></DIV>
  <DIV></DIV>
  <DIV class=Section1>
  <P class=MsoNormal><FONT face=Arial color=navy size=2><SPAN 
  style="FONT-SIZE: 10pt; COLOR: navy; FONT-FAMILY: Arial">Also there is an 
  error message from windbg:<o:p></o:p></SPAN></FONT></P>
  <P class=MsoNormal><FONT face=Arial color=navy size=2><SPAN 
  style="FONT-SIZE: 10pt; COLOR: navy; FONT-FAMILY: Arial"><o:p> </o:p></SPAN></FONT></P>
  <P class=MsoNormal><FONT face=Arial color=navy size=2><SPAN 
  style="FONT-SIZE: 10pt; COLOR: navy; FONT-FAMILY: Arial">[MLX4_HCA] 
  mlnx_query_ca() :***ERROR***  ib_query_device failed 
  (-16)<o:p></o:p></SPAN></FONT></P>
  <P class=MsoNormal><FONT face=Arial color=navy size=2><SPAN 
  style="FONT-SIZE: 10pt; COLOR: navy; FONT-FAMILY: Arial"><o:p> </o:p></SPAN></FONT></P>
  <P class=MsoNormal><FONT face=Arial color=navy size=2><SPAN 
  style="FONT-SIZE: 10pt; COLOR: navy; FONT-FAMILY: Arial">What’s does this 
  mean? I think the ca handle we opened never got destroyed after we close 
  it.<o:p></o:p></SPAN></FONT></P>
  <P class=MsoNormal><FONT face=Arial color=navy size=2><SPAN 
  style="FONT-SIZE: 10pt; COLOR: navy; FONT-FAMILY: Arial"><o:p> </o:p></SPAN></FONT></P>
  <P class=MsoNormal><FONT face=Arial color=navy size=2><SPAN 
  style="FONT-SIZE: 10pt; COLOR: navy; FONT-FAMILY: Arial">Thanks,<o:p></o:p></SPAN></FONT></P>
  <P class=MsoNormal><FONT face=Arial color=navy size=2><SPAN 
  style="FONT-SIZE: 10pt; COLOR: navy; FONT-FAMILY: Arial">James<o:p></o:p></SPAN></FONT></P>
  <P class=MsoNormal><FONT face=Arial color=navy size=2><SPAN 
  style="FONT-SIZE: 10pt; COLOR: navy; FONT-FAMILY: Arial"><o:p> </o:p></SPAN></FONT></P>
  <DIV>
  <DIV class=MsoNormal style="TEXT-ALIGN: center" align=center><FONT 
  face="Times New Roman" size=3><SPAN style="FONT-SIZE: 12pt">
  <HR tabIndex=-1 align=center width="100%" SIZE=2>
  </SPAN></FONT></DIV>
  <P class=MsoNormal><B><FONT face=Tahoma size=2><SPAN 
  style="FONT-WEIGHT: bold; FONT-SIZE: 10pt; FONT-FAMILY: Tahoma">From:</SPAN></FONT></B><FONT 
  face=Tahoma size=2><SPAN style="FONT-SIZE: 10pt; FONT-FAMILY: Tahoma"> 
  ofw-bounces@lists.openfabrics.org [mailto:ofw-bounces@lists.openfabrics.org] 
  <B><SPAN style="FONT-WEIGHT: bold">On Behalf Of </SPAN></B>James 
  Yang<BR><B><SPAN style="FONT-WEIGHT: bold">Sent:</SPAN></B> Tuesday, October 
  14, 2008 3:02 PM<BR><B><SPAN style="FONT-WEIGHT: bold">To:</SPAN></B> 
  ofw@lists.openfabrics.org<BR><B><SPAN 
  style="FONT-WEIGHT: bold">Subject:</SPAN></B> [ofw] Disconnection problem and 
  <st1:State w:st="on"><st1:place w:st="on">AL</st1:place></st1:State> 
  reference</SPAN></FONT><o:p></o:p></P></DIV>
  <P class=MsoNormal><FONT face="Times New Roman" size=3><SPAN 
  style="FONT-SIZE: 12pt"><o:p> </o:p></SPAN></FONT></P>
  <P class=MsoPlainText><FONT face="Courier New" size=2><SPAN 
  style="FONT-SIZE: 10pt">Hi,<o:p></o:p></SPAN></FONT></P>
  <P class=MsoPlainText><FONT face="Courier New" size=2><SPAN 
  style="FONT-SIZE: 10pt"><o:p> </o:p></SPAN></FONT></P>
  <P class=MsoPlainText><FONT face="Courier New" size=2><SPAN 
  style="FONT-SIZE: 10pt">Our driver product is based on WinOF1.1. Recently I 
  saw a problem that Windows cannot shut down. The procedure and observation are 
  as follows:<o:p></o:p></SPAN></FONT></P>
  <P class=MsoPlainText><FONT face="Courier New" size=2><SPAN 
  style="FONT-SIZE: 10pt"><o:p> </o:p></SPAN></FONT></P>
  <P class=MsoPlainText><FONT face="Courier New" size=2><SPAN 
  style="FONT-SIZE: 10pt">Install the driver, when there is still some traffic 
  going on, reboot the system.<o:p></o:p></SPAN></FONT></P>
  <P class=MsoPlainText><FONT face="Courier New" size=2><SPAN 
  style="FONT-SIZE: 10pt"><o:p> </o:p></SPAN></FONT></P>
  <P class=MsoPlainText><FONT face="Courier New" size=2><SPAN 
  style="FONT-SIZE: 10pt">We do the following in our driver, and everything 
  seems working until reboot.<o:p></o:p></SPAN></FONT></P>
  <P class=MsoPlainText><FONT face="Courier New" size=2><SPAN 
  style="FONT-SIZE: 10pt"><o:p> </o:p></SPAN></FONT></P>
  <P class=MsoPlainText 
  style="MARGIN-LEFT: 1in; TEXT-INDENT: -0.25in; mso-list: l0 level1 lfo2"><![if !supportLists]><FONT 
  face=Symbol size=2><SPAN style="FONT-SIZE: 10pt; FONT-FAMILY: Symbol"><SPAN 
  style="mso-list: Ignore">·<FONT face="Times New Roman" size=1><SPAN 
  style="FONT: 7pt 'Times New Roman'">         
  </SPAN></FONT></SPAN></SPAN></FONT><![endif]>create_cq() :   one 
  receive queue and one send queue, and set the callback function<o:p></o:p></P>
  <P class=MsoPlainText style="MARGIN-LEFT: 0.5in"><FONT face="Courier New" 
  size=2><SPAN style="FONT-SIZE: 10pt"><o:p> </o:p></SPAN></FONT></P>
  <P class=MsoPlainText 
  style="MARGIN-LEFT: 1in; TEXT-INDENT: -0.25in; mso-list: l0 level1 lfo2"><![if !supportLists]><FONT 
  face=Symbol size=2><SPAN style="FONT-SIZE: 10pt; FONT-FAMILY: Symbol"><SPAN 
  style="mso-list: Ignore">·<FONT face="Times New Roman" size=1><SPAN 
  style="FONT: 7pt 'Times New Roman'">         
  </SPAN></FONT></SPAN></SPAN></FONT><![endif]>create_qp() with the above 
  created queues, and set init state IB_QPS_INIT<o:p></o:p></P>
  <P class=MsoPlainText style="MARGIN-LEFT: 0.5in"><FONT face="Courier New" 
  size=2><SPAN style="FONT-SIZE: 10pt"><o:p> </o:p></SPAN></FONT></P>
  <P class=MsoPlainText 
  style="MARGIN-LEFT: 1in; TEXT-INDENT: -0.25in; mso-list: l0 level1 lfo2"><![if !supportLists]><FONT 
  face=Symbol size=2><SPAN style="FONT-SIZE: 10pt; FONT-FAMILY: Symbol"><SPAN 
  style="mso-list: Ignore">·<FONT face="Times New Roman" size=1><SPAN 
  style="FONT: 7pt 'Times New Roman'">         
  </SPAN></FONT></SPAN></SPAN></FONT><![endif]>cm_req() with the QP and correct 
  connection path<o:p></o:p></P>
  <P class=MsoPlainText style="MARGIN-LEFT: 0.5in"><FONT face="Courier New" 
  size=2><SPAN style="FONT-SIZE: 10pt"><o:p> </o:p></SPAN></FONT></P>
  <P class=MsoPlainText 
  style="MARGIN-LEFT: 1in; TEXT-INDENT: -0.25in; mso-list: l0 level1 lfo2"><![if !supportLists]><FONT 
  face=Symbol size=2><SPAN style="FONT-SIZE: 10pt; FONT-FAMILY: Symbol"><SPAN 
  style="mso-list: Ignore">·<FONT face="Times New Roman" size=1><SPAN 
  style="FONT: 7pt 'Times New Roman'">         
  </SPAN></FONT></SPAN></SPAN></FONT><![endif]>post_recv() with 100 package 
  buffer for receiving data<o:p></o:p></P>
  <P class=MsoPlainText style="MARGIN-LEFT: 0.5in"><FONT face="Courier New" 
  size=2><SPAN style="FONT-SIZE: 10pt"><o:p> </o:p></SPAN></FONT></P>
  <P class=MsoPlainText 
  style="MARGIN-LEFT: 1in; TEXT-INDENT: -0.25in; mso-list: l0 level1 lfo2"><![if !supportLists]><FONT 
  face=Symbol size=2><SPAN style="FONT-SIZE: 10pt; FONT-FAMILY: Symbol"><SPAN 
  style="mso-list: Ignore">·<FONT face="Times New Roman" size=1><SPAN 
  style="FONT: 7pt 'Times New Roman'">         
  </SPAN></FONT></SPAN></SPAN></FONT><![endif]>post_send() when 
  necessary<o:p></o:p></P>
  <P class=MsoPlainText><FONT face="Courier New" size=2><SPAN 
  style="FONT-SIZE: 10pt"><o:p> </o:p></SPAN></FONT></P>
  <P class=MsoPlainText><FONT face="Courier New" size=2><SPAN 
  style="FONT-SIZE: 10pt"> <o:p></o:p></SPAN></FONT></P>
  <P class=MsoPlainText><FONT face="Courier New" size=2><SPAN 
  style="FONT-SIZE: 10pt">Receive and send are fine with the respective callback 
  invoked, whenever there is data activity.<o:p></o:p></SPAN></FONT></P>
  <P class=MsoPlainText><FONT face="Courier New" size=2><SPAN 
  style="FONT-SIZE: 10pt"><o:p> </o:p></SPAN></FONT></P>
  <P class=MsoPlainText><FONT face="Courier New" size=2><SPAN 
  style="FONT-SIZE: 10pt">At certain point during shutdown, when we try to do 
  cm_dreq() to initialize a disconnecting, the 100 receiving workitems are never 
  being released, callback functions are never being called. If we continue to 
  destroy QP, the final result is IB stack can’t do its clean up work because it 
  still holds some extra reference counter. Message similar to the following 
  line shows up in debug version:<o:p></o:p></SPAN></FONT></P>
  <P class=MsoPlainText><FONT face="Courier New" size=2><SPAN 
  style="FONT-SIZE: 10pt"><o:p> </o:p></SPAN></FONT></P>
  <P class=MsoPlainText><FONT face="Courier New" size=2><SPAN 
  style="FONT-SIZE: 10pt">[<st1:State w:st="on">AL</st1:State>]print_al_obj() 
  !ERROR!: <st1:place w:st="on"><st1:State w:st="on">AL</st1:State></st1:place> 
  object fffffadf379c8280(AL_OBJ_TYPE_H_AL),<o:p></o:p></SPAN></FONT></P>
  <P class=MsoPlainText><FONT face="Courier New" size=2><SPAN 
  style="FONT-SIZE: 10pt"><o:p> </o:p></SPAN></FONT></P>
  <P class=MsoPlainText><FONT face="Courier New" size=2><SPAN 
  style="FONT-SIZE: 10pt"><o:p> </o:p></SPAN></FONT></P>
  <P class=MsoPlainText><FONT face="Courier New" size=2><SPAN 
  style="FONT-SIZE: 10pt">It seems the <st1:place w:st="on"><st1:State 
  w:st="on">AL</st1:State></st1:place> handle we open can’t be destroyed. But I 
  doubt maybe we already are in a bad state before 
  that.<o:p></o:p></SPAN></FONT></P>
  <P class=MsoPlainText><FONT face="Courier New" size=2><SPAN 
  style="FONT-SIZE: 10pt"><o:p> </o:p></SPAN></FONT></P>
  <P class=MsoPlainText><FONT face="Courier New" size=2><SPAN 
  style="FONT-SIZE: 10pt">Winddbg stack, this is on x64 Win2003 
  server:<o:p></o:p></SPAN></FONT></P>
  <P class=MsoPlainText><FONT face="Courier New" size=2><SPAN 
  style="FONT-SIZE: 10pt">        
  fffffadf`2664e880 fffff800`01027682 
  nt!KiSwapContext+0x85<o:p></o:p></SPAN></FONT></P>
  <P class=MsoPlainText><FONT face="Courier New" size=2><SPAN 
  style="FONT-SIZE: 10pt">        
  fffffadf`2664ea00 fffff800`0102828e 
  nt!KiSwapThread+0x3c9<o:p></o:p></SPAN></FONT></P>
  <P class=MsoPlainText><FONT face="Courier New" size=2><SPAN 
  style="FONT-SIZE: 10pt">        
  fffffadf`2664ea60 fffffadf`25ac7a3d 
  nt!KeWaitForSingleObject+0x5a6<o:p></o:p></SPAN></FONT></P>
  <P class=MsoPlainText><FONT face="Courier New" size=2><SPAN 
  style="FONT-SIZE: 10pt">        
  fffffadf`2664eae0 fffffadf`25b5fca8 ibbus!cl_event_wait_on+0x11d 
  [c:\windows-openib\src\winib-1176g\core\complib\kernel\cl_event.c @ 
  59]<o:p></o:p></SPAN></FONT></P>
  <P class=MsoPlainText><FONT face="Courier New" size=2><SPAN 
  style="FONT-SIZE: 10pt">        
  fffffadf`2664eb40 fffffadf`25b0013b ibbus!sync_destroy_obj+0x228 
  [c:\windows-openib\src\winib-1176g\core\al\al_common.c @ 
  513]<o:p></o:p></SPAN></FONT></P>
  <P class=MsoPlainText><FONT face="Courier New" size=2><SPAN 
  style="FONT-SIZE: 10pt">        
  fffffadf`2664ebb0 fffffadf`25a1f8c7 ibbus!ib_close_al+0x3bb 
  [c:\windows-openib\src\winib-1176g\core\al\al.c @ 
  89]<o:p></o:p></SPAN></FONT></P>
  <P class=MsoPlainText><FONT face="Courier New" size=2><SPAN 
  style="FONT-SIZE: 10pt">        
  fffffadf`2664ec10 fffffadf`25a1b23f MyDriver!IBAccessLayer::Close+0x77 
  <o:p></o:p></SPAN></FONT></P>
  <P class=MsoPlainText><FONT face="Courier New" size=2><SPAN 
  style="FONT-SIZE: 10pt"><o:p> </o:p></SPAN></FONT></P>
  <P class=MsoPlainText><FONT face="Courier New" size=2><SPAN 
  style="FONT-SIZE: 10pt">The al handle ref_cnt is 1 
  here.<o:p></o:p></SPAN></FONT></P>
  <P class=MsoPlainText><FONT face="Courier New" size=2><SPAN 
  style="FONT-SIZE: 10pt"><o:p> </o:p></SPAN></FONT></P>
  <P class=MsoPlainText><FONT face="Courier New" size=2><SPAN 
  style="FONT-SIZE: 10pt">Can anyone shed some light on this? Is this a known 
  issue which is fixed in WinOF2.0 or is it an unknown 
  problem?<o:p></o:p></SPAN></FONT></P>
  <P class=MsoPlainText><FONT face="Courier New" size=2><SPAN 
  style="FONT-SIZE: 10pt"><o:p> </o:p></SPAN></FONT></P>
  <P class=MsoPlainText><FONT face="Courier New" size=2><SPAN 
  style="FONT-SIZE: 10pt">Thanks,<o:p></o:p></SPAN></FONT></P>
  <P class=MsoPlainText><FONT face="Courier New" size=2><SPAN 
  style="FONT-SIZE: 10pt">James<o:p></o:p></SPAN></FONT></P></DIV></BLOCKQUOTE></BODY></HTML>