<html>
<head>
<meta http-equiv="Content-Type" content="text/html; charset=utf-8">
</head>
<body style="word-wrap: break-word; -webkit-nbsp-mode: space; -webkit-line-break: after-white-space;" class="">
You might want to check the gpfs logs on the node cl003.  Often the message "<font face="Times New Roman, serif" size="3" class="">Lost connection to file system daemon.” means that the daemon asserted while it was doing something... hence the lost connection.
  </font>
<div class=""><font face="Times New Roman, serif" size="3" class="">If you are checking the state and seeing it in arbitrating mode immed after the command fails that also makes sense as it’s now re-joining the cluster.  </font></div>
<div class=""><font face="Times New Roman, serif" size="3" class="">If you aren’t watching carefully you can miss these events due to way mmfsd will resume the old mounts, hence you check the node with ‘df’ and see the file system is still mounted, then assume
 all is well, but in fact mmfsd has died and restarted. <br class="">
</font>
<div class="">
<div style="color: rgb(0, 0, 0); font-family: Helvetica; font-size: 12px; font-style: normal; font-variant: normal; font-weight: normal; letter-spacing: normal; orphans: auto; text-align: start; text-indent: 0px; text-transform: none; white-space: normal; widows: auto; word-spacing: 0px; -webkit-text-stroke-width: 0px;" class="">
<br class="Apple-interchange-newline">
<br class="">
</div>
<div style="color: rgb(0, 0, 0); font-family: Helvetica; font-size: 12px; font-style: normal; font-variant: normal; font-weight: normal; letter-spacing: normal; orphans: auto; text-align: start; text-indent: 0px; text-transform: none; white-space: normal; widows: auto; word-spacing: 0px; -webkit-text-stroke-width: 0px;" class="">
Gordon McPheeters</div>
<div style="color: rgb(0, 0, 0); font-family: Helvetica; font-size: 12px; font-style: normal; font-variant: normal; font-weight: normal; letter-spacing: normal; orphans: auto; text-align: start; text-indent: 0px; text-transform: none; white-space: normal; widows: auto; word-spacing: 0px; -webkit-text-stroke-width: 0px;" class="">
ALCF Storage</div>
<div style="color: rgb(0, 0, 0); font-family: Helvetica; font-size: 12px; font-style: normal; font-variant: normal; font-weight: normal; letter-spacing: normal; orphans: auto; text-align: start; text-indent: 0px; text-transform: none; white-space: normal; widows: auto; word-spacing: 0px; -webkit-text-stroke-width: 0px;" class="">
(630) 252-6430</div>
<div style="color: rgb(0, 0, 0); font-family: Helvetica; font-size: 12px; font-style: normal; font-variant: normal; font-weight: normal; letter-spacing: normal; orphans: auto; text-align: start; text-indent: 0px; text-transform: none; white-space: normal; widows: auto; word-spacing: 0px; -webkit-text-stroke-width: 0px;" class="">
<a href="mailto:gmcpheeters@anl.gov" class="">gmcpheeters@anl.gov</a></div>
<div style="color: rgb(0, 0, 0); font-family: Helvetica; font-size: 12px; font-style: normal; font-variant: normal; font-weight: normal; letter-spacing: normal; orphans: auto; text-align: start; text-indent: 0px; text-transform: none; white-space: normal; widows: auto; word-spacing: 0px; -webkit-text-stroke-width: 0px;" class="">
<br class="">
</div>
<br class="Apple-interchange-newline">
</div>
<br class="">
<div>
<blockquote type="cite" class="">
<div class="">On Jan 5, 2017, at 3:38 PM, <a href="mailto:Valdis.Kletnieks@vt.edu" class="">
Valdis.Kletnieks@vt.edu</a> wrote:</div>
<br class="Apple-interchange-newline">
<div class="">
<div class="">On Thu, 05 Jan 2017 20:44:33 +0000, Bryan Banister said:<br class="">
<br class="">
<blockquote type="cite" class="">Looking at this further, the output says the “The following disks of home<br class="">
will be formatted on node cl003:“ however that node is the node in<br class="">
‘arbitrating’ state, so I don’t see how that would work,<br class="">
</blockquote>
<br class="">
The bigger question:  If it was in "arbitrating", why was it selected as<br class="">
the node to do the formatting?<br class="">
_______________________________________________<br class="">
gpfsug-discuss mailing list<br class="">
gpfsug-discuss at <a href="http://spectrumscale.org" class="">spectrumscale.org</a><br class="">
<a href="http://gpfsug.org/mailman/listinfo/gpfsug-discuss" class="">http://gpfsug.org/mailman/listinfo/gpfsug-discuss</a><br class="">
</div>
</div>
</blockquote>
</div>
<br class="">
</div>
</body>
</html>