<html xmlns:v="urn:schemas-microsoft-com:vml" xmlns:o="urn:schemas-microsoft-com:office:office" xmlns:w="urn:schemas-microsoft-com:office:word" xmlns:m="http://schemas.microsoft.com/office/2004/12/omml" xmlns="http://www.w3.org/TR/REC-html40">
<head>
<meta http-equiv="Content-Type" content="text/html; charset=iso-8859-2">
<meta name="Generator" content="Microsoft Word 15 (filtered medium)">
<style><!--
/* Font Definitions */
@font-face
        {font-family:"Cambria Math";
        panose-1:2 4 5 3 5 4 6 3 2 4;}
@font-face
        {font-family:Calibri;
        panose-1:2 15 5 2 2 2 4 3 2 4;}
@font-face
        {font-family:Verdana;
        panose-1:2 11 6 4 3 5 4 4 2 4;}
/* Style Definitions */
p.MsoNormal, li.MsoNormal, div.MsoNormal
        {margin:0cm;
        margin-bottom:.0001pt;
        font-size:11.0pt;
        font-family:"Calibri",sans-serif;
        mso-fareast-language:EN-US;}
a:link, span.MsoHyperlink
        {mso-style-priority:99;
        color:#0563C1;
        text-decoration:underline;}
a:visited, span.MsoHyperlinkFollowed
        {mso-style-priority:99;
        color:#954F72;
        text-decoration:underline;}
span.StylE-mailovZprvy17
        {mso-style-type:personal-compose;
        font-family:"Calibri",sans-serif;
        color:windowtext;}
.MsoChpDefault
        {mso-style-type:export-only;
        mso-fareast-language:EN-US;}
@page WordSection1
        {size:612.0pt 792.0pt;
        margin:70.85pt 70.85pt 70.85pt 70.85pt;}
div.WordSection1
        {page:WordSection1;}
--></style><!--[if gte mso 9]><xml>
<o:shapedefaults v:ext="edit" spidmax="1026" />
</xml><![endif]--><!--[if gte mso 9]><xml>
<o:shapelayout v:ext="edit">
<o:idmap v:ext="edit" data="1" />
</o:shapelayout></xml><![endif]-->
</head>
<body lang="CS" link="#0563C1" vlink="#954F72">
<div class="WordSection1">
<p class="MsoNormal">@Aaron<o:p></o:p></p>
<p class="MsoNormal">Yes, I can confirm that 2MB blocks are transfered over.<br>
<br>
<o:p></o:p></p>
<p class="MsoNormal">@ Jan-Frode<o:p></o:p></p>
<p class="MsoNormal">We tried to change multiple parameters, but if you know the best combination for sequential IO, please let me know.<o:p></o:p></p>
<p class="MsoNormal"><o:p> </o:p></p>
<p class="MsoNormal">#mmlsconfig<o:p></o:p></p>
<p class="MsoNormal">autoload no<o:p></o:p></p>
<p class="MsoNormal">dmapiFileHandleSize 32<o:p></o:p></p>
<p class="MsoNormal">minReleaseLevel 5.1.9.0<o:p></o:p></p>
<p class="MsoNormal">tscCmdAllowRemoteConnections no<o:p></o:p></p>
<p class="MsoNormal">ccrEnabled yes<o:p></o:p></p>
<p class="MsoNormal">cipherList AUTHONLY<o:p></o:p></p>
<p class="MsoNormal">sdrNotifyAuthEnabled yes<o:p></o:p></p>
<p class="MsoNormal">pagepool 64G<o:p></o:p></p>
<p class="MsoNormal">maxblocksize 16384K<o:p></o:p></p>
<p class="MsoNormal">maxMBpS 40000<o:p></o:p></p>
<p class="MsoNormal">maxReceiverThreads 32<o:p></o:p></p>
<p class="MsoNormal">nsdMaxWorkerThreads 512<o:p></o:p></p>
<p class="MsoNormal">nsdMinWorkerThreads 8<o:p></o:p></p>
<p class="MsoNormal">nsdMultiQueue 256<o:p></o:p></p>
<p class="MsoNormal">nsdSmallThreadRatio 0<o:p></o:p></p>
<p class="MsoNormal">nsdThreadsPerQueue 3<o:p></o:p></p>
<p class="MsoNormal">prefetchAggressiveness 2<o:p></o:p></p>
<p class="MsoNormal">adminMode central<o:p></o:p></p>
<p class="MsoNormal"><o:p> </o:p></p>
<p class="MsoNormal">/dev/fs0<br>
<br>
<o:p></o:p></p>
<p class="MsoNormal">@Uwe<o:p></o:p></p>
<p class="MsoNormal">Using iohist we found out that gpfs is overloading one dm-device (it took about 500ms to finish IOs). We replaced the „problematic“ dm-device (as we have enough drives to play with) for new one but the overloading issue just jumped to another
 dm-device.<br>
We believe that this behaviour is caused by the gpfs but we are unable to locate the root cause of it.<o:p></o:p></p>
<p class="MsoNormal"><o:p> </o:p></p>
<div>
<div>
<p class="MsoNormal"><span style="font-size:9.0pt;font-family:"Verdana",sans-serif;color:#595959;mso-fareast-language:CS">Best,<br>
Michal<o:p></o:p></span></p>
</div>
</div>
<p class="MsoNormal"><o:p> </o:p></p>
</div>
</body>
</html>