<div dir="ltr">Hi Luis,<div><br></div><div>GPFS is 4.2.3 (gpfs.base-4.2.3-6.x86_64), All servers (8 in front of a DDN SFA12K) are RHEL 7.3 (stock DDN setup). All 47 clients are CentOS 7.4. </div><div><br></div><div>GPFS mount:</div><div><div># mount | grep gpfs</div><div>gsfs0 on /srv/gsfs0 type gpfs (rw,relatime)</div></div><div><br></div><div><div><br></div></div><div>NFS mount:</div><div><div>mount | grep $HOME</div><div>10.210.15.57:/srv/gsfs0/home/griznog on /home/griznog type nfs (rw,relatime,vers=3,rsize=1048576,wsize=1048576,namlen=255,soft,proto=tcp,timeo=600,retrans=2,sec=sys,mountaddr=10.210.15.57,mountvers=3,mountport=20048,mountproto=tcp,local_lock=none,addr=10.210.15.57)</div></div><div><br></div><div>Example script:</div><div><br></div><div><div>#!/bin/bash</div><div>cat pt.txt pt.txt pt.txt pt.txt pt.txt pt.txt pt.txt pt.txt pt.txt > /srv/gsfs0/projects/pipetest.tmp.txt</div><div>grep L1 /srv/gsfs0/projects/pipetest.tmp.txt |  wc -l</div><div><br></div><div>cat  pt.txt pt.txt pt.txt pt.txt pt.txt pt.txt pt.txt pt.txt pt.txt > $HOME/pipetest.tmp.txt</div><div>grep L1 $HOME/pipetest.tmp.txt | wc -l</div><div><br></div></div><div><br></div><div>Example output:</div><div><br></div><div><div># ./pipetest.sh </div><div>1</div><div>1836</div></div><div><br></div><div>#  ls -aln /srv/gsfs0/projects/pipetest.tmp.txt $HOME/pipetest.tmp.txt</div><div>-rw-r--r-- 1 39073 3953 530721 Feb 14 06:10 /home/griznog/pipetest.tmp.txt</div><div>-rw-r--r-- 1 39073 3001 530721 Feb 14 06:10 /srv/gsfs0/projects/pipetest.tmp.txt</div><div><br></div><div>We can "fix" the user case that exposed this by not using a temp file or inserting a sleep, but I'd still like to know why GPFS is behaving this way and make it stop.</div><div><br></div><div><br><div class="gmail_extra">mmlsconfig below.</div><div class="gmail_extra"><br></div><div class="gmail_extra">Thanks,</div><div class="gmail_extra"><br></div><div class="gmail_extra">jbh</div><div class="gmail_extra"><br></div><div class="gmail_extra"><div class="gmail_extra">mmlsconfig </div><div class="gmail_extra">Configuration data for cluster SCG-GS.scg-gs0:</div><div class="gmail_extra">----------------------------------------------</div><div class="gmail_extra">clusterName SCG-GS.scg-gs0</div><div class="gmail_extra">clusterId 8456032987852400706</div><div class="gmail_extra">dmapiFileHandleSize 32</div><div class="gmail_extra">maxblocksize 4096K</div><div class="gmail_extra">cnfsSharedRoot /srv/gsfs0/GS-NFS</div><div class="gmail_extra">cnfsMountdPort 597</div><div class="gmail_extra">socketMaxListenConnections 1024</div><div class="gmail_extra">fileHeatPeriodMinutes 1440</div><div class="gmail_extra">fileHeatLossPercent 1</div><div class="gmail_extra">pingPeriod 5</div><div class="gmail_extra">minMissedPingTimeout 30</div><div class="gmail_extra">afmHashVersion 1</div><div class="gmail_extra">minReleaseLevel 4.2.0.1</div><div class="gmail_extra">[scg-gs0,scg-gs1,scg-gs2,scg-gs3,scg-gs4,scg-gs5,scg-gs6,scg-gs7]</div><div class="gmail_extra">nsdbufspace 70</div><div class="gmail_extra">[common]</div><div class="gmail_extra">healthCheckInterval 20</div><div class="gmail_extra">maxStatCache 512</div><div class="gmail_extra">maxFilesToCache 50000</div><div class="gmail_extra">nsdMinWorkerThreads 512</div><div class="gmail_extra">nsdMaxWorkerThreads 1024</div><div class="gmail_extra">deadlockDetectionThreshold 0</div><div class="gmail_extra">deadlockOverloadThreshold 0</div><div class="gmail_extra">prefetchThreads 288</div><div class="gmail_extra">worker1Threads 320</div><div class="gmail_extra">maxMBpS 2000</div><div class="gmail_extra">[scg-gs0,scg-gs1,scg-gs2,scg-gs3,scg-gs4,scg-gs5,scg-gs6,scg-gs7]</div><div class="gmail_extra">maxMBpS 24000</div><div class="gmail_extra">[common]</div><div class="gmail_extra">atimeDeferredSeconds 300</div><div class="gmail_extra">pitWorkerThreadsPerNode 2</div><div class="gmail_extra">cipherList AUTHONLY</div><div class="gmail_extra">pagepool 1G</div><div class="gmail_extra">[scg-gs0,scg-gs1,scg-gs2,scg-gs3,scg-gs4,scg-gs5,scg-gs6,scg-gs7]</div><div class="gmail_extra">pagepool 8G</div><div class="gmail_extra">[common]</div><div class="gmail_extra">cnfsNFSDprocs 256</div><div class="gmail_extra">nfsPrefetchStrategy 1</div><div class="gmail_extra">autoload yes</div><div class="gmail_extra">adminMode central</div><div class="gmail_extra"><br></div><div class="gmail_extra">File systems in cluster SCG-GS.scg-gs0:</div><div class="gmail_extra">---------------------------------------</div><div class="gmail_extra">/dev/gsfs0</div><div><br></div><div><br></div><div><br></div></div><div class="gmail_extra"><br><div class="gmail_quote">On Tue, Feb 13, 2018 at 10:53 PM, Luis Bolinches <span dir="ltr"><<a href="mailto:luis.bolinches@fi.ibm.com" target="_blank">luis.bolinches@fi.ibm.com</a>></span> wrote:<br><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex"><font size="2" face="sans-serif">Sorry</font>
<br>
<br><font size="2" face="sans-serif">With cat</font>
<br>
<br><font size="2" face="sans-serif">[root@specscale01 IBM_REPO]# cp test
a</font>
<br><font size="2" face="sans-serif">[root@specscale01 IBM_REPO]# cat a a
a a > test && grep ATAG test | wc -l && sleep 4 &&
grep ATAG test | wc -l</font>
<br><font size="2" face="sans-serif">0</font>
<br><font size="2" face="sans-serif">0</font>
<br><span class="gmail-"><font size="2" face="sans-serif">--<br>
Ystävällisin terveisin / Kind regards / Saludos cordiales / Salutations<br>
Luis Bolinches<br>
Consultant IT Specialist<br>
Mobile Phone: <a href="tel:+358%2050%203112585" value="+358503112585" target="_blank">+358503112585</a><br>
</font><a href="https://www.youracclaim.com/user/luis-bolinches" target="_blank"><font size="2" face="sans-serif">https://www.youracclaim.com/<wbr>user/luis-bolinches</font></a><font size="2" face="sans-serif"><br>
<br>
"If you always give you will always have" --  Anonymous</font>
<br>
<br>
<br>
<br></span><font size="1" color="#5f5f5f" face="sans-serif">From:      
 </font><font size="1" face="sans-serif">Luis Bolinches <<a href="mailto:luis.bolinches@fi.ibm.com" target="_blank">luis.bolinches@fi.ibm.com</a>></font>
<br><font size="1" color="#5f5f5f" face="sans-serif">To:      
 </font><font size="1" face="sans-serif">gpfsug main discussion
list <<a href="mailto:gpfsug-discuss@spectrumscale.org" target="_blank">gpfsug-discuss@spectrumscale.<wbr>org</a>></font>
<br><font size="1" color="#5f5f5f" face="sans-serif">Date:      
 </font><font size="1" face="sans-serif">14/02/2018 08:49</font>
<br><font size="1" color="#5f5f5f" face="sans-serif">Subject:    
   </font><font size="1" face="sans-serif">Re: [gpfsug-discuss]
Odd behavior with cat followed by grep.</font>
<br><div><div class="gmail-h5"><font size="1" color="#5f5f5f" face="sans-serif">Sent by:    
   </font><font size="1" face="sans-serif"><a href="mailto:gpfsug-discuss-bounces@spectrumscale.org" target="_blank">gpfsug-discuss-bounces@<wbr>spectrumscale.org</a></font>
<br>
<hr noshade>
<br>
<br>
<br><font size="2" face="sans-serif">Hi</font><font size="3"> <br>
</font><font size="2" face="sans-serif"><br>
This seems to be setup specific</font><font size="3"> <br>
</font><font size="2" face="sans-serif"><br>
Care to explain a bit more of the setup. Number of nodes GPFS versions,
number of FS, Networking, running from admin node, server / client, number
of NSD, separated meta and data, etc?</font><font size="3"> <br>
</font><font size="2" face="sans-serif"><br>
I got interested and run a quick test on a gpfs far from powerful cluster
of 3 nodes on KVM</font><font size="3"> <br>
</font><font size="2" face="sans-serif"><br>
[root@specscale01 IBM_REPO]# echo "a a a a a a a a a a" >
test && grep ATAG test | wc -l && sleep 4 && grep
ATAG test | wc -l</font><font size="3"> </font><font size="2" face="sans-serif"><br>
0</font><font size="3"> </font><font size="2" face="sans-serif"><br>
0</font><font size="3"> </font><font size="2" face="sans-serif"><br>
[root@specscale01 IBM_REPO]#</font><font size="3"> <br>
<br>
</font><font size="2" face="sans-serif"><br>
--<br>
Ystävällisin terveisin / Kind regards / Saludos cordiales / Salutations<br>
Luis Bolinches<br>
Consultant IT Specialist<br>
Mobile Phone: <a href="tel:+358%2050%203112585" value="+358503112585" target="_blank">+358503112585</a></font><font size="3" color="blue"><u><br>
</u></font><a href="https://urldefense.proofpoint.com/v2/url?u=https-3A__www.youracclaim.com_user_luis-2Dbolinches&d=DwMFAw&c=jf_iaSHvJObTbx-siA1ZOg&r=1mZ896psa5caYzBeaugTlc7TtRejJp3uvKYxas3S7Xc&m=HrR-mBJ82ubcbtBin7NGVl2VenLj726Fcah6-3XFvDs&s=hGQKSxR54bjW2i9KVDRpflHxrMcJhY269FZkQGWHtLI&e=" target="_blank"><font size="2" color="blue" face="sans-serif"><u>https://www.youracclaim.com/<wbr>user/luis-bolinches</u></font></a><font size="2" face="sans-serif"><br>
<br>
"If you always give you will always have" --  Anonymous</font><font size="3">
<br>
<br>
<br>
</font><font size="1" color="#5f5f5f" face="sans-serif"><br>
From:        </font><font size="1" face="sans-serif">John
Hanks <<a href="mailto:griznog@gmail.com" target="_blank">griznog@gmail.com</a>></font><font size="3"> </font><font size="1" color="#5f5f5f" face="sans-serif"><br>
To:        </font><font size="1" face="sans-serif">gpfsug-discuss
<<a href="mailto:gpfsug-discuss@spectrumscale.org" target="_blank">gpfsug-discuss@spectrumscale.<wbr>org</a>></font><font size="3"> </font><font size="1" color="#5f5f5f" face="sans-serif"><br>
Date:        </font><font size="1" face="sans-serif">14/02/2018
07:33</font><font size="3"> </font><font size="1" color="#5f5f5f" face="sans-serif"><br>
Subject:        </font><font size="1" face="sans-serif">[gpfsug-discuss]
Odd behavior with cat followed by grep.</font><font size="3"> </font><font size="1" color="#5f5f5f" face="sans-serif"><br>
Sent by:        </font><font size="1" face="sans-serif"><a href="mailto:gpfsug-discuss-bounces@spectrumscale.org" target="_blank">gpfsug-discuss-bounces@<wbr>spectrumscale.org</a></font><font size="3">
<br>
</font>
<hr noshade><font size="3"><br>
<br>
<br>
Hi, <br>
<br>
We have a GPFS filesystem mounted on CentOS 7.4 as type gpfs, pretty straightforward
run of the mill stuff. But are seeing this odd behavior. If I do this in
a shell script, given a file called "a" <br>
<br>
cat a a a a a a a a a a > /path/to/gpfs/mount/test <br>
grep ATAG /path/to/gpfs/mount/test | wc -l <br>
sleep 4 <br>
grep ATAG /path/to/gpfs/mount/test | wc -l <br>
<br>
The first grep | wc -l returns 1, because grep outputs  "Binary
file /path/to/gpfs/mount/test matches" <br>
<br>
The second grep | wc -l returns the correct count of ATAG in the file.
<br>
<br>
Why does it take 4 seconds (3 isn't enough) for that file to be properly
recognized as a text file and/or why is it seen as a binary file in the
first place since a is a plain text file? <br>
<br>
Note that I have the same filesystem mounted via NFS and over an NFS mount
it works as expected. <br>
<br>
Any illumination is appreciated, <br>
<br>
jbh</font><tt><font size="2">___________________________<wbr>____________________<br>
gpfsug-discuss mailing list<br>
gpfsug-discuss at <a href="http://spectrumscale.org" target="_blank">spectrumscale.org</a></font></tt><font size="3" color="blue"><u><br>
</u></font><a href="https://urldefense.proofpoint.com/v2/url?u=http-3A__gpfsug.org_mailman_listinfo_gpfsug-2Ddiscuss&d=DwICAg&c=jf_iaSHvJObTbx-siA1ZOg&r=1mZ896psa5caYzBeaugTlc7TtRejJp3uvKYxas3S7Xc&m=ut35qIIMxjZMX3obFJ2xtUMng4MtGtKz4YHxpkgQbak&s=cNt66GjRD6rVhq7nGcvT76l-0_u2C3UTz9SfwzHf1xw&e=" target="_blank"><tt><font size="2" color="blue"><u>https://urldefense.proofpoint.<wbr>com/v2/url?u=http-3A__gpfsug.<wbr>org_mailman_listinfo_gpfsug-<wbr>2Ddiscuss&d=DwICAg&c=jf_<wbr>iaSHvJObTbx-siA1ZOg&r=<wbr>1mZ896psa5caYzBeaugTlc7TtRejJp<wbr>3uvKYxas3S7Xc&m=<wbr>ut35qIIMxjZMX3obFJ2xtUMng4MtGt<wbr>Kz4YHxpkgQbak&s=<wbr>cNt66GjRD6rVhq7nGcvT76l-0_<wbr>u2C3UTz9SfwzHf1xw&e=</u></font></tt></a><font size="3"><br>
<br>
</font></div></div><font size="2" face="sans-serif"><div><div class="gmail-h5"><br>
<br>
<br>
Ellei edellä ole toisin mainittu: / Unless stated otherwise above:<br>
Oy IBM Finland Ab<br>
PL 265, 00101 Helsinki, Finland<br>
Business ID, Y-tunnus: 0195876-3 <br></div></div>
Registered in Finland</font><tt><font size="2">_______________________<wbr>________________________<span class="gmail-"><br>
gpfsug-discuss mailing list<br>
gpfsug-discuss at <a href="http://spectrumscale.org" target="_blank">spectrumscale.org</a><br>
</span></font></tt><a href="https://urldefense.proofpoint.com/v2/url?u=http-3A__gpfsug.org_mailman_listinfo_gpfsug-2Ddiscuss&d=DwICAg&c=jf_iaSHvJObTbx-siA1ZOg&r=1mZ896psa5caYzBeaugTlc7TtRejJp3uvKYxas3S7Xc&m=HrR-mBJ82ubcbtBin7NGVl2VenLj726Fcah6-3XFvDs&s=d5YiAyXz4el9bF0zjGL9gVjnTfbX4z-qelZodxRqlz0&e=" target="_blank"><tt><font size="2">https://urldefense.proofpoint.<wbr>com/v2/url?u=http-3A__gpfsug.<wbr>org_mailman_listinfo_gpfsug-<wbr>2Ddiscuss&d=DwICAg&c=jf_<wbr>iaSHvJObTbx-siA1ZOg&r=<wbr>1mZ896psa5caYzBeaugTlc7TtRejJp<wbr>3uvKYxas3S7Xc&m=HrR-<wbr>mBJ82ubcbtBin7NGVl2VenLj726Fca<wbr>h6-3XFvDs&s=<wbr>d5YiAyXz4el9bF0zjGL9gVjnTfbX4z<wbr>-qelZodxRqlz0&e=</font></tt></a><div class="gmail-HOEnZb"><div class="gmail-h5"><tt><font size="2"><br>
</font></tt>
<br>
<br><font size="2" face="sans-serif"><br>
<br>
Ellei edellä ole toisin mainittu: / Unless stated otherwise above:<br>
Oy IBM Finland Ab<br>
PL 265, 00101 Helsinki, Finland<br>
Business ID, Y-tunnus: 0195876-3 <br>
Registered in Finland<br>
</font></div></div><br>______________________________<wbr>_________________<br>
gpfsug-discuss mailing list<br>
gpfsug-discuss at <a href="http://spectrumscale.org" rel="noreferrer" target="_blank">spectrumscale.org</a><br>
<a href="http://gpfsug.org/mailman/listinfo/gpfsug-discuss" rel="noreferrer" target="_blank">http://gpfsug.org/mailman/<wbr>listinfo/gpfsug-discuss</a><br>
<br></blockquote></div><br></div></div></div>