<font size=3 face="Arial">Another option is to request Apple to support

the OFFLINE flag in the SMB protocol.  The more Mac customers making

such a request (I have asked others to do likewise) might convince Apple

to add this checking to their SMB client.</font><br><br><font size=3 face="sans-serif">Fred<br>__________________________________________________<br>Fred Stock | IBM Pittsburgh Lab | 720-430-8821<br>stockf@us.ibm.com</font><br><br><br><br><font size=1 color=#5f5f5f face="sans-serif">From:      

 </font><font size=1 face="sans-serif">"Christof Schmitt"

<christof.schmitt@us.ibm.com></font><br><font size=1 color=#5f5f5f face="sans-serif">To:      

 </font><font size=1 face="sans-serif">gpfsug-discuss@spectrumscale.org</font><br><font size=1 color=#5f5f5f face="sans-serif">Date:      

 </font><font size=1 face="sans-serif">07/09/2018 02:53 PM</font><br><font size=1 color=#5f5f5f face="sans-serif">Subject:    

   </font><font size=1 face="sans-serif">Re: [gpfsug-discuss]

preventing HSM tape recall storms</font><br><font size=1 color=#5f5f5f face="sans-serif">Sent by:    

   </font><font size=1 face="sans-serif">gpfsug-discuss-bounces@spectrumscale.org</font><br><hr noshade><br><br><br><font size=1 face="Arial">> we had left out "gpfs" from

the<br>> vfs objects =<br>> line in smb.conf<br>><br>> so setting<br>> vfs objects = gpfs (etc)<br>> gpfs:hsm = yes<br>> gpfs:recalls = yes  (not "no" as I had originally,

and is implied by the manual)</font><br><font size=1 face="Arial"> </font><br><font size=1 face="Arial">Thank you for the update. gpfs:recalls=yes

is the default, allowing<br>recalls of files. If you set that to 'no', Samba will deny access to<br>"OFFLINE" files in GPFS through SMB.</font><br><font size=1 face="Arial"> </font><br><font size=1 face="Arial">> and setting the offline flag on the

file by migrating it, so that<br>> # mmlsattr -L  filename.jpg<br>> ...<br>> Misc attributes:      ARCHIVE OFFLINE<br>><br>> now Explorer on Windows 7 and 10 do not recall the file while viewing

the folder with "Large icons"<br>><br>> and a standard icon with an X is displayed.<br>><br>> But after the file is then opened and recalled, the icon displays

the thumbnail image and the OFFLINE flag is lost.</font><br><font size=1 face="Arial"> </font><br><font size=1 face="Arial">Yes, that is working as intended. While the

file is only in the "external pool" (e.g. HSM tape), the OFFLINE flag is reported.

Once<br>you read/write data, that triggers a recall to the disk pool and the<br>flag is cleared.</font><br><font size=1 face="Arial"> </font><br><font size=1 face="Arial">> Also as you observed, Finder on  MacOSX

10.13 ignores the file's offline flag,<br>><br>> so we still risk a recall storm caused by them.</font><br><font size=1 face="Arial"> </font><br><font size=1 face="Arial">The question here would be how to handle

the Mac clients. You could<br>configured two SMB shares on the same path: One with gpfs:recalls=yes<br>and tell the Windows users to access that share; the other one with<br>gpfs:recalls=no and tell the Mac users to use that share. That would<br>avoid the recall storms, but runs the risk of Mac users connecting to<br>the wrong share and avoiding this workaround...</font><br><font size=1 face="Arial"> </font><br><font size=1 face="Arial">Regards,</font><br><font size=1 face="Verdana"><br>Christof Schmitt || IBM || Spectrum Scale Development || Tucson, AZ<br>christof.schmitt@us.ibm.com  ||  +1-520-799-2469    (T/L:

321-2469)</font><br><font size=1 face="Arial"> </font><br><font size=1 face="Arial"> </font><br><font size=1 face="Arial">----- Original message -----<br>From: Cameron Dunn <Cameron.Dunn@bristol.ac.uk><br>Sent by: gpfsug-discuss-bounces@spectrumscale.org<br>To: "gpfsug-discuss@spectrumscale.org" <gpfsug-discuss@spectrumscale.org><br>Cc:<br>Subject: Re: [gpfsug-discuss] preventing HSM tape recall storms<br>Date: Sat, Jul 7, 2018 2:30 PM<br> </font><br><font size=3 face="Calibri">Thanks Christof,</font><br><font size=3 face="Calibri"> </font><br><font size=3 face="Calibri">we had left out "gpfs" from the</font><p><font size=3 face="Calibri">vfs objects = </font><br><font size=3 face="Calibri">line in smb.conf</font><br><font size=3 face="Calibri"> </font><br><font size=3 face="Calibri">so setting</font><br><font size=3 face="Calibri">vfs objects = gpfs (etc)</font><br><font size=3 face="Calibri">gpfs:hsm = yes</font><br><font size=3 face="Calibri">gpfs:recalls = yes  (not "no"

as I had originally, and is implied by the manual)</font><br><font size=3 face="Calibri"> </font><br><font size=3 face="Calibri">and setting the offline flag on the file

by migrating it, so that</font><br><font size=3 face="Calibri"># mmlsattr -L  filename.jpg</font><br><font size=3 face="Calibri">...</font><br><font size=3 face="Calibri"> </font><br><font size=3 face="Calibri">Misc attributes:      ARCHIVE

OFFLINE</font><br><font size=3 face="Calibri"> </font><br><font size=3 face="Calibri">now Explorer on Windows 7 and 10 do not

recall the file while viewing the folder with "Large icons"</font><br><font size=3 face="Calibri">and a standard icon with an X is displayed.</font><br><font size=3 face="Calibri">But after the file is then opened and recalled,

the icon displays the thumbnail image and the OFFLINE flag is lost.</font><br><font size=3 face="Calibri"> </font><br><font size=3 face="Calibri">Also as you observed, Finder on  MacOSX

10.13 ignores the file's offline flag,</font><br><font size=3 face="Calibri">so we still risk a recall storm caused

by them.</font><br><font size=3 face="Calibri"> </font><br><font size=3 face="Calibri">All the best,</font><br><font size=3 face="Calibri">Cameron</font><br><font size=3 face="Calibri"> </font><p><hr><br><font size=2 face="Calibri"><b>From:</b> gpfsug-discuss-bounces@spectrumscale.org

<gpfsug-discuss-bounces@spectrumscale.org> on behalf of Christof

Schmitt <christof.schmitt@us.ibm.com><b><br>Sent:</b> 03 July 2018 20:37:08<b><br>To:</b> gpfsug-discuss@spectrumscale.org<b><br>Cc:</b> gpfsug-discuss@spectrumscale.org<b><br>Subject:</b> Re: [gpfsug-discuss] preventing HSM tape recall storms</font><font size=3 face="Calibri"></font><br><font size=3 face="Calibri"> </font><br><font size=1 face="Arial">> HSM over LTFS-EE runs the risk of a

recall storm if files which have been migrated to tape<br>> are then shared by Samba to Macs and PCs.<br>> MacOS Finder and Windows Explorer will want to display all the thumbnail

images of a<br>> folder's contents, which will recall lots of files from tape.</font><br><font size=1 face="Arial"> </font><br><font size=1 face="Arial">SMB clients can query file information, including

the OFFLINE<br>flag. With Spectrum Scale and the "gpfs" module loaded in Samba

that<br>is mapped from the the OFFLINE flag that is visible in "mmlsattr<br>-L". In those systems, the SMB client can determine that a file is<br>offline.</font><br><font size=1 face="Arial"> </font><br><font size=1 face="Arial">In our experience this is handled correctly

in Windows Explorer; when<br>an "offline" file is encountered, no preview is generated from

the<br>file data. The Finder on Mac clients does not seem to honor the<br>OFFLINE flag, thus the main problems are typically recall storms<br>caused by Mac clients.</font><br><font size=1 face="Arial"> </font><br><font size=1 face="Arial">> According to the Samba documentation

this is preventable by setting the following<br>> ----------------------------------------------<br>> </font><a href="https://www.samba.org/samba/docs/current/man-html/vfs_gpfs.8.html" target="_blank"><font size=1 color=blue face="Arial"><u>https://www.samba.org/samba/docs/current/man-html/vfs_gpfs.8.html</u></font></a><font size=1 face="Arial"><br>><br>> gpfs:recalls = [ yes | no ]<br>> When this option is set to no, an attempt to open an offline file<br>> will be rejected with access denied.<br>> This helps preventing recall storms triggered by careless applications

like Finder and Explorer.<br>><br>> yes(default) - Open files that are offline. This will recall the files

from HSM.<br>> no - Reject access to offline files with access denied. This will

prevent recalls of files from HSM.<br>> Using this setting also requires gpfs:hsm to be set to yes.<br>><br>> gpfs:hsm = [ yes | no ]<br>> Enable/Disable announcing if this FS has HSM enabled.<br>> no(default) - Do not announce HSM.<br>> yes - Announce HSM.<br>> --------------------------------------------------<br>><br>> However we could not get this to work.<br>><br>> On Centos7/Samba4.5, smb.conf contained<br>> gpfs:hsm = yes<br>> gpfs:recalls = no<br>> (also tried setting gpfs:offline = yes, though this is not documented)</font><br><font size=1 face="Arial"> </font><br><font size=1 face="Arial">These options apply to the "gpfs"

module in Samba. The Samba version you are using needs to be built with GPFS support and the "gpfs" module needs to be loaded through the "vfs objects" configuration.

As<br>Centos7/Samba4.5 is mentioned, would guess that the CentOS provided<br>Samba version is used, which is probably not compiled with GPFS<br>support.</font><br><font size=1 face="Arial"> </font><br><font size=1 face="Arial">From IBM we would recommend to use CES for

protocol services, which<br>also provides Samba for SMB. The Samba provided through CES is<br>configured so that the gpfs:recalls option can be used:</font><br><font size=1 face="Arial"> </font><br><a href="https://www.ibm.com/support/knowledgecenter/en/STXKQY_4.2.3/com.ibm.spectrum.scale.v4r23.doc/bl1adm_mmsmb.htm" target="_blank"><font size=1 color=blue face="Arial"><u>https://www.ibm.com/support/knowledgecenter/en/STXKQY_4.2.3/com.ibm.spectrum.scale.v4r23.doc/bl1adm_mmsmb.htm</u></font></a><br><font size=1 face="Arial"> </font><br><font size=1 face="Arial">gpfs:recalls<br>    If the value is set as yes files that have been migrated

from disk     will be recalled on access. By default, this is enabled.

If<br>    recalls = no files will not be recalled on access and the

client<br>    will receive ACCESS_DENIED message.</font><br><font size=1 face="Arial"> </font><br><font size=1 face="Arial">> We made a share containing image files

that were then migrated to tape by LTFS-EE,<br>> to see if these flags were respected by OS X Finder or Windows Explorer.<br>><br>> Neither Mac OS X (using SMB3) or Windows 7 (using SMB2) respected

the settings,<br>> so that when browsing the stubs in the share, the files were recalled

from tape<br>> and the thumbnails displayed.<br>><br>> Has anyone seen these flags working as they are supposed to ?</font><br><font size=1 face="Arial"> </font><br><font size=1 face="Arial">Yes, they are working, as we use them in

our Samba build. Debugging<br>this would require looking at the Samba configuration and possibly<br>collecting a trace. If my above assumption was wrong and this problem<br>occurs with the CES Samba (gpfs.smb), please open a PMR for debugging<br>this issue. If this is not the CES Samba, please contact the provider<br>of the Samba package for additional support.</font><br><font size=1 face="Arial"> </font><br><font size=1 face="Arial">Regards,</font><br><font size=1 face="Arial"> </font><br><font size=1 face="Arial">Christof</font><br><font size=1 face="Verdana"><br>Christof Schmitt || IBM || Spectrum Scale Development || Tucson, AZ<br>christof.schmitt@us.ibm.com  ||  +1-520-799-2469    (T/L:

321-2469)</font><br><font size=1 face="Arial"> </font><br><font size=1 face="Arial"> </font><br><font size=1 face="Arial">----- Original message -----<br>From: Cameron Dunn <Cameron.Dunn@bristol.ac.uk><br>Sent by: gpfsug-discuss-bounces@spectrumscale.org<br>To: "gpfsug-discuss@spectrumscale.org" <gpfsug-discuss@spectrumscale.org><br>Cc:<br>Subject: [gpfsug-discuss] preventing HSM tape recall storms<br>Date: Tue, Jul 3, 2018 6:22 AM<br>  </font><br><font size=3 face="Calibri"> </font><p><font size=3 face="Calibri">HSM over LTFS-EE runs the risk of a recall

storm if files which have been migrated to tape  <font size=3 face="Calibri">are then shared by Samba to Macs and PCs.

</font><br><font size=3 face="Calibri">MacOS Finder and Windows Explorer will

want to display all the thumbnail images of a </font><br><font size=3 face="Calibri">folder's contents, which will recall lots

of files from tape.</font><br><font size=3 face="Calibri"> </font><br><font size=3 face="Calibri">According to the Samba documentation this

is preventable by setting the following </font><br><font size=3 face="Calibri">----------------------------------------------</font><br><a href="https://www.samba.org/samba/docs/current/man-html/vfs_gpfs.8.html"><font size=3 face="Calibri">https://www.samba.org/samba/docs/current/man-html/vfs_gpfs.8.html</font></a><br><font size=3 face="Calibri"> </font><br><font size=3 face="Calibri">gpfs:recalls = [ yes | no ]</font><br><font size=3 face="Calibri">When this option is set to no, an attempt

to open an offline file </font><br><font size=3 face="Calibri">will be rejected with access denied. </font><br><font size=3 face="Calibri">This helps preventing recall storms triggered

by careless applications like Finder and Explorer. <font size=3 face="Calibri">  <font size=3 face="Calibri">yes(default) - Open files that are offline.

This will recall the files from HSM.</font><br><font size=3 face="Calibri">no - Reject access to offline files with

access denied. This will prevent recalls of files from HSM. </font><br><font size=3 face="Calibri">Using this setting also requires gpfs:hsm

to be set to yes.</font><br><font size=3 face="Calibri"> </font><br><font size=3 face="Calibri">gpfs:hsm = [ yes | no ]</font><br><font size=3 face="Calibri">Enable/Disable announcing if this FS has

HSM enabled. <font size=3 face="Calibri">no(default) - Do not announce HSM. <font size=3 face="Calibri">yes - Announce HSM. <font size=3 face="Calibri">-------------------------------------------------- <font size=3 face="Calibri">  <font size=3 face="Calibri">However we could not get this to work. <font size=3 face="Calibri">  <font size=3 face="Calibri">On Centos7/Samba4.5, smb.conf contained <font size=3 face="Calibri">gpfs:hsm = yes <font size=3 face="Calibri">gpfs:recalls = no <font size=3 face="Calibri">(also tried setting gpfs:offline = yes,

though this is not documented)</font><br><font size=3 face="Calibri"> </font><br><font size=3 face="Calibri">We made a share containing image files

that were then migrated to tape by LTFS-EE, </font><br><font size=3 face="Calibri">to see if these flags were respected by

OS X Finder or Windows Explorer.</font><br><font size=3 face="Calibri"> </font><br><font size=3 face="Calibri">Neither Mac OS X (using SMB3) or Windows

7 (using SMB2) respected the settings,</font><br><font size=3 face="Calibri">so that when browsing the stubs in the

share, the files were recalled from tape</font><br><font size=3 face="Calibri">and the thumbnails displayed.</font><br><font size=3 face="Calibri"> </font><br><font size=3 face="Calibri">Has anyone seen these flags working as

they are supposed to ?</font><p><font size=3 face="Calibri"> </font><br><font size=3 face="Calibri">Many thanks for any ideas,</font><br><font size=3 face="Calibri">Cameron</font><br><font size=3 face="Calibri"> </font><p><font size=3 face="Calibri">Cameron Dunn<br>Advanced Computing Systems Administrator</font><br><font size=3 face="Calibri">Advanced Computing Research Centre</font><br><font size=3 face="Calibri">University of Bristol</font><br><tt><font size=2>_______________________________________________<br>gpfsug-discuss mailing list<br>gpfsug-discuss at spectrumscale.org</font></tt><tt><font size=2 color=blue><u><br></u></font></tt><a href="http://gpfsug.org/mailman/listinfo/gpfsug-discuss" target="_blank"><tt><font size=2 color=blue><u>http://gpfsug.org/mailman/listinfo/gpfsug-discuss</u></font></tt></a><br><font size=1 face="Arial"> </font><br><tt><font size=2>_______________________________________________<br>gpfsug-discuss mailing list<br>gpfsug-discuss at spectrumscale.org</font></tt><tt><font size=2 color=blue><u><br></u></font></tt><a href="http://gpfsug.org/mailman/listinfo/gpfsug-discuss" target="_blank"><tt><font size=2 color=blue><u>http://gpfsug.org/mailman/listinfo/gpfsug-discuss</u></font></tt></a><br><font size=1 face="Arial"> </font><br><tt><font size=2>_______________________________________________<br>gpfsug-discuss mailing list<br>gpfsug-discuss at spectrumscale.org<br></font></tt><a href="http://gpfsug.org/mailman/listinfo/gpfsug-discuss"><tt><font size=2>http://gpfsug.org/mailman/listinfo/gpfsug-discuss</font></tt></a><tt><font size=2><br></font></tt><br><br><BR>