<html xmlns:o="urn:schemas-microsoft-com:office:office" xmlns:w="urn:schemas-microsoft-com:office:word" xmlns:m="http://schemas.microsoft.com/office/2004/12/omml" xmlns="http://www.w3.org/TR/REC-html40"><head><meta http-equiv=Content-Type content="text/html; charset=utf-8"><meta name=Generator content="Microsoft Word 15 (filtered medium)"><style><!--
/* Font Definitions */
@font-face
        {font-family:Wingdings;
        panose-1:5 0 0 0 0 0 0 0 0 0;}
@font-face
        {font-family:"Cambria Math";
        panose-1:2 4 5 3 5 4 6 3 2 4;}
@font-face
        {font-family:Calibri;
        panose-1:2 15 5 2 2 2 4 3 2 4;}
/* Style Definitions */
p.MsoNormal, li.MsoNormal, div.MsoNormal
        {margin:0cm;
        font-size:11.0pt;
        font-family:"Calibri",sans-serif;}
span.EmailStyle18
        {mso-style-type:personal-reply;
        font-family:"Calibri",sans-serif;
        color:windowtext;}
.MsoChpDefault
        {mso-style-type:export-only;
        font-size:10.0pt;}
@page WordSection1
        {size:612.0pt 792.0pt;
        margin:72.0pt 72.0pt 72.0pt 72.0pt;}
div.WordSection1
        {page:WordSection1;}
/* List Definitions */
@list l0
        {mso-list-id:786775803;
        mso-list-type:hybrid;
        mso-list-template-ids:-1909528116 -1444122634 134807555 134807557 134807553 134807555 134807557 134807553 134807555 134807557;}
@list l0:level1
        {mso-level-start-at:19;
        mso-level-number-format:bullet;
        mso-level-text:-;
        mso-level-tab-stop:none;
        mso-level-number-position:left;
        margin-left:21.0pt;
        text-indent:-18.0pt;
        font-family:"Calibri",sans-serif;
        mso-fareast-font-family:"Times New Roman";}
@list l0:level2
        {mso-level-number-format:bullet;
        mso-level-text:o;
        mso-level-tab-stop:none;
        mso-level-number-position:left;
        margin-left:57.0pt;
        text-indent:-18.0pt;
        font-family:"Courier New";}
@list l0:level3
        {mso-level-number-format:bullet;
        mso-level-text:;
        mso-level-tab-stop:none;
        mso-level-number-position:left;
        margin-left:93.0pt;
        text-indent:-18.0pt;
        font-family:Wingdings;}
@list l0:level4
        {mso-level-number-format:bullet;
        mso-level-text:;
        mso-level-tab-stop:none;
        mso-level-number-position:left;
        margin-left:129.0pt;
        text-indent:-18.0pt;
        font-family:Symbol;}
@list l0:level5
        {mso-level-number-format:bullet;
        mso-level-text:o;
        mso-level-tab-stop:none;
        mso-level-number-position:left;
        margin-left:165.0pt;
        text-indent:-18.0pt;
        font-family:"Courier New";}
@list l0:level6
        {mso-level-number-format:bullet;
        mso-level-text:;
        mso-level-tab-stop:none;
        mso-level-number-position:left;
        margin-left:201.0pt;
        text-indent:-18.0pt;
        font-family:Wingdings;}
@list l0:level7
        {mso-level-number-format:bullet;
        mso-level-text:;
        mso-level-tab-stop:none;
        mso-level-number-position:left;
        margin-left:237.0pt;
        text-indent:-18.0pt;
        font-family:Symbol;}
@list l0:level8
        {mso-level-number-format:bullet;
        mso-level-text:o;
        mso-level-tab-stop:none;
        mso-level-number-position:left;
        margin-left:273.0pt;
        text-indent:-18.0pt;
        font-family:"Courier New";}
@list l0:level9
        {mso-level-number-format:bullet;
        mso-level-text:;
        mso-level-tab-stop:none;
        mso-level-number-position:left;
        margin-left:309.0pt;
        text-indent:-18.0pt;
        font-family:Wingdings;}
ol
        {margin-bottom:0cm;}
ul
        {margin-bottom:0cm;}
--></style></head><body lang=en-CH link=blue vlink=purple style='word-wrap:break-word'><div class=WordSection1><div><blockquote style='border:none;border-left:solid #CCCCCC 1.0pt;padding:0cm 0cm 0cm 6.0pt;margin-left:4.8pt;margin-right:0cm'><p class=MsoNormal><o:p> </o:p></p><p class=MsoNormal><span lang=EN-US>Hello,<o:p></o:p></span></p><p class=MsoNormal><span lang=EN-US><o:p> </o:p></span></p><p class=MsoNormal><span lang=EN-US>A policy run with ‘-I defer’ and a placement rule did almost double the metadata usage of a filesystem. This filled the metadata disks to a critical level. I would like to understand if this is to be expected and ‘as designed’ or if I face some issue or bug. <o:p></o:p></span></p><p class=MsoNormal><span lang=EN-US> I hope a subsequent run of ‘mmrstripefs -p’ will reduce the metadata usage again.<o:p></o:p></span></p><p class=MsoNormal><span lang=EN-US>Thank you<o:p></o:p></span></p><p class=MsoNormal><span lang=EN-US><o:p> </o:p></span></p><p class=MsoNormal><span lang=EN-US><o:p> </o:p></span></p><p class=MsoNormal><span lang=EN-US>I want to move all data to a new storage pool and did run a policy like<o:p></o:p></span></p><p class=MsoNormal><span lang=EN-US><o:p> </o:p></span></p><p class=MsoNormal style='margin-left:11.1pt'><span lang=EN-US>RULE 'migrate_to_Data'<o:p></o:p></span></p><p class=MsoNormal style='margin-left:11.1pt'><span lang=EN-US>  MIGRATE<o:p></o:p></span></p><p class=MsoNormal style='margin-left:11.1pt'><span lang=EN-US>    WEIGHT(0)<o:p></o:p></span></p><p class=MsoNormal><span lang=EN-US>  TO POOL 'Data'<o:p></o:p></span></p><p class=MsoNormal><span lang=EN-US><o:p> </o:p></span></p><p class=MsoNormal><span lang=EN-US> for each fileset with <o:p></o:p></span></p><p class=MsoNormal><span lang=EN-US><o:p> </o:p></span></p><p class=MsoNormal><span lang=EN-US>  mmapplypolicy -I defer<o:p></o:p></span></p><p class=MsoNormal><span lang=EN-US><o:p> </o:p></span></p><p class=MsoNormal><span lang=EN-US>Next I want to actually move the data with <o:p></o:p></span></p><p class=MsoNormal><span lang=EN-US><o:p> </o:p></span></p><p class=MsoNormal><span lang=EN-US>  mmrestripefs -p<o:p></o:p></span></p><p class=MsoNormal><span lang=EN-US><o:p> </o:p></span></p><p class=MsoNormal><span lang=EN-US>After the policy run metadata usage increased from 2.06TiB to 3.53TiB and filled the available metadata space by >90%. This is somewhat surprising. Will the following  run of ‘mmrestripefs -p’ reduce the usage again, when the files are not illplaced any more? The number of used Inodes did not change noticeably during the policy run. <o:p></o:p></span></p><p class=MsoNormal><span lang=EN-US><o:p> </o:p></span></p><p class=MsoNormal><span lang=EN-US>Or maybe illplaced files use larger inodes? Looks like for each used inode we increased by about 4k: 400M inodes, 1.6T increase in size<o:p></o:p></span></p><p class=MsoNormal><span lang=EN-US><o:p> </o:p></span></p><p class=MsoNormal><span lang=EN-US>Thank you,<o:p></o:p></span></p><p class=MsoNormal><span lang=EN-US><o:p> </o:p></span></p><p class=MsoNormal><span lang=EN-US>Heiner<o:p></o:p></span></p><p class=MsoNormal><span lang=EN-US><o:p> </o:p></span></p><p class=MsoNormal><span lang=EN-US>Some details<o:p></o:p></span></p><p class=MsoNormal><span lang=EN-US><o:p> </o:p></span></p><p class=MsoNormal style='margin-left:11.1pt'><span lang=EN-US># mmlsfs  fsxxxx -f -i -B -I -m -M -r -R -V<o:p></o:p></span></p><p class=MsoNormal style='margin-left:11.1pt'><span lang=EN-US>flag                value                    description<o:p></o:p></span></p><p class=MsoNormal style='margin-left:11.1pt'><span lang=EN-US>------------------- ------------------------ -----------------------------------<o:p></o:p></span></p><p class=MsoNormal style='margin-left:11.1pt'><span lang=EN-US> -f                 8192                     Minimum fragment (subblock) size in bytes (system pool)<o:p></o:p></span></p><p class=MsoNormal style='margin-left:11.1pt'><span lang=EN-US>                    32768                    Minimum fragment (subblock) size in bytes (other pools)<o:p></o:p></span></p><p class=MsoNormal style='margin-left:11.1pt'><span lang=EN-US> -i                 4096                     Inode size in bytes<o:p></o:p></span></p><p class=MsoNormal style='margin-left:11.1pt'><span lang=EN-US> -B                 1048576                  Block size (system pool)<o:p></o:p></span></p><p class=MsoNormal style='margin-left:11.1pt'><span lang=EN-US>                    4194304                  Block size (other pools)<o:p></o:p></span></p><p class=MsoNormal style='margin-left:11.1pt'><span lang=EN-US> -I                 32768                    Indirect block size in bytes<o:p></o:p></span></p><p class=MsoNormal style='margin-left:11.1pt'><span lang=EN-US> -m                 1                        Default number of metadata replicas<o:p></o:p></span></p><p class=MsoNormal style='margin-left:11.1pt'><span lang=EN-US> -M                 2                        Maximum number of metadata replicas<o:p></o:p></span></p><p class=MsoNormal style='margin-left:11.1pt'><span lang=EN-US> -r                 1                        Default number of data replicas<o:p></o:p></span></p><p class=MsoNormal style='margin-left:11.1pt'><span lang=EN-US> -R                 2                        Maximum number of data replicas<o:p></o:p></span></p><p class=MsoNormal style='margin-left:11.1pt'><span lang=EN-US> -V                 23.00 (5.0.5.0)          Current file system version<o:p></o:p></span></p><p class=MsoNormal><span lang=EN-US>                    19.01 (5.0.1.0)          Original file system version<o:p></o:p></span></p><p class=MsoNormal><span lang=EN-US><o:p> </o:p></span></p><p class=MsoNormal style='margin-left:11.1pt'><span lang=EN-US>Inode Information<o:p></o:p></span></p><p class=MsoNormal style='margin-left:11.1pt'><span lang=EN-US>-----------------<o:p></o:p></span></p><p class=MsoNormal style='margin-left:11.1pt'><span lang=EN-US>Total number of used inodes in all Inode spaces:          398502837<o:p></o:p></span></p><p class=MsoNormal style='margin-left:11.1pt'><span lang=EN-US>Total number of free inodes in all Inode spaces:           94184267<o:p></o:p></span></p><p class=MsoNormal style='margin-left:11.1pt'><span lang=EN-US>Total number of allocated inodes in all Inode spaces:     492687104<o:p></o:p></span></p><p class=MsoNormal><span lang=EN-US>Total of Maximum number of inodes in all Inode spaces:    916122880<o:p></o:p></span></p></blockquote></div></div></body></html>