<div dir="auto">Skyrim equals Slurm.  Mobile shenanigans.<div dir="auto"><br></div><div dir="auto">Brian </div></div><div class="gmail_extra"><br><div class="gmail_quote">On Dec 20, 2016 12:07 PM, "Brian Marshall" <<a href="mailto:mimarsh2@vt.edu">mimarsh2@vt.edu</a>> wrote:<br type="attribution"><blockquote class="gmail_quote" style="margin:0 0 0 .8ex;border-left:1px #ccc solid;padding-left:1ex"><div dir="auto">We use adaptive - Moab torque right now but are thinking about going to Skyrim<div dir="auto"><br></div><div dir="auto">Brian</div></div><div class="gmail_extra"><br><div class="gmail_quote">On Dec 20, 2016 11:38 AM, "Buterbaugh, Kevin L" <<a href="mailto:Kevin.Buterbaugh@vanderbilt.edu" target="_blank">Kevin.Buterbaugh@vanderbilt.<wbr>edu</a>> wrote:<br type="attribution"><blockquote class="gmail_quote" style="margin:0 0 0 .8ex;border-left:1px #ccc solid;padding-left:1ex">



<div style="word-wrap:break-word">
Hi Brian,
<div><br>
</div>
<div>It would be helpful to know what scheduling software, if any, you use.</div>
<div><br>
</div>
<div>We were a PBS / Moab shop for a number of years but switched to SLURM two years ago.  With both you can configure the maximum amount of memory available to all jobs on a node.  So we just simply “reserve” however much we need for GPFS and other
 “system” processes.</div>
<div><br>
</div>
<div>I can tell you that SLURM is *much* more efficient at killing processes as soon as they exceed the amount of memory they’ve requested than PBS / Moab ever dreamed of being.</div>
<div><br>
</div>
<div>Kevin</div>
<div><br>
<div>
<blockquote type="cite">
<div>On Dec 20, 2016, at 10:27 AM, Skylar Thompson <<a href="mailto:skylar2@u.washington.edu" target="_blank">skylar2@u.washington.edu</a>> wrote:</div>
<br class="m_-5118681803905715827m_2891201518838307593Apple-interchange-newline">
<div>
<div>We're a Grid Engine shop, and use cgroups (m_mem_free) to control user process memory<br>
usage. In the GE exec host configuration, we reserve 4GB for the OS<br>
(including GPFS) so jobs are not able to consume all the physical memory on<br>
the system.<br>
<br>
On Tue, Dec 20, 2016 at 11:25:04AM -0500, Brian Marshall wrote:<br>
<blockquote type="cite">All,<br>
<br>
What is your favorite method for stopping a user process from eating up all<br>
the system memory and saving 1 GB (or more) for the GPFS / system<br>
processes?  We have always kicked around the idea of cgroups but never<br>
moved on it.<br>
<br>
The problem:  A user launches a job which uses all the memory on a node,<br>
which causes the node to be expelled, which causes brief filesystem<br>
slowness everywhere.<br>
<br>
I bet this problem has already been solved and I am just googling the wrong<br>
search terms.<br>
<br>
<br>
Thanks,<br>
Brian<br>
</blockquote>
<br>
<blockquote type="cite">______________________________<wbr>_________________<br>
gpfsug-discuss mailing list<br>
gpfsug-discuss at <a href="http://spectrumscale.org" target="_blank">spectrumscale.org</a><br>
<a href="http://gpfsug.org/mailman/listinfo/gpfsug-discuss" target="_blank">http://gpfsug.org/mailman/list<wbr>info/gpfsug-discuss</a><br>
</blockquote>
<br>
<br>
-- <br>
-- Skylar Thompson (<a href="mailto:skylar2@u.washington.edu" target="_blank">skylar2@u.washington.edu</a>)<br>
-- Genome Sciences Department, System Administrator<br>
-- Foege Building S046, <a href="tel:(206)%20685-7354" value="+12066857354" target="_blank">(206)-685-7354</a><br>
-- University of Washington School of Medicine<br>
______________________________<wbr>_________________<br>
gpfsug-discuss mailing list<br>
gpfsug-discuss at <a href="http://spectrumscale.org" target="_blank">spectrumscale.org</a><br>
<a href="http://gpfsug.org/mailman/listinfo/gpfsug-discuss" target="_blank">http://gpfsug.org/mailman/list<wbr>info/gpfsug-discuss</a><br>
</div>
</div>
</blockquote>
</div>
<br>
</div>
<br>
<br>
<div>
<div>—</div>
<div>Kevin Buterbaugh - Senior System Administrator</div>
<div>Vanderbilt University - Advanced Computing Center for Research and Education</div>
<div><a href="mailto:Kevin.Buterbaugh@vanderbilt.edu" target="_blank">Kevin.Buterbaugh@vanderbilt.ed<wbr>u</a> - <a href="tel:(615)%20875-9633" value="+16158759633" target="_blank">(615)875-9633</a></div>
<div><br>
</div>
<br class="m_-5118681803905715827m_2891201518838307593Apple-interchange-newline">
</div>
<br>
</div>

<br>______________________________<wbr>_________________<br>
gpfsug-discuss mailing list<br>
gpfsug-discuss at <a href="http://spectrumscale.org" rel="noreferrer" target="_blank">spectrumscale.org</a><br>
<a href="http://gpfsug.org/mailman/listinfo/gpfsug-discuss" rel="noreferrer" target="_blank">http://gpfsug.org/mailman/list<wbr>info/gpfsug-discuss</a><br>
<br></blockquote></div></div>
</blockquote></div></div>