HPCF2 叢集上的作業排程系統 (PBS Pro)

所有作業必須透過批次作業系統 (PBS Pro) 進行排程。作業提交至 PBS 時，需指定所需的資源，包括佇列、CPU 數量、記憶體大小和運行時間。 PBS 將在資源可用時，在資源使用受限的情況下，於可用的運算節點上執行作業。.

通用作業佇列

特殊佇列（按需提供）

有時，某些作業可能需要比常規作業佇列中可用資源更多的運算資源。在這種情況下，請將您的作業執行計劃和所需資源的詳細資訊發送給我們。根據目前叢集資源的使用情況和趨勢，我們可能會設定一個具有特定運算資源的定製作業佇列，以便在短期內支援您的作業執行。.

作業腳本

PBS工作指南

以下是作業命令檔中常用的一些 PBS 選項，也可以在命令列中使用 qsub 命令。.

以下是一些可以嘗試的實用批次作業指令：

PBS作業輸出/錯誤文件

您可以指定 PBS 作業輸出/錯誤檔案的完整檔案名稱：

或者，您也可以透過目錄來指定它們：

如果未指定 -e 和 -o 這兩個指令，則會使用如下所示的工作目錄和預設檔名：

PBS Pro 使用作業提交所在的目錄來定義作業的工作目錄，而不管作業提交腳本位於何處。請注意，預設情況下，PBS 調度程序會將資料儲存在您的主目錄中。但是，我們建議您… 指定檔案名稱的完整路徑.

尖端：

PBS作業變數（例如常用的$PBS_JOBID和$PBS_JOBNAME） 不是 將在 Omics 叢集的 #PBS 作業指令中解決，該叢集採用新的 PBS 調度系統（與 statgenpro 叢集不同）。.

PBS互動招聘

PBS 的使用不僅限於批次作業。它還允許用戶在需要時以互動方式使用計算節點。例如，使用者可以在計算節點上使用 R 提供的開發環境，並執行他們的作業（直到運行時間到期）。.

使用者無需編寫提交腳本，而是直接將作業要求傳遞給 qsub 命令。例如，以下 PBS 腳本：

 #PBS -l nodes=1:ppn=4 #PBS -l mem=2gb #PBS -l walltime=15:00:00 #PBS -q small 

這將對應於帶有以下參數的 qsub 命令：

 qsub -I -q small -l nodes=1:ppn=4,walltime=15:00:00,mem=2gb  

因此，一旦有符合指定規格的節點可用，PBS調度器將立即為使用者指派4個核心，然後自動將使用者登入其中一個運算節點。任何互動式PBS作業（例如qsub -I）將在空閒30分鐘後被註銷，以釋放已指派但未使用的資源。.

工作管理

提交批次作業

批次作業允許使用者提交多個作業，這些作業會被排隊，然後在叢集中所需的資源可用時由作業調度器執行。使用者以腳本的形式提交作業，腳本中包含執行作業的指令。作業的輸出會寫入檔案以供後續檢視。您可以編寫批次作業來執行任何可以在命令列中輸入的操作。.

以下是一個批次腳本範例（檔案名稱 simple.sh）：

 #!/bin/bash #PBS -l nodes=1:ppn=1 #PBS -l mem=2g #PBS -l walltime=00:01:00 #PBS -m ae #PBS -N omics-simple 15TPBS -siq small

 模組載入 bamtools/2.5.1 bamtools -v

然後您可以透過以下方式提交此作業腳本：

 $ qsub simple.sh

有關可在腳本文件中指定的 PBS 作業參數的更多信息，請參閱「PBS 作業指令」。.

查看工作狀態

提交作業後，您可以使用 qstat 指令查看作業狀態和作業佇列。如果計算節點上有可用資源，您的作業狀態應變為 R（正在執行）；如果計算節點繁忙，您的作業狀態可能顯示為 Q（已排隊），直到您要求的資源可用為止。狀態為 C 的作業表示已完成。.

演出工作

$ qstat -rn1

例子：

 [itsupport@omics ~]$qstat -rn1 omics: 請求 請求 運行時間 作業 ID 使用者名稱 佇列 作業名稱 會話 ID NDS TSK 記憶體 時間 S 時間 --------------- -------- -------- ---------- ------ --- --- ------ ----- - ----- 1649.omics itsupportNTarge BWA_- --- --- 201505 1050g 1050505 01 R hpch01/0*12

顯示排隊/已保留的作業

$ qstat -i

例子：

 [itsupport@omics ~]$qstat -i omics: 請求 請求 運行時間 作業 ID 使用者名稱 佇列 作業名稱 會話 ID NDS TSK 記憶體 時間 S 時間 --------------- -------- -------- ---------- ------ --- --- ------ ----- - ----- 1651.omics ititport large B1109009 109029:01099

顯示所有任務（包括已完成的任務）

$ qstat -xan1

例子：

 [itsupport@omics Exome]$qstat -xan1 omics: 請求 請求 Elap 作業 ID 使用者名稱 佇列 作業名稱 SessID NDS TSK 記憶體 時間 S 時間 --------------- -------- -------- ---------- ------ --- --- ------ ----- - ----- 1648.omics itsupportarge B1 ------ --- -- 48:00 F 00:03 hpch08/0*12 1649.omics itsupport large BWA_23NT 121502 1 12 90gb 48:00 R 01:12 hpch08/0*12 1650.icsics 1650 B12 hpch08/0*12 1650。 48:00 F 00:01 hpch08/0*12 1651.omics itsupport 大型 BWA_43NT -- 1 12 90gb 48:00 Q -- --

顯示職位詳情

$ qstat -xf JobID

例子：

 [itsupport@omics]$qstat -f 1649 作業 ID：1649.omics 作業名稱 = BWA_34NT 作業擁有者 = itsupportn@omics 資源已用 cpupercent = 916 資源已用 cput = 05:56:56 資源已用 mem = 916 資源已用 cput = 05:56:56 資源已用 mem = 916 資源已用 cput = 05:56:56 資源已用 mem = 56 筆使用資源vmem = 92494740kb 資源已使用 walltime = 01:28:38 作業狀態 = R ...

檢查已完成作業的資源使用情況

功能： 顯示特定工作的工作資訊和資源使用百分比

用法： 我的工作

例如：

   $ myjob 440356 HPCF 作業 440356 的作業資訊與使用摘要： +-------------------+----------+-------+-------------+------+---------------------+-----------+------+-------+ | jobid | username | queue | jobname |Ttime | +-------------------+----------+-------+-------------+------+---------------------+----------+------+-------+ | 440356.statgenpro | kelvin | large | Large | 0 | 2016-08-30 04:31:30 | 25.36 | 8.2581 | +-------------------+----------+-------+-------------+------+---------------------+----------+------+-------+ +---------------------+---------------------+----------+----------+------+------+-------+----------+--------+ | 提交時間 | 開始時間 | wtime@ |wpro15TT5 | 1515 | +---------------------+---------------------+----------+----------+------+------+----------+--------+ | 2016-08-29 22:26:16 | 2016-08-29 22:26:18 | 06:05:13 | 24:00:00 | 3034.30. 12 | +---------------------+---------------------+----------+----------+------+------+-------+----------+--------+ ES =退出狀態；% = 使用率；# = 請求值；@ = 已使用；mem@/vmem@（GB）；nproc = 處理器數量；@ = 已使用；mem@/vmem@（GB）；nproc = 處理器數量；

只有任務所有者才能查看使用情況。

   $ myjob 123456 錯誤：您（kelvin）不是作業 123456 的所有者。.

查看已完成作業的資源使用匯總

功能： 顯示您最近工作的摘要和資源使用百分比

用法： 我的工作 [-v] [-j] []

描述： 顯示您最近工作的摘要和資源使用百分比

可選參數：

-v 啟用詳細模式，請求並顯示資源使用數據，包括運行時間/記憶體/CPU。

-j 依作業 ID 編號（而非預設的結束時間）列出最後完成的作業。請注意，按作業 ID 列出的作業可能與按結束時間列出的作業不同。.

指定要顯示的作業數量（預設值：20）。

範例

$ myjobs 5 您最近完成的 5 個 HPCF 作業（按結束時間排序）： +-------------------+----------+-------+------------------------+------+---------------------+--------+-------+--------+ | 作業 ID | 使用者名稱 | 佇列 | 135 月作業名稱 | ES | 結束時間 | +-------------------+----------+-------+------------------------+------+---------------------+--------+-------+--------+ | 458952.statgenpro |kelvin | large | GATK_CK02 | 0 | 2016-10-28 16:45:05 | 69.82 100.458 10.45.05 | 69.82 | | large | GATK_NG07 | 0 | 2016-10-28 11:19:56 | 53.44 | 10.70 | 0.40 | | 458853.statgenpro | 開爾文 | 大 | GATK_CK03 | 10.80 | 0.42 | | 458862.statgenpro | 開爾文 | 大 | GATK_YJ01 | 0 | 2016-10-28 11:09:05 | 49.90 | 10.30 | 0.245 | 4558 0 | 2016-10-28 10:57:39 | 55.96 | 10.30 | 0.11 | +-------------------+----------+-------+------------------------+------+---------------------+--------+-------+--------+ ES = 退出狀態；% = 運行時間

詳細模式

$ myjobs -v 5 您最近完成的 5 個 HPCF 作業（按結束時間排序）： +-------------------+----------+-------+------------------------+------+---------------------+--------+-------+--------+--------------+--------+-------+-------+----------+-----------+ |obidue name | mem% | wtime% | CPUTime@ | CPUno# | mem@ | mem# | wtime@ | wtime# | +-------------------+----------+-------+------------------------+------+---------------------+--------+-------+--------+----------+----------+--------------- 184-----84 184-----. GATK_CK02 | 0 | 2016-10-28 16:45:05 | 69.82 | 10.80 | 0.42 | 00:41:55 | 2 | 1.08 | 10.00 | 00:30:01 |12 | 1.08 | 10.00 | 00:30:01010000 0000大 | GATK_NG07 | 0 | 2016-10-28 11:19:56 | 53.44 | 10.70 | 0.40 | 00:31:03 | 2 | 1.07 | 10.00 | 00:31:03 | 2 | 1.07 | 10.00 | 00:29:03 |開爾文 | 大 | GATK_KC03 | 0 | 2016-10-28 11:13:53 | 69.20 | 10.80 | 0.42 | 00:42:17 | 2 | 1.08 | 10.00:00:42:17 | 2 | 1.08 | 10.00:00:30 | 458862.statgenpro | 開爾文 | 大 | GATK_YJ01 | 0 | 2016-10-28 11:09:05 | 49.90 | 10.30 | 0.24 | 00:16:57 | 2 | 1.030 | 0.030 | 120:00:00 | | 458858.statgenpro | 開爾文 | 大 | GATK_KC04 | 0 | 2016-10-28 10:57:39 | 55.96 | 10.30 | 0.11 | 50:08:5 | 08:5 | 00:07:58 | 120:00:00 | +-------------------+----------+-------+------------------------+------+---------------------+--------+-------+--------+----------+--------+-------+-------+----------+ ES = 退出狀態；% = 使用率；wtime = 實際運行時間；處理器數量；mem@/vmem@/mem# 單位為 GB

按 JobID 號顯示最近的作業

$ myjobs -j 5 您最近完成的 5 個 HPCF 作業（按 JobID）： +-------------------+----------+-------+------------------------+------+---------------------+--------+-------+--------+ | jobid | username | queue | jobname | ES End End Time Time Time cpu13Ttime | +-------------------+----------+-------+------------------------+------+---------------------+--------+-------+--------+ | 458952.statgenpro |kelvin | large | GATK_CK02 | 0 | 2016-10-28 16:45:05 | 69.82 | 10.458 月 | | large | GATK_YJ01 | 0 | 2016-10-28 11:09:05 | 49.90 | 10.30 | 0.24 | | 458860.statgenpro | 開爾文 | 大 | GATK_NG07 0 | 20185-20018 | 10.70 | 0.40 | | 458858.statgenpro | 開爾文 | 大 | GATK_KC04 | 0 | 2016-10-28 10:57:39 | 55.96 | 10.30 | 0.115 | 4585 | 2016-10-28 10:54:35 | 55.46 | 10.30 | 0.11 | +-------------------+----------+-------+------------------------+------+---------------------+--------+-------+--------+ ES = 退出狀態；% = 使用率；wtime = --------+-------+--------+ ES =退出狀態；

刪除職位

$ qdel 作業ID

例子：

 [itsupport@omics]$qdel 1651