Utilisation des ressources au CCIN2P3

Utilisation des ressources 

informatiques au CCIN2P3 

Wojciech Wojcik 

Centre de Calcul de l’IN2P3 

E-mail: wojcik@in2p3.fr 

URL: http://cc.in2p3.fr/

Introduction 

• Cette exposé/mini-cours a pour but: 

– Présenter du Centre de Calcul de l’IN2P3 

– Présenter des services disponibles au CCIN2P3 

– Donner les informations nécessaires pour une bonne 

utilisation des ressources du Centre 

• Exposé est destiné aux utilisateurs (nouveaux et 

anciens) du CCIN2P3 

W.Wojcik, CCIN2P3 

2 

18/04/2006

Ordre du jour 

• Organisation d’accès aux ressources (user/logon, 

group(s), czar, plates-formes, AFS…) 

• Ressources à la disposition des utilisateurs (CERNLIB, 

ROOT, GEANT4, NAG, NAGC, LHC++, logiciel libre 

et commercial) 

• Organisation des ressources d’un groupe (espace disque, 

code source, « repository » CVS, bibliothèques, 

binaires, bandes, SPS, HPSS) 

• Utilisation des ressources (interactive, batch, disques, 

bandes, SPS, HPSS) 


3 

18/04/2006

Les plates-formes 

• Linux – SL3 (Scientific Linux) 

– Fortran : g77, pgf77, pgf90, pghpf, f95, ifort 

– C, C++ : pgcc, pgCC, icc 

– gcc-3.2.3 

• 3.3 

• 3.4.2 


4 

18/04/2006

Accès s aux ressources 

• Accès à la session UNIX - login (via ssh): 

slogin ccali 

• Accès aux ressources AFS – klog : 

klog 

klog –cell cern.ch –pr wojcik 

Vérification des droits par tokens 

• Userid, groupid – identification d’un utilisateur 

sous le système UNIX : 

La commande id – donne nom et group(s) 

Changement de groupe : newgroup 


6 

18/04/2006

Accès s aux ressources 

• Règles d’utilisation du CC : 

http://cc.in2p3.fr 

• Protection par le mot de passe « password »: 

– Minimum 8 caractères 

– Pour changer : kpasswd 

– Qui peut changer/créer mon password (par 

setkpasswd) : 

anq –l setpw wojcik 

anq -h 


7 

18/04/2006

L’accès s aux fichiers 

• L’espace disque permanent (sous AFS) : 

(http://cc.in2p3.fr/rubrique333.html) 

– $HOME – 200Mo par défaut 

– $THRONG_DIR – espace partagé par un groupe, sauvegardé 

par CC 

– $GROUP_DIR – espace partagé par un groupe, non 

sauvegardé par CC, géré par un administrateur (« czar »). 

• Qui est votre « czar » et comment est géré votre espace 

$GROUP_DIR 

La commande : qspace ou pts memb czar.votre_groupe 


8 

18/04/2006


• Les commandes fs et pts (pour les système AFS) : 

fs sysname, fs la, fs lq, fs setacl, fs help 

pts memb, pts help 

• Utilisation de fs sysname (ou @sys) dans votre $HOME 

ou $THRONG_DIR : 

ln –s .@sys/bin bin 

ln –s .@sys/lib lib 

cd bin 

cd lib 


9 

18/04/2006


• L’espace disque semi-permanent (sous NFS) : 

– /sps/group/…. 

• Attention – espace non sauvegardé 


10 

18/04/2006


• L’espace disque local à chaque station 

(« temporaire » $TMPDIR) 

– /tmp - utilisé par certains utilitaires (e.g. vi), trop 

petit pour être utilisé par un utilisateur 

– /scratch – destiné aux fichiers temporaires. A utiliser 

via une commande sfget (voir man sfget) ou 

$TMPBATCH. Cette espace est nettoyé par BQS à la 

fin du job batch. En interactive – c’est la 

responsabilité d’un utilisateur. Nettoyage en cas de 

besoin d’espace. 


11 

18/04/2006


• Pour savoir sur quelle système de disque on est, 

la commande : pwd 

– Si la réponse est : /afs/in2p3.fr/… 

c’est AFS, donc les permissions via ACL sont 

valables, utilisez fs la pour savoir. Voir fs help pour 

les détails 

– Si la réponse est : /tmp/… ou /scratch/…. 

C’est un système de fichier local, donc les 

permissions type UNIX sont valables, utilisez la 

commande ls –l pour savoir 


12 

18/04/2006


• Pour savoir sur quelle système de disque on est, 

la commande : pwd 

– Si la réponse est : /sps/… 

c’est l’espace semi-permanant, permissions type 

UNIX 


13 

18/04/2006

Organisation de ressources 

• THRONG_DIR – espace disque destiné à 

garder les sources, bibliothèques, binaires, 

fichiers de constantes 

– Espace disque sous AFS : 200Mo – 8Go (max) 

– Permissions (ACL) peuvent être modifiés par 

«czar»(voir fs la) 

– Cette espace est sauvegardé par CC 


14 

18/04/2006

Organisation de ressources 

• GROUP_DIR – espace disque destiné à garder 

de données, histogrammes, ntuples 

– Espace disque sous AFS : n * 8Go 

– Cette espace est en gestion de votre « czar » (les commandes 

« createdir », « modifydir »et «removedir ») 

– La commande qspace donne le(s) nom(s) de « czar »et la 

répartition d’espace dans votre groupe. 

– Cette espace n’est pas sauvegardé par CC (utilisez l’archivage 

si nécessaire). 

– Pour savoir qui est dans un groupe: 

pts memb nom_du_groupe 


15 

18/04/2006

• Backup : 

Backup 

– faites par CC : $HOME, $THRONG_DIR 

– Pour retrouver le fichier qui existé encore hier (dans 

$HOME) 

cd $HOME_BACKUP ; cp toto.dat ~/. 

– Pour retrouver le fichier : mail à : 

User.Support@cc.in2p3.fr 


16 

18/04/2006

Ressources disponibles 

• CPU - fermes : 

– Interactives (BAHIA) 

– Batch (Anastasie) 

• Stockage de masse : 

– Espace disque – AFS 

– Bandes (utilisation via « stage ») : 9840 

–HPSS 

– SPS (avec montage NFS) 

• Logiciels – voir http://cc.in2p3.fr/article115.html 


17 

18/04/2006


• CERNLIB: $CERN_ROOT 

– Binaires exécutables dans $CERN_ROOT/bin : 

paw, paw++, cmz, nypatchy,… 

– Bibliothèques dans $CERN_ROOT/lib : 

`cernlib mathlib` 

– GEANT3 : `cernlib geant graflib mathlib` 

– Source dans $CERN_ROOT/src : 

accès à « working directory » de CVS au CERN 


18 

18/04/2006


• NAG Fortran Library 

http://cc.in2p3.fr/article115.html 

– $NAG_ROOT donne le répertoire 

– $NAG_LIB donne la définition de la bibliothèque 

`cernlib` $NAG_LIB 


19 

18/04/2006

• LHC++ 


– NAG_C Library 


• $NAG_C_ROOT 

• $NAG_C_LIB 

– CLHEP – la bibliothèque de classes (C++) pour HEP 



20 

18/04/2006


• GEANT4 


– /usr/local/geant4 

– geant4_env 

• ROOT 

http://root.cern.ch/ 


– /usr/local/root 

– $ROOTSYS – à définir (ex: /usr/local/root/pro/root) 

–root_env 


21 

18/04/2006

Gestion des sources - CVS 

• «Repository»: $THRONG_DIR/cvsroot 

setenv CVSROOT $THRONG_DIR/cvsroot 

• Pour les utilisateurs externes sous AFS : 

klog –pr wojcik –cell in2p3.fr 

setenv CVSROOT /afs/in2p3.fr/home/throng/opera/cvsroot 

• Pour les utilisateurs qui n’ont pas d’AFS : 

setenv CVS_RSH ssh 

setenv CVS_SERVER /usr/local/bin/cvs 

setenv CVSROOT 

:ext:user@cccvs.in2p3.fr:/afs/in2p3.fr/home/throng/opera/cvsroot 

• Utilisation de pserver n’est pas recommandé 

(securité!) 


22 

18/04/2006


Le serveur « mutualisé » de CVS 

Voir: http://cvs.in2p3.fr 

Demandez le compte via la page WEB du CVS 


23 

18/04/2006


Commandes de base : 

• cvs init - une fois pour créer « repository » 

• cvs import dir WW start 

• cvs checkout dir 

• cvs add file_name 

• cvs remove file_name 

• cvs diff files 


24 

18/04/2006

CVS 

CVS repository 

User 1 User 2 User 3 

Working directories 


25 

18/04/2006

Service interactive BAHIA 

• Accès au service interactive BAHIA : 

– slogin ccali 

– ssh ccali 

• Doit servir pour développement, debugging, 

tests, préparation de jobs batch, sortie graphiques 

• Ne doit pas servir à exécuter des taches lourdes 


26 

18/04/2006

Système BQS 

• BQS - Batch Queuing System, voir : 


man bqs 

• Classes : 


• Exécution dans « répertoire batch » 

($TMPBATCH). 

• Allocation des gros fichiers dans « répertoire 

batch » par l'utilitaire sfget : 

set file=`sfget -s 500 toto.hbook` 


27 

18/04/2006


Système BQS 

• Soumission par : qsub [options] my.exe 

-a time, -af filepath, -eo, -h, -N jobname, -V 

-l platform=LINUX,T=3600,CPUb,M=512MB 

• Les options peuvent être fournis dans « script » par une 

directive #PBS: 

#!/bin/csh -f 

#PBS -l platform=LINUX,T=5:00,CPUb -N jobname -V 

• Si vous voulez passer des paramètres au script my.exe : 

qsub -l platform=LINUX,T=5:00 -N jobname 

~/my.exe par1 par2 

Ctrl-D 

• ou : 

qsub -l platform=LINUX,T=5:00 -N jobname < file # file 

contiens le nom de script + params 

28 

18/04/2006

Système BQS 

• Interrogation : qjob [-e] ; qjob -a -r ; qjob -s 

man qjob 

• Comment "tuer" un job : qdel jobname 

man qdel 

• Comment changer son « time limit » : qalter [options] 

jobname 

qalter -l T=5:00 jobname 

• Regarder la « trace console » du job (stdout) : qcat [-n] 

jobname 

• HOLD, RELEASE : qhold jobname, qrls jobname 


29 

18/04/2006

Gestion de bandes : TMS 

• En mode ligne : la commande tms 

• En mode graphique : la commande xtms 

• Fonctionnalité : query, create, 


30 

18/04/2006

Le système 

« xtage » 

• xtagequery - pour connaître l'état de fichiers « stagés »: 

man xtagequery ; xtagequery -help 

• xtageread (ou xtagein) - donne accès (par un lien UNIX) 

à la copie d'un fichier bande (9840): 

man xtageread ; xtageread -help 

• xtagefree (ou xtageclear) - efface le lien, permet d'effacer 

la copie. 

man xtagefree ; xtagefree -help 

• xtagewrite (ou xtageout) - écrit un fichier disque sur 

bande (9840): 

man xtageout ; xtageout -help 


31 

18/04/2006

xtagequery 

• Donne la liste de fichiers qui sont disponibles sur 

le disque du système de « xtage ». 


32 

18/04/2006

xtageread - le fonctionnalité 

3490 

9840 

RFIO 

DLT 

disque 

de 

staging 

disque 

AFS 

prog 


33 

18/04/2006

xtageread 

• Le résultat de cette commande est: 

– une copie de fichier vers le disque de « stage » 

– le « lien » vers ce fichier 

• Le fichier est disponible en mode « read only ». 


34 

18/04/2006

xtagewrite 

• Fait une copie d'un fichier sur disque (dans 

/scratch (via sfget) ou sur $GROUP_DIR) vers la 

bande/DLT. 

• Le fichier peut être effacé ou non (défaut). 

• On doit préciser le format de fichier (pour mettre 

cette information dans le HDR2). 


35 

18/04/2006

xtagefree 

• Destruction d'un « lien ». 

• Le fichier devient « inactive », peut être effacé de 

disque. 


36 

18/04/2006

Utilisation du logiciel PAW 

• Sur BAHIA vous pouvez utiliser les fichiers 

.hbook qui se trouvent dans l'espace « stage » (ou 

sur bandes). Vous n'avez pas besoin de faire des 

copies sur vos répertoires, exemple : 

... 

paw 

paw>shell 

xtageread -Vabc123 -q 4 myhistos.hbook 

>exit 


37 

18/04/2006

Utilisation du logiciel PAW 

paw>hist/file 1 myhistos.hbook 0 

paw>nt/pl ..... 

... 

paw>shell 

xtagefree myhistos.hbook 

>exit 

paw>exit 


38 

18/04/2006

Accès s aux données : HPSS 

L’interface RFIO est recommandé: 


Les commandes: rfdir, rfcp, rfrm, rfchmod, rfcat, rfmkdir, 

rfrename, rfstat 


39 

18/04/2006

Résumé 

• Le Centre de Calcul de l’IN2P3 fourni des 

services de calcul et de stockage/accès aux 

données. 

• L’utilisation doit être conforme aux normes 

définis par le Centre, pour assurer le service pour 

la totalité de la discipline (env. 60 

group/expériences). 

• Chaque expérience doit tenir compte de la 

configuration et de possibilités du Centre, les 

décisions importantes doivent être consulter avec 

le service « User Support » du Centre 


40 

18/04/2006

Autres sources d'informations 

• Les pages WEB : 

– http://cc.in2p3.fr/ 

• Les news (dans news.in2p3.fr) : 

– in2p3.cc.unix 

– in2p3.telecom 

• Par e-mail à : 

– User.Support@cc.in2p3.fr 


41 

18/04/2006

Utilisation des ressources au CCIN2P3

You also want an ePaper? Increase the reach of your titles

Delete template?

Save as template?