JP-release-workplan

From EgeeWiki

Job Provenance release - internal workplan and notes

Contents

O co jde

Do konce EGEE II je potřeba udělat release JP jako komponenty v rámci programu RESPECT.

Struktura/plán práce

Co znamená RESPECT?

  • žádná oficiální pravidla nejsou, převzít rozumně z EGEE
  • build použijeme ETICS
  • udělat instalaci nějak podobně jako EGEE SA3
  • není třeba žádná certifikace

Strategie/cíle

JP musí být externí samostatnou komponentou, nezbývá než udělat maximum, aby ji chtěli uživatelé a aby se snadno instalovala. V první fázi se zaměříme na základní use-case: přístup ke stavu jobu, který již zmizel z LB, pokud možno téměř transparentně pro uživatele.

Konkrétně:

  • Vše potřebné pro přechod dat z LB do JP vložit jako součást certifikovaného LB
    • včetně mlýnku
  • Klientská funkcionalita LB počítá s JP
    • dotaz na job umí použít JP pro dohledání jobu který už není v LB
      • spolupráce s UI
      • dodělat operace, které když LB vrátí zombie tak se zeptají JPIS (jeho adresu má v ENV proměnné)
      • JP bude umět odpovídat na LB atributy jejich běžnými jmény

Hlavní komponenty

  • certifikace mlýnku jako součást LB
    • připravena a odeslána stránka s informacemi pro certifikátory LB_purge_and_export_to_JP
    • prostředí pro certifikaci JPPS připraveno (JPPS umbar 8902)
    • v YAIM skriptu zapnutí exporteru, konfigurace adresáře
    • pouštění JP importeru (je součástí JP) - nakonfiguruje a spustí ho LB YAIM
  • běžící JPPS s náležitým hlídáním a oprašováním - zodpovídá Fila - JP_umbar
  • běžící JPIS s default konfigurací (pro dotazy z UI) - zodpovídá Fanda - JP-release-workplan/startup
  • instalační balík JPPS, pokud možno přes YAIM
  • instalační balík JPIS, default konfigurace pro dotazy z UI (jako gLiteJobStatus)
  • dokumentace, web
  • zombie v LB
    • implementace směrem k ověření platnosti job_id (validní/nevalidní) pokud se job na dotaz JobStatus (QueryJobs podmínka na JobId) nenajde v normální LB databázi (vrádíme stav PURGED, žádné chybové kódy/texty)
    • pravděpodobná implementace samostatná tabulka, drží validní JobId, nic víc (žádná expirace), konkrétně zřejmě 2 tabulky, jedna drží prefix JobId
  • YAIM instalace JP
    • Fanda, Fila připraveno - CVSka org.glite.jp.index a primary v /config
    • yum install org.glite.jp.index org.glite.jp.primary
    • dokumentace: Job Provenance/Installation Guide
  • různé
    • jména JP atributů z LB, namespace v .T engine (Ljocha)
    • JPimporter - reload CRL - hotovo
    • autorizace uploadu přes GridFTP, URL pro upload je otevřené pouze při správném stavu jobu

Testovací prostředí (SA3 testbed) [Šustr]

  • VMWARE snapshot SL4 - dodal Mirek
  • Je tam PS i IS, vznikla dokumentace

Konkrétní aktuální úkoly a zodpovědnosti

  • Release JPPS 1.0 (tagy, Etics, RPMka) - vyjasnit, udělat tagy [Fila, Fanda, Zdeněk Šustr]
  • na testbed dát tagovanou verzi podle existujicího návodu [Zdeněk Šustr]
  • YAIM LB - konfigurace JP exporteru i importeru - zkontrolovat, případně dodělat [Fanda, Salvet]
    • JP importer jako nezávislé RPM na verzi LB - instalované jako relokované do samostatných adresářů (YAIM skript)

Další kroky

  • otestovat zombies v LB
  • Certifikace LBka s JP exportem - nějak protlačit [Salvet]
  • Datamat UI, testovací prostředí, jednoduchý klient [Ljocha]
  • Dokumentace