Projet

Général

Profil

ImportMassif » Historique » Révision 4

Révision 3 (Jonathan Schaeffer, 18/08/2015 10:00) → Révision 4/5 (Jonathan Schaeffer, 18/08/2015 17:59)

h1. Import massif 

 Ce document décrit comment a été réalisé l'import massif d'une base de donnée existante. 

 La base de donnée telle que décrite dans le document#106 est très proche de la base access qui était utilisée précédemment. 

 L'import est réalisé à partir d'un ensemble de fichiers au format CSV dont voici la liste ainsi que les en-têtes nécessaires : 

 |_. Table dans la base |_. Nom du fichier CSV |_. Entêtes |_. Lien vers un exemple | 
 | Sectors | sectors.csv | "ID_SECTOR";"SECTOR_ORDER";"SECTOR_NAME";"COMMENT" | "sectors.csv":https://tucuxi.univ-brest.fr/attachments/406/SECTOR.txt | 
 | Themes | themes.csv | "CODE_THEME";"THEME_NAME";"COMMENT" | "themes.csv":https://tucuxi.univ-brest.fr/attachments/407/THEME.txt | 
 | Datasources | datasources.csv | "ID_DATA_SOURCE";"SOURCE_NAME";"DESC_SOURCE";"COMMENT" | "datasources.csv":https://tucuxi.univ-brest.fr/attachments/410/DATA_SOURCE.txt | 
 |    | datastrategies.csv | "ID_DATA_STRATEGY";"SOURCE";"THEME";"POINT";"SITE";"COMMENT" | "datastrategies.csv":https://tucuxi.univ-brest.fr/attachments/411/DATA_STRATEGY.txt | 
 | Points | points.csv | "ID_POINT";"POINT_NAME";"PT_ACTIVITY";"LAT_PT";"LONG_PT";"DIRECTION";"SITE";"COMMENT" | "points.csv":https://tucuxi.univ-brest.fr/attachments/412/POINT.txt | 
 | Sites | sites.csv | "ID_SITE";"SITE_NAME";"SITE_ACTIVITY";"SECTOR";"COMMENT" | "sites.csv":https://tucuxi.univ-brest.fr/attachments/413/SITE.txt | 
 | Stations | stations.csv | "ID_STATION";"DATA_STRATEGY";"DATE_STATION";"DAY_KNOWN";"LAT_STA";"LONG_STA";"DIRECTION";"COMMENT" | "stations.csv":https://tucuxi.univ-brest.fr/attachments/512/STATION_V2.txt | 
 | | collectionlists.csv | "ID_COLLECTION_LIST";"COLLECTION_LIST";"COMMENT" | "collectionlists.csv":https://tucuxi.univ-brest.fr/attachments/424/COLLECTION_LIST.txt | 
 | Collections | collections.csv | "ID_COLLECTION";"STATION";"COLLECTION_NAME";"SAMPL_METH";"COLLECTION_SIZE";"UNIT";"LAT_COLL";"LONG_COLL";"DIRECTION";"COMMENT" | "collections.csv":https://tucuxi.univ-brest.fr/attachments/513/COLLECTION_V2.txt| 
 | Units | units.csv | "ID_UNIT";"UNIT_NAME";"UNIT_SYMB";"COMMENT" | | 
 | Samplemethods | samplemethods.csv | "ID_SAMPLE_METH";"SAMPLE_METH_NAME";"SAMPLER";"COMMENT" | "samplemethods.csv":https://tucuxi.univ-brest.fr/attachments/428/SAMPL_METH.txt| 
 | Samplers | samplers.csv | "ID_SAMPLER";"SAMPLER_NAME";"DESC_SAMPLER";"SAMPLER_SIZE";"UNIT";"COMMENT"| "samplers.csv":https://tucuxi.univ-brest.fr/attachments/427/SAMPLERS.txt | 
 | Samples | samples.csv | "ID_SAMPLE";"SAMPLE_NAME";"COLLECTION";"SAMPLE_SIZE";"UNIT";"COMMENT";"RESULTS" | "samples.csv":https://tucuxi.univ-brest.fr/attachments/514/SAMPLE_V2.txt | 
 | Results | results.csv | "ID_RESULTS";"COLLECTION";"SAMPLE";"N°RESULT";"SPECIES";"FCTNAL_GR";"NUM_VAL";"PARAM";"METH_ANA";"BROKEN";"UNIT";"RESULT_TYP";"COMMENT" | "results":https://tucuxi.univ-brest.fr/attachments/515/RESULTS_V2.txt | 
 | Variables | parameters.csv |"ID_PARAM";"PARAM_NAME";"COMMENT" |    "parameters.csv":https://tucuxi.univ-brest.fr/attachments/449/PARAMETERS.txt | 
 | Meth_anas | meth_ana.csv | "ID_METH_ANA";"METH_ANA_NAME";"METH_ANA_DESC";"COMMENT" | "meth_ana.csv":https://tucuxi.univ-brest.fr/attachments/448/METH_ANA.txt    | 
 | Functionalgroups | fctnal_gr.csv | "ID_FCTNAL_GR";"FCTNAL_GR_NAME";"DESC_FCTNAL_GR";"COMMENT"| "fctnal_gr.csv":https://tucuxi.univ-brest.fr/attachments/447/FCTNAL_GR.txt | 
 | Taxonomies | taxonsaphiaid.csv | CODE_SP;ScientificName_initial;AphiaID_accepted;ScientificName_accepted;Authority_accepted | "taxonsaphiaid.csv":https://tucuxi.univ-brest.fr/attachments/502/worms_matched_V2.csv | 
 | Ecologroups | ecologroups.csv| "NOM_SP";"ECOLO_GR";"DESC_GR_ECOL" | "ecologroups.csv":https://tucuxi.univ-brest.fr/attachments/516/ECOLOGIC_GR_V2.txt | 
 | Trophic_groups | trophic_gr.csv |"SPECIES";"CODE_TROPHIC_GR";"TROPHIC_GR";"ALIM_NAT";"ALIM_STAT";"ALIM_ENVT";"SIZE_RAP" | "trophic_gr.csv":https://tucuxi.univ-brest.fr/attachments/download/517/TROPHIC_GR_V2 | 
 | Taxonomies | taxos.csv | "CODE_SP";"EMB";"CLA";"ORD";"FAM";"GENRE";"NOM_SP" | "taxos.csv":https://tucuxi.univ-brest.fr/attachments/518/TAXO_V3.txt | 

  

 Le script qui réalise l'import massif est source:db/seeds.rb 

 L'import massif est appelé à partir de la commande : 

 <pre> 
 RAILS_ENV=production rake db:seed 
 </pre> 

 Une demande est en cours pour transférer cet import sous forme de tâches rake indépendantes (#1261).