Nous utilisons des cookies pour vous garantir la meilleure expérience sur notre site. Si vous continuez à utiliser ce dernier, nous considèrerons que vous acceptez l'utilisation des cookies. J'ai compris ! ou En savoir plus !.
banniere

Le portail francophone de la géomatique


Toujours pas inscrit ? Mot de passe oublié ?
Nom d'utilisateur    Mot de passe              Toujours pas inscrit ?   Mot de passe oublié ?

Annonce

Rencontres QGIS 2025

L'appel à participation est ouvert jusqu'au 19 janvier 2025!

#1 Mon 23 March 2009 16:35

Fred
#JeSuisCharlie
Lieu: Paris
Date d'inscription: 24 Jun 2005
Messages: 7682
Site web

Fonctionnement incrémental du Batch

Bonjour,

J'ai la problématique suivante : + ou - 10 000 fichiers DGN (même structure) --> conversion d'un Shape par couche (soit 4).
Avec Workbench mes quatre Shapes se remplissent mais au bout d'un certain temps mon PC plante pour un problème de mémoire ...

Je tente donc un 'Batch deploy' en pensant qu'il devrait être moins gourmand en mémoire. Le hic c'est lorsque j'exécute le 'batch' il crée les shapes dans un répertoire distinct pour chaque fichier. Ex Le fichier tagada.dgn --> création d'un répertoire tagada qui lui même va contenir les 4 shapes ...

Cette différence de comportement est il normal ?
Comment peut-on forcer un merge des fichiers en mode batch ?

Version de FME 2009 (build 5660)


Merci


Fred


GeoRezo vous aide ==> Aidez GeoRezo !

Hors ligne

 

#2 Mon 23 March 2009 16:44

Pierre
DesCartesPourUnMondeMeilleur
Date d'inscription: 22 Sep 2005
Messages: 1643

Re: Fonctionnement incrémental du Batch

Bonjour,

N'y a-t'il pas un paramètre à publier avant de déployer le batch (FANOUT by fme_basename par exemple ?) ?


art X I. Déclaration des Droits de l’Homme et du Citoyen 1789
La libre communication des pensées et des opinions est un des droits les plus précieux de l’Homme : tout Citoyen peut donc parler, écrire, imprimer librement, sauf à répondre de l’abus de cette liberté, dans les cas déterminés par la Loi.

Hors ligne

 

#3 Mon 23 March 2009 17:52

Fred
#JeSuisCharlie
Lieu: Paris
Date d'inscription: 24 Jun 2005
Messages: 7682
Site web

Re: Fonctionnement incrémental du Batch

J'ai cru que c'était bon en faisant un FANOUT par Group mais là il efface les fichiers au fur et à mesure qu'il les écrit sad
Bref je vais tenter d'un autre PC mais je reste preneur du truc.

Fred


GeoRezo vous aide ==> Aidez GeoRezo !

Hors ligne

 

#4 Mon 23 March 2009 20:12

Pierre
DesCartesPourUnMondeMeilleur
Date d'inscription: 22 Sep 2005
Messages: 1643

Re: Fonctionnement incrémental du Batch

Modifier le fme_basename dans un concatenor avec fme_basename+un id ou le fme_geometry. Comme çà le basename est diffèrent pour chaque type de géométrie du fichier. Il devrait écrire maintenant tous les fichiers. Demain je joins un exemple de fmw si besoin.


art X I. Déclaration des Droits de l’Homme et du Citoyen 1789
La libre communication des pensées et des opinions est un des droits les plus précieux de l’Homme : tout Citoyen peut donc parler, écrire, imprimer librement, sauf à répondre de l’abus de cette liberté, dans les cas déterminés par la Loi.

Hors ligne

 

#5 Mon 23 March 2009 23:58

ogayte
Participant assidu
Lieu: Saint-Estève
Date d'inscription: 6 Mar 2006
Messages: 658
Site web

Re: Fonctionnement incrémental du Batch

J'ai bien peur que vous ne soyez "coincé". Le traitement batch est une bonne idée pour diminuer la mémoire utilisée mais dans ce cas vous allez écraser systématiquement le dernier fichier créé et au final vous n'aurez que le 10 000ème fichier dgn dans votre résultat.

La solution propre consiste à faire le chargement dans une base de données type postgis, mysql spatial, oracle locator ou autre puisque dans ce cas le chargement incrémental est possible. Vous pourez ensuite passer au shp sans problème.
Vous pouvez même utiliser un simple ms-access en stockant la géométrie sous forme de chaîne (GeometryExtractor).

Vous pouvez également essayer de regrouper vos 10000 dgn en un dizaine de shp puis regrouper les shp mais le résultat n'est pas garanti.

Sinon, il faut rajouter quelques barrettes de ram dans votre machine...


Olivier Gayte
http://www.veremes.com
+33 (0)4-68-38-65-27

Hors ligne

 

#6 Tue 24 March 2009 09:25

Fred
#JeSuisCharlie
Lieu: Paris
Date d'inscription: 24 Jun 2005
Messages: 7682
Site web

Re: Fonctionnement incrémental du Batch

Olivier,

Je ne comprends pas pourquoi le fonctionnement incrémental est possible en direct dans le Workbench et pas via batch ... Un paramètre bien placé ne suffit-il pas ?

Brindavoine, je veux bien ton exemple, ci-joint 3 exemples de fichier DGN si cela peut aider.


Merci en tous cas pour vos réponses.


Fred


Fichier(s) joint(s) :
Pour accéder aux fichiers vous devez vous inscrire.

GeoRezo vous aide ==> Aidez GeoRezo !

Hors ligne

 

#7 Tue 24 March 2009 13:37

ogayte
Participant assidu
Lieu: Saint-Estève
Date d'inscription: 6 Mar 2006
Messages: 658
Site web

Re: Fonctionnement incrémental du Batch

Le problème est le même avec workbench.
Si tu lances à la suite 2 traitements workbench écrivant dans le même fichier destination le deuxième traitement va écraser le résultat du premier.


Olivier Gayte
http://www.veremes.com
+33 (0)4-68-38-65-27

Hors ligne

 

#8 Tue 24 March 2009 13:59

Pierre
DesCartesPourUnMondeMeilleur
Date d'inscription: 22 Sep 2005
Messages: 1643

Re: Fonctionnement incrémental du Batch

Ci joint le fichier comme je le construirais.


Fichier(s) joint(s) :
Pour accéder aux fichiers vous devez vous inscrire.

art X I. Déclaration des Droits de l’Homme et du Citoyen 1789
La libre communication des pensées et des opinions est un des droits les plus précieux de l’Homme : tout Citoyen peut donc parler, écrire, imprimer librement, sauf à répondre de l’abus de cette liberté, dans les cas déterminés par la Loi.

Hors ligne

 

#9 Thu 26 March 2009 13:18

Fred
#JeSuisCharlie
Lieu: Paris
Date d'inscription: 24 Jun 2005
Messages: 7682
Site web

Re: Fonctionnement incrémental du Batch

Olivier, Mon traitement en workbench avec 1 000 DWG incrémente bien le fichier Shape en sortie ...

Brindavoine, désolé je n'ai pas vu ta réponse plus tôt, je regarde ça asap.


Fred


GeoRezo vous aide ==> Aidez GeoRezo !

Hors ligne

 

#10 Fri 27 March 2009 15:14

ogayte
Participant assidu
Lieu: Saint-Estève
Date d'inscription: 6 Mar 2006
Messages: 658
Site web

Re: Fonctionnement incrémental du Batch

Oui, mais c'est le même traitement workbench donc avec les mêmes problèmes d'utilisation mémoire.


Olivier Gayte
http://www.veremes.com
+33 (0)4-68-38-65-27

Hors ligne

 

Pied de page des forums

Powered by FluxBB