Enorme base de donnée

Bonjour à tous,

Dans le cadre de mon travail, je dois analyser les températures (T) et l'hygrométrie (H) de plusieurs bâtiments/sites. J'ai environ 32 bâtiments au total, chacun comportant 12 sites. Pour recueillir ces données, nous utilisons un collecteur de données qui enregistre l'hygrométrie et la température toutes les deux heures.

Cependant, le problème réside dans l'organisation des données : les fichiers Excel se trouvent dans des dossiers imbriqués, avec un fichier Excel à la fin de chaque chemin, contenant les relevés de température et d'hygrométrie.

Pour résoudre ce problème, je me suis intéressé à l'utilisation de Power Query, mais jusqu'à présent, j'ai rencontré des difficultés.

Ma question est la suivante : Est-il possible de créer une base de données en rassemblant les données de 1200 fichiers Excel, chacun contenant environ 4000 lignes ? Si cela s'avère impossible, je vais envisager d'utiliser Qlik Sense.

Je vous remercie de votre lecture et de vos futures réponses, cordialement ..

Bonjour

près de 5 millions de lignes c'est beaucoup mais c'est surtout le nombre de classeurs qui est gênant car les fichiers Excel ne se lisent pas instantanément : cela dépend de la structure.

Tes données sont en format Excel ou tu peux les avoir en txt/csv ?

Bonjour !

Ils sont au format Excel, et l'arborescence est compliquée car les données sont recueillies par des agents sur place, et le nom des fichiers diffère selon le bâtiment. C'est un vrai casse-tête.

Pour vous donner une idée de l'organisation des dossiers :

Dossier principal : relevé/site/batimentN°X/nombreux fichiers Excel (par date, certains par mois).

Je viens de recevoir le bébé (les données), du coup je suis en train de mettre en place des procédures pour renommer les dossiers/fichiers afin de simplifier la démarche de compilation, mais je me demande si je ne mets pas trop d'espoir en Excel pour ce genre de travail...

Je vous remercie !

PS : Voila ce que ca donne.

image

RE

PowerQuery gère l'arborescence et se moque du nom des fichiers s'il doit tout traiter et si contenu a la même structure...

Du coup ,

Lorsque je "compile et charge" le dossier que je charge dans "nouvelle requête" j'ai "échec de téléchargement"..

Pourtant si je "charge" le fichier je vois bien mes lignes.

Cordialement,

image

RE

On charge un dossier

Ton image ne permet pas de comprendre ce que tu fais

Rechercher des sujets similaires à "enorme base donnee"