Mais quelle est la meilleure méthode pour transférer un grand nombre de petits fichiers ?

Magazine
Marque
GNU/Linux Magazine
Numéro
211
Mois de parution
janvier 2018
Spécialité(s)


Résumé
À l’heure des webservices et des websockets le transfert d’informations par fichiers peut sembler obsolète. Obsolète ou pas, il est fréquemment utilisé en entreprise. Mais derrière ce sujet simple peuvent se cacher des problèmes de performance…

Dans les entreprises qui ont des échanges de « flux » avec des partenaires, il arrive souvent que ces flux soient simplement des échanges de fichiers, via ftp dans le pire des cas, via sftp souvent et quelques fois via d’autres solutions plus lourdes (CFT, etc.).

1. Posons le problème

Une entreprise doit récupérer chez un partenaire un certain nombre de fichiers par lots. Ces fichiers sont petits (petites images, fichiers XML, fichiers CSV…) et nombreux.

Les fichiers sont récupérés chez le partenaire et non pas poussés par le partenaire. Le protocole de transfert utilisé est le sftp avec échange de clés.

On ne connaît pas le nom des fichiers à l’avance, on connaît simplement le dossier de dépôt, ainsi qu’un pattern de nom : par exemple "achats-*.csv".

Nous allons étudier différentes méthodes de transfert, et voir laquelle est la plus avantageuse.

2. La problématique des couches maison

Dans une entreprise qui a un peu de vécu, les échanges de fichiers avec...

Cet article est réservé aux abonnés. Il vous reste 91% à découvrir.
S'abonner à Connect
  • Accédez à tous les contenus de Connect en illimité
  • Découvrez des listes de lecture et des contenus Premium
  • Consultez les nouveaux articles en avant-première
Je m'abonne


Article rédigé par

Par le(s) même(s) auteur(s)

Témoignage : Golang vs Python… le retour de l’XP !

Magazine
Marque
GNU/Linux Magazine
Numéro
232
Mois de parution
décembre 2019
Spécialité(s)
Résumé

Mesdames, Messieurs… Here come the challengers !!!À droite, voici Python qui rentre sur le ring ! Avec sa trentaine d’années et ses 3 versions majeures, il a prouvé moult fois qu’il est un grand champion !!!À « go »che, du haut de ses 10 ans, voici le jeune challenger Go ! Sponsorisé par le grand sournois Google, il a atteint la maturité et a tout d’un grand désormais !!!Go ou Python, qui va gagner ce rude combat ??? Nous le saurons dans quelques rounds (ou pages) ! Et maintenant, faites entrer l’arbitre…. Fred ! Avec ses quelques années de développement en Python à son actif, mais seulement quelques mois de Golang derrière lui, le public se demande s'il sera vraiment intègre….

Comment bien transmettre ses mots de passe...

Magazine
Marque
GNU/Linux Magazine
Numéro
225
Mois de parution
avril 2019
Spécialité(s)
Résumé
… et autres données critiques ! La transmission de mots de passe à un tiers est très/trop souvent mal réalisée de nos jours. Ceci est malheureusement aussi vrai dans la population des informaticiens de métier (un comble!). Faisons un petit bilan des erreurs à éviter et comment procéder.

Les derniers articles Premiums

Les derniers articles Premium

Donnez une autre dimension à vos logs avec Vector

Magazine
Marque
Contenu Premium
Spécialité(s)
Résumé

Avoir des informations précises et détaillées sur ce qu’il se passe dans une infrastructure, et sur les applications qu'elle héberge est un enjeu critique pour votre business. Cependant, ça demande du temps, temps qu'on préfère parfois se réserver pour d'autres tâches jugées plus prioritaires. Mais qu'un système plante, qu'une application perde les pédales ou qu'une faille de sécurité soit découverte et c'est la panique à bord ! Alors je vous le demande, qui voudrait rester aveugle quand l'observabilité a tout à vous offrir ?

Du graphisme dans un terminal ? Oui, avec sixel

Magazine
Marque
Contenu Premium
Spécialité(s)
Résumé

On le voit de plus en plus, les outils en ligne de commandes s'étoffent peu à peu d'éléments graphiques sous la forme d'émojis UTF8. Plus qu'une simple décoration, cette pointe de « graphisme » dans un monde de texte apporte réellement un plus en termes d'expérience utilisateur et véhicule, de façon condensée, des informations utiles. Pour autant, cette façon de sortir du cadre purement textuel d'un terminal n'est en rien une nouveauté. Pour preuve, fin des années 80 DEC introduisait le VT340 supportant des graphismes en couleurs, et cette compatibilité existe toujours...

Game & Watch : utilisons judicieusement la mémoire

Magazine
Marque
Contenu Premium
Spécialité(s)
Résumé

Au terme de l'article précédent [1] concernant la transformation de la console Nintendo Game & Watch en plateforme de développement, nous nous sommes heurtés à un problème : les 128 Ko de flash intégrés au microcontrôleur STM32 sont une ressource précieuse, car en quantité réduite. Mais heureusement pour nous, le STM32H7B0 dispose d'une mémoire vive de taille conséquente (~ 1,2 Mo) et se trouve être connecté à une flash externe QSPI offrant autant d'espace. Pour pouvoir développer des codes plus étoffés, nous devons apprendre à utiliser ces deux ressources.

Les listes de lecture

8 article(s) - ajoutée le 01/07/2020
Découvrez notre sélection d'articles pour faire vos premiers pas avec les conteneurs, apprendre à les configurer et les utiliser au quotidien.
11 article(s) - ajoutée le 02/07/2020
Si vous recherchez quels sont les outils du DevOps et comment les utiliser, cette liste est faite pour vous.
8 article(s) - ajoutée le 02/07/2020
Il est essentiel d'effectuer des sauvegardes régulières de son travail pour éviter de perdre toutes ses données bêtement. De nombreux outils sont disponibles pour nous assister dans cette tâche.
Voir les 49 listes de lecture

Abonnez-vous maintenant

et profitez de tous les contenus en illimité

Je découvre les offres

Déjà abonné ? Connectez-vous