RAW "corrompus" à l'import

Démarré par ChristopheNL, Août 08, 2019, 14:27:07

« précédent - suivant »

ChristopheNL

Bonjour,

J'utilisais LR depuis quelques mois sans soucis jusqu'á ce que je rencontre deux problèmes similaires qui me font me poser des questions.
Avant de contacter le support, je viens sonder ici  si c'est un problème connu par d'autres ;)

J'ai attaché une copie d'écran de la visu du problème

Détails:
Windows 10 - 1903 (C:\ - SDD, D:\ HD). Pas d'erreurs reportées par Windows sur les disques
LR Classic 8.3.1
Carte SD Sandisk extreme  - Vérifiée authentique, +/- 1ans
Lecteur carte SD integré au laptop
EOS 6D MkII

Import via le Module import de LR, depuis la carte SD vers le HD. Pendant l'import les photos sont ajoutées dans une collection + application des corrections optiques en presets.
Les imports concernés étaient conséquents (1200 & 800 RAW).

J'ai eu ce problème sur 2 RAW (pour l'instant, je suis loin d'avoir fini le post-process).
Aprés avoir virer & reimporter les fichiers dans LR sans succès, j'ai contrôlé avec DPP : les fichiers montraient aussi des problèmes (moins visible que LR, comme si une trame était visible)

> Comparaison des fichiers via l'utilitaire FC entre la Carte SD & le HDD> Les fichiers ne sont pas identiques.
Copier à la main les fichiers endommagés a réglé le problème

Est ce que d'autres ont vu des problèmes similaires?

Il y a beaucoup de causes plausibles (entre Windows, les disques, LR etc) donc c'est vraiment du procéder par élimination.
N'ayant pas eu d'erreur reportées par Windows, je me penche sur LR pour commencer.

Merci!

ChristopheNL

Depuis DPP (le fichier corrompu était dans mon backup aussi), l'effect de trame

J'evoue être perplexe dans la mesure où le fichier reste lisible

Verso92

Fichier corrompu, effectivement...


Erreurs lors de la copie/import ?

ChristopheNL

Heureusement j'avais l'original, et j'ai pu récupérer l'affaire - donc pas de perte de photos.

Je cherche le coupable maintenant ;) Jamais eu ce type de problèmes avec DIM par example.
Et FC indique des changement assez subtiles dans le contenu des fichiers ,pas une grosse corruption flagrante.

Samoreen

Citation de: ChristopheNL le Août 08, 2019, 14:27:07
...je me penche sur LR pour commencer.

Étant donné que 1) LR utilise des appels standard du système pour copier les fichiers et que 2) il ne procède jamais à aucune modification du dit fichier, la probabilité pour qu'il  soit le coupable est très faible. Les routines de copie du système (qui sont un des éléments essentiels de l'OS) sont a priori à l'épreuve des balles. Reste donc le classique : câble USB, carte SD avec panne intermittente, mémoire du système en fin de vie (pour le mettre en évidence, intervertir les barrettes - ça fera planter autre chose), panne du contrôleur disque ou panne latente du disque lui-même.
Patrick

ChristopheNL

J'avais un doute sur le module d'import de LR : donc c'est pas lui :) (je n'ai creusé le fonctionnement interne).

Je vais étudier le reste, et peut-être temporairement revenir à DIM qui offre une option de vérification binaire des fichiers post-copies.

et pour l'instant, ne pas formater les cartes sources de mes 2 derniers imports.

Merci.

ChristopheNL

Pour les vérifications entre dossiers sur le contenu binaires des fichiers : https://www.scootersoftware.com/ (peux s'utiliser sans installation)

Je viens de vérifier mes imports :) tout est bon maintenant.

philo_marche

Citation de: Verso92 le Août 08, 2019, 15:17:43
Fichier corrompu, effectivement...

Erreurs lors de la copie/import ?

2 minutes (à peine) plus tard, l'expert est déjà sur place.
Et son intervention est on ne peut plus éclairante...  ;D
Fichier corrompu. Tu crois?
Erreurs. Ah bon?
Voilà. Problème réglé.
Merci qui?  ;)


Samoreen

Citation de: ChristopheNL le Août 08, 2019, 17:28:17
Pour les vérifications entre dossiers sur le contenu binaires des fichiers : https://www.scootersoftware.com/ (peux s'utiliser sans installation)

Oui. J'utilise Beyond Compare depuis des années, y compris professionnellement. Il n'y a pas mieux. On peut même comparer des images. Jamais un problème.
Patrick

Verso92

Citation de: Samoreen le Août 08, 2019, 16:21:19
Étant donné que 1) LR utilise des appels standard du système pour copier les fichiers et que 2) il ne procède jamais à aucune modification du dit fichier, la probabilité pour qu'il  soit le coupable est très faible. Les routines de copie du système (qui sont un des éléments essentiels de l'OS) sont a priori à l'épreuve des balles.

Petite question en passant, Patrick : sais-tu s'il y a des vérifications qui sont effectuées lors des copies de fichiers dans les routines "OS" utilisées (CRC, etc) ?


Jean-Claude prétend que si on fait une importation dans Capture One, le logiciel s'assure de l'intégrité des fichiers importés, contrairement à une simple copie des fichiers dans le sous-dossier ad-hoc... cela m'a toujours étonné.

Bon, pour l'instant je n'ai jamais eu de problème d'intégrité de fichier (sauf à la suite d'une tentative de récupération d'une carte effacée par erreur... mais là, ça peut se comprendre).

ChatOuille

Je n'importe pas comme tout le monde. On me disait que j'avais tort car LR vérifie l'intégrité des Raw, mais je vois que même en important via LR on peut avoir des erreurs. Je transferts les Raw de la carte via FileCopy qui vérifie les CRC. Pourtant j'ai eu une fois 2 ou 3 fichiers mal copiés. Je ne suis pas sûr de la cause, ni si j'avais utilisé FileCopy comme d'habitude. En tout cas j'ai mis au rebut une carte qui me paraissait douteuse car le temps d'écriture était trop long, mais je ne suis pas sûr non plus qu'il s'agissait de cette carte.

Je pense bien qu'aussi bien LR et FileCopy utilisent les routines du OS qui sont fiables, mais pas aussi blindé que ça. Parfois il y a des mystères. Mais je suis satisfait de FileCopy et l'intégration (on appelle ça « importer ») dans la BD de LR des fichiers ne pose pas de problème.

Samoreen

Citation de: Verso92 le Août 08, 2019, 18:16:20
Petite question en passant, Patrick : sais-tu s'il y a des vérifications qui sont effectuées lors des copies de fichiers dans les routines "OS" utilisées (CRC, etc) ?

Les opérations de copie effectuées par le système sont considérées comme fiables mais elles ne font pas l'objet de vérification type CRC ou Checksum car cela impacterait globalement les performances du système. Ce n'est pas comme un transfert via Internet où la probabilité d'erreur est tellement grande que chaque paquet doit être vérifié. Il suffit de regarder le log de sa box Internet pour s'en convaincre. Toutefois, cela ne présume pas des vérifications effectuées par le hardware.

De toute façon, même si cette vérification était effectuée, cela ne garantirait pas forcément la bonne fin de la copie pour 2 raisons (à mon avis) :

1. Lors de la création du fichier cible, l'écriture est différée (sauf si le cache est désactivé, ce qui n'est pas recommandé). Une partie du fichier cible peut encore se trouver dans le cache alors que la copie est considérée comme terminée. Si le cache est soumis à corruption (problème mémoire par exemple), le fichier sera donc corrompu et ce sera indétectable.

2. La vérification/comparaison n'est une garantie que si la source est considérée comme fiable. Or cette source (notamment quand il s'agit d'un APN connecté ou d'une carte SD) ne l'est pas nécessairement, on le sait. Un mécanisme de vérification qui comparerait cible et source ne verrait pas nécessairement la corruption de la source.
Patrick

Samoreen

Citation de: Verso92 le Août 08, 2019, 18:16:20
Jean-Claude prétend que si on fait une importation dans Capture One, le logiciel s'assure de l'intégrité des fichiers importés, contrairement à une simple copie des fichiers dans le sous-dossier ad-hoc... cela m'a toujours étonné.

Cela explique peut-être pourquoi les imports par copie sont plus longs dans C1 que dans LR  ;D . Personnellement, je n'utilise jamais les imports par copie. Je récupère mes fichiers dans un dossier dédié pour un premier examen avec Faststone Image Viewer, je dispatche dans les dossiers devant normalement recevoir ces images et je synchronise les dossiers en question. Processus identique pour LR et C1.
Patrick

Verso92

Citation de: Samoreen le Août 08, 2019, 22:30:07
Cela explique peut-être pourquoi les imports par copie sont plus longs dans C1 que dans LR  ;D . Personnellement, je n'utilise jamais les imports par copie. Je récupère mes fichiers dans un dossier dédié pour un premier examen avec Faststone Image Viewer, je dispatche dans les dossiers devant normalement recevoir ces images et je synchronise les dossiers en question. Processus identique pour LR et C1.

Je fais aussi se simple copies dans C1 (pas d'import, donc) : je trouve ça beaucoup plus rapide et moins fastidieux, et comme je n'ai jamais rencontré de problème...

ChristopheNL

J'ai retenu la leçon, dorénavant je vais copier via Filecopy ou tout autre solution capable de check CRC, puis ajouter les Raw dans LR (et effectivement faire un premier tour via Faststone pour déjà supprimer les photos clairement à jeter).

Et garder un œil sur mon PC si je vois plus de fichiers corrompus.

Capture One ne semble pas faire mieux que LR. Nulle part il n'y a mention de contrôle d'intégrité que ce CRC ou autre.


jesus

Tout cela ne résous pas le problème, carte SD, lecteur ou câble.

albert-r

Sur Mac vous avez également > Transfert d'image qui fait du bon boulot

ChristopheNL

Citation de: jesus le Août 09, 2019, 17:47:20
Tout cela ne résous pas le problème, carte SD, lecteur ou câble.

Certes, mais ca me permettra de détecter les problèmes immédiatement à l'avenir et donc de trouver la cause.

ChristopheNL

Suite à un rapport de problème similaire dans mon entourage (2 fichiers corrompus sur tout un batch), j'ai creusé un peu plus. Et il y a de nombreux reports de RAW corrompus suite à un import via LR ( et ce depuis LR 4.1).

Nous sommes bien d'accord que si LR utilise les routines système, c'est un problème qui a peu de sens, mais Google reporte différemment.

J'ai bien évidement change mon procédure d'import. Je reporte ici pour information ;)

albert-r

Il faut peut-être éviter d'effacer les photos, soi-disant loupées, une à une sur la carte, il vaut mieux les supprimer après sélection avec le logiciel utilisé.
Eventuellement formater la carte après l'avoir vidée, cela à chaque fois, ce qui a le mérite de la rendre comme neuve.

ChristopheNL

Je n'efface que très rarement depuis la carte, et je formate systématiquement depuis le boitier (idem pour le report dans mon entourage).
Ne pas oublier que les images sont totalement intactes sur la carte. C'est la copie faite par LR qui est corrompue.

Le nombre de reports de problèmes similaires  avec LR + le fait que ça touche très peu de fichiers et très peu d'octets dans les fichiers semblent tout de même indiquer un problème LR.

jesus

Citation de: ChristopheNL le Septembre 02, 2019, 16:55:19
Je n'efface que très rarement depuis la carte, et je formate systématiquement depuis le boitier (idem pour le report dans mon entourage).
Ne pas oublier que les images sont totalement intactes sur la carte. C'est la copie faite par LR qui est corrompue.

Le nombre de reports de problèmes similaires  avec LR + le fait que ça touche très peu de fichiers et très peu d'octets dans les fichiers semblent tout de même indiquer un problème LR.
C'est facile de tout mettre sur le dos de LR, ça peut venir d'ailleurs.
Ce que l'on pourrait reprocher à LR, c'est de ne pas vérifier plus les fichiers, mais c'est surement plus rapide comme cela.

jeanpierre78

Bonjour,

J'ai eu un problème de RAW corrompus et cela provenait d'un problème de compatibilité USB. Depuis que j'importe sur le port USB3 avec un lecteur de carte externe, je n'ai plus de RAW corrompus. Dans les RAW corrompus il est possible de récupérer les JPEG.

Jean-Pierre

ChatOuille

Citation de: albert-r le Septembre 02, 2019, 16:44:13
Il faut peut-être éviter d'effacer les photos, soi-disant loupées, une à une sur la carte, il vaut mieux les supprimer après sélection avec le logiciel utilisé.
Eventuellement formater la carte après l'avoir vidée, cela à chaque fois, ce qui a le mérite de la rendre comme neuve.

Pas besoin de « vider » la carte mais seulement formater. Je le fais uniquement lorsque je suis sûr que les fichiers ont été correctement transférés et les copies de sécurité ont été faites.

Zaphod

Citation de: Samoreen le Août 08, 2019, 16:21:19
Étant donné que 1) LR utilise des appels standard du système pour copier les fichiers et que 2) il ne procède jamais à aucune modification du dit fichier, la probabilité pour qu'il  soit le coupable est très faible. Les routines de copie du système (qui sont un des éléments essentiels de l'OS) sont a priori à l'épreuve des balles. Reste donc le classique : câble USB, carte SD avec panne intermittente, mémoire du système en fin de vie (pour le mettre en évidence, intervertir les barrettes - ça fera planter autre chose), panne du contrôleur disque ou panne latente du disque lui-même.
Oui mais ça semble montrer que Lightroom ne fait pas de contrôle des fichiers copiés... alors que ça serait largement faisable (au pire, via une option à cocher...)