RAW: compression sans perte sans pertes?!

Démarré par eengel, Avril 05, 2013, 22:41:39

« précédent - suivant »

coval95

Citation de: sylvatica le Avril 06, 2013, 00:25:38
Non, et c'est cela qui est génial. Il suffit juste que dans la langue que l'on compresse, les successions de lettres ne soient pas aléatoires. C'est le cas de toutes les langues. Par exemple, après un "b", on a plus de chance d'avoir un "a" qu'un "q".
Là tu me surprends beaucoup. Quand tu vois les successions de lettres dans certaines langues (langues slaves par exemple), ça nous semble imprononçable, on n'a jamais ces associations dans les langues latines (par exemple).

Ah, tu as édité ton post !  ;)
Mais je n'ai toujours pas compris ce que tu voulais dire. Si le logiciel de compression ne sait pas dans quelle langue a été écrit le texte à compresser, comment fait-il ?

Lyr

Citation de: coval95 le Avril 06, 2013, 00:30:59
Là tu me surprends beaucoup. Quand tu vois les successions de lettres dans certaines langues (langues slaves par exemple), ça nous semble imprononçable, on n'a jamais ces associations dans les langues latines (par exemple).

Ah, tu as édité ton post !  ;)
Mais je n'ai toujours pas compris ce que tu voulais dire. Si le logiciel de compression ne sait pas dans quelle langue a été écrit le texte à compresser, comment fait-il ?

Quand il compresse, il écrit la table de correspondance au début, pour que la décompression puisse se faire en connaissance de cause.

Car cela fonctionne aussi avec les images, où il n'y a pas de lettres plus probables que d'autres, mais des valeurs de luminances plus probables que d'autres (un low key ne sera pas compressé de la même manière qu'un high key, mais les deux seront réduit de volume de la même manière).

coval95

Citation de: Lyr le Avril 06, 2013, 00:43:01
Quand il compresse, il écrit la table de correspondance au début, pour que la décompression puisse se faire en connaissance de cause.

Car cela fonctionne aussi avec les images, où il n'y a pas de lettres plus probables que d'autres, mais des valeurs de luminances plus probables que d'autres (un low key ne sera pas compressé de la même manière qu'un high key, mais les deux seront réduit de volume de la même manière).
Ah merci ! Voilà la clé du décodage pour moi !  ;)

A la compression le texte est analysé sous l'angle des successions de caractères et le résultat de l'analyse est stocké sous forme de table de correspondance.
Donc pour une suite de caractères retrouvée plusieurs fois dans le fichier, on aura un code (au lieu d'avoir un code par caractère, d'où le gain de place).
C'est bien ça ?

sylvatica

Citation de: coval95 le Avril 06, 2013, 00:30:59
Ah, tu as édité ton post !  ;)
Mais je n'ai toujours pas compris ce que tu voulais dire. Si le logiciel de compression ne sait pas dans quelle langue a été écrit le texte à compresser, comment fait-il ?

C'est très compliqué à expliquer. Pour te donner une idée, l'algo de Burrows a été posé au concours d'entrée de polyechnique il y a quelques années. Ils n'allaient même pas jusqu'à demander aux candidats de prouver que l'algo était reversible. Ça a été un massacre.

Peut-être qu'une personne qui a une compréhension profonde de l'algo pourrait te l'expliquer avec les mains. J'en suis incapable.

PS: Attention, l'algo de Burrows-W n'est pas utilisé en compression d'image. C'est uniquemen pour du texte.

coval95

Euh, l'explication de Lyr ne te convient (convainc) pas ?
Et ma reformulation n'est pas fidèle à l'esprit de la chose ?

sylvatica

#30
.

sylvatica

Coval,

En fait, je crois qu'il y a un malentendu. La compression de Burrows-Wheeler n'a rien à voir avec les NEFs.

En ce qui concerne la compression avec perte des NEFs, où le nombre de valeurs est limité, il y a effectivement une table de correspondance qui est stockée au début du fichier. Comme le dit Lyr, c'est grâce à cette table que les logiciels peuvent décompresser l'image.

RémiNOLTA

Je vais poser une question de newbie pragmatique : si un RAW compressé sans perte a la même qualité qu'un RAW non compressé,  quel est l'intérêt (car il doit y en avoir un) a utiliser ce dernier ? Pourquoi ne pas utiliser systématiquement le RAW compressé sans perte ?

sylvatica

Citation de: RémiNOLTA le Avril 06, 2013, 02:00:48
Je vais poser une question de newbie pragmatique : si un RAW compressé sans perte a la même qualité qu'un RAW non compressé,  quel est l'intérêt (car il doit y en avoir un) a utiliser ce dernier ? Pourquoi ne pas utiliser systématiquement le RAW compressé sans perte ?

Il n'y a à priori aucun intérêt à ne pas faire de compression sans perte sur ses NEFs. La raison pour laquelle Nikon propose encore le NEF non compressé est un mystère.

Verso92

Citation de: RémiNOLTA le Avril 06, 2013, 02:00:48
Je vais poser une question de newbie pragmatique : si un RAW compressé sans perte a la même qualité qu'un RAW non compressé,  quel est l'intérêt (car il doit y en avoir un) a utiliser ce dernier ? Pourquoi ne pas utiliser systématiquement le RAW compressé sans perte ?

Aucun intérêt à utiliser l'option "non compressé" : plus lourd et plus lent à écrire...
Citation de: sylvatica le Avril 05, 2013, 23:18:18
En meme temps, si Nikon simplifiait ses menus et supprimaient les options et les informations totalement inutiles, l'utilisateur s'y retrouverait mieux.
Citation de: sylvatica le Avril 06, 2013, 02:16:40
Il n'y a à priori aucun intérêt à ne pas faire de compression sans perte sur ses NEFs. La raison pour laquelle Nikon propose encore le NEF non compressé est un mystère.

Sur le D7100, par exemple, cette option "sans compression", totalement inutile, a disparu :

Aria

Citation de: RémiNOLTA le Avril 06, 2013, 02:00:48
Je vais poser une question de newbie pragmatique : si un RAW compressé sans perte a la même qualité qu'un RAW non compressé,  quel est l'intérêt (car il doit y en avoir un) a utiliser ce dernier ? Pourquoi ne pas utiliser systématiquement le RAW compressé sans perte ?

Tiens ?? une similaire ??

Citation de: Aria le Avril 05, 2013, 23:14:58
Puisque la compression "sans perte" ne semble pas nuire au fichier, autant virer l'autre possibilité...J'ai 2 fichiers dont un qui pèse 1 tonne pour le même résultat et je laisse la possibilité de choisir, bizarre Mr Nikon !!


d800e

j'utilise du 14 Bits sans compression car c'est plus rapide à l'ouverture malgré le poids du fichier plus important (env 77 Mo pour ensuite obtenir une image de travail de 210Mo en TIFF)

[at] Verso92, l'avantage d'un boitier pro c'est justement d'avoir encore cette possibilité, d'avoir le choix de ne pas compresser ...

Verso92

Citation de: d800e le Avril 06, 2013, 08:45:05
j'utilise du 14 Bits sans compression car c'est plus rapide à l'ouverture malgré le poids du fichier plus important (env 77 Mo pour ensuite obtenir une image de travail de 210Mo en TIFF)

[at] Verso92, l'avantage d'un boitier pro c'est justement d'avoir encore cette possibilité, d'avoir le choix de ne pas compresser ...

Il y a un essai tout simple que tu peux faire : tu choisis d'un côté RAW 14 bits "sans compression" et de l'autre avec compression "sans perte". Tu passes ton appareil en tout manuel et tu fais une rafale de 30 images (par exemple) à la cadence max.

Tu constateras que l'appareil mettra plus de temps à enregistrer les 30 images en mode "sans compression" et libèrera moins vite le buffer...

Jinx

Citation de: sylvatica le Avril 06, 2013, 00:25:38
Non, et c'est cela qui est génial. Il suffit juste que dans la langue que l'on compresse, les successions de lettres ne soient pas aléatoires. C'est le cas de toutes les langues. Par exemple, en français, après un "b", on a plus de chance d'avoir un "a" qu'un "q". Mais si on se trouve dans une langue ou après le "b" on a plus d'avoir un "q" qu'un "a", cela marchera aussi.

Ton explication est incomplète : l'algo BWT a pour but de reclasser les lettres des mots pour en faire des séquences de lettres répétées. Le BWT ne compresse rien, il étend même la taille du texte original.

C'est la méthode bzip2 qui utilise le BWT en 1ère passe et compresse le résultat avec Huffman en 2ème passe.

RémiNOLTA

Citation de: Aria le Avril 06, 2013, 04:33:55
Tiens ?? une similaire ??

Tiens oui ! Au temps pour moi ! J'avais pourtant lu tout ce fil, très intéressant d'ailleurs.
Bon, en mêm temps il était 2h00 du mat aussi  ::)

RémiNOLTA

Citation de: Verso92 le Avril 06, 2013, 02:44:02
Aucun intérêt à utiliser l'option "non compressé" : plus lourd et plus lent à écrire...


Je connais ton expertise , que je ne remets pas en cause.
Mais un novice comme moi trouvera étonnant qu'un  appareil soit plus lent en RAW sans compression, je devrais dire "sans le travail supplémentaire" de compression par rapport au RAW normal.
A moins que la "perte de temps" lors de la compression soit largement rattrapée par le temps d'écriture sur la carte, moins long car fichiers moins lourd ?
Si je suis dans le vrai, le gain de temps sera sensible surtout pour les rafales. Pour un cliché isolé, ce sera moins flagrant.

J'ai bon ?

d800e

 [at] Verso,

Je sais très bien que 77 Mo prends plus de temps en lecture/écriture que 40 Mo

Je ne fais que du Studio, aussi la rafale de 30 images ...

L'avantage du "Sans Compression" c'est uniquement en post traitement : ça s'ouvre plus vite (même avec un temps de lecture plus important 77 contre 40)

FredEspagne

Il y a quand même un problème. La formulation de Nikon ne garantit pas que le fichier non compressé et que le fichier "compressé et décompressé sans pertes" sont strictement identiques. Si ils ne le font pas c'est qu'il doit y avoir des différences même si elles sont peu visibles. Bien sûr ce sera difficile à vérifier car même si on fait des prises de vue du même sujet dans des conditions identiques en mode non compressé et compressé sans pertes, il y aura toujours des variantes dues aux infimes variations du temps d'exposition ou d'ouverture du diaphragme. Je serais curieux que quelqu'un fasse le test quand même et examine les tailles de fichier non compressé et compressé-décompressé, cela devrait donner une indication.
35 ans de film et labo argentique , 21 de numérique

Verso92

Citation de: FredEspagne le Avril 06, 2013, 09:06:20
Il y a quand même un problème. La formulation de Nikon ne garantit pas que le fichier non compressé et que le fichier "compressé et décompressé sans pertes" sont strictement identiques. Si ils ne le font pas c'est qu'il doit y avoir des différences même si elles sont peu visibles. Bien sûr ce sera difficile à vérifier car même si on fait des prises de vue du même sujet dans des conditions identiques en mode non compressé et compressé sans pertes, il y aura toujours des variantes dues aux infimes variations du temps d'exposition ou d'ouverture du diaphragme. Je serais curieux que quelqu'un fasse le test quand même et examine les tailles de fichier non compressé et compressé-décompressé, cela devrait donner une indication.

J'avais fait cet essai à l'époque.

Comme il est impossible de prendre deux photos identiques (ne serait-ce qu'à cause du bruit), j'étais parti d'un NEF non compressé. Capture Nx permettait à l'époque de compresser "sans perte" un NEF "non compressé" (il semblerait que ce ne soit plus le cas avec la version actuelle, ou, du moins, je n'ai pas retrouvé).

J'avais ensuite converti en TIFF 16 bits les deux NEF (la version "sans compression" et la version compressée "sans perte").

Pour finir, j'avais ouvert les deux TIFF générés avec un éditeur hexadécimal : données "image" strictement identiques au bit près.
(peut-être est-il possible de retrouver ces posts qui commencent à dater ?)

Jinx


Jinx

Citation de: RémiNOLTA le Avril 06, 2013, 09:02:16
Je connais ton expertise , que je ne remets pas en cause.
Mais un novice comme moi trouvera étonnant qu'un  appareil soit plus lent en RAW sans compression, je devrais dire "sans le travail supplémentaire" de compression par rapport au RAW normal.

Tout dépend de la vitesse de compression, c'est à dire si le CPU et la RAM sont rapides ou non.
La compression d'un même fichier peut prendre 0.1s ou 15s suivant que tu fais ça sur un PC haut de gamme ou un smartphone bas de gamme...
A priori les CPU embarqués sur les boîtiers sont assez performants pour que le gain soit réel.

Jinx

Citation de: FredEspagne le Avril 06, 2013, 09:06:20
Il y a quand même un problème. La formulation de Nikon ne garantit pas que le fichier non compressé et que le fichier "compressé et décompressé sans pertes" sont strictement identiques.

Dans "compressé sans pertes" il y a écrit "sans pertes", est-ce si difficile à comprendre ?

1 seul bit altéré ou perdu rend caduque la qualification "sans pertes", tu imagines bien que Nikon ne joue pas avec ça...

Si tu achètes du soda sans sucres tu te poses la question de savoir s'il n'y aurait tout de même pas un peu de sucre dedans ?

Verso92

Citation de: d800e le Avril 06, 2013, 09:02:53
[at] Verso,

Je sais très bien que 77 Mo prends plus de temps en lecture/écriture que 40 Mo

Je ne fais que du Studio, aussi la rafale de 30 images ...

L'avantage du "Sans Compression" c'est uniquement en post traitement : ça s'ouvre plus vite (même avec un temps de lecture plus important 77 contre 40)

Cela dépend certainement de l'ordinateur utilisé, de la puissance du processeur, des performances du DD (vitesse de rotation, etc).

Je viens de faire un petit essai à l'instant avec 10 x NEF de D700. Sous Capture Nx2, il me faut le même temps (17s) pour ouvrir les dix fichiers NEF, qu'ils soient "non compressés" ou compressés "sans perte" (ordinateur redémarré entre les deux essais, pour éviter les effets de "cache").
- NEF non compressés : 10 x 25 Mo,
- NEF compressés sans perte : 10 x 15 Mo.

Verso92

Citation de: GilD le Avril 06, 2013, 09:38:51
Dans "compressé sans pertes" il y a écrit "sans pertes", est-ce si difficile à comprendre ?

Apparemment, oui...

Sebmansoros

Je pense qu'il y en a qui ont du temps à perdre a compliquer ce qui est simple. Mais il est vrais que c'est compliqué de faire simple. ;)