Det er en stund siden jeg har holdt på med dette så jeg håper at du godtar rusten kunnskap
Vi må skille mellom kvantisering av koeffisienter, som gir feil/unøyaktigheter i filterfunksjonen, og kvantisering i multiply/accumulate som gir kvantiseringsstøy.
En wav-fil er basert på integer, ikke flyttall. Hvis koeffisientene dine lagres som f.eks 16bit wav så er koeffisientene trunkert for evig og alltid uansett hva oppløsningen er i senere utregninger (dette vet du selvsagt).
Jeg anbefaler
"Digital Signal Processing, principles, algorithms and applications", Proakis & Manolakis, kap. 7.6 Quantization of filter coefficients pp 569.
In the realization of FIR and IIR filters in hardware or in software on a general-purpose computer, the accuracy with wich the filter coefficients can be specified is limited by the word length of the computer or the length of the register provided to store the coefficients. Since the coefficients used in implementing a given filter are not exact, the poles and zeros of the system function will, in general, be different from the desired poles and zeros. Consequently, we obtain a filter having a frequency response that is different from the frequency response of the filter with unquantized coefficients.
Feilen man gjør er sterkt avhengig av den faktiske filterfunksjonen. Det er relativt greit å beregne avviket for frekvensresponsen i Matlab mellom en høyoppløst og kvantisert versjon av IR.
Kvantiseringsstøyen i multiply/accumulate er en annen sak, og såvidt jeg forstår det "ute av dine hender" siden du bare tilbyr en IR? Boka nevnt over går i kapittel 7.7.3 (pp 590) igjennom "Statistical Characterization of Quantization effects in Fixed-Point Realizations of Digital Filters". Nå er det rett nok flyttalls-implementasjon du er interessert i.
For flyttall så er vel strengt tatt kvantiseringsstøy i FIR filtrering normalt ikke noe man trenger å bekymre seg over, med mindre implementasjonen har kåla det til?
-k