Kreuzkorrelation: Muster in der Computer Vision entschlüsseln

Von Fouad Sabry

Was ist Kreuzkorrelation

In der Signalverarbeitung ist Kreuzkorrelation ein Maß für die Ähnlichkeit zweier Serien als Funktion der Verschiebung der einen relativ zur anderen. Dies wird auch als gleitendes Skalarprodukt oder gleitendes Innenprodukt bezeichnet. Es wird üblicherweise zum Durchsuchen eines langen Signals nach einem kürzeren, bekannten Merkmal verwendet. Es findet Anwendung in den Bereichen Mustererkennung, Einzelpartikelanalyse, Elektronentomographie, Mittelwertbildung, Kryptoanalyse und Neurophysiologie. Die Kreuzkorrelation ähnelt in ihrer Natur der Faltung zweier Funktionen. Bei einer Autokorrelation, also der Kreuzkorrelation eines Signals mit sich selbst, wird es immer eine Spitze mit einer Verzögerung von Null geben, und ihre Größe entspricht der Signalenergie.

Wie Sie wollen Nutzen

(I) Einblicke und Validierungen zu den folgenden Themen:

Kapitel 1: Kreuzkorrelation

Kapitel 2: Autokorrelation

Kapitel 3: Kovarianzmatrix

Kapitel 4: Schätzung von Kovarianzmatrizen

Kapitel 5: Kreuzkovarianz

Kapitel 6: Autokovarianz

Kapitel 7: Bayesianische Variationsmethoden

Kapitel 8: Normale Gammaverteilung

Kapitel 9: Erwartungsmaximierungsalgorithmus

Kapitel 10: Griffiths Ungleichheit

(II) Beantwortung der häufigsten öffentlichen Fragen zur Kreuzkorrelation.

(III) Beispiele aus der Praxis für die Verwendung der Kreuzkorrelation in vielen Bereichen.

An wen sich dieses Buch richtet

Profis, Studenten und Doktoranden, Enthusiasten, Hobbyisten und diejenigen, die für jede Art von Kreuzkorrelation über das Grundwissen oder die Informationen hinausgehen möchten.

 

 

• Sprache: Deutsch
• Herausgeber: Eine Milliarde Sachkundig [German]
• Erscheinungsdatum: 10. Mai 2024

Buchvorschau

Kapitel 1: Kreuzkorrelation

Die Kreuzkorrelation wird in der Signalverarbeitung verwendet, um den Grad der Vergleichbarkeit zweier Reihen in Abhängigkeit von ihrer relativen Verschiebung zu quantifizieren. Ein gleitendes Punktprodukt (oder gleitendes Innenprodukt) ist ein anderer Name für dieses Konzept. Es wird typischerweise verwendet, um ein langes Signal auf der Suche nach einem diskreten, vorgegebenen Merkmal zu durchsuchen. Es kann in einer Vielzahl von Bereichen eingesetzt werden, darunter Neurophysiologie, Kryptoanalyse, Mittelwertbildung und Mustererkennung. Die Faltung zwischen zwei Funktionen ist analog zur Kreuzkorrelation. Die Energie eines Signals wird durch einen Peak mit einer Verzögerung von Null in einer Autokorrelation dargestellt, die die Kreuzkorrelation mit sich selbst darstellt.

Statistik und Wahrscheinlichkeit, der Begriff Kreuzkorrelationen bezieht sich auf die Korrelationen zwischen den Einträgen zweier Zufallsvektoren \mathbf {X} und \mathbf {Y} , während die Korrelationen eines Zufallsvektors \mathbf {X} die Korrelationen zwischen den Einträgen \mathbf {X} von sich selbst sind, die die Korrelationsmatrix von bilden \mathbf {X} .

Wenn jedes von \mathbf {X} und \mathbf {Y} eine skalare Zufallsvariable ist, die wiederholt in einer Zeitreihe realisiert wird, dann werden die Korrelationen der verschiedenen zeitlichen Instanzen von \mathbf {X} als Autokorrelationen von  bezeichnet \mathbf {X} , und die Kreuzkorrelationen von \mathbf {X} mit \mathbf {Y} über die Zeit sind zeitliche Kreuzkorrelationen.

Statistik und Wahrscheinlichkeit, Korrelationen sind immer standardisiert, so dass sie Werte zwischen 1 und +1 als Teil ihrer Definition annehmen können.

Wenn X und Y zwei unabhängige Zufallsvariablen mit Wahrscheinlichkeitsdichtefunktionen f bzw g . sind, dann ist die Wahrscheinlichkeitsdichte der Differenz Y-X formal durch die Kreuzkorrelation (im Sinne der Signalverarbeitung) gegeben; f\star g in den Bereichen Wahrscheinlichkeit und Statistik verwenden wir diese Sprache jedoch nicht.

Im Gegensatz dazu ergibt die Faltung f*g (äquivalent zur Kreuzkorrelation von f(t) und {\displaystyle g(-t)} ) die Wahrscheinlichkeitsdichtefunktion der Summe X+Y .

Für stetige Funktionen f und g , Definition der Kreuzkorrelation:

{\displaystyle (f\star g)(\tau )\ \triangleq \int _{-\infty }^{\infty }{\overline {f(t)}}g(t+\tau )\,dt}

was dasselbe ist wie

{\displaystyle (f\star g)(\tau )\ \triangleq \int _{-\infty }^{\infty }{\overline {f(t-\tau )}}g(t)\,dt}

wobei {\displaystyle {\overline {f(t)}}} das komplexe Konjugat von f(t) bezeichnet wird und \tau als Verschiebung oder Verzögerung bezeichnet wird.

Für hochkorrelierte f und g die eine maximale Kreuzkorrelation zu einem bestimmten  haben \tau , tritt ein Merkmal in f at t auch später in g at  auf t+\tau , daher g könnte beschrieben werden, dass   es f durch \tau verzögert ist.

Wenn f g und beide kontinuierliche periodische Funktionen der Periode sind T , wird die Integration von -\infty bis \infty durch die Integration über ein beliebiges Längenintervall ersetzt {\displaystyle [t_{0},t_{0}+T]} T :

{\displaystyle (f\star g)(\tau )\ \triangleq \int _{t_{0}}^{t_{0}+T}{\overline {f(t)}}g(t+\tau )\,dt}

was dasselbe ist wie

{\displaystyle (f\star g)(\tau )\ \triangleq \int _{t_{0}}^{t_{0}+T}{\overline {f(t-\tau )}}g(t)\,dt}

Die Kreuzkorrelation wird für diskrete Funktionen auf ähnliche Weise definiert:

{\displaystyle (f\star g)[n]\ \triangleq \sum _{m=-\infty }^{\infty }{\overline {f[m]}}g[m+n]}

was dasselbe ist wie:

{\displaystyle (f\star g)[n]\ \triangleq \sum _{m=-\infty }^{\infty }{\overline {f[m-n]}}g[m]}

Für endliche diskrete Funktionen {\displaystyle f,g\in \mathbb {C} ^{N}} ist die Definition der (zirkulären) Kreuzkorrelation wie folgt:

{\displaystyle (f\star g)[n]\ \triangleq \sum _{m=0}^{N-1}{\overline {f[m]}}g[(m+n)_{{\text{mod}}~N}]}

was dasselbe ist wie:

{\displaystyle (f\star g)[n]\ \triangleq \sum _{m=0}^{N-1}{\overline {f[(m-n)_{{\text{mod}}~N}]}}g[m]}

Für endliche diskrete Funktionen {\displaystyle f\in \mathbb {C} ^{N}} , {\displaystyle g\in \mathbb {C} ^{M}} , Definition der Kernel-Kreuzkorrelation:

{\displaystyle (f\star g)[n]\ \triangleq \sum _{m=0}^{N-1}{\overline {f[m]}}K_{g}[(m+n)_{{\text{mod}}~N}]}

wobei

{\displaystyle K_{g}=[k(g,T_{0}(g)),k(g,T_{1}(g)),\dots ,k(g,T_{N-1}(g))]}

ein Vektor von Kernelfunktionen und {\displaystyle k(\cdot ,\cdot )\colon \mathbb {C} ^{M}\times \mathbb {C} ^{M}\to \mathbb {R} } {\displaystyle T_{i}(\cdot )\colon \mathbb {C} ^{M}\to \mathbb {C} ^{M}} eine affine Transformation ist.

Insbesondere  kann es sich um {\displaystyle T_{i}(\cdot )} eine kreisförmige Translationstransformation, eine Rotationstransformation, eine Umkehrung der Skalen usw. handeln.

Die Kreuzkorrelation wird durch die Kernkreuzkorrelation vom linearen in den Kernraum erweitert.

Äquivarianz zwischen Kreuzkorrelation und Translation; Jede affine Transformation hat keine Auswirkungen auf die Kreuzkorrelation des Kernels, einschließlich Translation, Rotation und Skalierung usw.

Betrachten Sie zur Veranschaulichung zwei reellwertige Funktionen, f g die sich nur durch eine unbekannte Verschiebung entlang der x-Achse unterscheiden.

Man kann die Kreuzkorrelation verwenden, um herauszufinden, um wie viel g entlang der x-Achse verschoben werden muss, um sie identisch mit f zu machen.

Die Formel schiebt die Funktion im Wesentlichen g entlang der x-Achse, die Integration ihrer Waren an jeder Position erfordert.

Wenn ihre Zwecke kongruent sind, wird der Wert von (f\star g) maximiert.

Denn wenn die Höhepunkte (die positiven Bereiche) hintereinander auftreten, haben sie einen erheblichen Einfluss auf das Integral.

Ähnlich verhält es sich, wenn Tiefpunkte (Täler) zusammenfallen, Da das Produkt zweier negativer Zahlen positiv ist, tragen sie ebenfalls positiv zum Integral bei.

Mit komplexwertigen Funktionen f und g stellt die Konjugation von f sicher, dass ausgerichtete Spitzen (oder ausgerichtete Täler) mit imaginären Komponenten positiv zum Integral beitragen.

In der Ökonometrie wird die verzögerte Kreuzkorrelation manchmal als Kreuzautokorrelation bezeichnet.: S.

⁷⁴

Die Kreuzkorrelation von Funktionen f(t) und g(t) ist äquivalent zur Faltung (bezeichnet durch * ) von {\displaystyle {\overline {f(-t)}}} und g(t) .

Das heißt:

{\displaystyle [f(t)\star g(t)](t)=[{\overline {f(-t)}}*g(t)](t).}{\displaystyle [f(t)\star g(t)](t)=[{\overline {g(t)}}\star {\overline {f(t)}}](-t).}

Wenn f eine hermitesche Funktion ist, dann {\displaystyle f\star g=f*g.}

Wenn beide f und g hermitesch sind, dann . f\star g=g\star f

{\displaystyle \left(f\star g\right)\star \left(f\star g\right)=\left(f\star f\right)\star \left(g\star g\right)}

.

Ähnlich wie der Faltungssatz besagt der Kreuzkorrelationssatz, dass

{\displaystyle {\mathcal {F}}\left\{f\star g\right\}={\overline {{\mathcal {F}}\left\{f\right\}}}\cdot {\mathcal {F}}\left\{g\right\},}

wobei {\mathcal {F}} die Fourier-Transformation bezeichnet und an {\overline {f}} wiederum das komplexe Konjugat von f , da {\displaystyle {\mathcal {F}}\left\{{\overline {f(-t)}}\right\}={\overline {{\mathcal {F}}\left\{f(t)\right\}}}} .

Zusammen mit effizienten Implementierungen der Fourier-Transformation wird diese Eigenschaft häufig verwendet, um numerische Kreuzkorrelationsberechnungen zu beschleunigen (siehe zirkuläre Kreuzkorrelation).

Nach dem Wiener-Khinchin-Theorem kann die Kreuzkorrelation aus der spektralen Dichte berechnet werden.

Die Kreuzkorrelation einer Faltung von f und h mit einer Funktion g ist die Faltung der Kreuzkorrelation von g und f mit dem Kern h :

{\displaystyle g\star \left(f*h\right)=\left(g\star f\right)*h} .

Für Zufallsvektoren {\displaystyle \mathbf {X} =(X_{1},\ldots ,X_{m})} und {\displaystyle \mathbf {Y} =(Y_{1},\ldots ,Y_{n})} , bestehend aus Zufallskomponenten mit bekanntem Mittelwert und Standardabweichung, ist die Kreuzkorrelationsmatrix von \mathbf {X} und \mathbf {Y} definiert durch: S.337

{\displaystyle \operatorname {R} _{\mathbf {X} \mathbf {Y} }\triangleq \ \operatorname {E} \left[\mathbf {X} \mathbf {Y} \right]}

und hat Abmessungen m\times n .

Komponentenbasiertes Schreiben:

{\displaystyle \operatorname {R} _{\mathbf {X} \mathbf {Y} }={\begin{bmatrix}\operatorname {E} [X_{1}Y_{1}]&\operatorname {E} [X_{1}Y_{2}]&\cdots &\operatorname {E} [X_{1}Y_{n}]\\\\\operatorname {E} [X_{2}Y_{1}]&\operatorname {E} [X_{2}Y_{2}]&\cdots &\operatorname {E} [X_{2}Y_{n}]\\\\\vdots &\vdots &\ddots &\vdots \\\\\operatorname {E} [X_{m}Y_{1}]&\operatorname {E} [X_{m}Y_{2}]&\cdots &\operatorname {E} [X_{m}Y_{n}]\end{bmatrix}}}

Die Zufallsvektoren \mathbf {X} und \mathbf {Y} müssen nicht die gleiche Dimension haben, beide können die Form von skalaren Werten annehmen.

Wenn {\displaystyle \mathbf {X} =\left(X_{1},X_{2},X_{3}\right)} zum  Beispiel {\displaystyle \mathbf {Y} =\left(Y_{1},Y_{2}\right)} und Zufallsvektoren sind, dann {\displaystyle \operatorname {R} _{\mathbf {X} \mathbf {Y} }} ist eine {\displaystyle 3\times 2} Matrix, deren (i,j) --ter Eintrag ist {\displaystyle \operatorname {E} [X_{i}Y_{j}]} .

Wenn {\displaystyle \mathbf {Z} =(Z_{1},\ldots ,Z_{m})} und {\displaystyle \mathbf {W} =(W_{1},\ldots ,W_{n})} komplexe Zufallsvektoren sind, die Zufallsvariablen mit bekannten Werten und Verteilungen umfassen, ist die Kreuzkorrelationsmatrix von \mathbf {Z} und \mathbf {W} definiert durch

{\displaystyle \operatorname {R} _{\mathbf {Z} \mathbf {W} }\triangleq \ \operatorname {E} [\mathbf {Z} \mathbf {W} ^{\rm {H}}]}

wobei  die {\displaystyle {}^{\rm {H}}} hermitesche Transposition bezeichnet.

Statistik und Zeitreihenanalyse, Die Kreuzkorrelation zwischen zwei Zufallsprozessen misst die Beziehung zwischen ihren Werten im Laufe der Zeit relativ zum Intervall zwischen den beiden.

Sei {\displaystyle (X_{t},Y_{t})} ein Paar zufälliger Prozesse und t sei ein beliebiger Zeitpunkt ( t kann eine ganze Zahl für einen zeitdiskreten Prozess oder eine reelle Zahl für einen zeitkontinuierlichen Prozess sein).

Dann X_{t} ist der Wert (oder die Realisierung), der durch einen bestimmten Durchlauf des Prozesses zum Zeitpunkt erzeugt t wird.

Angenommen, der Prozess hat Mittelwerte {\displaystyle \mu _{X}(t)} und {\displaystyle \mu _{Y}(t)} und Varianzen {\displaystyle \sigma _{X}^{2}(t)} und {\displaystyle \sigma _{Y}^{2}(t)} zum Zeitpunkt t , für jeden t .

Dann ist die Definition