A neural learning algorithm for blind separation of sources based on geometric properties

• Published in: Signal processing Vol. 64; no. 3; pp. 315 - 331
• Main Authors: Prieto, Alberto, Puntonet, Carlos G., Prieto, Beatriz
• Format: Journal Article
• Language: English
• Published: Elsevier B.V 1998
• Subjects: Artificial neural networks; Blind separation of sources; Competitive learning; Signal processing; Signal processing; Competitive learning; Blind separation of sources; Artificial neural networks
• ISSN: 0165-1684; 1872-7557
• DOI: 10.1016/S0165-1684(97)00198-9

This paper presents a new approach to recover original signals (`sources') from their linear mixtures, observed by the same number of sensors. The algorithms proposed assume that the input distributions are bounded and that the sources generate certain combinations of extreme values (`critical vectors'). The idea is very simple and is based on geometric algebra properties. We present a neural network approach to show that with two networks, one for the separation of sources and one for weight learning, running in parallel, it is possible to efficiently recover the original signals. The learning rule is unsupervised and each computational element uses only local information. Preliminary results obtained from experiments with synthetic and real signals are included to show the potential and limitations of the procedure. Dieser Aufsatz stellt eine neue Methode vor, ursprüngliche Signale (“Quellen”) aus ebensovielen Linearkombinationen dieser Signale wiederzugewinnen. Der vorgeschlagene Algorithmus setzt voraus, daß der Wertebereichjedes Eingangssignals beschränkt ist, und die Quellen auch bestimmte Kombinationen der zugehörigen Extremalwerte (“kritische Vektoren”) erzeugen. Die zugrundeliegende Idee ist sehr einfach und stützt sich suf geometrische Eigenschaften der zugrundeliegenden algebraischen Beziehungen. Um zu zeigen, daß mit zwei parallel arbeitenden Netzwerken, einem zur Trennung der Quellen und einem für das Lernen der Gewichte, die ursprünglichen Signale effizient wiedergewonnen werden können, stellen wir einen suf neuronalen Netwerken basierenden Ansatz hierfür vor. Die Lernregel ist nicht überwacht; außerdem verwendet jede Recheneinheit lediglich lokale Informationen. Vorläufige Ergebnisse aus Versuchen mit synthetischen und realen Signalen werden miteinbezogen. um die Möglichkeiten und Grenzen der Vorgehensweise aufzuzeign. Cet article présente une nouvelle approximation pour récomposer des signaux originaux (`sources'), à partir de leurs mélanges linéaires observées par le même nombre de capteurs. L'algorithme proposé suppose que les distributions d'entrée sont bornées et que les sources engendrent quelques combinaisons avec des valeurs extrèmes (`vecteurs critiques'). L'idée est très simple et elle est basée sur des proprietées de l'algèbre géometrique. Nous présentons une approximation de réseau de neurones pour montrer qu'il est possible de récomposer efficacement les signaux originaux avec deux réseaux de neurones, une pour séparer les sources et l'autre pour l'apprentisage des poids, qui travaillent en parallèle. La règle d'adaptation est non supervisée, et chaque élément de calcul emploit seulement d'information local. Nous avons inclus des résultats préliminaires obtenus à partir des expériences des signaux réelles et synthètiques pour montrer le potenciel et les limitations de ce procès.