AT_Logo

Recurrent Neural Network (RNN)

Was ist ein Recurrent Neural Network?

Neuronale Netze können rückgekoppelt oder rekurrent sein. Diese zeichnen sich durch Verbindungen zwischen Neuronen und Schichten aus. Ob diese Schichten auf einer vorherigen oder derselben Schicht wie das jeweilige Neuron stehen, ist hierbei irrelevant, beides ist möglich. Der menschliche Neocortex beinhaltet beispielsweise solche Verschaltungen von neuronalen Netzen. Bei neuronalen Netzen künstliche Natur wird die bereits erwähnte rekurrente Verschaltung dazu genutzt, um Informationen, welche temporär codiert sind, bei verschiedenen Daten sowie Datensätzen auszulesen.

Anwendungsgebiete

Wenn es um Problemstellungen bei der Verarbeitung von unterschiedlichen Sequenzen, Abläufen und Vorgängen geht, werden rekurrente Neuralnetze benutzt, um diese zu lösen. In der täglichen Praxis finden diese bei der Sprach- oder Handschrifterkennung sowie der Maschinenübersetzung statt. Es gibt viele Programmbibliotheken, wo neuronale Netze integriert wurden.

Unterteilung Neuronaler Netze

  • Direkte Rückkopplung – Direct feedback: = Aus dem eigenen Ausgang wird ein zusätzlicher Eingang.
  • Indirekte Rückkopplung – Indirect feedback: Stellt eine Verbindung zwischen einen Neuronenausgang mit einem aus der vorherigen Schicht befindlichen Neuron her.
  • Seitliche Rückkopplung – Lateral feedback: Stellt eine neue Verbindung zwischen dem Ausgang von einem Neuron mit einem weiteren Neuron der gleichen Schicht her.
  • Vollständige Verbindung: Hier hat jeder Ausgang von Neuronen eine eigenständige Verbindung zu jedem weiteren Neuron.

Neuronalnetze trainieren

Das Training durch unterschiedliche Wege und Methoden des sogenannten maschinellen Lernens ist hier eingeschränkt möglich. Neuronale Netze sind also so nur bedingt schulungs- und lernfähig. Aus diesem Grund wird ein anderer Ansatz verwendet. Hierbei wird nicht das neuronale Netz an sich, sondern das Auslesen, sprich die Informationsausgabe trainiert.

Das neuronale Netz stellt hier somit ein Speicher oder Behälter dar, welches als großes Reservoir angesehen wird und den Ausgangspunkt für das Training darstellt. Durch die Methode „Backpropagation Through Time“ wird dieses Netz in ein sogenanntes Feedforward Netz innerhalb der Trainingseinheiten umgewandelt. Dabei spielt auch die Sequenzlänge wiederum eine größere Rolle.

Die Zukunft von Recurrent Neural Network

Die Rückkopplungen zwischen Neuronen gezielt auszunutzen, um bei zukünftigen Entscheidungen auf bereits Erlerntes zurückzugreifen, findet schon seit Jahrtausenden statt, seit es die Menschheit gibt. Aus Erfahrungen zu profitieren, ist das Normalste, was es gibt. Auch die Tierwelt profitiert von dieser Art der Konditionierung, schon bevor es die Menschheit gab.

Diesen Umstand haben sich Forscher, Wissenschaftler und IT-Experten zunutze gemacht, um maschinelles Lernen zu erschaffen und dieses stets weiter auszubauen. Recurrent Neural Network bildet einen der wichtigsten Bestandteile für viele Technologien und Erfindungen, welche die Menschen im heutigen Alltag nutzen und diese als für selbstverständlich sehen. Doch die Vorgänge dahinter sind weitaus komplexer.

Ständige Verbesserungen und Updates, beispielsweise auch die Kapazitäten-Erhöhung der Speicherorte sind wichtig, damit immer weitere Erfahrungen, Zusammenhänge und Daten aufgenommen sowie bei Bedarf abgerufen werden können. Um die Zukunft von Recurrent Neural Network muss man sich wahrlich keine Sorgen machen. Die Globalisierung sowie der technische Fortschritt erlauben einen stetigen Ausbau von Recurrent Neural Network weltweit.

Data Navigator Newsletter