Neuronale Netze haben seit ihren steinigen Anfängen in den 1950er Jahren einen langen Weg zurückgelegt. Frühe Systeme konnten grundlegende Muster lernen, aber diese Maschinen stießen an ihre Grenzen, als sie mit der Komplexität der realen Welt konfrontiert wurden. Die Finanzmittel versiegten, und das Gebiet lag jahrelang brach. Durchbrüche in der Parallelverarbeitung, leistungsfähige Computerchips und riesige Datensätze ließen neuronale Netze schließlich wieder auferstehen.
Lesen Sie weiter, um mehr über die Anfänge der neuronalen Netze zu erfahren.
Abbildung: Ein elementares Rosenblatt-Perzeptron. Bildnachweis: Wikimedia Commons. Lizenz
Die Geschichte der neuronalen Netze
In seinem Buch How to Create a Minderklärt Ray Kurzweil, dass die ersten ernsthaften Versuche, gehirnähnliche Systeme zu entwickeln, in den 1950er Jahren mit künstlichen neuronalen Netzen begannen. Frühe neuronale Netze zeigten, dass einfache, in Netzwerken verbundene Verarbeitungseinheiten lernen konnten, Muster zu erkennen. Frank Rosenblatts Mark I Perceptron, das Kurzweil als Student kennenlernte, bestand aus künstlichen Neuronen mit einstellbaren Verbindungsgewichten, die durch Rückkopplung trainiert werden konnten. Diese Netze konnten zwar lernen, zwischen verschiedenen Kategorien von Eingaben zu unterscheiden, aber ihre Grenzen wurden deutlich, als die Forscher versuchten, sie auf die Komplexität der realen Welt zu skalieren.
Das größte Problem war die invariante Erkennung, d. h. die Fähigkeit, ein und dasselbe Muster trotz Änderungen in Größe, Position, Drehung oder Stil zu erkennen. Ein neuronales Netz, das für die Erkennung des Buchstabens "A" in einer bestimmten Schriftart und -größe trainiert wurde, konnte denselben Buchstaben in einem anderen Kontext oft nicht erkennen. Diese frühen Systeme erforderten außerdem ein umfangreiches Training und schnitten bei Aufgaben, die für Menschen mühelos zu sein schienen, immer noch schlecht ab. Das Gebiet der neuronalen Netze stagnierte fast zwei Jahrzehnte lang, nachdem Marvin Minsky und Seymour Papert die mathematischen Grenzen der damals existierenden Netze aufgezeigt hatten, eine Kritik, die dazu führte, dass die Finanzierung der Forschung im Bereich der neuronalen Netze bis in die 1980er Jahre eingestellt wurde.
| Was sind neuronale Netze? Neuronale Netze sind Computersysteme, die so konzipiert sind, dass sie die Informationsverarbeitung des menschlichen Gehirns weitgehend nachahmen. Stephen Witt erklärt in Die denkende Maschine dass neuronale Netze lernen, indem sie riesige Datensätze analysieren und Millionen von internen Verbindungen entsprechend den entdeckten Mustern anpassen. Neuronale Netze wurden erstmals 1944 vorgeschlagen, gewannen in den 1950er und 60er Jahren an Bedeutung und fielen dann in Ungnade, als sich herausstellte, dass die einfachen neuronalen Netze dieser Zeit bestimmte Probleme nicht lösen konnten. In den 1980er Jahren erlebte die Idee eine Renaissance mit komplexeren neuronalen Netzen, die aus ihren Fehlern lernen konnten, aber diese waren zu langsam und rechenintensiv, so dass die Idee um das Jahr 2000 wieder stagnierte. Die Geschichte der neuronalen Netze beinhaltet eine entscheidende Innovation: die Parallelverarbeitung. Sie ahmt nach, wie das menschliche Gehirn rechnet, mit Milliarden von Neuronen, die gleichzeitig arbeiten. Jahrzehntelang hatten die Forscher versucht, dies in Computern nachzubilden. In den 1980er Jahren zeigten sie, dass Transistorschaltungen die Funktionsweise der neuronalen Membranen im Gehirn nachahmen können, und entwickelten "parallele verteilte Verarbeitungssysteme". Aber erst als Nvidia Computerchips baute, die die für neuronale Netze erforderliche Rechenleistung erbrachten, und Forscher riesige Datensätze und die mathematischen Werkzeuge entwickelten, um daraus aussagekräftige Muster zu extrahieren, konnten neuronale Netze endlich Probleme wie die Erkennung von Invarianten lösen, mit denen frühere Systeme überfordert waren. |
Weiter erforschen
In How to Create a Mind behauptet Kurzweil, dass das Verständnis der Funktionsweise des menschlichen Gehirns zeigt, warum KI auf menschlichem Niveau unvermeidlich ist. Lesen Sie den Leitfaden von Shortform zu diesem Buch, um zu verstehen, wie die Geschichte der neuronalen Netze in das Gesamtbild passt.
