Was ist Deep Learning?

Menschen lernen aus Erfahrung. Je umfangreicher unsere Erfahrungen sind, desto mehr können wir lernen. Beim Deep Learning (tiefgehenden Lernen), einer Disziplin der künstlichen Intelligenz (KI), gilt dieses Prinzip auch für Maschinen, die mit KI-Hardware und -Software ausgestattet sind. Die Erfahrungen, aus denen Maschinen lernen, sind definiert durch die von ihnen erfassten Daten. Die Datenmenge und Datenqualität sind maßgeblich dafür, was erlernbar ist.

Deep Learning ist ein Teilbereich des maschinellen Lernens (Machine Learning). Deep-Learning-Systeme können ihre Leistung – quasi als Maschinenversion des Lernens aus Erfahrung – durch Zugriff auf mehr Daten verbessern. Das unterscheidet sie von herkömmlichen Machine-Learning-Algorithmen, die unabhängig von der erfassbaren Datenmenge oftmals eine begrenzte Lernkapazität vorgeben. Sobald Maschinen per Deep Learning ausreichend Erfahrungen gesammelt haben, lassen sie sich für spezifische Aufgaben einsetzen, beispielsweise zum Fahren eines Autos, zum Erkennen von Unkraut in einem Feld voller Nutzpflanzen, zum Identifizieren von Krankheiten oder zum Inspizieren von technischen Anlagen auf Fehler.

Deep-Learning-Netzwerke lernen, indem sie komplexe Strukturen in Daten aufspüren. Sie erstellen Rechenmodelle, die aus mehreren Verarbeitungsschichten zusammengesetzt sind, und können so verschiedene Abstraktionsebenen zu den Daten anlegen.

Das als konvolutionelles neuronales Netz bekannte Deep-Learning-Modell kann beispielsweise unter Verwendung von großen Bildermengen mit Millionen Katzendarstellungen trainiert werden. Derartige neuronale Netze lernen typischerweise aus den Pixeln, die in den erfassten Bildern enthalten sind. Sie klassifizieren Pixelgruppen, die für Katzenmerkmale stehen, zu Merkmalsgruppen wie Krallen, Ohren und Augen, die auf das Vorhandensein eines Katzenbildes hindeuten.

Deep Learning unterscheidet sich grundlegend vom herkömmlichen maschinellen Lernen. Auf das Katzenbildbeispiel bezogen würde ein Spezialist sehr viel Zeit aufwenden müssen, wenn er ein konventionelles System des maschinellen Lernens zum Erkennen typischer Katzenmerkmale entwickeln wollte. Beim Deep Learning muss man das System dagegen lediglich mit einer sehr großen Anzahl von Katzenbildern füttern, sodass es eigenständig lernt, welche Merkmale eine Katze ausmachen.

Dank ihrer Leistungsfähigkeit sind Deep-Learning-Systeme den konventionellen Systemen des maschinellen Lernens bei vielen Aufgaben weit überlegen, etwa bei Computervision, Spracherkennung (auch als Natural Language Processing oder natürliche Sprachverarbeitung bezeichnet), Maschinenübersetzung und Robotik. Dies heißt jedoch nicht, dass die Entwicklung von Deep-Learning-Systemen im Vergleich zur Entwicklung konventioneller Systeme des maschinellen Lernens einfach wäre. Die Merkmalserkennung erfolgt beim Deep Learning autonom, dafür müssen aber Tausende Hyperparameter (Knöpfe) abgestimmt werden, damit das Deep-Learning-Modell wirksam wird.

Wir leben in einer Zeit, die völlig neue Chancen bietet. Deep-Learning-Technologie kann vor diesem Hintergrund bahnbrechende Entwicklungen fördern. Deep Learning hat entscheidend zur Entdeckung von Exoplaneten, subatomaren Teilchen, Krankheiten und innovativen Arzneimitteln beigetragen. Diese Technologie vergrößert unser Wissen über Biologie grundlegend – zum Beispiel mit Blick auf Genomik, Proteomik, Metabolomik oder das Immunom.

Auch leben wir in einer Zeit, die uns mit unerbittlichen Herausforderungen konfrontiert. Der Klimawandel bedroht die Nahrungsmittelproduktion und könnte eines Tages zu Kriegen um begrenzte Ressourcen führen. Das Problem der Umweltveränderung wird verschärft durch die immer weiter wachsende Weltbevölkerung – Schätzungen prognostizieren neun Milliarden Menschen bis 2050. Ausmaß und Reichweite dieser Themen machen ein neues Niveau an Intelligenz erforderlich, das mit Deep Learning erreichbar ist.

Während der kambrischen Explosion vor rund 540 Millionen Jahren kam die Sehkraft als Selektionsvorteil im Tierreich auf und wurde schnell zu einer wichtigen Triebfeder der Evolution. In Kombination mit der Entwicklung biologischer neuronaler Netze zum Verarbeiten von visuellen Informationen gab die Sehkraft den Tieren eine Vorstellung von ihrem Umfeld und intensivierte ihre Wahrnehmung der Außenwelt.

Heute führt die Kombination aus Kameras (künstlichen Augen) und neuronalen Netzen (zur Verarbeitung der mit den Kameras erfassten visuellen Informationen) zu einer Explosion der auf Daten basierenden KI-Anwendungen. Die Sehkraft hat bei der Entwicklung des Lebens auf der Erde eine entscheidende Rolle gespielt. Deep Learning und neuronale Netze werden analog dazu die Fähigkeiten von Robotern erweitern. Roboter werden zunehmend in der Lage sein, ihre Umwelt zu verstehen, eigene Entscheidungen zu treffen, mit Menschen zusammenzuarbeiten und menschliche Fähigkeiten zu ergänzen.

Robotik

Viele der jüngsten Entwicklungen im Bereich der Robotik wurden vorangetrieben durch Fortschritte bei KI und Deep Learning. KI eröffnet Robotern beispielsweise die Möglichkeit, ihre Umgebung wahrzunehmen und darauf zu reagieren. Damit erweitert sich ihr Einsatzbereich – die Roboter können etwa durch Lagerhallen navigieren und Objekte handhaben, die unregelmäßig geformt, zerbrechlich oder auch ungeordnet sind. Für Menschen ist eine Handlung wie das Pflücken einer Erdbeere ganz einfach, Roboter haben damit aber seit jeher bemerkenswerte Schwierigkeiten. Die Fortschritte bei der künstlichen Intelligenz werden die Fähigkeiten der Roboter weiter ausbauen.

Angesichts der KI-Entwicklungen ist zu erwarten, dass Roboter künftig mehr und mehr als menschliche Assistenten fungieren werden. Sie werden nicht mehr nur – wie in einigen Fällen heute schon – Fragen verstehen und beantworten, sondern auf Sprachbefehle beziehungsweise Gesten reagieren und sogar die nächsten Arbeitsschritte vorhersehen können. Kollaborative Roboter arbeiten bereits jetzt direkt mit Menschen zusammen; beide Seiten führen dabei die am besten zu ihren jeweiligen Stärken passenden Aufgaben aus.

Landwirtschaft

Künstliche Intelligenz hat das Potenzial, den landwirtschaftlichen Anbau zu revolutionieren. Deep Learning ermöglicht Landwirten aktuell den Einsatz von Geräten, die durch optische Erfassung zwischen Kulturpflanzen und Unkraut unterscheiden. So können Herbizide selektiv auf Fremdpflanzen ausgebracht werden, während die Nutzpflanzen unberührt bleiben. Landmaschinen optimieren unter Einsatz von Computervision auf Basis von Deep Learning sogar den Anbau bestimmter einzelner Pflanzen auf dem Feld, indem sie Herbizide, Fungizide, Insektizide, Düngemittel und biologische Stoffe nur an passenden Stellen versprühen. Der Pflanzenschutzmitteleinsatz wird verringert und der Ertrag gesteigert – aber Deep Learning ist auch auf andere Bereiche der Landwirtschaft anwendbar, etwa Bewässerung und Ernte.

Medizinische Bildverarbeitung und Gesundheitswesen allgemein

Bei der medizinischen Bildverarbeitung lässt sich Deep Learning besonders effektiv einsetzen, da dabei hochwertige Daten zur Verfügung stehen und konvolutionelle neuronale Netze Bilder klassifizieren können. Die Einstufung von Hautkrebserkrankungen gelingt Deep-Learning-Systemen mindestens ebenso effektiv wie Dermatologen. Mehrere Anbieter haben bereits eine FDA-Zulassung für Deep-Learning-Algorithmen zu diagnostischen Zwecken erhalten, beispielsweise bei Bildauswertungen im Zusammenhang mit Krebs- und Netzhauterkrankungen. Deep Learning ist außerdem auf bestem Weg, durch Prognostizieren medizinischer Ereignisse anhand von elektronischen Gesundheitsakten die Qualität der Gesundheitsversorgung zu verbessern.

Deep Learning der Zukunft

Verschiedene neuronale Netzarchitekturen sind derzeit für bestimmte Arten von Eingangsdaten und Aufgaben optimiert. Konvolutionelle neuronale Netze eignen sich sehr gut zum Klassifizieren von Bildern. Bei einer anderen Form von Deep-Learning-Architektur werden rekurrente neuronale Netze zum Verarbeiten sequenzieller Daten genutzt. Sowohl bei konvolutionellen als auch bei rekurrenten neuronalen Netzen läuft ein überwachtes Lernen ab, wofür große Datenmengen erforderlich sind. Künftig wird bei ausgefeilteren KI-Typen unüberwachtes Lernen zum Einsatz kommen. Zu Technologien für unüberwachtes und teilüberwachtes Lernen wird sehr viel geforscht.

Reinforcement Learning (bestärkendes Lernen) ist ein etwas anderer Deep-Learning-Ansatz, bei dem ein Agent durch Versuch und Irrtum in einer simulierten Umgebung ausschließlich anhand von Belohnungen und Bestrafungen lernt. Deep-Learning-Erweiterungen auf dieses Gebiet werden als Deep Reinforcement Learning (DRL) bezeichnet. Dabei wurden große Fortschritte gemacht, wie DRL-Programme verdeutlichen, die Menschen bei dem sehr alten Spiel GO besiegen.

Neuronale Netzarchitekturen zum Lösen von Problemen zu konzipieren, ist unglaublich schwierig. Zahlreiche abzustimmende Hyperparameter und viele zur Optimierung auswählbare Verlustfunktionen machen die Angelegenheit noch komplexer. Umfangreiche Forschungsaktivitäten zielen auf neuronale Netzarchitekturen für autonomes Lernen ab. Beim Erlernen des Lernens, das auch als Metalernen oder AutoML bezeichnet wird, gibt es stetige Fortschritte.

Die aktuellen künstlichen neuronalen Netze basieren auf den in den 1950er-Jahren vorherrschenden Kenntnissen über die Informationsverarbeitung im menschlichen Gehirn. Seit dieser Zeit sind Neurowissenschaftlern beträchtliche neue Erkenntnisse gelungen, und Deep-Learning-Architekturen sind so aufwendig geworden, dass sie Rasterzellenstrukturen aufzuweisen scheinen, wie sie in biologischen neuronalen Gehirnen zum Navigieren vorkommen. Neurowissenschaft und Deep Learning können sich durch Ideenaustausch gegenseitig positiv beeinflussen – sehr wahrscheinlich werden beide Bereiche irgendwann zusammenfließen.

Heutzutage werden keine mechanischen Computer mehr verwendet, und ähnlich dazu wird eine Zeit kommen, in der auch digitale Computer ein Relikt der Vergangenheit sind. An ihre Stelle wird eine neue Generation von Quantencomputern treten. Beim Quantencomputing waren in den letzten Jahren einige Entwicklungssprünge zu verzeichnen, und Lernalgorithmen können sicher von der gigantischen Rechenkapazität der Quantencomputer profitieren. Auch besteht die Möglichkeit, mithilfe von Lernalgorithmen die Ausgabedaten der probabilistischen Quantencomputer auszuwerten. Maschinelles Quantenlernen ist eine sehr lebendige Unterkategorie des maschinellen Lernens, und 2018 soll die erste internationale Konferenz für maschinelles Quantenlernen stattfinden – ein guter Anfang!