Die Anforderungen und Benutzung der Community nach maschinellem Lernen und KI ist rasant gestiegen. Die Aktivitäten der Community haben dazu geführt, das einige neue KI-Frameworks entstanden, welche die Anwendung von KI in Applikationen deutlich vereinfachen. In diesem Artikel werden wir einige der Frameworks vorstellen, um den Einstieg in die KI-unterstützte Chatbot-Entwicklung zu erleichtern.
Tensor Flow
Das populäre Open-Source-Framework von Google unterstützt Deep Learning und numerische Hochleistungsberechnungen. In TensorFlow werden mathematische Operationen als Graphen dargestellt. Ein Graph wird repräsentiert durch den sequenziellen Ablauf aller von TensorFlow durchzuführenden Operationen. Das Framework ist unter der Apache-2.0 Lizenz veröffentlicht und kann daher auch für kommerzielle Anwendungen genutzt werden.
Charakteristiken
- Hoch skalierbare Multi-Programmierschnittstelle für simple Programmierung
- Stark wachsende Open Source-Community und unterstützt durch große Unternehmen wie AirBnB, eBay, Dropbox, und Coca-Cola
- Umfangreiche Dokumentation mit Beispielen
Vorteile
- Framework ist eine Python-Bibliothek, die C++ aufruft. Die Bibliothek kann von anderen Sprachen eingebunden werden (z.B. Java)
- Framework ist skalierbar und kann auf jeder CPU und GPU ausgeführt werden
Nachteile
- Zur Entscheidungsfindung / Vorhersage muss das Framework die Input-Daten durch mehrere Knoten prozessieren, das zeitaufwändig ist
- Es gibt wenige vorgefertigten KI-Modelle
Apache Mahout
Mahout ist ein verteiltes lineares Algebra-Framework und ein mathematisch ausdrucksstarkes Scala DSL, mit dem Benutzer eigenen Algorithmen implementieren können. Apache Spark dient als bevorzugtes verteilte Back-End.
Charakteristiken
- Fokus auf die Erstellung von skalierbarer Machine-Learning-Algorithmen.
- Implementiert gängige Techniken des maschinellen Lernens wie: Empfehlung, Einstufung, Clustering
- Verbreitung durch mathematisch sehr ausdrucksstarker Scala DSL
- Unterstützung verschiedener verteilte Back-Ends
Vorteile
- Clustering-Unterstützung
- Benutzung von Java-Bibliotheken für Rechenoperationen (dadurch performanter)
Nachteile
- Python-Bibliotheken können nicht so gut eingebunden werden
- Spark MLib hat schnellere Rechenoperationen
Spark MLib
MLlib ist die skalierbare Bibliothek für maschinelles Lernen von Apache Spark mit APIs für Java, Scala, Python und R. Das Projekt entstand an der University of California in Berkeley in 2014 und wurde als Open-Source Projekt unter der Apache-Lizenz veröffentlicht. Die Spark-Architektur besteht aus mehreren, teilweise voneinander abhängigen Komponenten: Core, SQL, Streaming, MLlib. MLlib und SparkML sind die Funktionsbibliotheken die typische ML-Algorithmen beinhalten und eine Verteilung ermöglichen.
Charakteristiken
- Hohe Performance
- Auf verschiedenen Architekturen lauffähig
Vorteile
- Durchführung von iterativer Berechnungen und somit geeignet für die Verarbeitung großer Datenmengen
- Unterstützung verschiedener Programmiersprachen
Nachteile
- Keine Unterstützung für Echtzeitverarbeitung
- Problem mit kleiner Datei und kein Dateiverwaltungssystem
- Weniger verfügbare Algorithmen
Touch
Torch ist ein wissenschaftliches Open-Source-Framework mit umfassender Unterstützung für Algorithmen des maschinellen Lernens, das GPUs in den Vordergrund stellt. Dank der Skriptsprache LuaJIT und der zugrundeliegenden C/CUDA-Implementierung ist Torch einfach zu bedienen und effizient.
Charakteristiken
- Torch enthält ein großes Ökosystem von Community-gesteuerten Paketen in den Bereichen maschinelles Lernen, Computer Vision, Signalverarbeitung, Parallelverarbeitung, Bild, Video, Audio und Netzwerk und baut auf der Lua-Community auf
- Kern von Torch sind die neuronalen Netz- und Optimierungsbibliotheken mit einer hohe Flexibilität bei der Implementierung komplexer neuronaler Netztopologien
- Graphen neuronaler Netze können erstellt und über CPUs und GPUs parallelisiert werden
Vorteile
- Hohe Flexibilität in Bezug auf Sprachen und Integrationen
- Hohe Geschwindigkeit und Effizienz der GPU-Auslastung
- Bereitstellung von Modelle zum trainieren der Daten (Vorgefertigte Modelle)
Nachteile
- Komplexe Dokumentation
- Wenige Beispiele (Tutorials, Examples) für den schnelle Einsatz des Frameworks
- Lua als Programmiersprache weniger verbreitet als Python
Amazon Machine Learning on AWS
Ist ein Big-Player in der KI-Gemeinschaft und bietet Unterstützung bei der Entwicklung selbst-lernender Tools für kommerzielle Anwendungen. Modelle können erstellt, analysiert, trainiert und ausgewertet werden. Der Anbieter stellt eine breite Palette vom KI-Werkzeugen für die Entwicklung und Benutzung von KI-Modellen zur Verfügung.
Charakteristiken
- Anpassbare KI-Tools für verschiedene Anwendungszwecke und Benutzerrollen (Newbie, Datenwissenschaftler oder Entwickler)
- Hohe Datensicherheit (Daten verschlüsselt)
- Umfangreiche Tools zur Datenanalyse und zum Datenverständnis
- Breite Palette an Integrationen zur verschiedenen Datenquellen
Vorteile
- Verwendung der Amazon AI-Framework APIs anstatt komplexer Code-Entwicklung
- Geeignet für kommerzielle und professionelle KI-Anwendungen
Nachteile
- Eingeschränkte Flexibilität, da die Verwendung von eigenen Lernalgorithmen nicht möglich ist und nur die verfügbaren Framework-Algorithmen benutzt werden können
- Limitierte Datenvisualisierung
- Keine Option für onPremise (Betrieb nur in der Cloud)
Caffe
Die Bibliothek wurde von Berkeley AI Research (BAIR) entwickelt und enthält eine Vielzahl von Algorithmen und Deep-Learning-Architekturen für die Klassifikation und Clusteranalyse von Bilddaten. Es werden von der Bibliothek auch Faltungs-Neuronale Netze (CNNs) unterstützt. Die primäre Programmierschnittstelle ist Python und MATLAB. Um Caffe verteilt einzusetzen, wurde die Bibliothek in Apache Spark (siehe caffeonspark) eingebunden.
Charakteristiken
- Modelle sind in Klartextschemata geschrieben
- Unterstützung durch große Open Source Community
Vorteile
- Modellierung von CNN (Convolutional Neural Networks) wird unterstützt
- Hohe Effizienz bei der Berechnung numerischer Aufgaben
Nachteile
- Caffe muss über Mid- oder Low-Level-APIs entwickelt werden, was die Konfigurierbarkeit des Workflow-Modells einschränkt und den größten Teil der Entwicklungszeit auf eine C++-Umgebung beschränkt
- Weniger geeignet für komplexe Daten (Ausnahme bei der visuellen Verarbeitung von Bildern)
Theano
Theano war eine Python-Bibliothek (veröffentlicht von der University of Montreal), mit der mathematische Ausdrücke, die mehrdimensionale Arrays beinhalten, effizient definiert, optimiert und ausgewertet werden können. Die Bibliothek wird nun als aesara fortgeführt. Auch diese Bibliothek basiert auf Python.
Charakteristiken
- Fokus auf allgemein Werkzeuge und Methoden zur Berechnung mathematischer Ausdrücke
- Keine vorgefertigten Modelle
- Berechnungsanweisungen werden in C++- oder CUDA-Code umgesetzt
Vorteile
- Effiziente Optimierung für CPU und GPU
- Unterstützung für alle datenintensiven Anwendungen
Nachteile
- Theano ist veraltet und wird nicht mehr gepflegt. Nachfolger ist aesara
- Einsatz hauptsächlich im akademischen Bereich
Microsoft Cognitive Toolkit (CNTK)
Das mittlerweile veraltete Open-Source Toolkit unterstützt verteiltes Deep Learning und basiert auf neuronalen Netzen. Es beschreibt neuronale Netze als eine Reihe von Berechnungsschritten über einen gerichteten Graphen. Es eignet sich für das Erstellen, Trainieren und Evaluieren von neuronalen Netzen mit großen Datenmengen. Modelle und Berechnungen können auf verschiedene Workstations und GPUs verteilt werden. Es werden von Toolkit die Programmiersprachen C#, BrainScript, Python und Java beim Evaluieren der Modelle unterstützt.
Charakteristiken
- Optimiert für Effizienz, Skalierbarkeit und Geschwindigkeit
- Zusätzliche Features wie überwachte Lernmodelle
- APIs auf hoher und niedriger Ebene
Vorteile
- Training von neuronale Netzen ist schnell und effizient, da Lernprozess auf verschiedene Server verteilt werden kann
- Unterstütztung für generative kontradiktorische Netze (GANs), wiederkehrende neuronale Netze (RNNs) und Faltungs-Neuronale Netze (CNNs)
Nachteile
- Toolkit ist veraltet und wird nicht mehr weiterentwickelt (letztes Update auf GitHub in 2019)
- Keine mobile ARM-Unterstützung
Accord.net
Das Framework war ein .NET-Framework für maschinelles Lernen, kombiniert mit Audio- und Bildverarbeitungsbibliotheken, die vollständig in C# geschrieben sind. Es eignet sich insbesondere für die Entwicklung neuronaler Netze für die Audio- und Bildverarbeitung. Accord.net ist unter der Gnu Lesser Public License veröffentlicht.
Charakteristiken
- Breite Palette an Beispielmodellen und Datensätzen
- Ausgereiftes Framework mit einer Historie von über 10 Jahren
- Accord.NET-Projekt wurde eingestellt
Vorteile
- Accord.NET ist umfangreich dokumentiert und verwaltet numerisch intensive Berechnungen und Visualisierungen effizient
- Implementierung von Algorithmen und die Signalverarbeitung können einfach durchgeführt werden
Nachteile
- Accord.NET-Projekt wurde nach ca. 15 Jahren archiviert und wird nicht mehr weiterentwickelt
- Performance zu anderen bekannteren Frameworks niedriger
Fazit
Die Liste von Frameworks sollen Ihnen einen kurzen Überblick geben. Jedes dieser Frameworks hat verschiedene Merkmale und eignet sich für bestimmte Aufgaben mal mehr und mal weniger. Entscheidend ist der jeweilige Anwendungsfall, um ein geeigneten Framework auswählen zu können.
Wollen Sie mehr über das Thema erfahren sowie welche KI-Frameworks für Ihre Chatbots im Unternehmen geeignet sind? Erfahren Sie hier mehr.