Neues Verfahren: KI-Modelle lernen bald an Edge-Geräten

Dank einer neuen Technik lernen KI-Modelle künftig kontinuierlich aus neuen Daten auf intelligenten Edge-Geräten wie Smartphones und Sensoren. Damit lassen sich Energiekosten und Datenschutzrisiken verringern. Die Technik entwickeln Forscher des Massachusetts Institute of Technology (MIT) und des MIT-IBM Watson AI Lab. Details werden in wenigen Wochen auf der “Conference on Neural Information Processing Systems” präsentiert.

Umständliches Training

Einfache Befehle ausführende Mikrocontroller sind die Basis von Milliarden vernetzter Geräte, vom Internet of Things (IoT) bis zu Sensoren in Autos. Billige Mikrocontroller mit wenig Stromverbrauch haben jedoch nur einen sehr kleinen Speicher und kein Betriebssystem – eine Herausforderung beim Training von Modellen für Künstliche Intelligenz (KI) auf Edge-Geräten, die unabhängig von zentralen Rechenressourcen arbeiten.

Wird ein Modell für maschinelles Lernen auf einem intelligenten Edge-Gerät trainiert, kann es sich an neue Daten anpassen und bessere Prognosen liefern. Trainiert ein Modell etwa auf einer intelligenten Tastatur, könnte diese kontinuierlich aus dem Schreiben des Benutzers lernen. Der Trainingsprozess erfordert aber so viel Speicherplatz, dass er in der Regel mit leistungsstarken Computern in einem Rechenzentrum durchgeführt wird, bevor das Modell auf einem Gerät im Einsatz ist. Das ist kostspielig und wirft Fragen zum Datenschutz auf, da Nutzerdaten an einen zentralen Server gesendet werden müssen.

Schneller und effizienter

Um das Problem zu lösen, entwickelt das MIT-Team die neue Technik, die das Training auf dem Gerät mit weniger als einem Viertel Megabyte Speicherplatz ermöglicht. Andere Trainingslösungen für vernetzte Geräte brauchen über 500 Megabyte Speicherplatz, was die 256-Kilobyte-Kapazität der meisten Mikrocontroller bei weitem übersteigt. Die von den Forschern entwickelten intelligenten Algorithmen und das Framework verringern den für das Training eines Modells nötigen Rechenaufwand, wodurch der Prozess schneller und speichereffizienter wird. Mit der Technik lässt sich ein maschinelles Lernmodell in wenigen Minuten auf einem Mikrocontroller trainieren.

Die Technik wahrt laut den Experten auch die Privatsphäre, da die Daten auf dem Gerät verbleiben, was vor allem bei sensiblen Inhalten, wie etwa medizinischen Anwendungen, von Vorteil ist. Sie könnte auch die Anpassung eines Modells an die Bedürfnisse der Benutzer ermöglichen. Darüber hinaus bewahrt oder verbessert der Rahmen die Genauigkeit des Modells im Vergleich zu anderen Trainingsansätzen. “Unsere Studie versetzt IoT-Geräte in die Lage, nicht nur Schlussfolgerungen zu ziehen, sondern auch die KI-Modelle kontinuierlich mit neu gesammelten Daten zu aktualisieren, was den Weg für lebenslanges Lernen auf dem Gerät ebnet. Die geringe Ressourcennutzung macht Deep Learning zugänglicher und kann eine größere Reichweite haben, insbesondere für Edge-Geräte mit geringem Stromverbrauch”, sagt Hauptautor Song Han.

www.pressetext.com