MIT-Forscher entwickeln LLM-basierte Anomalieerkennung für komplexe Systeme

MÜNCHEN (IT BOLTWISE) – MIT-Forscher haben herausgefunden, dass große Sprachmodelle (LLMs) der Schlüssel zu einer effizienteren Anomalieerkennung in komplexen Systemen sein könnten. Dies bietet eine potenziell kostengünstige Lösung für Branchen wie die Windenergie.

Die Identifizierung fehlerhafter Turbinen in einem Windpark stellt aufgrund der hunderten von Signalen und Millionen von Datenpunkten eine immense Herausforderung dar. Üblicherweise werden Deep-Learning-Modelle zur Erkennung von Anomalien in Zeitreihendaten verwendet, also Messungen, die über einen längeren Zeitraum hinweg erfasst werden. Doch das Training dieser Modelle ist ressourcenintensiv und erfordert umfangreiche Expertise, was sie für Betreiber komplexer Systeme weniger zugänglich macht.

Forscher des MIT gehen dieses Problem an, indem sie große Sprachmodelle, die üblicherweise in der Verarbeitung natürlicher Sprache eingesetzt werden, für die Anomalieerkennung in Zeitreihendaten nutzen. Ihr neu entwickeltes Framework, SigLLM, konvertiert Zeitreihendaten in ein Format, das LLMs verarbeiten können. Diese Innovation könnte eine einfachere, sofort einsatzbereite Lösung für die Anomalieerkennung bieten und somit teure Modellnachschulungen überflüssig machen.

SigLLM nutzt die autoregressive Natur von LLMs, die es diesen Modellen ermöglicht, sequenzielle Daten zu verstehen, was sie gut für die Erkennung von Anomalien in Zeitreihendaten geeignet macht. Das Forschungsteam testete zwei Ansätze: Prompter, der direkt Anomalien identifiziert, und Detector, der zukünftige Datenpunkte vorhersagt, um Abweichungen zu erkennen. Obwohl der Prompter-Ansatz viele Fehlalarme produzierte, übertraf die Detector-Methode andere transformerbasierte KI-Modelle in mehreren Datensätzen.

Trotz des Potenzials von LLMs sind sie bei der Anomalieerkennung noch nicht auf dem Niveau der aktuell führenden Deep-Learning-Modelle. Das Forschungsteam ist jedoch der Meinung, dass LLMs mit weiterer Entwicklung zu einem Game-Changer in diesem Bereich werden könnten. Eine mögliche Verbesserung wäre das Finetuning, obwohl dies den Zeit-, Kosten- und Fachaufwand erhöhen würde.

Zukünftig möchte das MIT-Team die Leistung und Geschwindigkeit von LLMs weiter verbessern und untersuchen, ob diese auch für andere komplexe Aufgaben jenseits der Anomalieerkennung geeignet sind.

Diese Forschung wurde auf der IEEE-Konferenz für Datenwissenschaft und fortgeschrittene Analytik vorgestellt und von SES S.A., Iberdrola und ScottishPower Renewables sowie Hyundai Motor Company unterstützt.