Arbeiten mit probabilistischer Inferenz im maschinellen Lernen Teil5 | von Monodeep Mukherjee | April 2024

  1. Modellbasierte Validierung als probabilistische Inferenz (arXiv)

Autor: Harrison Delecki, Anthony Corso, Mykel J. Kochenderfer

Zusammenfassung: Die Schätzung der Verteilung über Ausfälle ist ein wichtiger Schritt bei der Validierung autonomer Systeme. Bestehende Ansätze konzentrieren sich auf die Suche nach Fehlern für einen kleinen Bereich von Anfangsbedingungen oder machen restriktive Annahmen über die Eigenschaften des zu testenden Systems. Wir beschreiben die Schätzung der Verteilung über Ausfalltrajektorien für sequentielle Systeme als Bayes’sche Folgerung. Unser modellbasierter Ansatz stellt die Verteilung über Ausfalltrajektorien mithilfe von Rollouts der Systemdynamik dar und berechnet Trajektoriengradienten mithilfe automatischer Differenzierung. Unser Ansatz wird in einem umgekehrten Pendelkontrollsystem, einem autonomen Fahrzeugfahrszenario und einem teilweise beobachtbaren Mondlander demonstriert. Die Probenahme erfolgt mithilfe einer Standardimplementierung des Hamiltonian Monte Carlo mit mehreren Ketten, um Multimodalität und Gradientenglättung für sichere Trajektorien zu erfassen. In allen Experimenten beobachteten wir Verbesserungen der Stichprobeneffizienz und der Parameterraumabdeckung im Vergleich zu Black-Box-Basisansätzen. Diese Arbeit ist Open Source

2. Dimensionsreduktion als probabilistische Inferenz (arXiv)

Autor: Aditya Ravuri, Francisco Vargas, Vidhi Lalchand, Neil D. Lawrence

Zusammenfassung: Algorithmen zur Dimensionsreduktion (DR) komprimieren hochdimensionale Daten in eine niedrigerdimensionale Darstellung und bewahren dabei wichtige Merkmale der Daten. DR ist ein entscheidender Schritt in vielen Analyse-Pipelines, da es die Visualisierung, Rauschunterdrückung und effiziente Weiterverarbeitung der Daten ermöglicht. In dieser Arbeit stellen wir das ProbDR-Variationsframework vor, das eine breite Palette klassischer DR-Algorithmen als probabilistische Inferenzalgorithmen in diesem Framework interpretiert. ProbDR umfasst PCA, CMDS, LLE, LE, MVU, Diffusionskarten, kPCA, Isomap, (t-)SNE und UMAP. In unserem Framework wird eine niedrigdimensionale latente Variable verwendet, um eine Kovarianz, Präzision oder eine grafische Laplace-Matrix zu erstellen, die als Teil eines generativen Modells für die Daten verwendet werden kann. Die Inferenz erfolgt durch Optimierung einer Evidenzuntergrenze. Wir demonstrieren die interne Konsistenz unseres Frameworks und zeigen, dass es die Verwendung probabilistischer Programmiersprachen (PPLs) für DR ermöglicht. Darüber hinaus veranschaulichen wir, dass das Framework das Nachdenken über unsichtbare Daten erleichtert und argumentieren, dass unsere generativen Modelle Gaußsche Prozesse (GPs) auf Mannigfaltigkeiten annähern. Durch die Bereitstellung einer einheitlichen Sicht auf DR erleichtert unser Framework die Kommunikation und das Nachdenken über Unsicherheiten, Modellzusammensetzung und Erweiterungen, insbesondere wenn Domänenwissen vorhanden ist

Lesen Sie auch  Bereiten Sie sich auf bessere Videoanrufe vor von Stacy Nimmo :: Kicktraq

Leave a Reply

Your email address will not be published. Required fields are marked *

This site uses Akismet to reduce spam. Learn how your comment data is processed.