Der Gruppentheoretiker Andreas Thom von der TU Dresden hat öffentlich den Verdacht geäußert, dass seine privaten ChatGPT-Sitzungen als Trainingsdaten für ein von OpenAI erzieltes Resultat verwendet worden sein könnten, wie notebookcheck.com berichtet. Es geht dabei um den sogenannten Astra-Beweis, mit dem erstmals eine nicht-sofische Gruppe konstruiert wurde.
Der Vorwurf der unrechtmäßigen Verwendung privater Chats
Thom wandte sich nach der Ankündigung per E-Mail an die OpenAI-Forscher Mark Sellke und Sebastien Bubeck. Die darauffolgende Antwort des Unternehmens bewertet der Mathematiker mittlerweile als zu weit gefasst und im Nachhinein als unehrlich. Konkret wirft er OpenAI vor, ihn darüber belogen zu haben, ob private Chats in das Training eingeflossen sind. OpenAI erklärte dagegen, dass weder Forscher noch andere Mitarbeiter die Arbeit vor der Veröffentlichung gesehen hätten und kein Zugriff auf konkrete Nutzerdaten erfolgt sei.
Zweifel an der Unabhängigkeit des Forschungsweges
Zwei weitere Punkte stützen laut der Berichterstattung Thoms Argumentation. Juni, wobei diese Einstellung keinen Aufschluss darüber gibt, was mit bereits geführten Chats geschah. Zudem bevorzugten die meisten Forscher Quanten-Spielmethoden anstelle des Ansatzes, den Thom gemeinsam mit Kun verfolgte. Thom zeigte sich daher überrascht, dass Astra denselben Ansatz wählte.
OpenAI räumte gleichzeitig ein, dass sich nicht ausschließen lasse, dass anonymisierte Daten aus der Nutzung seiner Produkte zur Verbesserung der Modelle beigetragen haben könnten. Zum Zeitpunkt der Veröffentlichung hat Thom noch keine Beweise vorgelegt und fordert das Unternehmen stattdessen auf, die Grundlage für seine Zurückweisung offenzulegen. OpenAI hat sich zu diesen Beiträgen bislang nicht öffentlich geäußert.
Der angebliche Durchbruch beim Navier-Stokes-Problem
Die Diskussion kam im Zusammenhang mit einer weiteren Ankündigung von OpenAI zu Navier-Stokes erneut auf. Das vom Clay Mathematics Institute (CMI) im Jahr 2000 mit einem Preisgeld von einer Million US-Dollar ausgelobte Millenniumsproblem betrifft das Navier-Stokes-Existenz- und Glattheitsproblem. Das Computersystem von OpenAI, einer Non-Profit-Firma mit Sitz in San Francisco, soll dieses Problem gelöst haben.
Unklarheiten bei KI-Forschung und möglicher Plagiatsvorwurf
Das Vorgehen wirft Fragen zum Einblick der Forscher in die Aktivitäten der von ihnen trainierten Agenten auf. So teilte man mit, dass man im engen Kontakt stehe und alle verwendeten Prompts austausche, wobei auch nicht ausgeschlossen werden könne, dass Ergebnisse eines Anthropic/NYU-Projekts eingeflossen seien. Mathematiker Terence Tao warnte infolgedessen, dass künftig Gerüchte über vielversprechende Forschung genügen könnten, damit KI-Labore enorme Ressourcen einsetzen und Forschern zuvorkommen, wodurch der jahrhundertealte Grundsatz des offenen Ideenaustauschs getroffen werden könnte.
In diesem Zusammenhang kam es auch zu weiteren Kontroversen: Sébastien Bubeck, Mathematiker und KI-Forscher bei OpenAI, soll laut Berichten vorgeschlagen haben, Alpöge wegen dessen Tätigkeit bei Anthropic nicht an einer gemeinsamen Veröffentlichung zu beteiligen. Auf die Drohung einer öffentlichen Thematisierung hin soll Bubeck gefragt haben, warum dieser seine Karriere ruinieren wolle. Bubeck bestätigte die Aussage als missglückte Wortwahl und erklärte, Alpöge habe lediglich nicht als Autor einer Neufassung von OpenAIs eigenem Beweis auftreten sollen. Sam Altman stellte sich hinter das Team und sprach von unbegründeten Plagiatsvorwürfen, während ein fester Beweis für eine Datenübernahme weiterhin aussteht.
Auch interessant
