Einige KI-Unternehmen sehen sich mit einem neuen Vorwurf konfrontiert: „Open Washing“

Fachgespräch

/ō-pən-wä-shĭng/

Ein Vorwurf gegen einige KI-Unternehmen, dass sie die Bezeichnung „Open Source“ zu locker verwenden.

In der Technologiewelt gibt es eine große Debatte darüber, ob Modelle der künstlichen Intelligenz „Open Source“ sein sollten. Elon Musk, der 2015 an der Gründung von OpenAI beteiligt war, verklagte das Startup und seinen Geschäftsführer Sam Altman mit der Begründung, das Unternehmen sei von seiner Mission der Offenheit abgewichen. Die Biden-Regierung untersucht die Risiken und Vorteile von Open-Source-Modellen.

Befürworter von Open-Source-KI-Modellen sagen, sie seien gerechter und sicherer für die Gesellschaft, während Kritiker sagen, dass sie eher für böswillige Absichten missbraucht werden. Ein großer Schluckauf in der Debatte? Es gibt keine einheitliche Definition dessen, was Open-Source-KI eigentlich bedeutet. Und einige beschuldigen KI-Unternehmen des „Openwashing“ – indem sie den Begriff „Open Source“ unaufrichtig verwenden, um sich selbst gut dastehen zu lassen. (Vorwürfe des Openwashing richteten sich bisher gegen Codierungsprojekte, die das Open-Source-Label zu locker nutzten.)

In einem Blogbeitrag auf Open Future, einer europäischen Denkfabrik, die Open Sourcing unterstützt, schrieb Alek Tarkowski: „Während die Regeln geschrieben werden, besteht eine Herausforderung darin, ausreichende Schutzmaßnahmen gegen die Versuche von Unternehmen zum ‚Openwashing‘ zu errichten.“ Letzten Monat hat die Linux Foundation, a Eine gemeinnützige Organisation, die Open-Source-Softwareprojekte unterstützt, warnte davor, dass „dieser ‚Openwashing‘-Trend die Grundvoraussetzung der Offenheit zu untergraben droht – den freien Austausch von Wissen, um Inspektion, Replikation und kollektiven Fortschritt zu ermöglichen.“

Organisationen, die diese Bezeichnung auf ihre Modelle anwenden, verfolgen möglicherweise sehr unterschiedliche Ansätze zur Offenheit. OpenAI beispielsweise, das Startup, das 2022 den ChatGPT-Chatbot auf den Markt brachte, gibt (trotz des Firmennamens) wenig über seine Modelle preis. Meta bezeichnet seine LLaMA 2- und LLaMA 3-Modelle als Open Source, erlegt jedoch Einschränkungen hinsichtlich ihrer Verwendung auf. Die offensten Modelle, die hauptsächlich von gemeinnützigen Organisationen betrieben werden, legen den Quellcode und die zugrunde liegenden Trainingsdaten offen und verwenden eine Open-Source-Lizenz, die eine umfassende Wiederverwendung ermöglicht. Aber selbst bei diesen Modellen gibt es Hindernisse, die andere daran hindern, sie zu reproduzieren.

Der Hauptgrund dafür ist, dass Open-Source-Software zwar jedem erlaubt, sie zu replizieren oder zu ändern, die Erstellung eines KI-Modells jedoch viel mehr als nur Code erfordert. Nur eine Handvoll Unternehmen können die erforderliche Rechenleistung und Datenverwaltung finanzieren. Aus diesem Grund sagen einige Experten, dass die Bezeichnung jeglicher KI als „Open Source“ bestenfalls irreführend und im schlimmsten Fall ein Marketinginstrument sei.

„Selbst maximal offene KI-Systeme ermöglichen keinen offenen Zugang zu den Ressourcen, die zur ‚Demokratisierung‘ des Zugangs zu KI erforderlich sind, oder ermöglichen keine vollständige Kontrolle“, sagte David Gray Widder, ein Postdoktorand an der Cornell Tech, der die Nutzung von „Open Source“ untersucht hat. Label von KI-Unternehmen.

Derzeit werden Anstrengungen unternommen, um eine klarere Definition für Open-Source-KI zu schaffen. Forscher der Linux Foundation haben im März ein Framework veröffentlicht, das Open-Source-KI-Modelle in verschiedene Kategorien einteilt. Und die Open Source Initiative, eine weitere gemeinnützige Organisation, versucht, eine Definition zu entwerfen.

Aber Herr Widder und andere bezweifeln, dass wirklich Open-Source-KI möglich ist. Der unerschwingliche Ressourcenbedarf für die Erstellung von KI-Modellen werde „einfach nicht verschwinden.“