Willkommen bei AI This Week, der wöchentlichen Zusammenfassung von Gizmodo, in der wir einen tiefen Einblick in die Entwicklungen in der künstlichen Intelligenz geben.
Na ja, heilige Scheiße. Was die Technologiebranche betrifft, ist es schwer zu sagen, ob es jemals eine schockierendere Reihe von Ereignissen gegeben hat als die, die sich in den letzten Tagen ereignet haben. Die Palastintrige und das Sitzungssaaldrama von Sam Altmans Rauswurf vom OpenAI-Vorstand (und seinem siegreiche Wiedereinsetzung Heute früher) wird zweifellos als eine der explosivsten Episoden, die das Silicon Valley jemals erlebt hat, in die Geschichte eingehen. Allerdings werden die langfristigen Folgen dieses packenden Vorfalls sicherlich viel weniger erfreulich sein als das erste Spektakel.
Der „Coup“, wie viele ihn nennen, wurde größtenteils auf eine ideologische Kluft zwischen Sam und dem OpenAI-Vorstand über das Tempo der technologischen Entwicklung im Unternehmen zurückgeführt. Diese Erzählung besagt also, dass der Vorstand, der das letzte Wort über die Richtung der Organisation haben sollte, dies getan hat besorgt über das Tempo, mit dem Altman die Kommerzialisierung der Technologie vorantreibt, und beschloss, ihn mit äußerster Voreingenommenheit auszuschließen. Altman, der später von OpenAIs leistungsstarkem Partner und Geldgeber Microsoft sowie a Mehrheit der Mitarbeiter des StartupsAnschließend führte er einen Gegenputsch an, vertrieb die Verräter und setzte sich wieder als Anführer des Unternehmens ein.
Ein Großteil des Dramas der Episode scheint sich um diesen Streit zwischen Altman und dem Vorstand über „KI-Sicherheit“ zu drehen. Tatsächlich scheint dieses angespannte Kapitel in der Unternehmensgeschichte wie ein Aufflammen der beiden gegensätzlichen Persönlichkeiten von OpenAI – die eine basiert auf Forschung und verantwortungsvoller technologischer Entwicklung und die andere darauf, jede Menge Geld zu verdienen. Eine Seite war der anderen deutlich überlegen (Hinweis: Es war die Geldseite).
Andere Autoren haben bereits angeboten Ausfälle darüber, wie die einzigartige Organisationsstruktur von OpenAI das Unternehmen auf Kollisionskurs mit sich selbst gebracht zu haben scheint. Vielleicht haben Sie die Startups gesehen Organigramm im Internet herumschwirren, aber falls Sie es noch nicht getan haben, hier eine kurze Zusammenfassung: Im Gegensatz zu so ziemlich jedem anderen Technologieunternehmen, das es gibt, ist OpenAI es eigentlich eine gemeinnützige Organisation, die vollständig von ihrem Vorstand geleitet wird und ein gewinnorientiertes Unternehmen betreibt und kontrolliert. Dieser Entwurf soll der Mission der Organisation, das Gemeinwohl vor Geld zu verfolgen, Vorrang einräumen. OpenAIs eigene Selbstbeschreibung vertritt diese idealistische Vorstellung – dass sein Hauptziel darin besteht, die Welt zu einem besseren Ort zu machen, und nicht darin, Geld zu verdienen:
Wir haben die Struktur von OpenAI – eine Partnerschaft zwischen unserer ursprünglichen gemeinnützigen Organisation und einem neuen Arm mit begrenztem Gewinn – als Rahmen für die Mission von OpenAI entworfen: künstliche allgemeine Intelligenz (AGI) aufzubauen, die sicher ist und der gesamten Menschheit zugute kommt.
Tatsächlich schuldet die Satzung des Vorstands seine Treue der „Menschlichkeit“ und nicht seinen Aktionären. Also trotz der Tatsache, dass Microsoft hat eine Megatonne Geld und Ressourcen in OpenAI gesteckt, soll der Vorstand des Startups (hypothetisch) immer noch das letzte Wort darüber haben, was mit seinen Produkten und seiner Technologie passiert. Das heißt, der Unternehmensteil der Organisation ist Es wird berichtet, dass es einen Wert von mehreren zehn Milliarden Dollar hat. Wie viele bereits festgestellt haben, scheint der ethische Auftrag der Organisation in direkten Konflikt mit den wirtschaftlichen Interessen derjenigen geraten zu sein, die in die Organisation investiert haben. Wie üblich hat das Geld gewonnen.
Alles in allem könnten Sie argumentieren, dass wir diese Interpretation der Ereignisse vom Wochenende noch nicht vollständig unterstützen sollten, da die tatsächlichen Gründe für Altmans Sturz immer noch nicht veröffentlicht wurden. Größtenteils auch Mitglieder des Unternehmens reden nicht über die Gründe, warum Sam rausgeworfen wurde oder wurde rundweg bestritten dass sein Sturz irgendetwas mit der KI-Sicherheit zu tun hatte. In der Zwischenzeit sind alternative Theorien aufgetaucht, von denen einige darauf hindeuten, dass die wahren Gründe für Altmans aggressiven Abgang deutlich vielfältiger seien – etwa die Anschuldigungen, die er gemacht habe suchte nach zusätzlichen Mitteln über autokratische Regime im Nahen Osten.
Aber wenn man sich zu sehr auf Spekulationen über die konkreten Auslöser des OpenAI-Dramas einlässt, ignoriert man, was die ganze Episode enthüllt hat: Was die reale Welt betrifft, ist „KI-Sicherheit“ im Silicon Valley so gut wie null und nichtig. Tatsächlich wissen wir jetzt, dass OpenAI trotz seiner vermeintlich kugelsicheren Organisationsstruktur und seiner erklärten Mission der verantwortungsvollen KI-Entwicklung nie dazu berechtigt war, Ethik tatsächlich über Geld zu stellen.
Um es klar zu sagen: KI-Sicherheit ist ein wirklich wichtiger Bereich, und wenn er tatsächlich von amerikanischen Unternehmen praktiziert würde, wäre das eine Sache. Das heißt, die Version davon, die es bei OpenAI gab – wohl eines der Unternehmen, die es gab am meisten gemacht ein „sicherheitsorientiertes“ Modell zu verfolgen – scheint den realpolitischen Machenschaften der Technologiebranche kaum gewachsen zu sein. Um es noch offener auszudrücken: Die Leute, die uns vor der außer Kontrolle geratenen KI schützen sollten (also die Vorstandsmitglieder) – diejenigen, denen die verantwortungsvolle Verwaltung dieser mächtigen Technologie übertragen wurde – scheinen nicht gewusst zu haben, was sie taten . Sie scheinen nicht verstanden zu haben, dass Sam über alle Branchenverbindungen verfügte, Freunde in hohen Positionen hatte, beliebt war und dass es einem beruflichen Selbstmord gleichkam, sich in einer Welt, in der diese Art von sozialem Kapital alles ausmacht, gegen ihn zu stellen. Wenn Sie zum König kommen, verpassen Sie es am besten nicht.
Kurz gesagt: Wenn es bei der KI-Sicherheit von Unternehmen darum geht, die Menschheit vor außer Kontrolle geratener KI zu schützen, dann hat sie als wirksame Strategie dafür gerade ihre erste große Bewährungsprobe nicht bestanden. Das liegt daran, dass es ziemlich schwierig ist, einer Gruppe von Menschen zu vertrauen, die nicht einmal in der Lage waren, das sehr vorhersehbare Ergebnis vorherzusagen, das eintreten würde, wenn sie ihren Chef feuerten. Wie genau kann man einer solchen Gruppe die Aufsicht über eine angeblich „superintelligente“, weltbewegende Technologie anvertrauen? Wenn Sie eine Schar empörter Investoren nicht überlisten können, dann können Sie wahrscheinlich auch nicht das Skynet-ähnliche Unternehmen überlisten, das Sie angeblich aufbauen. Allerdings würde ich behaupten, dass wir auch der feigen, geldbesessenen Führungsebene, die jetzt ihre Dominanz wieder behauptet hat, nicht vertrauen können. Imo, das sind sie offensichtlich Ich werde nicht das Richtige tun. Die Menschheit steckt also faktisch in einer Zwickmühle.
Nachdem sich der Konflikt um OpenAI gelegt hat, scheint das Unternehmen gut aufgestellt zu sein, um wieder zur Tagesordnung überzugehen. Nach Abwurf Die einzigen beiden Frauen im Vorstand, fügte das Unternehmen hinzu Fiskal-Idiot Larry Summers. Altman ist zurück im Unternehmen (ebenso wie der frühere Firmenpräsident Greg Brockman, der aus Solidarität mit Altman zurücktrat), und Microsofts Topmanager Satya Nadella, hat das gesagt Er sei „durch die Änderungen im OpenAI-Vorstand ermutigt“ und sagte, dies sei ein „erster wesentlicher Schritt auf dem Weg zu einer stabileren, besser informierten und effektiveren Governance“.
Angesichts des Scheiterns des Gremiums scheint klar zu sein, dass die Weltverbesserer von OpenAI möglicherweise nicht nur ihre eigene „Sicherheits“-Mission zurückgeworfen, sondern möglicherweise auch eine Gegenreaktion gegen die KI-Ethikbewegung im großen Stil ausgelöst haben. Ein typisches Beispiel: Das Drama dieses Wochenendes scheint eine ohnehin schon ziemlich radikale Anti-Sicherheitsideologie, die in der Branche kursierte, noch weiter radikalisiert zu haben. Der „effektive Beschleunigungisten“ (abgekürzt „e/acc“) glauben, dass Dinge wie zusätzliche staatliche Vorschriften, „Technische Ethik“ und „KI-Sicherheit“ allesamt lästige Hindernisse für echte technologische Entwicklung und exponentiellen Gewinn sind. Als am Wochenende das Narrativ über „KI-Sicherheit“ auftauchte, wandten sich einige der leidenschaftlicheren Anhänger dieses Glaubenssystems an X verurteilen, was sie als Angriff empfanden über das wahre Opfer der Episode (Kapitalismus, natürlich).
In gewisser Weise geht es bei der Übernahme von „Ethik“ und „Sicherheit“ durch die Technologiebranche vor allem um die Beruhigung. Unternehmen sind sich darüber im Klaren, dass die von ihnen verkauften Technologien beunruhigend und störend sein können. Sie möchten der Öffentlichkeit versichern, dass sie ihr Bestes tun, um Verbraucher und Gesellschaft zu schützen. Letzten Endes wissen wir jedoch jetzt, dass es keinen Grund zu der Annahme gibt, dass diese Bemühungen jemals einen Unterschied machen werden, wenn die „Ethik“ des Unternehmens letztendlich im Widerspruch zu seinem Geld steht. Und wann sind diese beiden Dinge jemals nicht in Konflikt geraten?
Frage des Tages: Welches war das beste Meme, das aus dem OpenAI-Drama hervorgegangen ist?
Diese Wochen beispielloses Durcheinander hat so viele Memes und bissige Takes inspiriert, dass es fast unmöglich erscheint, einen Favoriten auszuwählen. Tatsächlich hat der Skandal mehrere verschiedene Dinge hervorgebracht Genres von Memes insgesamt. Unmittelbar nach Altmans Sturz gab es viele davon Verschwörungsmemes von Rust Cohl im Umlauf, während die Tech-Welt sich bemühte zu verstehen, was genau sie gerade erlebte. Es gab auch Witze darüber wer soll ersetzen Altman und was verursacht haben könnte Der Machtkampf überhaupt. Als dann klar wurde, dass Microsoft hinter dem gestürzten CEO stehen würde, änderten sich die Erzählung – und die Memes. Der triumphierendes-Sam-zu-OpenAI-zurückkehren-nachdem-das-das-Board-verdrängt-Genre wurde populär, ebenso wie viele andere Memes im Zusammenhang mit Satya Nadelle. Es gab natürlich Nachfolge Meme. Und schließlich entstand unvermeidlich ein Meme-Genre, in dem X-Benutzer offen sind verspottete das OpenAI-Board dafür, dass er den Putsch gegen Altman so völlig vermasselt hat. Ich persönlich habe das gefunden Deepfake-Video das Altmans Gesicht mit dem von Jordan Belfort vertauscht Der Wolf von der Wall Street ein guter sein. Das heißt, hören Sie sich in den Kommentaren Ihren Favoriten an.
Weitere Schlagzeilen dieser Woche
- Das andere KI-Unternehmen, das eine wirklich schlechte Woche hatte. OpenAI ist nicht das einzige Technologieunternehmen, das diese Woche durch die Krise gegangen ist. Cruise, das Robotaxi-Unternehmen von General Motors, hat es ebenfalls ziemlich schwer. Der Gründer und CEO des Unternehmens, Kyle Vogt, resigniert am Montag, nachdem der Bundesstaat Kalifornien dem Unternehmen vorgeworfen hatte, wichtige Details im Zusammenhang mit einem gewalttätigen Vorfall mit einem Fußgänger nicht offengelegt zu haben. Vogt gründete das Unternehmen im Jahr 2013 und verhalf ihm zu einem herausragenden Platz in der automatisierten Reisebranche. Allerdings ist das Unternehmen verpfuscht Einführung von Fahrzeugen in San Francisco im August löste bei Stadtbewohnern und Beamten der öffentlichen Sicherheit große Bestürzung und zahlreiche Beschwerden aus. Die Skandale bei Cruise führten dazu, dass das Unternehmen alle seine Fahrzeuge abzog abseits der Straßen in Kalifornien im Oktober und schließlich zur Einstellung des Betriebs im ganzen Land.
- MC Hammer ist offenbar ein großer OpenAI-Fan. Um die Verrücktheit dieser Woche noch zu steigern, haben wir auch herausgefunden, dass der „U Can’t Touch This“-Rapper MC Hammer ein bestätigter OpenAI-Anhänger ist. Am Mittwoch, als das Chaos des Machtkampfs dieser Woche zu Ende ging, sagte der Rapper getwittert: „Gruß und Glückwunsch zum 710 plus@OpenAI Teammitglieder, die einen beispiellosen Beweis von Loyalität, Liebe und Engagement erbracht haben @Dasselbe Und @gdb In diesen gefährlichen Zeiten war es etwas Wundervolles, dies mitzuerleben.“
- Kreative verlieren den KI-Urheberrechtskrieg. Sarah Silvermans Klage gegen OpenAI und Meta läuft nicht so gut. Diese Woche wurde bekannt, dass die Klage der Komikerin gegen die Technologiegiganten (die ihr Urheberrechtsverletzungen vorwerfen) ins Stocken geraten ist. Silverman ist nicht allein. Eine Reihe bildender Künstler reichten eine Klage gegen Midjourney und Stability AI ein fast rausgeschmissen von einem Richter letzten Monat. Obwohl diese Klagen offenbar scheitern, könnte es nur darum gehen, das richtige rechtliche Argument für ihren Erfolg zu finden. Obwohl die aktuellen Ansprüche möglicherweise nicht stark genug sind, sind die Fälle könnte überarbeitet und neu archiviert werden.
