Anthropic, ein Unternehmen für KI-Sicherheit mit einem geschätzten Wert zwischen 350 Milliarden und 380 Milliarden US-Dollar, zieht durch eine ungewöhnlich missionsgetriebene Unternehmenskultur Aufmerksamkeit auf sich. Kritiker und Insider vergleichen die Hingabe der Angestellten an das von ihnen entwickelte KI-Modell Claude mit religiöser Inbrunst.
Während bei anderen Technologieunternehmen Aktienoptionen oder gute Kaffeemaschinen im Mittelpunkt stehen, blicken die Angestellten von Anthropic laut Berichten auf die existenzielle Zukunft der Menschheit. Das Unternehmen wurde im Jahr 2021 durch eine Abspaltung von OpenAI gegründet. Damals verließen Dario Amodei, seine Schwester Daniela und eine Gruppe von Forschern das Unternehmen wegen Differenzen über die kommerzielle Ausrichtung und die Gewichtung der Sicherheitsforschung.
Dario Vision Quests und das 80-seitige Seelen-Dokument
Die geistigen Wurzeln von Anthropic gehen auf den effektiven Altruismus zurück, eine philosophische Bewegung, die mithilfe von Vernunft und Evidenz den größtmöglichen Nutzen für die Welt erreichen möchte. Dieses Erbe spiegelt sich direkt in den internen Abläufen wider. So veranstaltet CEO Dario Amodei alle zwei Wochen firmeneweite Sitzungen namens „Dario Vision Quests(DVQs). Dabei handelt es sich um strukturierte philosophische Diskussionsrunden über die Ausrichtung von künstlicher Intelligenz, gesellschaftliche Auswirkungen und moralische Rahmenbedingungen.
Auch das KI-Modell Claude selbst folgt einem unkonventionellen Regelwerk. Insider nennen es ein „Seelen-Dokument – eine 80 Seiten starke Verfassung, die das Verhalten des Modells steuert und ihm erlaubt, unethische Anweisungen abzulehnen. Statt Claude lediglich auf Hilfsbereitschaft zu trainieren, versucht Anthropic, Werte in die Architektur des Systems zu gießen, damit die KI bei schädlichen Anfragen Gegenwehr leisten kann.
Der Begriff Claude-pilled und die Perspektive von Experten
Ein Insider von OpenAI namens „roon“ prägte für diesen Kulturkreis den Begriff „Claude-pilled. Er beschrieb Anthropic als eine Organisation, die Claude liebt und verehrt. Viele Mitarbeiter glauben demnach auf eine Weise an das System, die ingenieurtechnische Überzeugung mit einer Art Glauben verschmelzen lässt.
”
Diese Menschen behandeln KI, als wäre sie ein Mensch in Verkleidung, mit menschlichen Motiven, mit menschlichen Emotionen.
Pedro Domingos, Informatikprofessor an der University of Washington
Diese vehemente Hingabe stößt in der Wissenschaft auf gemischte Reaktionen. Pedro Domingos von der University of Washington äußerte sich kritisch über den Umgang mit der Technologie. Zudem wird die Nähe zur Bewegung des effektiven Altruismus von Beobachtern mit Skepsis betrachtet, da die Bewegung durch den Zusammenbruch von FTX und die Betrugsverurteilung von Sam Bankman-Fried, der sich als prominenter Anhänger positioniert hatte, einen Imageschaden erlitten hatte.
Weiterlesen
