Coheres neues AI Command-R+ ist auf Sagemaker und Azure verfügbar

Anfang dieser Woche stellte Cohere, das in Toronto, Kanada ansässige Startup, das von ehemaligen Google-KI-Forschern und einem Co-Autor des Transformer-Artikels mitbegründet wurde, sein leistungsstarkes neues KI-Großsprachenmodell (LLM) vor, das auf die Einführung in Unternehmen ausgerichtet ist: Command-R+.

Es wurden auch Kennzahlen veröffentlicht, die zeigen, wie Command-R+ das GPT-4 des Konkurrenten OpenAI (das ChatGPT antreibt) bei gängigen KI-Benchmarking-Tests übertraf.

Seitdem ist Command-R+ auf verfügbar Microsofts Azure Cloud-Service und gerade heute, Amazon Sagemakerdie vollständig verwaltete Entwicklungsplattform für maschinelles Lernen des Konkurrenzunternehmens.

Auf Azure kostet der Zugriff auf Command-R+ 0,015 $/0,003 $ pro 1000 ausgegebene/eingegebene Token (der Preis dafür, dass das Modell mit seinen eigenen Ausgaben reagiert bzw. Eingabeaufforderungen eingegeben werden). Token gelten grob für dargestellte Wörter oder Wortteile zum LLM als Zahlen, die angeben, wo sich dieses Wort oder Konzept in einer 3D-Darstellung des Raums im Verhältnis zu anderen verwandten Konzepten befindet. Der Open-Source-Entwickler Simon Willison hat hier ein großartiges interaktives Beispiel.

Unterschiedliche Preismodelle

Bei Sagemaker wird die Ausführung in Echtzeit-Inferenz (Verwendung des Modells in der Produktion für Endbenutzer, nicht für die Entwicklung) unterschiedlich mit 82,89 bis 146,93 US-Dollar pro Stunde berechnet.

Microsoft prahlte schnell damit das soziale Netzwerk X darüber, dass Command-R+ „zuerst auf Microsoft Azure verfügbar“ war, und veröffentlichte einen langen Blogbeitrag, in dem es darauf hinwies, dass sein Cloud-Dienst „jetzt mehr als 1.600 Basismodelle (LLMs und SLMs) von Databricks, Deci AI, Hugging Face, Meta, Microsoft anbietet.“ Forschung, Mistral AI, NVIDIA, OpenAI, Stabilitäts-KI.“

„Command R+ wurde für Unternehmen entwickelt, die ihre internen Daten und Dokumente nutzen möchten, um maßgeschneiderte und genaue Sprachmodelle zu erstellen“, schrieb John Montgomery, Microsofts Corporate Vice President, Program Management, AI Platform bei Microsoft. „In Kombination mit Cohere Embed und Rerank, die bald im Modellkatalog verfügbar sein werden, bietet Command R+ führende Genauigkeit für fortschrittliche KI-Anwendungen, die Informationen aus Dokumenten und Unternehmensdatenquellen benötigen.“

Hart umkämpfter Cloud-Markt für KI-Modellangebote

Nach seinem Schritt, in das proprietäre Mistral Large des gleichnamigen französischen Open-Source-KI-Startups zu investieren und es als Erster anzubieten, und angesichts seiner langjährigen Unterstützung und Investition in OpenAI scheint Microsoft beabsichtigt zu sein, Azure zum „ „One-Stop-Shop“ für jeden Unternehmensentwickler, der zwischen verschiedenen KI-Modellen und Orten für deren Hosting wählen möchte.

Doch auch Amazon hat seine Modellbibliothek auf Bedrock, seiner LLM-fokussierten Entwicklungsplattform, kontinuierlich ausgebaut und Anfang des Jahres schnell die Modellfamilie Claude 3 von Anthropic hinzugefügt. Daher ist die Tatsache, dass Command R+ auf AWS Sagemaker verfügbar ist, interessant und bemerkenswert, insbesondere wenn es nicht auf Bedrock verfügbar ist.

Der Versuch, im Allgemeinen weitere Modelle der beiden nach Marktanteil größten Cloud-Anbieter hinzuzufügen, ist Teil ihres hart umkämpften anhaltenden Kampfes. Dies ist insofern sinnvoll, als der Cloud-Anbieter umso mehr potenzielle Anwendungsfälle und Kundenbedürfnisse anbieten kann, je mehr KI-Modelle er anbieten kann, und es handelt sich dabei lediglich um ein allgemeines Angebereirecht. Es ist wie ein Supermarkt mit zahlreichen Marken und nicht ein kleiner Tante-Emma-Laden mit nur wenigen Auswahlmöglichkeiten.

Für Cohere ist die Platzierung auf führenden Cloud- und KI-Entwicklungsplattformen vermutlich auch besser für das Unternehmen, da potenzielle Kunden mehr Möglichkeiten haben, darauf zuzugreifen und sich mit dem Namen vertraut zu machen. Berichten zufolge erwirtschaftet Cohere Berichten zufolge auch nur langsam Einnahmen Die Informationwährend OpenAI laut Bloomberg offenbar ordentliche Erfolge bei der Steigerung seiner Abonnentenzahl für Unternehmensbenutzer auf 600.000 erzielt hat – genau die Kunden, die Cohere erreichen wollte und die sich immer noch darauf konzentrierten, sie zu gewinnen.

Warum gibt es Command-R+ nicht auf Bedrock?

Sogar Aidan Gomez, CEO und Mitbegründer von Cohere, bemerkte die Auslassung auf X und postete: „Ich freue mich, dass Command R+ auf @awscloud Sagemaker verfügbar ist. Bitte senden Sie eine E-Mail an Ihren lokalen AWS-Vertreter und bitten Sie darum, dass Command R und Rerank zu Bedrock hinzugefügt werden!“