Tech Brief #15 | Der Preis von AI
I) ROI rückt ins Zentrum der AI-Adoption
Viele Unternehmen haben ihre Mitarbeiter zunächst dazu gedrängt, möglichst viel AI zu nutzen. Nun bremsen erste Unternehmen die Nutzung wieder ein: Agenten führen für eine einzelne Aufgabe zahlreiche Modellaufrufe aus, verarbeiten große Kontextmengen und können so schnell erhebliche Kosten verursachen. Statt Nutzungsquoten oder verbrauchte Tokens zu feiern, rückt deshalb der tatsächliche wirtschaftliche Nutzen in den Vordergrund. Quelle: Financial Times
Strategische Einordnung: Tokenverbrauch ist kein sinnvoller KPI für AI-Adoption. Entscheidend sind die Kosten pro erfolgreich abgeschlossenem Prozess und der dadurch geschaffene Wert. Unternehmen werden deshalb Model-Routing (zum effizientesten Modell für die jeweilige Aufgabe) und eine klare Zuordnung der Kosten zu einzelnen Workflows benötigen.
Weiter sinkende Preise pro Token werden das Problem nicht zwangsläufig lösen: Wenn dadurch wesentlich mehr und aufwendigere Agenten eingesetzt werden, kann der Gesamtverbrauch trotzdem steigen (siehe Jevons Paradox).
II) Zahlen Unternehmen zweimal für AI?
Microsoft-CEO Satya Nadella warnt vor einem „Reverse Information Paradox“: Unternehmen bezahlen Modellanbieter nicht nur mit Geld. Durch Prompts, Korrekturen, Prozessbeschreibungen und Evaluierungen geben sie zusätzlich einen Teil des Wissens preis, das sie von ihren Wettbewerbern unterscheidet. Im Laufe der Nutzung entsteht so ein wertvoller Learning Loop – häufig jedoch außerhalb der eigenen Kontrolle. Alex Karp hat in einem viel beachteten CNBC-Interview ähnlich argumentiert. Quelle: Satya Nadella / Microsoft
Strategische Einordnung: Dabei geht es nicht primär darum, dass Anbieter Unternehmensdaten zum Training ihrer Basismodelle verwenden. Die kommerziellen Angebote von OpenAI, Anthropic und Microsoft schließen dies standardmäßig aus.
Wertvoller als die ursprünglichen Dokumente können ohnehin die Erkenntnisse sein, die erst bei der Anwendung entstehen: Welche Prompts funktionieren? Welche Ausnahmen treten auf? Wie wird die Qualität beurteilt? Welche Entscheidungen wurden korrigiert? Daher rückt gerade wieder die Open-Source/Open-Weights-Frage in den Fokus. Nicht primär, um Kosten zu sparen, sondern die Hoheit über proprietäres Wissen zu bewahren.
III) Ode bringt Forward Deployed Engineers in den Mittelstand
Anthropic hat gemeinsam mit Blackstone und Hellman & Friedman die AI-Implementierungsfirma Ode with Anthropic gestartet. Weitere Investoren sind unter anderem Goldman Sachs, Apollo, General Atlantic und Sequoia Capital. Ode kombiniert Anthropic-Modelle mit erfahrenen AI-Engineers, die gemeinsam mit Unternehmen relevante Anwendungsfälle identifizieren, individuelle Systeme entwickeln und diese bis in den laufenden Betrieb begleiten. Quelle: Anthropic
Strategische Einordnung: Palantir hat früh gezeigt, dass komplexe Technologie nicht durch Softwarelizenzen und klassische Beratung allein erfolgreich in Unternehmen eingeführt wird. Es braucht Forward Deployed Engineers: technisch starke Teams, die direkt beim Kunden arbeiten, dessen Prozesse verstehen, Lösungen implementieren und am operativen Ergebnis gemessen werden.
Durch die Struktur von Ode sind viele der üblichen Interessenkonflikte zumindest reduziert. Die PE-Häuser profitieren primär von der Wertsteigerung ihrer Portfoliounternehmen, Anthropic von erfolgreicher Adoption und Ode von langfristig funktionierenden Implementierungen.
Unternehmen, die nicht auf solche Ressourcen zugreifen können, müssen mit ihren Beratungen und Technologiepartnern ein ähnliches Alignment schaffen. Dazu gehören eine Vergütung anhand realisierter Ergebnisse statt eingesetzter Tage, gemeinsame Verantwortung für den Produktivbetrieb sowie klare Regeln zum Eigentum an Daten, Evals, Workflows und entwickeltem Prozesswissen. Andernfalls droht die ungünstigste Kombination: Der Implementierungspartner verdient an Aufwand, der Modellanbieter an verbrauchten Tokens – und das Unternehmen trägt die Kosten, während sein proprietäres Wissen abfließt.