Kostet ChatGPT Microsoft 700.000 US-Dollar pro Tag?

Wie viel kostet Microsoft eigentlich eine Anfrage via ChatGPT? Diesen Rechercheaufwand hat sich “SemiAnalysis” gemacht und dazu nun interessante Zahlen veröffentlicht. Es ist kein Geheimnis, dass Microsoft die Zahl der täglich möglichen KI-Abfragen via Bing begrenzt. Bisher dachten viele Branchenexperten, dass diese Begrenzung vor allem damit zu tun hat, dass man die Server vor einer Überlastung schützen möchte und dies ist mit Sicherheit auch ein Grund, denn die Nachfrage nach der KI ist riesig. Aber es könnte noch ein weiterer Grund mitspielen und das sind die Kosten für Microsoft.

“SemiAnalysis” hat nach Recherchen eine Schätzung der täglichen Kosten von Microsoft gemacht. Der reguläre Betrieb von ChatGPT soll Microsoft demnach um die 700.000 US-Dollar kosten – pro Tag! Die Analysten wagen die Schätzung, dass Microsoft pro Anfrage ca. 36 Cent einplanen muss. Bei diesen Zahlen handelt es sich wie gesagt um Schätzungen und sie sind nicht von Microsoft bestätigt.

Muss Microsoft die Ausgaben begrenzen?

Wenn man diese Zahlen jedoch zur Grundlage nimmt, ist es kein Wunder, dass Microsoft die täglichen Anfragen via ChatGPT begrenzt. Dies dürfte auch einen Selbstschutz darstellen, damit es keine böse Kostenüberraschung gibt. Was kann Microsoft nun dagegen tun? In den letzten Wochen hieß es von manchen Seiten, dass Microsoft den Plan verfolge, hauseigene Chips zu produzieren. Mit diesen KI-Chips möchte man in erster Linie seine Cloud-Server versorgen.

Denn bei den oben genannten Zahlen sind in erster Linie die Hardware-Kosten dafür verantwortlich, dass “SemiAnalysis” auf diese Beträge kommt. Wenn Microsoft durch eine Eigenproduktion der KI-Chips etwas eigenständiger und weniger abhängig von Nvidia wird, wäre es in der Tat möglich, Kosten einzusparen.

via