Webtagr - Technologienummer

Beliebte Tags：

Kosmos Virtualisierung DNS-Sicherheit formale Verifikation Erreichbarkeitsanalyse KI Compilerfehler Makrokonflikt Web-Erweiterung Entwicklungsframework Alle Tags

Die Entwicklung und Herausforderungen von KI-Coding-Agenten: Vom Wählverbindungs- zum Hochgeschwindigkeitsinternet

2025-09-22

Die rasante Entwicklung von KI-Coding-Agenten, die auf großen Sprachmodellen (LLM) basieren, hat beispiellose Produktivitätssteigerungen gebracht, aber auch enorme Herausforderungen für die Infrastruktur mit sich gebracht. Mit einer Analogie zum Zeitalter der Wählverbindung beschreibt der Autor die Entwicklung von KI-Coding-Agenten von ihren anfänglich ineffizienten und unzuverlässigen Zuständen bis hin zu ihrer heutigen weit verbreiteten Nutzung, während immer noch Probleme mit hoher Latenz und hohen Kosten bestehen. Der Autor argumentiert, dass höhere tok/s-Geschwindigkeiten (Tokens pro Sekunde) entscheidend sind und prognostiziert, dass die Zukunft fortschrittlichere, weniger manuelle KI-Coding-Workflows und flexiblere Preismodelle zur Bewältigung von Lastspitzen bringen wird.

Entwicklung

KI-Inferenzkosten: Nicht so teuer wie gedacht

2025-08-28

Dieser Artikel widerlegt die Behauptung, dass KI-Inferenz unerschwinglich teuer und nicht nachhaltig ist. Durch die Berechnung der Kosten für die Ausführung von KI-Inferenz auf H100-GPUs zeigt der Autor, dass die Eingabeverarbeitung unglaublich günstig ist (Bruchteile eines Cents pro Million Token), während die Erzeugung von Ausgaben deutlich teurer ist (Dollar pro Million Token). Diese Kostenungleichheit erklärt die Rentabilität einiger Anwendungen (wie Codierungsassistenten) und die hohen Kosten anderer (wie Videogenerierung). Der Autor argumentiert, dass diese Kostenungleichheit oft übersehen wird, was zu einer Überschätzung der KI-Inferenzkosten führt, was den etablierten Akteuren zugutekommen und Wettbewerb und Innovation behindern kann.