senn-techThemen
KI im Betrieb
RAG, Agenten und Automatisierung im Unternehmen: welcher Aufbau im Betrieb trägt, was Wartung verlangt und wo die Grenzen der Modelle liegen.
57 Beiträge
- 2026-10-24 · KINemotron 3.5 Embed, Rerank, Parse: Nvidias offene RAG-Modelle ab 1BNvidia hat auf der GTC Berlin drei offene Modelle für Retrieval-Pipelines vorgestellt: Embed (1B und 8B), Rerank (8B) und Parse (0,63B). Alle Benchmarkzahlen stammen vom Hersteller. Was das für ein selbst betriebenes RAG-System bedeutet.
- 2026-10-24 · KIKimi K3.1 Pro: Platz 4 im AA-Index, offene Gewichte angekündigt, bei 2,8 Billionen ParameternMoonshot AI hat Kimi K3.1 Pro am 23. Oktober vorgestellt: Platz 4 im Artificial Analysis Intelligence Index, 2,8 Billionen Parameter, Gewichte bis 4. November versprochen. Wir trennen Gemessenes, Herstellerangaben und eigene Rechnung.
- 2026-10-24 · SoftwareKeePassXC 2.8: Auto-Type unter Wayland, Datenbank-Sync, Qt 6KeePassXC 2.8.0 ist seit dem 21. Oktober draußen. Auto-Type läuft unter Wayland über XDG-Portale, die Qt-6-Migration ist durch, und Polkit Quick Unlock verändert die Datenbankdatei. Was beim Update zu beachten ist.
- 2026-10-24 · KIStudie: Der Agent-Harness treibt die Token-Kosten bis zum Dreifachen, die Trefferquote kaumFünf Modelle, drei Harnesses, ein Benchmark: Liu und Han messen, dass sich bei gleichem Modell vor allem die Token-Rechnung ändert, kaum die Erfolgsquote. Was das für Coding-Agenten im Eigenbetrieb heißt und wie man es selbst nachmisst.
- 2026-10-19 · Lokale KIOpen-Weight-Modelle: 71,5 % der Tokens, 23 % der Ausgaben im Vercel AI GatewayVercels Gateway-Daten zeigen, dass offene Modelle über 70 Prozent der Tokens verarbeiten und ihr Anteil an den Ausgaben in drei Monaten von etwa 5 auf 23 Prozent gestiegen ist. Gute Zahlen für das Argument offen statt Closed API, mit klaren Grenzen.
- 2026-10-16 · KI & EntwicklungTorvalds lässt Claude Code den Lesepfad des Page-Cache umbauen: Was die Zahlen belegen und was nichtLinus Torvalds hat in einem Branch acht experimentelle Patches veröffentlicht, die Claude Code unter seiner Anleitung geschrieben hat. Auf seinem Laptop liest der Kernel dieselbe Datei bis zu dreimal so oft pro Sekunde. Was gemessen wurde, was fehlt und was ein Betreiber daraus mitnimmt.
- 2026-10-16 · KI & EntwicklungOffene KI-Modelle zum Selbsthosten im Oktober 2026: was in 24, 128 und 512 Gigabyte passt und was die Lizenz erlaubtIn drei Wochen sind mehrere offene Modelle erschienen, die ein Betrieb mit 20 bis 100 Leuten im eigenen Haus betreiben könnte: Nemotron 3.5 Bolt und Super VL, LFM2.5, MiniCPM-V 4.7, EmbeddingGemma 2, zwei schlanke Qwen-Varianten und Meta Muse Spark Open. Wir haben Modellkarten, Lizenztexte, Dateigrößen und die Hacker-News-Diskussionen gelesen und ordnen die Modelle nach dem Speicher, den sie brauchen.
- 2026-10-14 · KI & EntwicklungCloudroom nachgemessen: ein offener Kern, ein Autor, vier Wochen BauzeitEin Gründer stellt seine Cloud-Agenten-Plattform vor: Sandbox für jeden Agenten, offener Kern, gratis. Wir haben Repo, Lizenz, Preise und Security-Seite gemessen; die Superlative des Videos halten den Primärquellen nicht stand.
- 2026-10-14 · KI & EntwicklungAnimationen als Code: was Claude Motion kann und was die Lizenz bei Remotion kostetClaude Motion baut Erklärvideos aus Programmcode statt aus einem Video-Modell. Wir haben die Doku nachgelesen, die Lizenzstufen von Remotion nachgerechnet und die Strecke auf eigener Hardware gebaut.
- 2026-10-12 · KI & EntwicklungFork-and-Flush: KI-Agenten werden besser, wenn man den Chatverlauf löschtEin arXiv-Paper löst das Steckenbleiben langer Agentenläufe so: den Arbeitsstand behalten, den Chatverlauf verwerfen, mehrere Zweige parallel laufen lassen. Zahlen, Grenzen und was sich daraus für eigene Agenten ableiten lässt.
- 2026-10-11 · KI & EntwicklungWebsite mit KI in acht Phasen: Was ein Video verspricht und wir nachgemessen habenEin neuer Gratis-Skill führt Claude Code durch den kompletten Bau einer Website: Marke, Recherche, Texte, Design, Livegang. Wir haben die Zahlen aus dem Video nachgemessen.
- 2026-10-11 · KI & EntwicklungStrata: 125-Milliarden-Modell mit 50 bis 60 Tokens pro Sekunde auf einer Karte von 2020Ein Selbstversuch mit einer RX 6800 kursiert: Im August endete Ollama bei 3 bis 4 Tokens pro Sekunde, heute schreibt dieselbe Karte 50 bis 60 mit dem Backend Strata. Nachgerechnet: Die Schlagzeile stimmt nur zum Teil.
- 2026-10-11 · KI & EntwicklungREA: 83.000 GitHub-Sterne in 44 Stunden, nachgemessenReverse Engineer Anything ist ein echtes MCP-Werkzeug zum Zerlegen fremder Software, MIT-lizenziert. Die Popularität des Repos ist messbar erfunden. Wir zeigen die Kurve, das Verfahren und die zwei Fallen beim Nachprüfen.
- 2026-10-11 · KI & EntwicklungNachbau statt Lizenz: Was 84 Tage Decompilation über Softwarekosten sagenEin N64-Spiel in 84 Tagen decompiliert, zwölf Open-Source-Programme als Nachbauten von Adobe- und Microsoft-Software in einer Woche. Wir haben die Zahlen nachgemessen und alle zwölf Programme im Browser gestartet.
- 2026-10-11 · KI & EntwicklungAnthropic nimmt KI-Tests vom Netz: Agenten-Sandboxen brauchen Egress-RegelnDas Live-Internet ist für alle internen Anthropic-Modelltests abgeschaltet, nachdem Modelle echte Formulare absandten, einen Uni-Server ausnutzten und Zugangstokens abgriffen. Die Fälle, Anthropics Maßnahmen und was für eigene Agenten folgt.
- 2026-10-07 · KI & EntwicklungMistral Large 4 im Feld der offenen Gewichte: Indexwerte, Preise und die Bytes dahinterMistral Large 4 soll Ende Oktober offene Gewichte bekommen. Wir haben den unabhängigen Indexwert, die Preise und die Checkpoint-Größen der chinesischen Modelle nachgemessen und unsere eigene Lane dagegen laufen lassen.
- 2026-10-07 · KI & EntwicklungClaude Haiku 5.5: 0,10 Dollar pro Million Token, aber hoher Token-VerbrauchAnthropic senkt mit Haiku 5.5 den Preis kleiner Modelle um rund 75 Prozent. Artificial Analysis misst dagegen einen dreifachen Token-Verbrauch gegenüber GPT-6 Luna. Was das für Klassifikation und Subagenten heißt.
- 2026-10-05 · KI & EntwicklungKolibri aus Heidelberg: ein deutscher Tokenizer, der nicht auf unsere GPUs passtAleph Alpha hat Kolibri veröffentlicht, 78 Milliarden Parameter unter Apache 2.0. Wir haben den deutschen Tokenizer nachgemessen und die Hardware-Rechnung für unsere vier RTX 5090 gemacht.
- 2026-10-05 · KI & EntwicklungClaude Mods: Was das neue Plugin-Format in Claude Code wirklich darfClaude Code 2.1.287 bringt Mods, standardmäßig an und ohne Sandbox. Stand 11. Oktober: zehn Versionen in acht Tagen, ein Katalog mit über 3.000 Community-Mods und die Frage, was Organisationen dagegen haben.
- 2026-10-04 · KI & EntwicklungLokale KI im Selbstversuch: Eine Woche ohne Cloud-Modelle auf 64 GBAdrian Twarog hat eine Woche nur lokale Sprachmodelle gefahren, auf einem 64-GB-Mini-PC. Bruchstelle war der Kontext der Coding-Harnesses, die Modellqualität hielt durch. Ein Abgleich mit unserem Produktivbetrieb.
- 2026-10-04 · KI & EntwicklungParakeet Redux: 178 Megabyte Spracherkennung, eine proprietäre EngineMoondream hat NVIDIAs Parakeet ternär quantisiert und ist auf 178 MB gekommen. Wir messen nach, was davon auf eigener Hardware ankommt, und lesen den Lizenztext der Engine.
- 2026-10-04 · KI & EntwicklungClaude steuert FreeCAD per MCP: was der CAD-Agent baut und was nichtSeit 15. Juli 2026 zeigt ein Video des Kanals Make Form, wie Claude Desktop über das Model Context Protocol echte Teile in FreeCAD modelliert: Quader, Verrundungen, ein Zahnrad ohne Zahnräder-Workbench. Dahinter steckt das Community-Projekt freecad-mcp mit 2 654 Sternen, MIT-Lizenz und einer XML-RPC-Brücke auf Port 9875. Dieser Beitrag sortiert die Vorführung: was sie belegt, was die Projektdoku zur Sicherheit sagt und das Video auslässt, und wo für die Konstruktion heute die Grenze liegt.
- 2026-10-03 · SoftwareExchange Online sperrt EWS seit 1. Oktober 2026: Apple Mail auf dem Mac hängt an der App-ID-ListeSeit dem 1. Oktober 2026 stellt Microsoft in Exchange Online die Einstellung EWSEnabled von Null auf False und sperrt damit Exchange Web Services, Tenant für Tenant. Am 1. April 2027 ist EWS endgültig aus, ohne Ausnahmen. Apple Mail, Kalender und Kontakte auf dem Mac sprechen weiterhin nur EWS, Graph-Unterstützung hat Apple für ein künftiges Update von macOS 27 angekündigt, ohne Datum.
- 2026-09-26 · KI & EntwicklungLokale KI wird nicht nur besser, sie wird kleinerVier Releases, eine Richtung: llama.cpp v0.5.0 und vLLM v0.30.0 ändern den Betrieb, ternäre Gewichte und MiMo v2.6 verschieben die Größenordnung. Auf einer unserer Boxen läuft die neue vLLM schon seit dem Wochenende.
- 2026-09-22 · KI & EntwicklungJev im Praxischeck: Ein Modell, das nur Entscheidungen liefertJev ist kein Chatbot, sondern ein Entscheidungsmodell: drei Fragetypen, Millisekunden, Bruchteile eines Cents. Wir prüfen das Modell gegen publizizierte Kosten, Guardrail-Muster und die offene Alternative Laya.
- 2026-09-22 · KI & EntwicklungBonsai 2 27B: Ein Ternär-Modell mit 6 GB passt in unsere LanePrismML liefert Qwen3.8-27B als Ternär-GGUF mit 1,72 Bit je Gewicht: 5,9 GB, Apache 2.0, fünf Tage nach Release 2,2 Millionen Downloads. Wir sortieren verifizierte Zahlen von Anbietermessung und benennen den Test, der fehlt.
- 2026-09-11 · KI & Entwicklung261 Euro eigener AI-Stack statt 7.640 Euro API, ein Monat AgentenbetriebLiteLLM-Gateway, vLLM auf vier RTX 5090, ein Agent per SSH durch die Firma. Was an Tokens, Cache und Kosten wirklich anfällt, gemessen, nicht gerechnet.
- 2026-09-07 · KI & EntwicklungGPT-6 Astra: 99,9 Prozent auf ARC-AGI-3, und warum die Benchmark-Stiftung trotzdem nicht von AGI sprichtOpenAI hat GPT-6 Astra veröffentlicht, Präsident Greg Brockman ruft die AGI-Ära aus. Dieselbe Woche liefert die Gegenrechnung: 62,7 statt 99,9 Prozent im Standard-Harness, ein Intelligence Index auf Vorgängerniveau und ein Modell, das schwerer zu überwachen ist als sein Vorgänger.
- 2026-09-05 · KI & EntwicklungQwen3.8-27B mit Claude-Opus-Denkspuren: vier Fine-Tunes im Test, einer hält standEine aktive Community trainiert offene Modelle auf Claude-Opus-Reasoning-Traces. Wir haben vier Kandidaten für unser Produktionsmodell Qwen3.8-27B geprüft, einen davon nachgebaut und gegen die eigene Testbatterie laufen lassen.
- 2026-09-04 · KI & EntwicklungEine gemietete GPU statt der eigenen Produktion: der vLLM-Offload-Test für Qwen3.8-Flash-NextUm zu prüfen, ob vLLM das riesige Embedding-Modul von Qwen3.8-Flash-Next in den Hauptspeicher auslagern kann, haben wir nicht die eigene Produktion riskiert, sondern für zwei Stunden eine baugleiche GPU-Maschine gemietet – drei Fehlversuche vor dem ersten funktionierenden Start.
- 2026-09-02 · KI & EntwicklungvLLM Prefix-Caching im Eigenbetrieb: Messbar weniger TokensSeit dem 19. August 2026 liefert unser lokaler Qwen3.8-27B nicht nur Antworten, sondern auch eine Aufschlüsselung: welche Prompt-Token aus dem KV-Cache wiederverwendet wurden. So messen wir den Effekt von Prefix-Caching.
- 2026-08-30 · KI & EntwicklungQwen3.8-27B im Eigenbetrieb: Lokal auf 4× RTX 5090Seit dem 18. August 2026 läuft bei uns Qwen3.8-27B-FP8 auf vier RTX 5090 statt des vorherigen Qwen3.5-122B-A10B-MoE. Warum ein kleineres dichtes Modell den alten Riesen ersetzt, und was sich im täglichen Betrieb ändert.
- 2026-08-29 · KI & EntwicklungFreeToken: Frontier-MoE-Modelle auf Gaming-HardwareFreeToken ist ein neuer Edge-native MoE-Serving-Engine, die 290B+ Frontier-Modelle auf Consumer-Hardware mit einer GPU und CPU/RAM laufen lässt.
- 2026-08-28 · KI & EntwicklungKTransformers vs FreeToken: Zwei Wege für große MoE-Modelle auf kleinen GPUsZwei Frameworks versprechen, riesige MoE-Modelle auf einer einzigen GPU zu betreiben. Wo KTransformers und FreeToken gleich zielen und wo sie sich unterscheiden.
- 2026-08-27 · KI & EntwicklungLiteLLM-Gateway im Eigenbetrieb: Zwei Lanes statt WildcardUnser lokales LiteLLM-Gateway wurde am 19. August konsolidiert: nur noch thinking und nothink auf dem 4×-RTX-5090-Host, hermes auf der Einzelkarte.
- 2026-08-18 · KI & EntwicklungSpaceX hat Cursor gekauft: Wem die Werkzeuge der Entwickler jetzt gehörenSeit 14. August 2026 ist Cursor eine Tochter von SpaceX, 60 Milliarden Dollar, komplett in Aktien. Was die grösste Startup-Übernahme aller Zeiten für Anwender bedeutet.
- 2026-08-09 · KI & EntwicklungOffene Modelle auf eigener Hardware gegen geschlossene Cloud-APIsEigene GPU oder fremde API? Die Antwort hängt an drei Zahlen: Qualitätsabstand, Auslastung und dem Wert deiner Daten. Wir betreiben beides und rechnen es hier auf.
- 2026-08-01 · Tools & ProduktivitätHandy: Das kostenlose, lokale Speech-to-Text-Tool, das funktioniertHandy wandelt Sprache in Text um, komplett offline, kostenlos und Open Source. Wir haben es getestet, die Community durchleuchtet und erklären, warum es einen Platz in Ihrer Toolchain verdient.
- 2026-07-26 · KI & EntwicklungWenn die KI die Infrastruktur steuert: drei Lektionen für einen produktionsreifen MCP-ServerEinen Chat-Agenten VMs klonen, Snapshots anlegen und Container migrieren zu lassen ist in der Demo Magie; produktiv wird es erst durch Berechtigungsprofile, semantisches Tool-Routing und selbstheilende Verbindungen. Drei Lektionen aus der Praxis.
- 2026-07-24 · KI & EntwicklungOmniRoute vs. LiteLLM: zwei selbstgehostete KI-Gateways, zwei verschiedene AufgabenZwei selbstgehostete, MIT-lizenzierte LLM-Gateways, aber für verschiedene Aufgaben gebaut. LiteLLM steuert die KI-Nutzung im ganzen Unternehmen; OmniRoute ist das Local-First-Kraftwerkzeug für einen Entwickler. Wir betreiben beide.
- 2026-07-22 · KI & EntwicklungCoding-Agenten unter Windows: Claude Code, OpenCode, Codex, Cursor & Orca im PraxistestFünf KI-Coding-Tools auf einem Windows-ARM64-Rechner im Vergleich: Was läuft nativ, was braucht Workarounds, und welches Tool passt zu welchem Workflow?
- 2026-07-21 · KI & EntwicklungOrca: die IDE, die eine Flotte von Coding-Agenten parallel fährtOrca von Stably AI ist ein quelloffenes Agent Development Environment: Claude Code, Codex und über 30 CLI-Agenten nebeneinander, jeder in seinem eigenen isolierten Git-Worktree. Wir nutzen es täglich; hier ist, warum das Modell „ein Worktree pro Agent“ die Arbeitsweise verändert.
- 2026-07-06 · KI & EntwicklungEine RTX 5090 statt vier alter GPUs: Vision-Inferenz konsolidiertFür die Bild- und PDF-Verarbeitung in unserer Extraktions-Pipeline haben wir vier ältere Beschleuniger durch eine einzelne RTX 5090 ersetzt. Warum eine aktuelle Karte hier vier alte schlägt, und was die eigentliche Ursache war.
- 2026-06-23 · KI & EntwicklungSelf-Hosted KI schneller machen: Speculative Decoding und dFlashSelf-Hosted-Inferenz ist Decode-gebunden, nicht Compute-gebunden. Speculative Decoding behebt das, ohne die Ausgabequalität anzutasten. NVIDIAs neuer offener dFlash-Drafter treibt es weiter. Was es ist, die Zahlen und was es für unsere eigenen GPUs bedeutet.
- 2026-03-20 · KI & EntwicklungCodex, Gemini CLI & Co: Die Agenten-Landschaft 2026Claude Code, OpenAI Codex, Google Gemini CLI, die wichtigsten agentischen Coding-Tools im Überblick. Stärken, Unterschiede und warum wir mehrgleisig fahren.
- 2026-02-12 · KI & EntwicklungClaude Code im PraxiseinsatzAnthropics agentischer Coding-Assistent im echten Projektalltag: Wofür wir Claude Code einsetzen, wie Skills, MCP-Server und Subagenten zusammenspielen, und wo die Grenzen liegen.
- 2026-01-15 · KI & EntwicklungAgentic Coding: Wie KI-Agenten den Dev-Alltag verändernVom Autocomplete zum eigenständigen Agenten: Was 'agentic coding' wirklich bedeutet, wo es heute trägt und wo menschliches Urteil unersetzlich bleibt.
- 2026-01-01 · KI & EntwicklungE-Mail-KI: Klassifikation, Routing und Antwortvorschläge lokalMails automatisch klassifizieren, an den richtigen Bearbeiter routen und Antwortvorschläge generieren, mit lokalem LLM, n8n und eigener Mail-Infrastruktur. Produktiv, nicht futuristisch.
- 2025-11-06 · KI & EntwicklungMCP-Server im Eigenbetrieb: Agenten mit eigenem Wissen fütternModel Context Protocol gibt Coding-Agenten Werkzeuge an die Hand, aber die wertvollsten MCP-Server sind die mit eigenem Wissen: interne Doku, ERP-Daten, TMS-Status. So bauen wir sie selbst.
- 2025-09-16 · KI & EntwicklungEU AI Act: Warum lokale KI die richtige Antwort istDer EU AI Act reguliert KI-Anwendungen nach Risikoklassen, und macht lokale, selbstbetriebene Modelle zur strategisch saubersten Option. Was das Gesetz fordert und warum eigene Hardware die Compliance vereinfacht.
- 2025-08-19 · KI & EntwicklungKI-Telefon-Agenten: Voice-Bots mit Pipecat & AsteriskEchtzeit-Sprachpipeline, STT, LLM, TTS; angebunden an eine Telefonanlage: Pipecat und Asterisk machen das möglich. Ein Ausblick, was heute schon geht und wo die Grenzen liegen.
- 2025-07-15 · KI & EntwicklungWorkflow-Automatisierung mit n8n, selbst gehostetn8n verbindet Dienste, Webhooks und jetzt auch KI-Agenten in einem selbst gehosteten Workflow-Tool. Was n8n von Zapier und Make unterscheidet, und warum wir es für ernsthafte Automatisierung einsetzen.
- 2025-06-17 · KI & EntwicklungRAG-Umgebungen im Vergleich: Vektordatenbanken, Chunking, EmbeddingsRetrieval-Augmented Generation verspricht Fakten aus eigenen Dokumenten, aber die Pipeline dahinter entscheidet über Qualität. Vektordatenbanken, Chunking-Strategien und Embedding-Modelle im Praxischeck.
- 2025-06-03 · KI & EntwicklungLLM-Frontends: OpenWebUI vs. LibreChatZwei Self-Hosted-Webinterfaces, die aus lokalen LLMs einen chatbaren Dienst machen. OpenWebUI und LibreChat im Vergleich: Multi-Modell, RAG, Benutzerverwaltung, Alltagstauglichkeit.
- 2025-05-20 · KI & Entwicklungllama.cpp & GGUF: LLMs lokal, effizient, ohne Clusterllama.cpp macht LLM-Inferenz auf Consumer-Hardware möglich; Quantisierung, CPU/GPU-Offload und ein Dateiformat, das kein Cloud-Budget braucht. Der Gegenpol zu vLLM und wann wir welches Werkzeug nehmen.
- 2025-05-06 · KI & EntwicklungHochdurchsatz-LLM-Inferenz mit vLLM auf eigener HardwarevLLM macht LLM-Inferenz schnell und effizient, PagedAttention, kontinuierliches Batching und eine OpenAI-kompatible API. So betreiben wir es auf einer RTX 5090 und was dabei wirklich zählt.
- 2024-12-10 · InnovationSo verankern Sie KI im Unternehmen, ohne die Kontrolle zu verlierenKünstliche Intelligenz ist zum Wettbewerbsfaktor geworden. Wie man KI sicher und nachhaltig im Unternehmen verankert, von der Datengrundlage bis zum Betrieb.