Connect with us

Künstliche Intelligenz

Lokale KI: Das läuft auf deinem Rechner


Was braucht man für Hardware, damit lokale KI Spaß macht? Wie viel schlechter ist lokale KI im Vergleich zu aktuellen Frontier-Modellen wie Claude Opus 5.5? Und: Was ist eigentlich dieses Strata? Diese drei Fragen und noch ein paar mehr beantwortet unser Video.

Weiterlesen nach der Anzeige

(Hinweis: Dieses Transkript ist für Menschen gedacht, die das Video oben nicht schauen können oder wollen. Der Text gibt nicht alle Informationen der Bildspur wieder.)

Guckt mal hier, ich mache dolle lokale KI-Sachen auf einem ziemlich normalen Gaming-PC. Da steckt eine AMD RX 9070 XT für 920 Euro drin und damit kann ich wirklich sinnvolle Dinge tun. Zum Beispiel diese 3D-Giraffe programmieren lassen. In diesem Video habe ich sehr viel Hardware und Software getestet, unter anderem auch eine Intel Arc Pro B70, aktuelle Mac Minis und Mac Studios, AMDs Strix Halo und ich zeige euch, mit welcher Hardware lokale KI besonders gut funktioniert und mit welcher nicht und was ihr sonst noch so beachten müsst. Und Giraffen natürlich. Bleibt dran.

Liebe Hackerinnen, liebe Internet-Surfer, herzlich willkommen hier bei….

Ja, also das Interesse an lokaler KI ist schon lange groß, aber in den letzten Wochen hatte ich das Gefühl, dass das gerade wirklich explodiert. Ein Indikator ist dafür leider der unfassbare Preisanstieg von KI-fähiger Hardware. Hier, meine vier Jahre alte RTX 4090 mit einer unverbindlichen Preisempfehlung damals von 1769 Euro, die wird gebraucht jetzt bei Kleinanzeigen für 4000 Euro gehandelt und neu hier sogar für 5000 Euro. Vier Jahre alte Hardware, bei der ja normalerweise der Preis sinken würde. Ja, und das liegt sicherlich auch daran, dass man wirklich brauchbare KI-Modelle inzwischen auf Consumer-Hardware laufen lassen kann. Mit brauchbar meine ich besser als die kompetentesten Cloud-Modelle von Anthropic und OpenAI von vor ungefähr 8 Monaten. Könnt ihr hier schwarz auf weiß sehen.

Ja, Qwen 3.8-27B, bei dem die Weights ungefähr 16 GByte groß sind und auf einem Gaming-PC läuft, das Ding knallt in etlichen Benchmarks Claude Opus 4.6 weg, das im Februar 2026 das weltweit führende Cloud-Modell war und auf Hardware-Clustern lief, die siebenstellige Summen kosten, sehr wahrscheinlich noch eine ganze Ecke mehr. Und das ist ja schon krass, oder? Also, klar, die aktuellen Cloud-Modelle von OpenAI, Anthropic und Google, die sind im Moment wieder führend, aber die lokalen Modelle, die haben eine Verzögerung von ungefähr einem halben Jahr. Ihr kriegt damit also die ältere Frontier-Qualität. Also, erwartet nicht genau Opus 5.5 oder so, aber geht schon ganz gut in die Richtung. Ja, und man geht davon aus, dass auch jeden Moment Qwen 4 rauskommt. Das gab’s zu dem Zeitpunkt, zu dem ich hier aufnehme, noch nicht, aber das wird dann noch mal eine bessere Qualität haben. Da bin ich echt gespannt, wie viel Monate Rückschritt das noch hat.

Weiterlesen nach der Anzeige

So, und ganz wichtig: Wenn ihr LLMs bisher nur als Chatbot auf einer Website ausprobiert habt, also so ChatGPT-mäßig, die aktuellen lokalen LLMs können viel, viel mehr, nämlich direkt auf eurem Rechner coden, also Dateien generieren, die prüfen und auch komplexe Software steuern wie Blender. Und ich weiß auch, dass es unfassbar viele lokale LLMs gibt. Also wenn man so in LM Studio einmal reinguckt, dann weiß man überhaupt nicht mehr, wo hinten und vorne ist und ist total verwirrt und das verstehe ich auch. Und deshalb vereinfachen wir das jetzt mal. Ich sag mal, die zur Zeit relevantesten lokalen Modelle für Rechner unter 8000 Euro sind Qwen 3.8-27B und Qwen 3.8 Flash Next. Zumindest wenn ihr coden oder euren Rechner steuern wollt. Sprachlich ein bisschen kompetenter sind die Gemma-4-Modelle von Google, aber die können nicht so viel Dinge tun, meiner Erfahrung nach, und deswegen konzentrieren wir uns hier auf Qwen.

Nur mal kurz anschaulich, was ich meine. Das war einfach der Prompt in meinem Coding-Agent, den ich mit Dutzenden Modellen getestet habe: Erstelle eine realistische interaktive Giraffe in Three.js – das ist so eine JavaScript-Bibliothek für 3D-Grafik. Die Website soll sich einfach durch Öffnen der index.html starten lassen, ohne dass ein Server oder ein Build-Schritt erforderlich ist. Für diese Aufgabe hast du ein Zeitlimit von zwei Stunden. Ja, und das hier liefert das aktuell beste Modell, was man zur Zeit bekommen kann laut Benchmarks: Opus 5.5 von Anthropic mit maximalem Denkaufwand. Ja, so sieht die aus, die Giraffe, kann Dinge tun und ist nice, muss man sagen, sieht schön aus. Man muss aber wirklich bedenken, dass das wirklich absoluter Overkill war. Ich habe die Tokens einzeln, also über API bezahlt und das hat heftige 8,58 Dollar gekostet. Also nur die Giraffe hier.

Also jetzt mal das untere Ende meines Testspektrums. Das ist ein altes Qwen 3-13B von vor anderthalb Jahren. Ja, okay, da ist jetzt so ein Blob, das hat mit einer Giraffe wenig zu tun. Das ist die Giraffe von Google Gemma 4 12B. Das Modell ist zwar recht aktuell, aber die 12B im Namen, die sagt, dass das Modell nur 12 Milliarden Parameter hat. Zum Vergleich: Kimi K3.1 Pro hat 2800 Milliarden Parameter. Und jetzt kommt das berühmte Qwen 3.8-27B, von dem ich am Anfang schon geredet habe, und das hat nur etwas mehr als doppelt so viel Parameter wie das gerade gezeigte Gemma 4 12B und ich würde sagen, das ist doch ganz gut, oder? Also, man kann natürlich noch vieles kritisieren, also auch zum Beispiel, dass Bäume glaube ich so nicht funktionieren.

Aktuell ja, wie gesagt, auch angesagt ist Qwen 3.8-Flash-Next mit 125 Milliarden Parametern, von denen aber immer nur 7 aktiv sind. Da sieht die Giraffe so aus. Mixture of Experts heißt dieses Prinzip und ja, das funktioniert auch ganz gut, würde ich sagen. Hier sind noch ein paar andere Modelle, es ist immer eingeblendet, welches Modell das ist und ich finde das wirklich recht anschaulich. Man kriegt da direkt ein Gefühl für, wie die Modelle so drauf sind, was die so können.

So, und was aber wirklich sehr wichtig ist zu verstehen: Lokale LLMs kommen in unterschiedlichen Quantisierungen, also quasi Vergröberungen. Also, dass man die sogenannten Weights, also die internen Daten, also die Zahlen, nicht in 16-Bit-Genauigkeit verarbeitet, sondern halt zum Beispiel in 4 Bit. Ich vereinfache jetzt wirklich doll, aber man kann ungefähr davon ausgehen, dass bis 4 Bit runter die Qualität recht dicht an der Originalqualität ist, dann aber runtergeht. Also 3 Bit, 2 Bit oder sogar 1 Bit, da wird’s dann wirklich schlechter. Gibt da auch noch etliche andere Tricks, dass man nicht alle Daten gleich quantisiert, sondern dynamisch je nach Wichtigkeit, aber ich will hier nicht zu tief reingehen in den Kaninchenbau.

Auf jeden Fall braucht man für die populärste Qwen 3.8-27B-Darreichungsform Q4_K_M, nur für die sogenannten Gewichte, für die Weights, 15,3 GByte schnellen Speicher. Dazu kommt noch der sogenannte Kontext, also quasi das Kurzzeitgedächtnis. Auf einer Grafikkarte mit 24 oder 32 GByte ist das kein Problem, da passt dann der Kontext noch locker rein und natürlich auf einem Rechner mit mehr als 32 GByte schnellem, gemeinsamem Speicher passt das. Schnell ist hier das Stichwort, denn man kann auch LLMs in normalem Arbeitsspeicher laufen lassen, aber dann sieht das in der Praxis in so einem Coding-Agent so aus.

Das ist jetzt Qwen 3.8-27B nur in meinem Arbeitsspeicher, das ist DDR5-5200, laufend mit dem Coding-Agent Pi. Ja, und das ist sehr langsam. Ihr seht ja, wie da die Zeichen ausgegeben werden, das ist schnarchig. Wenn ihr das über Nacht laufen lassen wollt, dann kann das schon klappen irgendwie, aber Spaß macht das wirklich nicht, denn guckt euch mal den Unterschied an. Jetzt bin ich auf dem gleichen Rechner auf die RTX 4090 gegangen. Ja, und das ist jetzt mal anders, das ist um den Faktor 15 schneller. Das liegt einfach an der Datentransferrate des Speichers. DDR5-5200 ist über zwölfmal langsamer als der GDDR6X-Speicher in meiner RTX 4090. Das skaliert also relativ direkt. Und daran könnt ihr euch orientieren: Guckt euch die Datentransferrate des Speichers an.

Ja, und das ist die sogenannte Token Generation, von der ich hier rede. Die hat vor allem, wie gesagt, mit der Transferrate zu tun. Gibt aber auch noch das Prompt Processing, das braucht statt schnellem Speicher Rechenleistung. Das ist auch wichtig, gerade wenn ihr was mit Agenten macht und ihr zum Beispiel Code oder lange Dokumentationen einlesen wollt. Also jetzt mal ohne großes Geplänkel meine Messwerte mit Qwen 3.8-27B in Token pro Sekunde. Wichtig ist hier, das ist komplett auf Standardwerten getestet mit dem in der LLM-Runtime llama.cpp mitgelieferten Tool llama-bench. llama.cpp ist eine sehr populäre Runtime, die wird intern auch von Ollama und LM Studio und Unsloth Desktop verwendet.

Ja, und da sehen wir: Die RTX 4090-Grafikkarte ist mit 51,1 Token am schnellsten hier bei meinen Tests. Falls ihr übrigens in einem älteren Video von mir andere Messwerte gesehen habt: Ich aktualisiere zwischendurch immer mal wieder meine llama.cpp-Version und da gibt’s manchmal Verbesserungen. Interessant ist hier, dass der Mac Studio mit M5 Ultra und 256 GByte Speicher beim Token-Ausspucken ungefähr gleichauf mit der 4090 ist, aber beim Prompt Processing weniger als ein Drittel schafft. Das fällt halt ins Gewicht, wenn euer LLM lange Prompts einliest. Der gesamte Text dieses Videos zum Beispiel ist ungefähr 4000 Tokens lang. Das heißt, die 4090 liest das Ding in etwas mehr als einer Sekunde ein, der Mac Studio braucht ungefähr 4 Sekunden. Das ist alles im grünen Bereich, kein großes Problem, aber wenn das LLM nur auf der CPU läuft, also im Standard-RAM, dann dauert das halt bei 79 Token die Sekunde über 50 Sekunden und das ist natürlich schon ziemlich unpraktisch.

Ich hatte ja am Anfang die 16-GByte-GPU erwähnt, die ihr euch auch ganz oft gewünscht habt, dass wir sowas mal testen. Da habe ich mir die AMD Radeon RX 9070 XT besorgt. Das ist laut meinen Recherchen eine der meistgenutzten Grafikkarten in deutschsprachigen Ländern und die sieht mit 34,4 Token die Sekunde mit Qwen 3.8-27B echt ganz gut aus, aber ein bisschen täuscht das auch, denn ich habe natürlich jede Hardware mit der gleichen Quantisierung von Qwen 3.8-27B getestet mit UD-Q4_K_M und das passt halt bei der AMD-Karte so knapp in den Videospeicher, dass da sonst gar nichts mehr los ist. Ich musste sogar den Monitor an die interne Grafik anschließen. Hätte ich die 9070 verwendet, hätte der Speicher schon nicht mehr gereicht.

Also mehr als 8K-Kontext, also schlappe 8096 Tokens sind da nicht möglich und außerdem auch keine Bilderkennung. Will man also vernünftig mit Coding-Agents arbeiten, dann will man mindestens 60K-Kontext und auch Bilderkennung, damit der, wenn der z. B. eine Website macht oder meine Giraffe oder so, damit der da drauf gucken kann und sehen kann, was da passiert und entsprechend patchen. Und mit wenig Kontextspeicher muss der Kontext halt auch immer wieder neu komprimiert werden, wenn er voll ist und das dauert und, ja, steigert auch nicht unbedingt die Qualität. Das heißt, den Benchmark konnte ich machen auf der 9070 XT, aber damit arbeiten eher nicht so. Deshalb habe ich die 9070 XT auch natürlich mit Strata getestet. Das zeige ich euch gleich.

So, und was ich noch wichtig finde, zwischendurch zu sagen: Ich checke natürlich, dass die Hardware-Empfehlungen hier immer noch sehr teuer sind, aber ich will euch auch nichts vormachen und irgendwie, so kriegt ihr perfekte KI mit einem 200-Euro-PC. Das geht halt nicht. Deshalb empfehle ich hier wirklich nur Hardware, bei der ich ruhigen Gewissens sagen kann, dass man damit gut mit KI arbeiten kann. Ja, und deshalb geht’s hier weiter mit der Intel Arc Pro B70. Die habe ich nämlich auch getestet. Das ist eine 32-GByte-Profi-Grafikkarte und zwar zur Zeit die leistungsstärkste, die Intel im Angebot hat. Das Ding hatte zur Markteinführung im April eine UVP von 949 US-Dollar. Aktuell kriegt man die allerdings nicht unter 1700 Euro. Das ist natürlich viel Geld, aber das ist für eine 32-GByte-GPU vergleichsweise günstig. Also da hat man dann noch ziemlich dicke Reserven, wenn man Qwen 3.8-27B verwendet und ich hatte im Test auch kein Problem, auf der Intel-Karte so Bild- und Videogenerierungszeug mit ComfyUI zum Laufen zu bekommen.

ComfyUI unterstützt nämlich inzwischen auch sogar explizit Intel-GPUs sowie auch AMD-GPUs und Intel und Macs. Also das ist nicht mehr so ein Problem wie noch am Anfang, aber so richtig schnell ist die halt nicht, die B70. Mit Qwen 27B schafft das Ding so grob die Hälfte der Tokens von RTX 4090 und dem Mac Studio. Interessant dabei finde ich, dass der Mac Studio beim Token-Ausgeben nahezu unhörbar bleibt, während alle drei GPU-Systeme, also Intel, AMD und Nvidia, schon ziemlich doll losrauschen, also deutlich hörbar. Interessant ist auch die Leistungsaufnahme und Effizienz. Bei der Effizienz liegen alle Apple-Geräte vor den klassischen x86-Systemen mit Grafikkarte. Was ich vor allem beeindruckend finde, dass der Mac Studio im Leerlauf unter 5 Watt zieht und dann erst eben beim Token-Berechnen krass hochspringt.

Negativ bei der Intel-GPU sind mir die extremen Spulengeräusche aufgefallen. Da habe ich zuerst gedacht, dass da irgendwie ein Kabel im Lüfter hängt oder so, weil das wirklich so komisch klingt und so laut ist. Hier könnt ihr mal hören, das ist Leerlauf und sobald ich hier Return drücke und Tokens berechne, dann geht das los mit dem Spulengeräusch.

Ein Schnäppchen, das ist einigermaßen kurios, weil man ja hier von Apple-Hardware spricht, ist irgendwie der Mac Mini mit M5 Pro mit 48 GByte Unified RAM und 512 GByte SSD gibt’s den für 2879 Euro und ich weiß, super viel Geld, aber 48 GByte schnellen Speicher, das kriegt man anderswo schlecht, sage ich mal. Und auch wenn ich bei Grafikkarten gesagt habe, dass 32 GByte dicke reichen, bei Systemen mit gemeinsamem Speicher sollten es meiner Meinung nach 48 GByte sein, denn das Betriebssystem und die andere verwendete Software, die muss ja auch irgendwohin.

Ja, last but not least ist natürlich auch immer noch der AMD Ryzen AI Max+ 395 aka Strix Halo, gibt ja auch inzwischen den 495er, immer noch ganz gut geeignet für KI und das Tolle daran ist, da kriegt man für unter 4000 Euro sogar 128 GByte Unified RAM. Ja, und da sagt ihr jetzt vielleicht: 13,3 Token die Sekunde mit Qwen 3.8-27B mit Strix Halo, is das nicht ein bisschen wenig? Ja, nee, denn in der Praxis wollt ihr sogenanntes spekulatives Decoding verwenden. Da gibt’s mehrere Ansätze, Tokens schneller zu generieren. Das funktioniert je nach Textart unterschiedlich. Also wenn das Modell kreativ einen Roman schreibt, eher nicht so gut. Wenn es aber Code schreibt oder sogar Code aus dem eigenen Kontext wiedergibt, kann sich die Ausgabegeschwindigkeit wirklich deutlich erhöhen. Das heißt, konkret mit Strix Halo wären wir beim Code-Generieren auf einmal bei über 40 Token statt 13,3 pro Sekunde und das ist ja in der Praxis schon ein Riesenunterschied. Wenn Code sogar aus dem Kontext wiedergegeben wird, dann geht’s sogar hoch auf über 100 Token die Sekunde. Also hier seht ihr mal ein paar Messwerte von meinem Strix-Halo-System.

Ja, und jetzt wollt ihr vielleicht wissen, wie man das so optimiert installiert mit diesen ganzen Tricks und da würde ich euch jetzt einen Coding-Agent empfehlen, der das für euch macht. Also so installiere ich jedenfalls llama.cpp, weil ich das schon ganz schön kompliziert finde und das ein Agent einfach besser kann. Ihr könntet natürlich jetzt auch ein lokales Modell dafür verwenden, um ein lokales Modell zu installieren, aber das habt ihr ja noch nicht. Das wollt ihr ja erst installieren. Deshalb nehmt doch dafür kurz ein Cloud-Modell. Danach könnt ihr euch ja sofort wieder ausloggen, wenn es euch wichtig ist, dass da keine Daten rüberfließen. Ich nehme meistens Claude Code, weil ich da auch ein Abo für ungefähr 18 € im Monat habe, so ein Pro-Abo. Ihr könnt aber auch OpenAI Codex mit einem kostenlosen ChatGPT-Account verwenden. Ich habe das ausprobiert, das klappt für eine llama.cpp-Installation problemlos.

Also einfach in der ChatGPT-App oder halt in Codex im Terminal eintippen: Installiere mir Qwen 3.8-27B in UD-Q4_K_M mit Bilderkennung, spekulativem Decoding und mindestens 128K Kontext. Habt ihr nur eine 16-GByte-Grafikkarte, würde ich das LLM in der Quantisierung UD-Q3_K_XL installieren. Das ist dann qualitativ ein bisschen schlechter, passt dann aber auch mit 128K Kontext auf die Karte. Zumindest bei meiner 9070 XT habe ich das ausprobiert, hat das funktioniert.

So, ich habe ja gesagt, dass ich llama.cpp als Runtime verwende. Das ist so ein bisschen das Schweizer Taschenmesser. Das funktioniert mit so gut wie allen LLMs auf jeder Hardware, aber der neueste Schrei in der lokalen KI-Szene sind spezialisierte Runtimes. Da gibt’s etliche, die dann nur mit ganz bestimmten LLMs und auf ganz bestimmter Hardware laufen. Die wohl aktuell bekannteste ist Strata. Dazu gibt’s tolle Videos auf YouTube. Ja, und mit Strata kann man Modelle laufen lassen, die normalerweise niemals in den GPU-Speicher passen würden. Technisch funktioniert das mit sogenannten Mixture-of-Expert-LLMs, also nur mit denen, und lagert dann diese Experten, die gerade nicht aktiv sind, ins normale RAM oder sogar auf die SSD aus. Außerdem werden alle Tricks in Sachen spekulativen Decodings ausgenutzt.

Ja, und Strata ist vor allem auf Qwen 3.8 Flash Next ausgelegt. Das ist ja, wie gesagt, ein 120-Milliarden-Parameter-Modell mit 7 Milliarden aktiven Parametern. Ja, und das knallt auf meiner 4090 über 100 Token die Sekunde durch, allerdings in einer 3-Bit-Quantisierung. Naja, und es wird auch hart diskutiert, ob das Modell wirklich immer besser ist als Qwen3.8-27B. Also, da es deutlich mehr Parameter hat, ist da mehr Weltwissen drin, das heißt, es weiß mehr Dinge, die das 27B-Modell im Internet nachschlagen müsste, aber ich habe auch die Beobachtung gemacht, dass das kleinere Modell beim Coden konsequenter dran bleibt und sich Flash Next öfter mal in irgendwelche Schleifen reinfährt. Meine Test-Giraffe hat in Qwen 3.8-27B immer super zuverlässig funktioniert und bei Flash Next hat es auch manchmal nach 2 Stunden nicht geklappt.

Ja, und jetzt noch mal ganz kurz zu diesen Coding-Agenten, von denen ich immer rede, die man auch Harness nennt. Hat man sich da einmal dran gewöhnt, dann sind die einfach wirklich ultra praktisch. Also ich habe ja gerade schon gesagt, dass ich lokale LLMs so vollautomatisch installieren lasse. Irgendwelche Messreihen mache ich auch, irgendwelche Benchmarks, aber was wirklich extrem gut funktioniert, ist Troubleshooting, also sowas wie: Warum macht mein Rechner XY? Und dann fängt das Ding halt an, irgendwie Log-Dateien anzugucken und so weiter.

Ich weiß, dass da bei vielen von euch die Alarmglocken schrillen, wenn KI-Agenten Zugriff auf euer Dateisystem haben, und das ist auch richtig so. Man sollte sich immer darüber im Klaren sein, dass da Fehler passieren können bzw. Sachen gelöscht werden können, aber man sieht ja immer, was das Modell macht. Man kann auch jeden Schritt manuell absegnen im Coding-Agent, wenn man das entsprechend einstellt. Und klar, es gibt sogenannte Prompt Injections, also dass das Modell im Internet über irgendwelche bösen Anweisungen stolpert und dann eben diese bösen Anweisungen befolgt, aber ich habe sowas noch nie in der Praxis gesehen und ich hatte auch noch nie ein Problem mit Agenten und ich nutze das wirklich seit vielen Monaten sehr regelmäßig. Aber klar, guckt den Dingern auf die virtuellen Finger, das ist schon wirklich sinnvoll.

Und jetzt noch mal ganz konkret, welchen Coding-Agent man nimmt: Also ich nehme Pi von Mario Zechner, der übrigens auch in OpenCode drinsteckt. Mehr Funktionen hat OpenCode, ist auch Open Source so wie Pi. Ist auch sehr gut das Teil, allerdings ist Pi sparsamer mit Tokens bei meinen Tests zumindest, was mir natürlich gut gefällt, weil Tokens sparen immer gut. Und es gibt auch natürlich die kommerziellen Teile Claude Code und Codex von OpenAI, die beide entweder im Terminal laufen oder in der Claude-App oder in der ChatGPT-App. Da muss man einfach hier umschalten und dann ist man im Agentenmodus. Es gibt aber für Pi und OpenCode auch grafische Oberflächen, wenn ihr das benutzen wollt. Allerdings führen die alle im Hintergrund einfach nur Terminalbefehle aus. Da kann man auch gleich im Terminal rumhängen. Ach, ist auch ein bisschen so geil so hackermäßig, ne? Oder? Komm.

Ja, und welches Betriebssystem nimmt man am besten? Ja, okay, bei den Macs ist klar, da gibt’s keine Alternative so richtig, aber bei den anderen Kisten würde ich, wenn es wirklich vor allem um LLMs geht, Linux empfehlen, einfach weil die Runtimes da in den meisten Fällen schneller laufen. Zum Beispiel die 9070 XT, die ist unter Windows nur bei Qwen 3.8-27B bei der Token Generation 4 Prozent schneller und sonst wirklich in allen Belangen unter Linux. Beim Prompt Processing mit Qwen 3.6-35B ist die sogar mehr als doppelt so schnell unter Linux. Die Intel-Karte allerdings ist unter Windows etwas schneller. Ich denke, das liegt an den noch nicht ganz so ausgereiften Linux-Treibern. Und aber auch die Coding-Agents machen unter Linux meiner Meinung nach mehr Spaß, weil man da halt mehr übers Terminal steuern kann, weil die sich da mehr zu Hause fühlen, würde ich sagen.

Ja, und gerne in die Kommentare schreiben, was ihr noch so sehen wollt so lokale LLM-mäßig. Tschüss!

c’t 3003 ist der YouTube-Channel von c’t. Die Videos auf c’t 3003 sind eigenständige Inhalte und unabhängig von den Artikeln im c’t Magazin. Die Redakteure Jan-Keno Janssen, Lukas Rumpler, Sahin Erengil und Pascal Schewe veröffentlichen jede Woche ein Video.


(jkj)



Source link

Künstliche Intelligenz

Microsoft-Ausfall: Woran es lag und wer besonders litt


Eine stundenlange Großstörung hat weltweit Unternehmen und Verbraucher von zentralen Cloud-Angeboten des Software-Konzerns Microsoft abgeschnitten. Betroffen waren nicht nur der E-Mail-Dienst Outlook, sondern generell Dienste aus dem Cloud-Paket Microsoft 365. Beim Bürokommunikations-Angebot Teams etwa funktionierten das Planen von Besprechungen und Kalender-Anbindungen nicht richtig. Zudem waren der KI-Assistent Copilot sowie Schnittstellen zu Drittanbietern zeitweise gestört, darunter KI-Dienste wie OpenAI und Anthropic.

Weiterlesen nach der Anzeige

Microsoft machte zum Freitagnachmittag nach und nach Fortschritte – bis die Systeme dann wieder stabil liefen. Die Dienste seien zur Sicherheit schrittweise hochgefahren worden, auch wenn es dadurch länger gedauert habe. Der Konzern betonte danach, die Störung sei auf ein hausgemachtes Problem und nicht auf eine Cyberattacke oder KI-Aktivität zurückgegangen.

Der Grund habe letztlich in einem zuvor durchgeführten Upgrade der Netzwerk-Kapazität gesteckt. Ein dabei eingeführtes Problem sei erst nach jüngsten Netzwerk-Änderungen in Erscheinung getreten, hieß es. Später werde es einen ausführlichen Bericht zu dem Zwischenfall geben.

Die Deutsche Bahn meldete wegen der Störung kaum Probleme. „Züge fahren unabhängig von Microsoft-Systemen, deshalb läuft der bundesweite Bahnbetrieb stabil“, teilte ein Sprecher des bundeseigenen Konzerns mit. In ganz wenigen Fällen sei es zu Verzögerungen gekommen, „weil kurzfristige Fahrplananpassungen nicht per E-Mail versendet werden konnten“. Bei der Lufthansa gab es nach Angaben eines Sprechers keine Auswirkungen auf den Flugverkehr. Es seien andere Systeme im Einsatz. Auch die Flughäfen in Frankfurt und Berlin teilten mit, dass die Microsoft-Probleme sich nicht auf den Flugbetrieb auswirkten.

Bei Deutschlands größtem Strom-Verteilnetzbetreiber Eon war der Betrieb der Energienetze nach eigenen Angaben nicht betroffen. Grund dafür sei eine klare Trennung zwischen Systemen für Informations- und für Betriebstechnologie, erklärte eine Sprecherin. Letztere liefen auf speziell abgesicherten Infrastrukturen, die nicht von den betroffenen Microsoft-Diensten abhängig seien.

Im Frankfurter Finanzdistrikt war wie vielerorts die interne Kommunikation gestört. Bankfunktionen seien nicht betroffen und liefen alle ohne Störungen, erklärte ein Sprecher der Commerzbank. Bei der Deutschen Börse hieß es, der Wertpapierhandel laufe wie gewohnt.

Nach Angaben der Bundesregierung hatte die stundenlange Störung keine größeren Auswirkungen auf die Verwaltung. „Aus der Bundesverwaltung liegen uns keine Meldungen über größere Ausfälle vor“, sagte ein Sprecher des Digitalministeriums in Berlin. Man gehe jedoch von einer großen Betroffenheit in der deutschen Wirtschaft aus. Beim Bundesamt für Sicherheit in der Informationstechnik (BSI) hieß es, von vielen Unternehmen seien Meldungen zum Ausfall bei der Kommunikation eingegangen. Es gebe aber keine Hinweise auf einen Cyberangriff.

Ein Sprecher des Innenministeriums sagte, es gebe bisher keine Kenntnisse darüber, dass das Ministerium oder anhängige Behörden betroffen seien. Der Sprecher des Digitalministeriums erklärte, dass der Bundesclient als Standard-IT-Arbeitsplatz in der Bundesverwaltung stabil laufe. Dieser nutze Microsoft nicht in der Cloud, sondern werde auf eigener Infrastruktur betrieben. Jedoch nutzten noch nicht alle Behörden den Bundesclient, sondern dieser soll bis 2032 Standard in der gesamten Verwaltung werden. Der einheitliche E-Mail-Client in der Bundesverwaltung laufe stabil.

Weiterlesen nach der Anzeige

Angaben der Microsoft-Ingenieure zufolge wurde auf betroffenen Servern ein Prozess überlastet, der für den Aufbau sicherer Verbindungen zuständig ist – woraufhin die Rechner keine Anfragen mehr verarbeiteten. Zudem machte der Konzern die jüngste Konfigurationsänderung rückgängig, die zeitlich mit dem Beginn der Störung zusammenfiel. Microsoft erklärte, man suche angesichts anhaltender Ungleichgewichte bei der Datenverkehrssteuerung nach Wegen, um die Kapazitäten zu erhöhen.

Ausfälle von Online-Diensten gehören zum Alltag – meist sind sie aber von kurzer Dauer. Manchmal sind die Probleme aber so gravierend, dass es zu stundenlangen Störungen kommt. Microsofts Cloud- und E-Mail-Dienste hatten erst Ende August einen stundenlangen großflächigen Ausfall durchlebt, bei dem sich Nutzer nicht einloggen oder Nachrichten senden und empfangen konnten.

In Australien fiel der Ausfall mitten in die Abschlussprüfungen. Schüler aus Melbourne berichteten dem Sender ABC, sie könnten sich nicht auf ausstehende Sprachprüfungen vorbereiten, weil sie weder auf Materialien noch auf die Website der Prüfungsbehörde zugreifen könnten. Auch Online-Unterricht an Berufsschulen über Microsoft Teams war betroffen. Arzttermine und Untersuchungen mussten verschoben werden. Der Ausfall führte zu Verzögerungen im Flugverkehr. In Sydney musste eine Maschine mit Ziel Papua-Neuguinea am Boden warten, weil der Kapitän seine für den Start erforderlichen Unterlagen nicht per Outlook erhalten hatte.


(nie)



Source link

Weiterlesen

Künstliche Intelligenz

Rust als perfekte Sprache für Agentic AI: Online-Konferenz betterCode() Rust


Am 26. November 2026 findet die sechste Auflage der betterCode() Rust statt. Dieses Jahr legt die Online-Konferenz den Fokus auf agentengetriebene Entwicklung für Rust-Anwendungen.

Weiterlesen nach der Anzeige

Die betterCode() Rust zeigt, welche Architekturen, Tools und Prozesse sich für die agentische Softwareentwicklung mit Rust eignen. Die Vorträge vermitteln Best Practices und Leitlinien, für welche Aufgaben man Agenten sinnvoll einsetzen kann und was man lieber noch selbst macht.

Das Programm der Konferenz bietet unter anderem folgende Vorträge:

  • Systems Design mit Rust und Agenten
  • Sokrates und die Wartbarkeit deiner Rust-Codebasis
  • Embedded Sensor mit Agentic Rust entwickeln
  • Harness Engineering: Rust als perfekte Sprache für agentische Entwicklung
  • Rust in the Age of Agents

Die Konferenztickets sind zum Preis von 299 Euro (alle Preise zzgl. 19 % MwSt.) erhältlich. Teams ab drei Personen erhalten im Online-Ticketshop automatisch einen Gruppenrabatt.

Am 2. Dezember findet zusätzlich der Workshop „Agent-Ready Rust: Harness Engineering für AI Coding Agents“ statt, der 549 Euro kostet.

Wer über den Verlauf der betterCode()-Konferenz auf dem Laufenden bleiben möchte, kann sich für den Newsletter eintragen.


(rme)



Source link

Weiterlesen

Künstliche Intelligenz

Polarlicht bis Porträt: Licht und Himmel in den Bildern der Woche 46


In dieser Woche steht bei der Bildauswahl aus der c’t-Foto-Galerie der Himmel im Mittelpunkt: Mal dient er als Bühne für die Polarlichter über Norwegen, mal erscheint er als nebliges Grau über den Wolkenkratzern Londons und mal erstrahlt er in goldenem Morgenlicht über den Dächern Berlins. Was alle Aufnahmen verbindet, ist der konsequente Blick auf das Licht und die so geschaffene Atmosphäre. Dabei verändern sich die Stimmungen von Bild zu Bild und entfalten immer eine starke emotionale Wirkung.

Weiterlesen nach der Anzeige

Dazu gesellen sich Motive, die auch die Vielfalt der fotografischen Genres in der Foto-Galerie zeigen: Ein Vogel, präzise aus seinem Umfeld herausgelöst, eine Möwe im Bruchteil einer Sekunde zwischen zwei Tauchgängen, ein gestrandetes Wrack, das durch Langzeitbelichtung und Schwarz-Weiß-Umsetzung zeitlos wirkt – und schließlich ein Porträt, in dem Licht und Schatten zur eigentlichen Aussage werden. Sieben Bilder, sieben Haltungen und eine große Sorgfalt im Blick.




Die Saison ist im vollen Gange

(Bild: Wolzow1902)

Wie vertikale Pinselstriche steigen grüne und violette Lichtbänder der Aurora vom Horizont in den tiefblauen Nachthimmel über Norwegen. Die dunkle Silhouette der Hügelkette am unteren Bildrand bildet eine ruhige Grundlinie, vor der sich das Polarlicht umso dramatischer entfaltet. Herbstlich gefärbtes Laub an den Bildrändern rahmt die Szenerie ein und schafft eine spannungsvolle Verbindung zwischen Vordergrund und Himmel. Die Farbskala von tiefem Blau über leuchtendes Grün bis zu zartem Violett verleiht dem Bild eine orchestrale Dynamik.




City of London

(Bild: M.Schröder)

Nebel verschluckt die Spitzen dieser Londoner Hochhäuser, er löst die Architektur nach oben hin in ein tonales Grau auf und erzeugt so eine atmosphärische Perspektive. Der zentrale Turm dominiert mit seinem Raster aus Glasflächen das Bild, während ein Baukran an der linken Flanke eine feine vertikale Linie setzt. Rechts schiebt sich ein zweites Gebäude mit markanter Stahlstruktur ins Bild und schafft so eine Staffelung der Bildebenen.




Eisvogel

(Bild: Lightpix84)

Ein Eisvogel sitzt auf einem Vorsprung am Wasser und blickt nach oben. Die Aufnahme entstand mit einem Teleobjektiv, das den Hintergrund in ein weiches Bokeh aus warmen Braun- und Grüntönen auflöst. Die geringe Schärfentiefe isoliert den Vogel präzise und lenkt die Aufmerksamkeit auf das leuchtende Türkisblau seines Gefieders, das im Komplementärkontrast zu den orangefarbenen Brustpartien steht. Der Bildaufbau platziert das Tier im unteren Drittel, sodass der weiche, fast malerische Hintergrund viel Raum erhält und eine ruhige Tiefenwirkung entsteht. Die nach oben gerichtete Kopfhaltung des Vogels führt den Blick entlang einer diagonalen Linie durch das Bild und verleiht der Szene eine gewisse Spannung.




Wenn Bäume mal richtig was hermachen

(Bild: ulwp6)

Aus erhöhter Position blickt die Kamera über eine weite, von Nebelschwaden durchzogene Berliner Landschaft bei Sonnenaufgang. Dutzende Bäume ragen aus dem flachen Dunst hervor und werfen lange, klar gezeichnete Schatten auf den Boden. Im Hintergrund zeichnet sich die Silhouette der Hauptstadt ab: Hochhäuser und der Fernsehturm verschwimmen im goldenen Dunst. Am Horizont schiebt sich die Sonne durch eine Wolkenbank und färbt den Himmel in kräftigen Orange- und Gelbtönen, während darüber bereits kühles Blau durchscheint.




Das Wrack

(Bild: Asfotografie)

Gestrandet und verwittert, und doch zieht es den ganzen Blick auf sich. In einer walisischen Bucht liegt dieses alte Boot wie ein Monument der Vergänglichkeit. Es ist umgeben von seidig verwischtem Wasser und ziehenden Wolken. Durch die Langzeitbelichtung wird alles ringsum zur Nebensache, nur das raue Holz des Rumpfes bleibt greifbar und präsent. Die Schwarz-Weiß-Darstellung nimmt der Szene jede Ablenkung und rückt Struktur und Stimmung in den Vordergrund. Ein Bild, das man lange betrachtet – und das dabei immer ruhiger wird.




… und in den Angriff übergehen

(Bild: Zika)

Rote Füße, nasses Gefieder und der Blick steil nach unten – diese Lachmöwe, die über dem Wasser kreist, zögert nicht. Gerade ist sie aus dem Wasser aufgestiegen und verharrt für einen Wimpernschlag in der Luft, die Flügel weit aufgespannt. Die feinen Spritzer unter ihr markieren den letzten Tauchgang, während der gesenkte Kopf bereits den nächsten ankündigt. Der ruhige, entsättigte Hintergrund isoliert den Vogel und verleiht dieser Vogelstudie eine fast grafische Klarheit.

Weiterlesen nach der Anzeige




Bernadette

(Bild: Thomas Ruppel)

Licht, das Streifen malt, und ein Blick, der alles einfängt. Die diagonalen Schattenlinien der Jalousie legen sich wie ein grafisches Raster über Haut, Haar und Hintergrund und erzeugen ein spannungsreiches Muster. Die Schwarz-Weiß-Umsetzung dreht den Kontrast auf und verleiht dem Porträt eine fast skulpturale Wirkung. Die voluminösen Locken des Models brechen das strenge Linienspiel auf organische Weise auf, während die lässig an die Schulter gelegte Hand den Blick zurück zum intensiven Ausdruck lenkt. Hier trifft geometrische Strenge auf natürliche Form.


(vat)



Source link

Weiterlesen

Beliebt