Künstliche Intelligenz
Framework SGLang für schnelle LLM-Inferenz kurz vorgestellt
Wenn man ein großes Sprachmodell als API für Anwendungen bereitstellt, rücken konkrete Anforderungen in den Vordergrund: Wie viele Token pro Sekunde liefert das System? Welche Kosten entstehen pro Antwort? Wie viele parallele Anfragen muss es bewältigen? Und reicht die Modellqualität für den jeweiligen Anwendungsfall?
Hier kommen spezialisierte Inferenz-Engines ins Spiel. Sie entlasten Entwickler bei Low-Level-Details, optimieren die Auslastung der Hardware und reduzieren Latenzen.

Danny Gerst bringt 30 Jahre Erfahrung in der Softwareentwicklung mit. Als Strategieberater und Visionär für den Mittelstand ist er auf das Automatisieren von Prozessen mit und ohne KI spezialisiert.
Bekannte Vertreter sind vLLM, TGI oder Nvidias proprietäre NIM. Für lokale Modelle existieren Werkzeuge wie Ollama oder LM Studio. Eine Alternative ist die Inferenz-Engine SGLang, die vor allem auf Performance setzt und zusätzlich eine flexible Steuerung von LLM-Workflows im Frontend anbietet.
Das war die Leseprobe unseres heise-Plus-Artikels „Framework SGLang für schnelle LLM-Inferenz kurz vorgestellt“.
Mit einem heise-Plus-Abo können Sie den ganzen Artikel lesen.
Künstliche Intelligenz
Elektrostimulation gegen VR-Übelkeit: Stimbox sagt Motion Sickness den Kampf an
Das französische Start-up Neural Balance Innovation, kurz „NBI“, will mit einem kleinen Gerät namens „Stimbox“ das Risiko von auftretender Übelkeit in Virtual Reality verringern und gleichzeitig das Gefühl von Bewegung verstärken. Die Technologie basiert auf galvanischer Vestibularstimulation (GVS), also gezielten elektrischen Impulsen auf das Gleichgewichtsorgan im Innenohr.
Weiterlesen nach der Anzeige
Weniger Übelkeit, mehr Körpergefühl
„Stimbox“ besteht aus einer kleinen Steuereinheit und zwei bis drei Elektroden, die hinter den Ohren angebracht werden. Die elektrische Stimulation soll entweder den Gleichgewichtssinn bewusst stören, sodass das Gehirn ihn nicht mehr als zuverlässige Quelle einstuft und sich rein auf visuelle Signale verlässt, oder mit der virtuellen Bewegung synchronisiert werden, um die Illusion physischer Fortbewegung zu erzeugen. Beides kann helfen, den sogenannten „Motion Sickness“-Effekt in VR zu reduzieren.

Clarice da Costa Corrêa ist an der Entwicklung der „Stimbox“ beteiligt und stellte das Gerät auf der diesjährigen XR-Messe „UnitedXR Europe“ in Brüssel vor.
(Bild: Christian Steiner)
Laut Clarice da Costa Corrêa, Ingenieurin und Doktorandin bei NBI, wird der Effekt deutlich spürbar, sobald das System individuell auf die nutzende Person kalibriert ist. Dieser Prozess erfolgt über eine App und dauert rund 20 Minuten. Dabei wird getestet, wie das Innenohr, die Wirbelsäule und beide Körperseiten auf die Impulse reagieren. So können individuelle Schwellenwerte bestimmt werden: Unterhalb einer gewissen Reizintensität kann die Übelkeit sogar schlimmer werden, oberhalb davon setzt der gewünschte positive Effekt ein.
Auch langfristige Effekte spürbar
Neben der akuten Anwendung untersucht NBI auch mögliche Langzeitwirkungen. In ersten internen Studien soll eine tägliche Anwendung über zehn Tage hinweg das Gleichgewicht von Testpersonen auch außerhalb der VR verbessert haben. Die Hoffnung sei, dass sich durch regelmäßige Nutzung auch die Toleranz gegenüber Bewegung in VR dauerhaft erhöhen lasse.
Lesen Sie auch
NBI sucht derzeit noch nach Partnern in der Industrie, um die Integration der Technik in bestehende VR-Hardware voranzutreiben. Zudem erschweren medizinische Zulassungsverfahren den Einsatz bei Menschen mit bestehenden Gleichgewichtsstörungen, auch wenn erste Tests in diese Richtung laut Corrêa bereits vielversprechend verlaufen sein sollen.
Weiterlesen nach der Anzeige
Die „Stimbox“ ist für Unternehmen und Forschungseinrichtungen bereits als kabelloses Gerät erhältlich, das sich per Bluetooth, WLAN oder USB mit VR-Headsets verbinden lässt. Die aktuelle Version nutzt Elektroden, was eine gewisse Vorsicht beim Anlegen erfordert. Eine neue Variante mit elektromagnetischer Stimulation soll künftig ohne direkten Hautkontakt auskommen und damit auch für ein breiteres Publikum geeignet sein.
heise online XR-Briefing abonnieren
Jeden zweiten Montag, liefern wir Ihnen die wichtigsten Entwicklungen der XR-Branche. Damit Sie alles im Blick behalten.
E-Mail-Adresse
Ausführliche Informationen zum Versandverfahren und zu Ihren Widerrufsmöglichkeiten erhalten Sie in unserer Datenschutzerklärung.
(joe)
Künstliche Intelligenz
Windows: Microsoft will SSD-Performance massiv verbessern
High-End-SSDs mit PCI-Express-Anbindung sollen unter Windows deutlich schneller werden, gleichzeitig verspricht Microsoft eine starke Entlastung des Prozessors. Grund ist eine überfällige Modernisierung, wie Microsofts Betriebssysteme mit Lese- und Schreibbefehlen an Datenträger umgehen. Bisher beherrschte Windows das weitverbreitete Protokoll Non-Volatile Memory Express (NVMe) offenbar nur eingeschränkt. NVMe baut auf der physischen PCI-Express-Schnittstelle auf, die die meisten modernen SSDs für M.2-Steckplätze verwenden.
Weiterlesen nach der Anzeige
Microsoft hat zwar einen herstellerunabhängigen NVMe-Treiber, allerdings übersetzt Windows NVMe-Befehle bislang ins Small Computer System Interface (SCSI). Darüber schreibt Microsoft in einem Blog-Beitrag. SCSI entstand ursprünglich in den 80er-Jahren und stellte selbst zu SATA-Zeiten keinen großen Flaschenhals dar. Erst die massive Parallelisierung von Zugriffen auf PCIe-SSDs hing SCSI ab.
Serverversion macht den Anfang
Windows Server 2025 ist Microsofts erstes Betriebssystem, das nativen NVMe-Support erhält. In der aktuellen Version können Interessierte die Änderung über einen Powershell-Befehl in der Registry aktivieren:
reg add HKEY_LOCAL_MACHINE\SYSTEM\CurrentControlSet\Policies\Microsoft\FeatureManagement\Overrides /v 1176759950 /t REG_DWORD /d 1 /f
Nach erfolgreicher Umstellung und einem Neustart tauchen NVMe-SSDs im Geräte-Manager nicht mehr unter Laufwerke auf, sondern unter Storage Disks (oder einer Übersetzung).
In Sachen Performance sollen vor allem PCIe-5.0-SSDs profitieren. Microsoft zeigt einen Benchmark, bei dem die Input/Output-Operationen pro Sekunde (IOPS) von etwa 1,8 Millionen auf 3,3 Millionen steigen.

Microsoft
)
Effizienzsteigerung
Weiterlesen nach der Anzeige
Systeme mit nicht ganz so flotten PCIe-4.0- oder PCIe-3.0-SSDs könnten allerdings effizienter werden, da ein nativer NVMe-Stack auch den Prozessor entlastet. Der verbringt weniger Arbeit damit, Zugriffsbefehle zu serialisieren und abzuarbeiten.
Microsoft schreibt dazu: „Grundlegende Leistungstests mit DiskSpd.exe zeigen, dass WS2025-Systeme mit aktiviertem nativen NVMe im Vergleich zu WS2022 bei zufälligen 4-KByte-Lesevorgängen auf NTFS-Dateisystemen bis zu ~80 % mehr IOPS und ~45 % gesparte CPU-Taktzyklen pro I/O liefern können.“
Im Blog-Beitrag nennt Microsoft das Update einen „Eckpfeiler für die Modernisierung unseres Storage-Stacks“. Sobald er sich bewährt, könnte Microsoft ihn auch in Windows 11 einbauen.
NVMe 1.0 ist inzwischen 14 Jahre alt. Erste Consumer-SSDs damit erschienen im Jahr 2015. Inzwischen ist das Protokoll nicht mehr von Desktop-PCs und Notebooks wegzudenken.
(mma)
Künstliche Intelligenz
TikTok unterzeichnet Deal zum Verkauf von Anteilen der US-Tochter an Investoren
TikTok hat die Vereinbarung zum Verkauf des Großteils der Anteile an der US-Tochter offenbar unterzeichnet. Das geht aus einer internen Mitteilung von TikTok-Chef Shou Zi Chew an seine Mitarbeiter hervor. Durch den Verkauf entgeht die chinesische Videoplattform einem Verbot in den USA. Ein letztes Jahr dort verabschiedetes Gesetz zum Zwangsverkauf von TikTok hat das Ziel, die Daten von US-Bürgern dem Zugriff der chinesischen Regierung zu entziehen und auch den TikTok-Empfehlungsalgorithmus unter die Kontrolle lokaler Unternehmen zu stellen. TikTok war rechtlich dagegen vorgegangen, blieb aber erfolglos.
Weiterlesen nach der Anzeige
Eine solche Vereinbarung beendet die mehr als einjährige Auseinandersetzung zwischen der US-Regierung und der chinesischen TikTok-Mutter ByteDance. Schon die vorherige Biden-Administration befürchtete eine Gefährdung der nationalen Sicherheit durch die App, wenn China Zugriff auf die Nutzerdaten und -profile von TikTok bekommt. In den USA zählt die App über 170 Millionen Nutzer. TikTok selbst dementierte, dass die chinesische Regierung auf die persönlichen Daten US-amerikanischer Anwender zugreifen kann. Allerdings ist der Empfehlungsalgorithmus der App auf einige dieser Daten angewiesen.
Oracle und Investmentunternehmen steigen ein
Die interne TikTok-Mitteilung bestätigt nun einige der bereits im September vom Weißen Haus genannten Details zu der TikTok-Vereinbarung. So werden der IT-Konzern Oracle, das Investmentunternehmen Silver Lake sowie der in Abu Dhabi beheimatete Investmentfonds MGX zusammen 45 Prozent der US-Tochter von TikTok übernehmen, die künftig „TikTok USDS Joint Venture LLC.“ heißen wird. Rund ein Drittel dieses Unternehmens werden bisherige ByteDance-Investoren halten, während ByteDance selbst 20 Prozent behalten wird, schreibt Axios.
Das neue TikTok-Joint-Venture soll demnach für den Datenschutz der US-Nutzer, die Sicherheit des Algorithmus, die Moderation der Inhalte und die Software-Sicherheit verantwortlich sein. Der Empfehlungsalgorithmus soll auf Basis der US-Nutzerdaten neu trainiert werden, um sicherzustellen, dass keine externe Manipulation stattfindet. Dieser Algorithmus beeinflusst, welche Videos Amerikaner zu sehen bekommen. Oracle wird als Sicherheitspartner die Verantwortung für die Prüfung und Einhaltung der nationalen Sicherheitsbedingungen übernehmen.
Einigung eineinhalb Jahre nach Verbotserlass
Zwar wurde das Gesetz zum Zwangsverkauf von TikTok bereits im April 2024 verabschiedet, wurde nach der Klage von ByteDance aber erst Mitte Januar 2025 wirksam, als der Supreme Court das TikTok-Verbot bestätigte. Damit wurde TikTok zum Problem von Donald Trump, der wenige Tage später zum US-Präsidenten vereidigt wurde. Wie auch Vorgänger Joe Biden hat Trump die Durchsetzung des Verbots mehrfach aufgeschoben, um TikTok und ByteDance längere Verkaufsverhandlungen zu ermöglichen. Zuletzt im September hatte Trump TikTok in den USA mehr Zeit gegeben.
Weiterlesen nach der Anzeige
Lesen Sie auch
Oracle wollte die Vereinbarung auf Anfrage von Reuters nicht kommentieren und das Weiße Haus verwies für entsprechende Fragen auf TikTok. Der TikTok-Deal soll laut ByteDance am 22. Januar 2026 abgeschlossen werden. Offen ist noch, wie viel die Investoren für die Beteiligung am TikTok-Joint-Venture aufbringen müssen und wie die Einnahmen künftig aufgeteilt werden. Letzten Herbst wurde berichtet, dass 50 Prozent der US-Einnahmen nach dem TikTok-Deal an ByteDance fließen sollen.
(fds)
-
UX/UI & Webdesignvor 2 MonatenIllustrierte Reise nach New York City › PAGE online
-
Künstliche Intelligenzvor 2 MonatenAus Softwarefehlern lernen – Teil 3: Eine Marssonde gerät außer Kontrolle
-
Künstliche Intelligenzvor 2 Monaten
Top 10: Die beste kabellose Überwachungskamera im Test
-
UX/UI & Webdesignvor 2 MonatenSK Rapid Wien erneuert visuelle Identität
-
Entwicklung & Codevor 1 MonatKommandozeile adé: Praktische, grafische Git-Verwaltung für den Mac
-
Künstliche Intelligenzvor 2 MonatenNeue PC-Spiele im November 2025: „Anno 117: Pax Romana“
-
Künstliche Intelligenzvor 2 MonatenDonnerstag: Deutsches Flugtaxi-Start-up am Ende, KI-Rechenzentren mit ARM-Chips
-
UX/UI & Webdesignvor 2 MonatenArndt Benedikt rebranded GreatVita › PAGE online
