Wenn man ein großes Sprachmodell als API für Anwendungen bereitstellt, rücken konkrete Anforderungen in den Vordergrund: Wie viele Token pro Sekunde liefert das System? Welche Kosten entstehen pro Antwort? Wie viele parallele Anfragen muss es bewältigen? Und reicht die Modellqualität für den jeweiligen Anwendungsfall?

Hier kommen spezialisierte Inferenz-Engines ins Spiel. Sie entlasten Entwickler bei Low-Level-Details, optimieren die Auslastung der Hardware und reduzieren Latenzen.

Bekannte Vertreter sind vLLM, TGI oder Nvidias proprietäre NIM. Für lokale Modelle existieren Werkzeuge wie Ollama oder LM Studio. Eine Alternative ist die Inferenz-Engine SGLang, die vor allem auf Performance setzt und zusätzlich eine flexible Steuerung von LLM-Workflows im Frontend anbietet.

Das war die Leseprobe unseres heise-Plus-Artikels „Framework SGLang für schnelle LLM-Inferenz kurz vorgestellt“.
Mit einem heise-Plus-Abo können Sie den ganzen Artikel lesen.

TikTok hat die Vereinbarung zum Verkauf des Großteils der Anteile an der US-Tochter offenbar unterzeichnet. Das geht aus einer internen Mitteilung von TikTok-Chef Shou Zi Chew an seine Mitarbeiter hervor. Durch den Verkauf entgeht die chinesische Videoplattform einem Verbot in den USA. Ein letztes Jahr dort verabschiedetes Gesetz zum Zwangsverkauf von TikTok hat das Ziel, die Daten von US-Bürgern dem Zugriff der chinesischen Regierung zu entziehen und auch den TikTok-Empfehlungsalgorithmus unter die Kontrolle lokaler Unternehmen zu stellen. TikTok war rechtlich dagegen vorgegangen, blieb aber erfolglos.

Eine solche Vereinbarung beendet die mehr als einjährige Auseinandersetzung zwischen der US-Regierung und der chinesischen TikTok-Mutter ByteDance. Schon die vorherige Biden-Administration befürchtete eine Gefährdung der nationalen Sicherheit durch die App, wenn China Zugriff auf die Nutzerdaten und -profile von TikTok bekommt. In den USA zählt die App über 170 Millionen Nutzer. TikTok selbst dementierte, dass die chinesische Regierung auf die persönlichen Daten US-amerikanischer Anwender zugreifen kann. Allerdings ist der Empfehlungsalgorithmus der App auf einige dieser Daten angewiesen.

Oracle und Investmentunternehmen steigen ein

Die interne TikTok-Mitteilung bestätigt nun einige der bereits im September vom Weißen Haus genannten Details zu der TikTok-Vereinbarung. So werden der IT-Konzern Oracle, das Investmentunternehmen Silver Lake sowie der in Abu Dhabi beheimatete Investmentfonds MGX zusammen 45 Prozent der US-Tochter von TikTok übernehmen, die künftig „TikTok USDS Joint Venture LLC.“ heißen wird. Rund ein Drittel dieses Unternehmens werden bisherige ByteDance-Investoren halten, während ByteDance selbst 20 Prozent behalten wird, schreibt Axios.

Das neue TikTok-Joint-Venture soll demnach für den Datenschutz der US-Nutzer, die Sicherheit des Algorithmus, die Moderation der Inhalte und die Software-Sicherheit verantwortlich sein. Der Empfehlungsalgorithmus soll auf Basis der US-Nutzerdaten neu trainiert werden, um sicherzustellen, dass keine externe Manipulation stattfindet. Dieser Algorithmus beeinflusst, welche Videos Amerikaner zu sehen bekommen. Oracle wird als Sicherheitspartner die Verantwortung für die Prüfung und Einhaltung der nationalen Sicherheitsbedingungen übernehmen.

Einigung eineinhalb Jahre nach Verbotserlass

Zwar wurde das Gesetz zum Zwangsverkauf von TikTok bereits im April 2024 verabschiedet, wurde nach der Klage von ByteDance aber erst Mitte Januar 2025 wirksam, als der Supreme Court das TikTok-Verbot bestätigte. Damit wurde TikTok zum Problem von Donald Trump, der wenige Tage später zum US-Präsidenten vereidigt wurde. Wie auch Vorgänger Joe Biden hat Trump die Durchsetzung des Verbots mehrfach aufgeschoben, um TikTok und ByteDance längere Verkaufsverhandlungen zu ermöglichen. Zuletzt im September hatte Trump TikTok in den USA mehr Zeit gegeben.

Oracle wollte die Vereinbarung auf Anfrage von Reuters nicht kommentieren und das Weiße Haus verwies für entsprechende Fragen auf TikTok. Der TikTok-Deal soll laut ByteDance am 22. Januar 2026 abgeschlossen werden. Offen ist noch, wie viel die Investoren für die Beteiligung am TikTok-Joint-Venture aufbringen müssen und wie die Einnahmen künftig aufgeteilt werden. Letzten Herbst wurde berichtet, dass 50 Prozent der US-Einnahmen nach dem TikTok-Deal an ByteDance fließen sollen.

(fds)

Das Medienunternehmen von US-Präsident Donald Trump fusioniert mit der Kernfusionsfirma TAE Technologies, „um die globale Energiedominanz der USA für Generationen zu zementieren“. So drückt es zumindest der Chef der Trump Media & Technology Group in der Bekanntmachung des mindestens ungewöhnlichen Deals aus. TAE Technologies arbeitet daran, die Energiegewinnung durch Kernfusion bis zum Ende des Jahrzehnts kommerziell nutzbar zu machen. Trump Media ist dagegen primär für den Kurznachrichtendienst Truth Social bekannt, auf dem Donald Trump aktiv ist. Das Zusammengehen der vollkommen unterschiedlichen Firmen wird laut der Mitteilung auf mehr als sechs Milliarden US-Dollar (etwa 5,11 Milliarden Euro) bewertet. Aktionäre beider Firmen sollen an dem neuen Unternehmen dann jeweils 50 Prozent halten.

Zu den Hintergründen der Fusion ist wenig bekannt, laut den Beteiligten trägt Trump Media „die Stärke seiner soliden Bilanzen“ bei und will TAE insgesamt 300 Millionen US-Dollar in bar bezahlen. Die beiden Firmenchefs wollen das neue Unternehmen künftig gemeinsam führen. 2026 soll demnach die Arbeit an dem ersten Fusionsreaktor für die kommerzielle Nutzung beginnen; der soll 50 Megawatt liefern. Zehnmal größere Anlagen sollen folgen. Was Trump Media außer der Geldspritze dazu beitragen soll, sagt TAE-Chef Michl Binderbauer nicht. In seinen obligatorischen Sätzen zu dem Deal geht er überhaupt nicht auf Trumps Firma ein und redet nur über die Erfolge seiner eigenen. Der US-Präsident hat nach der Wahl ins Weiße Haus seinen Anteil unter die treuhänderische Kontrolle seines Sohnes Donald Trump Jr. gegeben.

Mit Fusionsenergie soll nicht nur die globale Dominanz der USA in Energiefragen festgeschrieben werden, sagt Devin Nunes, der Chef von Trump Media. Die geplanten Kraftwerke würden auch bezahlbar und zuverlässig große Mengen an Strom bereitstellen, der den Vereinigten Staaten dabei helfen würde, „die KI-Revolution zu gewinnen“. Auch er sagt nicht, was genau Trump Media dazu beisteuern kann, er behauptet aber, mit Truth Social habe man „eine nicht entfernbare Infrastruktur aufgebaut, um die freie Meinungsäußerung für Amerikaner im Internet zu sichern“. Laut der Mitteilung hat die Firma hinter Truth Social seit dem Börsengang im März 2024 etwa 3,1 Milliarden US-Dollar an Vermögen angesammelt.

Meilensteine ohne baldige Einsatzbereitschaft

Kontrollierte Kernfusion gilt als vielversprechende Technik für künftige Energieversorgung und als saubere Alternative zur Kernspaltung. Anders als bei der Kernspaltung entstehen bei der Kernfusion keine langlebigen radioaktiven Abfälle. Zwar werden bei der Erforschung dieser Form der Energieerzeugung immer wieder Meilensteine erreicht, aber eine baldige kommerzielle Einsatzbereitschaft gilt als unwahrscheinlich. Prognosen privatwirtschaftlicher Start-ups sind dabei deutlich rosiger als jene traditioneller Großprojekte, die mit öffentlichen Geldern gefördert werden. Die Bundesrepublik finanziert die Forschung in den nächsten Jahren mit zwei Milliarden Euro.

(mho)