Connect with us

Künstliche Intelligenz

Googles KI-Chip-Boss: „Wir sind uns der Inflation natürlich bewusst“


Amin Vahdat trägt den offiziellen Titel Chief Technologist für KI und Infrastruktur bei Google. Damit ist er nicht nur für den Compute-Bereich zuständig, der die Cloud-KI-Infrastruktur einschließt. Er kümmert sich auch um das Design von Googles internem und externem Netzwerk, die zahlreichen Rechenzentren und die dort verwendeten Plattformarchitekturen – von den eingekauften GPUs und anderen Beschleunigern über die Server bis zu Googles hauseigenen KI-Chips.

Weiterlesen nach der Anzeige

Die Tensor Processing Units (TPUs) haben in den vergangenen zehn Jahren acht Generationen durchlaufen. Die neueste Generation besteht aus zwei Varianten und wurde im April vorgestellt. Im Interview mit heise online spricht der promovierte Informatiker Vahdat, der seit 16 Jahren bei Google arbeitet und davor unter anderem Professor an der University of California in San Diego war, über Googles KI-Hardware.

heise online: Herr Vahdat, Sie haben jetzt erstmals spezielle TPU-Varianten für das Training (8t) und die Inferenz (8i). Was genau macht die neuen TPUs aus diesem Jahr besser als die alten?

Amin Vahdat: Mit unserer achten TPU-Generation haben wir uns vom Konzept eines einzelnen, generischen Beschleunigers gelöst, weil wir überzeugt sind, dass sich die physikalischen Gegebenheiten von KI-Workloads grundlegend verändert haben.

Für das Training von Frontier-Modellen erreicht die TPU 8t jetzt 121 ExaFlops pro Pod und hält einen Goodput von 97 Prozent aufrecht, sodass die Rechenleistung direkt ins aktive Lernen fließen kann. Auf der Serving-Seite verdreifacht die TPU 8i den On-Chip-SRAM auf 384 MB, um den massiven Working-Memory-Bedarf von Agenten direkt auf dem Silizium vorzuhalten. Mit unserer neuen Collectives Acceleration Engine platzieren wir die richtige Menge an Rechenleistung direkt im Netzwerkpfad. Dabei senken wir die interne Latenz um bis zu Faktor fünf und erzielen sehr geringe Antwortzeiten bei komplexem Reasoning.

Solche Verbesserungen zeigen, wie wir das Hochskalieren von KI für Unternehmen durch integrierte Lösungen wirtschaftlich machen können. Das liefert für alle Workloads von vorne bis hinten Verbesserungen.

Sie haben also die Chip-Typen verändert und auch die Namen. Was steckt strategisch dahinter?

Weiterlesen nach der Anzeige

Hardware-Entwicklungszyklen dauern bekanntlich Jahre, also mussten wir die Marktentwicklung vorausplanen, noch bevor der aktuelle Boom einsetzte. Wir haben geschätzt, dass die Branche bis 2026 an eine Weggabelung kommen würde, bei der Inferenz- und Serving-Workloads einen erheblichen Anteil der Nachfrage ausmachen.

Wir haben die Architektur daher in zwei spezialisierte Systeme aufgeteilt, weil wir gesehen haben, dass die Workloads für das Training riesiger Modelle und den Betrieb von Echtzeit-KI-Agenten auseinanderlaufen und jeweils angepasste Technologien benötigen. Das „t“ in TPU 8t steht, wie Sie bereits erwähnt haben, für Training, das eine massive Skalierung und hohen Durchsatz für die Entwicklung von Frontier-Modellen erfordert. Das „i“ in TPU 8i steht für Inferenz, die schnelle Verarbeitung mit niedriger Latenz für komplexe Reasoning-Aufgaben verlangt. Dieser Ansatz gibt uns und Kunden die Flexibilität, genau die Hardware auszuwählen, die für ihre spezifischen Workloads optimal ist.

Warum sind solche spezialisierten Chips überhaupt notwendig?

Der Übergang von einfachen Chatbots zu agentischer KI bedeutet, dass ein einzelner Prompt mittlerweile Tausende autonomer Sub-Agenten anstoßen kann, die dann wiederum mehrstufige Aufgaben ausführen. KI-Agenten, die planen, Aufgaben ausführen und lernen, müssen sich auf die Latenz einzelner Operationen konzentrieren können – nicht auf den Durchsatz, der sich erzielen lässt, wenn viele Einzeloperationen gebündelt verarbeitet werden. Historisch hatten wir Hardware für diesen letzteren, durchsatzorientierten Fall optimiert, bei einer grundlegenden Unterstützung für latenzoptimierte Inferenz.

Mit TPU 8i und TPU 8t haben wir die Spezialisierung konsequent weitergetrieben. Auch wenn die TPU 8t als sehr guter Inferenz-Chip dienen könnte, konzentrierten sich alle unsere Optimierungen auf Leistungseffizienz und Skalierung für das Training. Ebenso kann die TPU 8i eigentlich auch als sehr guter Trainings-Chip fungieren, aber alle unsere architektonischen Innovationen zielten auf Inferenz-Latenzoptimierungen. TPU 8i und 8t zeigen, wie wir das grundlegende Compute-Fabric so umbauen, dass Energie- und Skalierungsherausforderungen gelöst werden, an denen generische Infrastruktur zunehmend scheitert.



Source link

Künstliche Intelligenz

IFG-Reform: Bundesregierung in Erklärungsnot | heise online


Die Bundesregierung kommt bei der umstrittenen Reform des Informationsfreiheitsgesetzes (IFG) in Erklärungsnot. Eine Recherche des Magazins Stern konnte keine Belege für die von einem Regierungssprecher als Begründung für die Reform herangezogenen Bedrohungen staatlicher Bedienstete zutage fördern.

Weiterlesen nach der Anzeige

Die Koalition will mit der Reform des IFG die Möglichkeiten beschneiden, Einsicht in staatliche Unterlagen zu nehmen. Das geltende IFG schreibt dafür einen weitgehenden Rechtsanspruch fest, der auch für Organisationen und Redaktionen gilt. Künftig sollen nur noch natürliche Personen dieses Auskunftsrecht haben.

In der Bundespressekonferenz begründete Regierungssprecher Stefan Kornelius die Einschränkung mit einer nicht näher bezeichneten internationalen Bedrohungslage, dem Schutz Kritischer Infrastrukturen – und dem Schutz von Staatsbediensteten „vor Anfeindungen und Drohungen”.

„Das IFG hat auch dazu geführt, dass Staatsbedienstete in einer Breite in die Öffentlichkeit gezogen werden, die für diese Personen gefährdend ist“, führte der Regierungssprecher dazu aus.

Der „Stern“ hat nachgefragt: Welche Bedrohungen gab es? Kornelius’ eigene Behörde, das Bundespresseamt, verweist auf das Innenministerium. Das kennt „keine Fälle im Sinne der Fragenstellung“. Auch im Außenamt und dem Justizministerium weiß man auf die Stern-Anfrage von keinen Fällen. Andere Ministerien verweisen auf fehlende Statistiken.

Weiterlesen nach der Anzeige

Auch die ehemaligen Bundesbeauftragten für die Informationsfreiheit Ulrich Kelber und Peter Schaar kritisieren die Pläne scharf und kennen aus ihrer Amtszeit keine Fälle. Kelber will die Begründung der Bundesregierung nicht gelten lassen: Schon jetzt erlaube das IFG die Verweigerung von Auskunft, wenn tatsächlich eine Gefährdung vorliegt.


(vbr)



Source link

Weiterlesen

Künstliche Intelligenz

WIPO-Report: Patentboom bei generativer KI – Deutschland führt in Europa


Die Erforschung und kommerzielle Nutzung generativer Künstlicher Intelligenz (GenAI) hat zu einer hohen Dynamik auf dem globalen Patentmarkt geführt. Laut einem Bericht der Weltorganisation für geistiges Eigentum (WIPO) wurden 2024 und 2025 weltweit mehr als 56.000 neue GenAI-Patentfamilien veröffentlicht. Damit übertrifft der Output der vergangenen zwei Jahre die Gesamtzahl aller entsprechenden Patentanmeldungen des vorherigen Jahrzehnts. Zwischen 2023 und 2025 stieg die Zahl der jährlichen Veröffentlichungen von rund 14.000 auf über 37.800.

Weiterlesen nach der Anzeige

2025 erreichte der Anteil von GenAI an allen KI-bezogenen Patenten 8,7 Prozent, nach 4,2 Prozent im Jahr 2017. Der WIPO zufolge spiegelt der Anstieg das Auslaufen der üblichen 18-monatigen Verzögerung zwischen Anmeldung und Veröffentlichung wider, die auf den weltweiten Forschungsboom nach der Vorstellung von ChatGPT Ende 2022 folgte.

Europa liegt im globalen Vergleich zwar hinter Asien und den USA. Es zeigt aber zumindest eine hohe Wachstumsdynamik. In Europa hat Deutschland Großbritannien als führenden Erfinderstandort für generative KI überholt. Mit einer durchschnittlichen jährlichen Wachstumsrate von 85 Prozent zwischen 2023 und 2025 belegt die Bundesrepublik weltweit Rang sechs. Großbritannien folgt mit 69 Prozent Wachstum auf Platz acht.

Getragen wird der Aufstieg vor allem von der heimischen Industrie. So schaffte Bosch mit 368 Patentfamilien als Neueinsteiger den Sprung in die Top 25 der weltweiten Patentinhaber. Für die WIPO zeigt das, dass GenAI längst nicht mehr nur ein Thema von Software- und Internetkonzernen ist. KI erreiche zunehmend Industrie, Logistik und Infrastruktur. Auch die Schweiz holte mit einer jährlichen Wachstumsrate von 124 Prozent auf.

Global bleibt China unangefochtener Spitzenreiter. Chinesische Entwickler veröffentlichten 2024 und 2025 mehr als 43.000 Patentfamilien und übertrafen damit ebenfalls ihre Gesamtleistung des vorherigen Jahrzehnts. Es folgen die USA, deren kommerzielle GenAI-Entwicklung einer jährlichen Wachstumsrate von 92 Prozent entspricht. Die höchste relative Zunahme unter den Top-Nationen verzeichnete Japan mit 210 Prozent – vor allem dank der KI-Strategie von Softbank. Der Konzern publizierte knapp 3000 Patentfamilien und führt so die Rangliste der einzelnen Patentinhaber vor Tencent, Ping An und Baidu an.

Weiterlesen nach der Anzeige

Auch Alphabet, Microsoft und IBM gehören zu den führenden Patentinhabern. OpenAI verfolgt dagegen eine andere Strategie: Ende 2025 verfügte das Unternehmen weltweit nur über 35 Patentanmeldungen. Es setzt stärker auf Geschäftsgeheimnisse sowie schnelle Produktentwicklung.

Technologisch dokumentiert der WIPO-Bericht einen grundlegenden Wandel: Große Sprachmodelle (LLMs) haben die zuvor dominierenden Generative Adversarial Networks (GANs) klar überholt. 2025 entfielen rund 14.100 Patentfamilien auf LLMs, gegenüber etwa 5200 auf GANs. Diffusionsmodelle belegen inzwischen Rang drei. Bild- und Videoanwendungen dominieren zwar weiterhin, doch Text- und Softwarecode-Anwendungen holen deutlich auf. Für die Zukunft erwartet die WIPO eine stärkere Internationalisierung der Schutzrechte. Bislang entfallen nur rund 9 Prozent der GenAI-Patentfamilien auf internationale Anmeldungen. Mit zunehmender Marktreife dürfte sich der Wettbewerb um globale Schutzrechte verschärfen.


(wpl)



Source link

Weiterlesen

Künstliche Intelligenz

KI-Zusammenfassungen: Google und Perplexity unterliegen gegen Medienanstalten


Das deutsche Medienrecht greift auch bei KI-Angeboten. In einer aktuellen Entscheidung hat die Kommission für Zulassung und Aufsicht (ZAK) der Medienanstalten erstmals regulatorische Bescheide gegen die Suchmaschinenbetreiber Google und Perplexity erlassen. Damit stellen die Medienwächter klar, dass KI-Suchmaschinen und Chatbots rechtlich keine neutralen Vermittler sind. Vielmehr seien sie als Inhalteanbieter einzustufen.

Weiterlesen nach der Anzeige

Die von den Medienanstalten Hamburg-Schleswig-Holstein und Berlin-Brandenburg geführten Verfahren zielen auf Googles AI Overviews, die über Suchergebnissen von KI erstellte Zusammenfassungen anzeigen, sowie auf den KI-Chatbot von Perplexity. Dieser verknüpft KI-Antworten mit einer eigenen Nachrichtenseite. Die ZAK stellt mit den Beschlüssen die Anwendbarkeit des nationalen Medienrechts auf KI-Suche und Chatbots fest.

Streitpunkt ist die Präsentation der Informationen. Bei Googles AI Overviews rücken die KI-Texte so prominent in den Blick, dass die herkömmliche Liste aus weiterführenden Links in den Hintergrund gerät. Laut der ZAK führt das zu einer unzulässigen Diskriminierung journalistischer Angebote, da die klassische Link-Übersicht schlechter auffindbar sei.

Perplexity bindet Drittinhalte als Quellen oder in Linklisten ein und bestimmt dadurch maßgeblich die Sichtbarkeit fremder Angebote. Damit erfülle Perplexity den Aufsehern zufolge die Kriterien eines Medienvermittlers und müsse daher entsprechende Pflichten erfüllen. Gegen die Bescheide können beide Anbieter Rechtsmittel einlegen. Eine einheitliche Rechtsprechung zu KI-Übersichten gibt es noch nicht.

Das ZAK-Vorgehen beruht auf einem Gutachten der Professoren Jan Oster und Christoph Busch. Sie legen dar, dass generative KI die Informationssuche im Internet strukturell verändere. Der Substitutionsprozess lasse den Traffic zu Verlagsseiten einbrechen. So verschiebe sich die Verhandlungsmacht zugunsten der KI-Konzerne, die die Schnittstelle zur Sichtbarkeit im Netz kontrollierten.

Weiterlesen nach der Anzeige

Laut der Studie sind KI-generierte Texte grundsätzlich als eigene Inhalte des jeweiligen Anbieters zu qualifizieren seien. Das gelte für fehlerhafte, halluzinierte Inhalte ebenso wie für die Verdichtung und Vermischung vorhandener Quellen. Eine Ausnahme greife nur, wenn für User klar erkennbar sei, dass allein fremde Inhalte unverändert wiedergegeben würden.


(wpl)



Source link

Weiterlesen

Beliebt