Connect with us

Künstliche Intelligenz

Googles KI-Chip-Boss: „Wir sind uns der Inflation natürlich bewusst“


Amin Vahdat trägt den offiziellen Titel Chief Technologist für KI und Infrastruktur bei Google. Damit ist er nicht nur für den Compute-Bereich zuständig, der die Cloud-KI-Infrastruktur einschließt. Er kümmert sich auch um das Design von Googles internem und externem Netzwerk, die zahlreichen Rechenzentren und die dort verwendeten Plattformarchitekturen – von den eingekauften GPUs und anderen Beschleunigern über die Server bis zu Googles hauseigenen KI-Chips.

Weiterlesen nach der Anzeige

Die Tensor Processing Units (TPUs) haben in den vergangenen zehn Jahren acht Generationen durchlaufen. Die neueste Generation besteht aus zwei Varianten und wurde im April vorgestellt. Im Interview mit heise online spricht der promovierte Informatiker Vahdat, der seit 16 Jahren bei Google arbeitet und davor unter anderem Professor an der University of California in San Diego war, über Googles KI-Hardware.

heise online: Herr Vahdat, Sie haben jetzt erstmals spezielle TPU-Varianten für das Training (8t) und die Inferenz (8i). Was genau macht die neuen TPUs aus diesem Jahr besser als die alten?

Amin Vahdat: Mit unserer achten TPU-Generation haben wir uns vom Konzept eines einzelnen, generischen Beschleunigers gelöst, weil wir überzeugt sind, dass sich die physikalischen Gegebenheiten von KI-Workloads grundlegend verändert haben.

Für das Training von Frontier-Modellen erreicht die TPU 8t jetzt 121 ExaFlops pro Pod und hält einen Goodput von 97 Prozent aufrecht, sodass die Rechenleistung direkt ins aktive Lernen fließen kann. Auf der Serving-Seite verdreifacht die TPU 8i den On-Chip-SRAM auf 384 MB, um den massiven Working-Memory-Bedarf von Agenten direkt auf dem Silizium vorzuhalten. Mit unserer neuen Collectives Acceleration Engine platzieren wir die richtige Menge an Rechenleistung direkt im Netzwerkpfad. Dabei senken wir die interne Latenz um bis zu Faktor fünf und erzielen sehr geringe Antwortzeiten bei komplexem Reasoning.

Solche Verbesserungen zeigen, wie wir das Hochskalieren von KI für Unternehmen durch integrierte Lösungen wirtschaftlich machen können. Das liefert für alle Workloads von vorne bis hinten Verbesserungen.

Sie haben also die Chip-Typen verändert und auch die Namen. Was steckt strategisch dahinter?

Weiterlesen nach der Anzeige

Hardware-Entwicklungszyklen dauern bekanntlich Jahre, also mussten wir die Marktentwicklung vorausplanen, noch bevor der aktuelle Boom einsetzte. Wir haben geschätzt, dass die Branche bis 2026 an eine Weggabelung kommen würde, bei der Inferenz- und Serving-Workloads einen erheblichen Anteil der Nachfrage ausmachen.

Wir haben die Architektur daher in zwei spezialisierte Systeme aufgeteilt, weil wir gesehen haben, dass die Workloads für das Training riesiger Modelle und den Betrieb von Echtzeit-KI-Agenten auseinanderlaufen und jeweils angepasste Technologien benötigen. Das „t“ in TPU 8t steht, wie Sie bereits erwähnt haben, für Training, das eine massive Skalierung und hohen Durchsatz für die Entwicklung von Frontier-Modellen erfordert. Das „i“ in TPU 8i steht für Inferenz, die schnelle Verarbeitung mit niedriger Latenz für komplexe Reasoning-Aufgaben verlangt. Dieser Ansatz gibt uns und Kunden die Flexibilität, genau die Hardware auszuwählen, die für ihre spezifischen Workloads optimal ist.

Warum sind solche spezialisierten Chips überhaupt notwendig?

Der Übergang von einfachen Chatbots zu agentischer KI bedeutet, dass ein einzelner Prompt mittlerweile Tausende autonomer Sub-Agenten anstoßen kann, die dann wiederum mehrstufige Aufgaben ausführen. KI-Agenten, die planen, Aufgaben ausführen und lernen, müssen sich auf die Latenz einzelner Operationen konzentrieren können – nicht auf den Durchsatz, der sich erzielen lässt, wenn viele Einzeloperationen gebündelt verarbeitet werden. Historisch hatten wir Hardware für diesen letzteren, durchsatzorientierten Fall optimiert, bei einer grundlegenden Unterstützung für latenzoptimierte Inferenz.

Mit TPU 8i und TPU 8t haben wir die Spezialisierung konsequent weitergetrieben. Auch wenn die TPU 8t als sehr guter Inferenz-Chip dienen könnte, konzentrierten sich alle unsere Optimierungen auf Leistungseffizienz und Skalierung für das Training. Ebenso kann die TPU 8i eigentlich auch als sehr guter Trainings-Chip fungieren, aber alle unsere architektonischen Innovationen zielten auf Inferenz-Latenzoptimierungen. TPU 8i und 8t zeigen, wie wir das grundlegende Compute-Fabric so umbauen, dass Energie- und Skalierungsherausforderungen gelöst werden, an denen generische Infrastruktur zunehmend scheitert.



Source link

Künstliche Intelligenz

KI-Zusammenfassungen: Google und Perplexity unterliegen gegen Medienanstalten


Das deutsche Medienrecht greift auch bei KI-Angeboten. In einer aktuellen Entscheidung hat die Kommission für Zulassung und Aufsicht (ZAK) der Medienanstalten erstmals regulatorische Bescheide gegen die Suchmaschinenbetreiber Google und Perplexity erlassen. Damit stellen die Medienwächter klar, dass KI-Suchmaschinen und Chatbots rechtlich keine neutralen Vermittler sind. Vielmehr seien sie als Inhalteanbieter einzustufen.

Weiterlesen nach der Anzeige

Die von den Medienanstalten Hamburg-Schleswig-Holstein und Berlin-Brandenburg geführten Verfahren zielen auf Googles AI Overviews, die über Suchergebnissen von KI erstellte Zusammenfassungen anzeigen, sowie auf den KI-Chatbot von Perplexity. Dieser verknüpft KI-Antworten mit einer eigenen Nachrichtenseite. Die ZAK stellt mit den Beschlüssen die Anwendbarkeit des nationalen Medienrechts auf KI-Suche und Chatbots fest.

Streitpunkt ist die Präsentation der Informationen. Bei Googles AI Overviews rücken die KI-Texte so prominent in den Blick, dass die herkömmliche Liste aus weiterführenden Links in den Hintergrund gerät. Laut der ZAK führt das zu einer unzulässigen Diskriminierung journalistischer Angebote, da die klassische Link-Übersicht schlechter auffindbar sei.

Perplexity bindet Drittinhalte als Quellen oder in Linklisten ein und bestimmt dadurch maßgeblich die Sichtbarkeit fremder Angebote. Damit erfülle Perplexity den Aufsehern zufolge die Kriterien eines Medienvermittlers und müsse daher entsprechende Pflichten erfüllen. Gegen die Bescheide können beide Anbieter Rechtsmittel einlegen. Eine einheitliche Rechtsprechung zu KI-Übersichten gibt es noch nicht.

Das ZAK-Vorgehen beruht auf einem Gutachten der Professoren Jan Oster und Christoph Busch. Sie legen dar, dass generative KI die Informationssuche im Internet strukturell verändere. Der Substitutionsprozess lasse den Traffic zu Verlagsseiten einbrechen. So verschiebe sich die Verhandlungsmacht zugunsten der KI-Konzerne, die die Schnittstelle zur Sichtbarkeit im Netz kontrollierten.

Weiterlesen nach der Anzeige

Laut der Studie sind KI-generierte Texte grundsätzlich als eigene Inhalte des jeweiligen Anbieters zu qualifizieren seien. Das gelte für fehlerhafte, halluzinierte Inhalte ebenso wie für die Verdichtung und Vermischung vorhandener Quellen. Eine Ausnahme greife nur, wenn für User klar erkennbar sei, dass allein fremde Inhalte unverändert wiedergegeben würden.


(wpl)



Source link

Weiterlesen

Künstliche Intelligenz

Microsoft macht Passkeys zum Standard in Entra ID


Microsoft macht Passkeys zur Standard-Anmeldemethode in Entra ID. Ab dem 1. September 2026 führt das Unternehmen die Änderung schrittweise ein: Nutzer, die sich bislang per SMS oder Sprachanruf authentifizieren, werden dann automatisch für Passkeys freigeschaltet und bei der nächsten MFA-Anmeldung zur Registrierung aufgefordert. Microsoft empfiehlt Unternehmen, möglichst früh auf Passkeys oder andere Phishing-resistente Verfahren umzusteigen.

Weiterlesen nach der Anzeige

Passkeys sind kryptografische Anmeldeschlüssel, die Passwörter ersetzen. Statt eines Kennworts authentifizieren sich Nutzer zum Beispiel per Fingerabdruck, Gesichtserkennung oder Geräte-PIN. Die Technik basiert auf den FIDO2- und WebAuthn-Standards und gilt als deutlich widerstandsfähiger gegen Phishing. Entra ID – früher Azure Active Directory – ist Microsofts Cloud-Dienst für Identitäts- und Zugriffsverwaltung.

Parallel baut Microsoft die Unterstützung für gerätegebundene und synchronisierte Passkeys aus und erweitert die Verwaltungsfunktionen für Administratoren. So sollen sich passwortlose Anmeldungen einfacher einführen und per Richtlinie steuern lassen.

Hintergrund ist nach Angaben des Unternehmens die wachsende Bedrohung durch KI-gestützte Phishing-Angriffe. Laut Microsoft erreichen solche Kampagnen Klickraten von bis zu 54 Prozent, während herkömmliche Phishing-Angriffe bei rund 12 Prozent liegen.

Im nächsten Schritt stellt Microsoft den eigenen SMS- und Sprachdienst für die Mehrfaktor-Authentifizierung ein. Ab dem 1. Februar 2027 werden diese Verfahren in Entra ID nicht mehr nativ angeboten. Unternehmen, die sie weiterhin benötigen, müssen dafür auf eigene Kosten einen Drittanbieter über den Microsoft Security Store einbinden.


(fo)



Source link

Weiterlesen

Künstliche Intelligenz

Video: Warum ihr bei Mini-PCs aus China vorsichtig sein solltet


Mini-PCs chinesischer Hersteller und Händler sind auf den großen Online-Marktplätzen längst allgegenwärtig. Etliche Portale preisen einzelne Modelle als günstige Alternative zu Geräten etablierter Marken an – und nehmen es mit der Prüfung offenbar nicht immer so genau. Wir haben den Bmax B6 Plus nach einem Leserhinweis bei Amazon gekauft und tiefer nachgeforscht.

Weiterlesen nach der Anzeige

Für rund 220 Euro wirkt der kleine Rechner zunächst wie ein echtes Schnäppchen. An Bord sind ein Core-i3-Prozessor, 12 GByte Arbeitsspeicher und eine 512 GByte große NVMe-SSD, dazu WLAN, Gigabit-Ethernet sowie drei Display-Anschlüsse. Obendrein liegt dem Kampfpreis Windows 11 Pro bei, für das im Handel sonst rund 150 Euro fällig werden. Doch der günstige Eindruck täuscht: Im Test stießen wir auf gleich mehrere Fallstricke – von Sicherheitslücken über eine ungültige Windows-Lizenz bis hin zu Schadsoftware, die direkt vom Hersteller stammt. Die gute Nachricht: Es gibt eine deutlich sinnvollere Alternative, die wir ebenfalls unter die Lupe genommen haben. Worin die Schwächen des Bmax B6 Plus genau liegen und welche Option wir stattdessen raten, seht ihr im Video:

Empfohlener redaktioneller Inhalt

Mit Ihrer Zustimmung wird hier ein externes YouTube-Video (Google Ireland Limited) geladen.


(gho)



Source link

Weiterlesen

Beliebt