Seit Herbst 2024 kooperieren AMD und Intel in der x86 Ecosystem Advisory Group, auch um sich gegen Konkurrenten wie ARM und RISC-V zu stärken. Nun ist die gemeinsam erarbeitete Spezifikation für neue x86-Prozessorbefehle erschienen, die die Verarbeitung von KI-Algorithmen beschleunigen sollen: Die AI Compute Extensions, kurz „ACE“.

Bei ACE geht es vor allem um Matrix-Multiplikationen mit KI-Datenformaten für das Inferencing mit quantisierten Gewichten.

Konkurrent ARM hat bereits Scalable Matrix Extensions (SME2) spezifiziert, die auf die Scalable Vector Extensions (SVE2) aufbauen. SME-Rechenwerke lassen sich auf unterschiedliche Art in ARM-SoCs integieren. Apple baut SME2 seit dem M4 ein, Qualcomm ab dem Snapdragon X2.

Eng mit AVX verknüpft

Die AI Compute Extensions (ACE) Specification steht in Version 1.15 auf der Website der x86 Ecosystem Advisory Group zum Download bereit. Die Spezifikation beschreibt nur die Befehle, nicht die konkrete Implementierung.

Kommende ACE-Rechenwerke sind eng mit den Advanced Vector Extensions (AVX) gekoppelt und nutzen beispielsweise dieselben Register. Konkret nennt die Spezifikation AVX10. Sie erwähnt zudem die bisher nur von Intel in aktuellen Xeon-Serverprozessoren eingebauten Advanced Matrix Extensions (AMX).

Prozessoren mit ACE-v1-Rechenwerken müssen auch einen bestimmten Teil des Befehlsumfangs von AVX10.2 beherrschen.

Viele KI-Datenformate

ACE v1 beschreibt 11 Datenformate, einige in unterschiedlichen Darstellungen. Mit Daten in diesen Formaten müssen ACE-Rechenwerke nicht nur rechnen können, sondern die Spezifikation legt auch eine Fülle von Formatumwandlungen fest.

NPU-Konkurrenz

Seit 2023 sind x86-Prozessoren mit zusätzlich eingebauter Neural Processing Unit (NPU) im Handel. Die verarbeiten bestimmte Datenformate besonders schnell und effizient, sind aber wenig flexibel und belegen relativ viel Chip-Fläche.

Microsoft macht seit 2024 eine NPU mit einer Leistung von mindestens 40 Billionen INT8-Operationen pro Sekunde (40 Tops) zur Voraussetzung für das Marketing-Label Copilot+. Mittlerweile weicht Microsoft diese Vorgabe auf und ermöglicht auch GPUs. Mit kommenden ACE-tauglichen Prozessoren dürften weitere Änderungen nötig werden.

Nach bisherigen Informationen dürften ACE-v1-kompatible x86-Prozessoren frühestens 2028 erscheinen. Denn bisher haben weder AMD für Zen 6 noch Intel für Nova Lake ACE erwähnt. AMD nennt erst für Zen 7 eine neue „Matrix Engine“, vermutlich ACE-kompatibel.

Hören Sie dazu auch:

(ciw)

Die ZIP-Komprimierung gibt es in der .NET-Basisklassenbibliothek seit dem klassischen .NET Framework 4.5 und im modernen .NET seit Version .NET Core 1.0.

Seit .NET 10.0 Preview 4 gibt es nun in den Klassen System.IO.Compression.ZipFile, System.IO.Compression.ZipArchive und System.IO.Compression.ZipEntry asynchrone Pendants zu bestehenden synchronen Methoden. Zu den neuen Funktionen gehören unter anderem ExtractToDirectoryAsync(), ExtractToFileAsync(), CreateFromDirectoryAsync(), OpenAsync(), OpenReadAsync(), CreateAsync() und CreateEntryFromFileAsync().

Folgender Code zeigt mehrere Beispiele für asynchrone ZIP-Operationen:

class FCL10_Zip
{
 private const string ArchiveFileName = @"t:\CTempArchive.zip";
 private const string SourceDirectoryName = @"c:\temp";
 private const string DestinationDirectoryName = @"t:\CTempArchiveExtract";
 private const string TempFileName = @"t:\tempfile.pdf";
 
 public async Task Run()
 {
  CUI.Demo(nameof(FCL10_Zip));
 
  // Prüfe, ob die Datei existiert
  if (File.Exists(ArchiveFileName)) File.Delete(ArchiveFileName);
 
  #region ZIP-Dateien erstellen und extrahieren
  // ZIP erstellen
  await ZipFile.CreateFromDirectoryAsync(SourceDirectoryName, ArchiveFileName, CompressionLevel.SmallestSize, includeBaseDirectory: true, entryNameEncoding: Encoding.UTF8);
 
  // Prüfe, ob die Datei existiert
  if (File.Exists(ArchiveFileName)) CUI.Green("ZIP-Datei erstellt: " + ArchiveFileName);
  else CUI.Red("ZIP-Datei nicht erstellt: " + ArchiveFileName);
 
  // ZIP extrahieren
  await ZipFile.ExtractToDirectoryAsync(ArchiveFileName, DestinationDirectoryName, overwriteFiles: true);
 
  // Prüfe, ob das Verzeichnis existiert
  if (Directory.Exists(DestinationDirectoryName)) CUI.Green("Verzeichnis extrahiert: " + DestinationDirectoryName);
  else CUI.Red("Verzeichnis nicht extrahiert: " + DestinationDirectoryName);
  #endregion
 
  #region Lesen und Schreiben von Einträgen in eine ZIP-Datei
 
  using (var archiveStream = new FileStream(ArchiveFileName, FileMode.OpenOrCreate, FileAccess.ReadWrite))
  {
   await using (ZipArchive a = await ZipArchive.CreateAsync(archiveStream, ZipArchiveMode.Update, leaveOpen: false, entryNameEncoding: Encoding.UTF8))
   {
 
    // Suche die erste PDF-Datei in a.Entries
    var pdfFileEntry = a.Entries.Where(x => x.Name.EndsWith(".pdf")).FirstOrDefault();
    if (pdfFileEntry != null)
    {
     await pdfFileEntry.ExtractToFileAsync(destinationFileName: TempFileName, overwrite: true);
 
     await using Stream entryStream = await pdfFileEntry.OpenAsync();
 
     ZipArchiveEntry createdEntry = await a.CreateEntryFromFileAsync(sourceFileName: TempFileName, entryName: "Doppelt_" + pdfFileEntry.Name);
     CUI.Green("Erste PDF-Datei wurde verdoppelt: " + pdfFileEntry.Name);
    }
   }
  }
  #endregion
 }
}

(rme)

Das neue Release GitLab 19.1 stattet die Entwicklungsplattform mit zahlreichen neuen Features aus, darunter die Erkennung falsch positiver Secrets mithilfe von GitLab Duo Agent Platform. Den KI-Dienst GitLab Duo können Admins oder Besitzer von Top-Level-Gruppen darüber hinaus zentral für alle Projekte einschalten, sodass andere Personen ihn nicht deaktivieren können.

Secrets-Erkennung per KI

Die Secret False Positive Detection ist ein Feature der GitLab Duo Agent Platform, einer Orchestrierungsplattform für KI-Agenten. Die neue Funktion zur Secrets-Erkennung ist per Opt-in nun für GitLab-Ultimate-Kunden allgemein verfügbar. Wie das GitLab-Team ausführt, führt die Erkennung vermeintlicher Secrets nicht nur zu einem Zeitverlust, sondern kann auch „Alert-Müdigkeit“ und einen Vertrauensverlust in Scanergebnisse nach sich ziehen sowie von echten Sicherheitsrisiken ablenken. Dort setzt das neue Feature an: Bei einem Security-Scan analysiert es mithilfe von KI für jede Secret Detection Vulnerability, die als kritisch oder mit hohem Schweregrad erkannt wurde, die Wahrscheinlichkeit dafür, dass es sich um einen falsch positiven Fund handeln könnte. Das Ergebnis erscheint dann im Vulnerability-Bericht.

Wer die neue Analysefunktion nutzen möchte, soll laut GitLab zuerst einen Blick in die Datenrichtlinien seines Unternehmens werfen, denn die Informationen über die Vulnerabilität mitsamt deren Codekontext werden an Large Language Models gesendet.

Zentrale Kontrolle über GitLab Duo

Ein weiteres Update betrifft die allgemeine Verwendung von GitLab Duo. Der KI-Dienst lässt sich nun für alle Projekte in einer kompletten Instanz oder Top-Level-Gruppe auf „always on“ setzen. Dazu navigieren Admins einer Instanz (bei GitLab Self-Managed) oder Owner einer Top-Level-Gruppe (auf GitLab.com) zu den GitLab-Duo-Einstellungen und setzen GitLab Duo availability auf Always on. Dann lässt sich GitLab Duo in ersterem Fall durch Besitzer von Gruppen, Untergruppen oder Projekten nicht mehr deaktivieren; in zweiterem Fall betrifft das Besitzer von Untergruppen und Projekten. Ein „always off“-Modus war bisher bereits verfügbar.

Alle Neuerungen in GitLab 19.1, von denen sich auch einige weitere um künstliche Intelligenz drehen, sind den Release Notes zu entnehmen.

(mai)