Schweizer Sprachmodell Apertus: So sieht EU-konforme, transparente KI aus

David gegen Goliath, Gallier gegen Römer, Frodo gegen Mordors Mächte. Seit jeher faszinieren Erzählungen, wie die vermeintlich Schwächeren, Unterlegenen die Übermächtigen zu Fall bringen. Nun, in der modernen Fassung: das offene Schweizer Sprachmodell Apertus gegen ChatGPT, Gemini, Llama & Co. Das eine finanziert mit Schweizer Forschungsgeldern und Gesetzestreue by Design, trainiert auf einem mit Ökostrom betriebenen Supercomputer in den Alpen. Die anderen gebaut auf Investorenmilliarden und ohne Rücksicht auf Mensch und Umwelt.

Stolz präsentierten Schweizer Forscher der ETH Zürich, des EPFL aus Lausanne und des CSCS in Lugano Anfang September ihren Gegenentwurf zur künstlichen Intelligenz US-amerikanischen Zuschnitts: ein großes, multilinguales Sprachmodell mit 70 Milliarden Parametern, das die Urheberrechte respektiert sowie Offenheit und Transparenz zur Maxime erhoben hat. Obgleich für mittelgroße LLMs wie Apertus nicht die strengsten Anforderungen der europäischen KI-Verordnung gelten, haben sich die Wissenschaftler rund um Projektleiter Martin Jaggi diesen freiwillig unterworfen. Damit liefern sie den ersten Proof of Concept für ein DSGVO- und AI-Act-konformes Sprachmodell.

Es ist unter den großen Sprachmodellen eines der wenigen reinen Open-Source-Projekte (PDF), die alles Wesentliche komplett offenlegen: nicht nur die Trainingsgewichte wie Metas Llama (Open Weights) oder den Quellcode nebst Gewichten wie das chinesische Deepseek. Apertus dokumentiert auch die verwendeten Trainingsdaten, die Art, wie diese gefiltert wurden, die Checkpoints der Trainingsläufe, die Finetuning- und Alignment-Prozeduren und mehr. Kurzum, der aus dem Lateinischen stammende Name ist Programm und wer nachvollziehen möchte, wie das Sprachmodell funktioniert und warum es bestimmte Antworten gibt oder wirres Zeug erzählt, der kann alle möglichen und unmöglichen Ursachen bis hinab zu den Trainingsdaten untersuchen.

Das war die Leseprobe unseres heise-Plus-Artikels „Schweizer Sprachmodell Apertus: So sieht EU-konforme, transparente KI aus“.
Mit einem heise-Plus-Abo können Sie den ganzen Artikel lesen.