Geht es nach Teslas Werbedarstellung, ist das überwachte teilautonome Fahren (FSD Supervised) etwa zehnmal sicherer als das Fahren ohne FSD. Ein Bericht der Nachrichtenagentur Reuters, die sich auf verschiedene namentlich nicht genannte Tesla-Mitarbeiter beruft, zeichnet ein anderes Bild: Der Autohersteller von Elon Musk vergleiche Äpfel mit Birnen, sagen sie. Unterdessen wurde FSD Supervised nach den Niederlanden und Litauen jetzt mit Estland in einem weiteren EU-Land zugelassen.

Laut dem Reuters-Bericht vergleiche Tesla FSD-Unfälle mit Airbag-Auslösung mit Unfalldaten der US-Bundesbehörden, die weit weniger schwere Unfälle ohne Auslösung der Airbags beinhalten. Würde die Airbag-Auslösung als Maßstab herangezogen werden, verringere sich die zusätzliche Sicherheit von FSD bereits von 10 zu 1 auf 3 zu 1.

Mitarbeiter berichten von Schwächen

Hinzu kommt laut dem Bericht, dass Tesla bei den Vergleichen das Fahrzeugalter ignoriert. Die eigene Flotte habe mit einem Durchschnittsalter von 4,1 Jahren alleine schon wegen der moderneren Sicherheitssysteme die Nase vorn – dies sei nicht ausschließlich FSD zuzuschreiben und verzerre damit die Statistik zugunsten von Tesla. Im US-Bundesschnitt sind Autos 12,8 Jahre alt. Weitere Kritik betrifft die Zählweise: Tesla werte nur Unfälle innerhalb von fünf Sekunden nach FSD-Abschaltung aus. Die US-Verkehrsbehörde NHTSA (National Highway Traffic Safety Administration) schreibe aber 30 Sekunden vor.

Neben den statistischen Verzerrungen will Reuters aber auch von Unzulänglichkeiten der FSD-Software erfahren haben. Die befragten Mitarbeiter arbeiten in der Auswertung von Videoaufnahmen und Datenaufzeichnungen der Fahrzeuge. Ihre Arbeit soll die eingesetzte KI der Fahrzeuge verbessern. So erkenne das System zum Beispiel Schulbusse nicht zuverlässig, die mit ausfahrbaren Stopp-Schildern und Warnlichtern das Überholen an Haltestellen unterbinden. Diese Hinweise würden ignoriert. Auch komme es vermehrt zu Problemen mit Einsatzfahrzeugen, Baustellen, die das Auto nicht richtig erkenne, und Fußgängern, die Zebrastreifen passieren.

Ständiges Streitthema im Netz

Über die Zuverlässigkeit von FSD findet in sozialen Netzwerken ein reger Austausch statt. Kritiker zeigen immer wieder Videos von Fahrzeugen, die Situationen nicht richtig erkennen und sich falsch verhalten. FSD-Befürworter kontern mit Aufnahmen, die zeigen, wie Verkehrsunfälle vermieden wurden und sich die Fahrzeuge geschmeidig in den Straßenverkehr einfügen. Tesla flankierte dies jeweils mit seiner Sicherheitsstatistik.

Die Rohdaten legt das US-Unternehmen laut Reuters jedoch nicht offen. Auch mache es intern bestimmte Aufnahmen zur Geheimsache. Beinahe-Kollisionen mit Fußgängern würden etwa von ausgewählten Mitarbeitern ausgewertet, die sich „Trauma Team“ nennen.

Erheblicher Vorbereitungsaufwand für Robotaxi

Die mutmaßlichen Unzulänglichkeiten beträfen auch Teslas Robotaxi-Dienst im texanischen Austin. Dem Start seien nächtliche Streckenaufzeichnungen und hunderte Stunden Daten-Labeling vorausgegangen, während Musk behauptete, FSD funktioniere überall ohne Kartierung. Aktuell sollen außerdem nur 50 statt der avisierten 500 Fahrzeuge im Einsatz sein, teilweise immer noch begleitet von Sicherheitsfahrern.

In den USA laufen laut Reuters vier Untersuchungen der Verkehrsbehörden, in denen es um FSD oder die Autopilot-Funktion Teslas geht.

FSD Supervised jetzt auch in Estland

In Europa wurde FSD Supervised derweil nach den Niederlanden und Litauen in einem weiteren Land zur Benutzung freigegeben: Die Verkehrsbehörde in Estland teilte am Freitag mit, dass es die Typgenehmigung der niederländischen Straßenverkehrsbehörde RDW erkenne. In den Niederlanden hatte es vor der Zulassung umfangreiche Testreihen gegeben, in denen FSD Supervised seine Verlässlichkeit unter Beweis stellen musste. Für Deutschland gibt es aktuell noch keine Aussage dazu, ob FSD Supervised hier auch zugelassen wird.

(mki)

Das Joint Venture BMW Brilliance Automotive (BBA) hat an seinem Produktionsstandort im chinesischen Shenyang das siebenmillionste Fahrzeug gefertigt. Bei dem Jubiläumsfahrzeug handelt es sich um einen BMW 3er „Horse Edition“, wie die BMW-Group mitteilt. Seit dem Start der lokalen Produktion im Jahr 2003 hat BMW den Standort in der Provinz Liaoning zu einem der wichtigsten Produktions- und Innovationszentren des Konzerns weltweit ausgebaut.

Der Konzern sieht den Meilenstein als Beleg für die Leistungsfähigkeit der lokalen Fertigung. „Seit über 30 Jahren sind wir tief in China verwurzelt. Der siebenmillionste BMW aus unserem Produktionsstandort in Shenyang ist ein bedeutender Meilenstein dieser Erfolgsgeschichte“ sagte Raymond Wittmann, Mitglied des Vorstands der BMW AG für Produktion. Er kündigte zudem an, dass mit dem Beginn der lokalen Produktion von Modellen der Neuen Klasse Ende des Jahres „eine neue Ära für BMW in China“ starte.

Der Standort Shenyang, der mehrere Werke umfasst, wird derzeit für die Serienproduktion der batterieelektrischen Neue-Klasse-Modelle umgerüstet. Rund 20 Milliarden Yuan, etwa 2,53 Milliarden Euro, fließen laut Berichten in die Modernisierung. Auch die Hochvoltbatterien für die neuen E-Modelle sollen lokal gefertigt werden, was BMW eine engere Kontrolle über Lieferketten und Kosten in seinem wichtigsten und dem weltweit größten E-Auto-Markt verschafft. Die Serienproduktion ist für 2026 vorgesehen.

KI und Digitalisierung in der Fertigung

BMW bezeichnet den Standort als globalen Kompetenzhub für intelligente Fertigung. Digitalisierungs- und KI-Technologien seien „umfassend in alle Produktionsprozesse“ integriert. Das umfasst laut dem Unternehmen unter anderem virtuelle Produktionsplanung, Echtzeit-Datenanalyse und KI-gestützte Qualitätskontrolle, etwa bei der Erkennung von Lack- oder Montagefehlern. Das Konzept dieses flexiblen, hochvernetzten Produktionssystems bezeichnet BMW als „BMW iFACTORY“.

BMW hält seit Februar 2022 eine Mehrheitsbeteiligung von 75 Prozent an BBA, zuvor lag das Verhältnis bei 50:50. Der Joint-Venture-Vertrag wurde bis 2040 verlängert. Seit 2010 hat BBA rund 105 Milliarden Yuan, etwa 13,31 Milliarden Euro, in den Standort investiert. China fungiert damit nicht nur als größter Einzelmarkt, sondern auch als Drehscheibe für Produktions- und Entwicklungskompetenzen, die sich auf andere asiatische Märkte übertragen lassen, von Batterietechnologie über softwarebasierte Fahrzeugarchitekturen bis zu schnelleren Modellzyklen für die Region.

(fpi)

Ein Wettlauf gegen die Zeit

Die Bedrohungslage in der IT-Sicherheit verändert sich durch Künstliche Intelligenz grundlegend. „Manches verändert sie eher evolutionär, manches schon sehr nah an revolutionär“, sagt Dr. Christopher Kunz von heise security im Podcast. Während Angriffe wie Phishing-Mails durch KI raffinierter werden, liegt die größere Veränderung in der Geschwindigkeit, mit der Software-Schwachstellen ausgenutzt werden.

Ein Beispiel dafür ist das KI-Modell Mythos von Anthropic, das nicht nur Sicherheitslücken finden, sondern auch aktiv ausnutzen kann. Mozilla konnte damit nach eigenen Angaben 271 Lücken im Browser Firefox aufspüren. Kunz, der mit dem Mozilla-Security-Team sprach, ordnet dies ein: Firefox sei mit 20 Millionen Zeilen Code eine riesige Software, in der eine KI viele schlummernde Fehler finden kann. Dass Mythos kein Allheilmittel ist, zeigt die Prüfung der weit verbreiteten Bibliothek Curl, in der das Modell nur eine einzige Lücke fand. Laut Kunz können KI-Modelle wie Mythos keine wirklich neuen Arten von Sicherheitslücken erfinden, sondern variieren nur bekannte Muster. „LLMs bilden im Wesentlichen Durchschnitte und können keine Innovation in dem Sinne erzeugen, als dass sie sich komplett neue Arten von Sicherheitslücken ausdenken“, so der Experte.

Wie intelligent ist Künstliche Intelligenz eigentlich? Welche Folgen hat generative KI für unsere Arbeit, unsere Freizeit und die Gesellschaft? Im „KI-Update“ von Heise bringen wir Euch gemeinsam mit The Decoder werktäglich Updates zu den wichtigsten KI-Entwicklungen. Freitags beleuchten wir mit Experten die unterschiedlichen Aspekte der KI-Revolution.

Von 30 Tagen auf zwei Stunden

Das eigentliche Problem ist die massive Verkürzung der Zeit zwischen der Behebung einer Lücke und deren Ausnutzung durch Angreifer. Kunz schildert den Fall einer Schwachstelle im Linux-Kernel von Mitte Mai. Nachdem die Fehlerbehebung veröffentlicht wurde, dauerte es nur wenige Stunden, bis Angreifer funktionierende Angriffsprogramme, sogenannte Exploits, entwickelt hatten. „Ein beliebiger Nutzer konnte damit Daten lesen, auf die er keinen Zugriff hätte haben dürfen“, berichtet Kunz.

Für Unternehmen bedeutet dies eine drastische Kehrtwende. Der monatliche Patch-Day, an dem gesammelt Updates eingespielt werden, ist überholt. „Wenn Softwarehersteller einmal im Monat einen Patch-Day ausrufen, dann bedeutet das, dass möglicherweise schwere Sicherheitslücken 29 oder 30 Tage […] bekannt waren und nicht behoben wurden“, erklärt Kunz. Diese Zeit könne man sich nicht mehr leisten. Unternehmen müssten ihre Systeme nahezu in Echtzeit aktualisieren können. Das erfordere ein hohes Maß an Automatisierung und eine genaue Dokumentation der gesamten IT-Landschaft, da manuelle Prozesse zu langsam seien.

Die Verteidiger am Limit

Dass Anthropic den Zugang zu Mythos beschränkt, hält Kunz für sinnvoll. Nicht, weil das Modell zu gefährlich sei, sondern um die IT-Sicherheitsteams, die die Lücken beheben müssen, vor einer Überlastung zu schützen. Viele, gerade im Open-Source-Bereich, seien bereits an ihrer Belastungsgrenze. Würden weltweit zehntausende Menschen mit Mythos parallel dieselben Lücken melden, drohe ein „massiver Burnout“ der Verteidiger.

Gerade darum müssen Unternehmen und Privatpersonen klare Konsequenzen ziehen: „Die Zeit, in der man einmal im Monat den PC anschaltet, um Updates runterzuladen, die neigt sich rapide dem Ende zu und darauf müssen wir alle vorbereitet sein“, so Kunz. Der Wettlauf zwischen Angreifern und Verteidigern wird durch KI weiter beschleunigt – und erfordert von allen Beteiligten ein neues, höheres Tempo.

Mehr zu IT-Security-Themen hört Ihr jeden Mittwoch im Podcast Passwort von heise security mit Christopher Kunz und Sylvester Tremmel.

(igr)