In Werbevideos und auf Messen demonstrieren Roboter heute bereits beeindruckende Fähigkeiten – vom geschickten Haushaltshelfer bis zum feinfühligen Industrieroboter. Doch bis Maschinen ihre Umgebung tatsächlich verstehen und sich sicher in realen Alltagssituationen bewegen können, ist es noch ein weiter Weg. Diesen sollen neue Software- und Infrastrukturansätze ebnen, die große Mengen dezentral gesammelter Daten zusammenführen, um sogenannte Vision-Language-Action-Modelle (VLA) zu trainieren.

Wir haben mit dem Robotikforscher Wolfram Burgard von der Technischen Universität Nürnberg darüber gesprochen, was heutige Systeme bereits leisten, wie VLA-Modelle funktionieren, warum insbesondere das maschinelle Greifen eine enorme Herausforderung bleibt – und weshalb internationale Zusammenarbeit entscheidend für den Fortschritt der Robotik ist.

c’t: Professor Burgard, Vision-Language-Action-Modelle sollen Roboter intelligent machen. Wie muss man sich das etwa im Vergleich mit Sprachmodellen wie denen hinter ChatGPT vorstellen?

Das war die Leseprobe unseres heise-Plus-Artikels „Robotikforscher Burgard: Warum humanoide Roboter noch am Anfang stehen“.
Mit einem heise-Plus-Abo können Sie den ganzen Artikel lesen.

Die Deutsche Bahn scheint insbesondere Linux-Rechner von der Verbindungssuche auf der bahn.de-Webseite auszuschließen. Spätestens nach einigen Klicks für weitere Reisezeiträume erscheint eine Fehlerseite mit dem Fehlercode 751 und der Beschreibung „das Verhalten Ihres Browsers ähnelt dem eines Bots“ – auch am Donnerstag dieser Woche noch. Die Bahn hat nun eine Erklärung dazu geliefert.

Auf Anfrage von heise online sagte eine Sprecherin der Deutschen Bahn, dass es keine generelle Sperre einzelner Betriebssysteme gebe: „Grundsätzlich können sowohl die Website bahn.de als auch der DB Navigator mit Linux-Betriebssystemen und weniger verbreiteten Browser-/Betriebssystemkombinationen genutzt werden.“ Im Gegenteil: Die Bahn unterstütze eine Vielzahl von Systemen.

Allerdings setze das Unternehmen zur Gewährleistung der Sicherheit von Kundinnen und Kunden und zur Abwehr automatisierter Angriffe auf „zeitgemäße Schutzmechanismen“, die „Zugriffsverhalten, Netzwerk- bzw. IP-Adressbereiche sowie technische Besonderheiten des Browsers bewerten“. Es handele sich um heuristisch arbeitende Systeme, die sich an Hinweisen und Mustern orientieren, um mögliche Risiken zu erkennen.

Deutsche Bahn: Fehlalarme möglich

Fehlalarme („False Positives“) könnten in seltenen Fällen bei den eingesetzten Erkennungsmechanismen nicht ausgeschlossen werden, führte die Sprecherin weiter aus. Reguläre Zugriffe könnten dadurch „vorübergehend fälschlicherweise als verdächtig eingestuft und eingeschränkt werden“. Die Bahn arbeite daran, die Erkennungsmechanismen zu verbessern und Fehlalarme zu reduzieren. Alle der Bahn bekannten Fälle seien ausgewertet worden. Die Erkenntnisse sollen fortlaufend zur Verbesserung der Systeme und deren Anpassung an „reale Nutzungsszenarien“ genutzt werden.

Ein Auslöser zum Einsatz solcher Schutzmechanismen können Bots sein, die systematisch Daten zu Verbindungen und vor allem Verspätungen abrufen. Solches Scraping gibt es schon länger. Die große Verbreitung von KI-Coding-Werkzeugen, mit denen auch private Bastler mit wenig oder gar keiner Programmiererfahrung Software bauen können, die Daten bei der Bahn abruft, dürfte viele Bot-Aufrufe zur Folge haben. Wenn Laien der KI keine Vorgaben machen, beschafft sie sich oftmals die Daten ressourcenintensiv über Scraping der Website.

Dabei gibt es eine Alternative: Die Bahn stellt viele Daten über eine offene API zur Verfügung. Damit lassen sich mittlerweile auch wieder Soll- und Ist-Daten zu Verbindungen abfragen.

Ein rascher Test unter Windows mit auf Linux geänderten User-Agent im Webbrowser liefert aber noch immer das Verhalten, dass die Suche nach einer Verbindung sofort eine Bot-Warnung auswirft. Mit Windows-User-Agent kommen hingegen die erwarteten Verbindungsdaten. Das Problem ist daher weiterhin ungelöst.

(dmk)

Nach der Bekanntgabe der regionalen Sieger des Commonwealth-Kurzgeschichtenpreises äußern Leser den Verdacht, dass eine der Geschichten zumindest in Teilen von einer Künstlichen Intelligenz (KI) generiert wurde. Der britische Literaturverlag Granta veröffentlichte den Text „The Serpent in the Grove“ des trinidadischen Autors Jamir Nazir online, woraufhin in sozialen Medien Diskussionen über typische KI-Formulierungen entstanden. Der Vorfall konfrontiert die Jury und die Verleger nun mit der Frage, wie sie mit möglichen KI-Texten umgehen.

Den Literaturpreis vergibt die Commonwealth Foundation jährlich, um weltweit unbekannte Autoren zu fördern. Die Literaturzeitschrift Granta, die traditionell Werke renommierter Schriftsteller publiziert, stellt die Gewinnertexte auf ihrer Website vor. In einer Stellungnahme stellte der Verlag jedoch klar, dass die eigenen Redakteure weder an der Auswahl der Jury noch an der Bestimmung der Siegergeschichten mitwirken.

Leser erkannten in der Geschichte verschiedene Textstrukturen, die häufig bei maschinellen Sprachmodellen auftreten. So fielen Nutzern in sozialen Netzwerken eine übermäßige Verwendung von Vergleichen sowie ungewöhnliche Redewendungen auf. Zudem enthielt der Text sogenannte negative Parallelismen nach dem Muster „nicht X, sondern Y“, die als typische stilistische Merkmale KI-generierter Texte gelten.

Verlag befragt KI-Modell

Sigrid Rausing, Herausgeberin von Granta, konfrontierte nach den bekannt gewordenen Vorwürfen das Sprachmodell Claude des Tech-Unternehmens Anthropic mit der fraglichen Kurzgeschichte. Das Modell folgerte, dass der Text „fast sicher nicht von einem Menschen ohne Unterstützung erstellt“ wurde, identifizierte aber mutmaßlich von Menschen verfasste Kernpassagen. Rausing wies in diesem Zusammenhang auf die Ironie hin, dass ausgerechnet eine Künstliche Intelligenz selbst das effizienteste Werkzeug sei, um maschinell generierte Texte aufzudecken.

Die Direktorin der Commonwealth Foundation, Razmi Farook, verteidigte den Auswahlprozess der Stiftung gegenüber der New York Times (NYT). Sie warnte Organisationen davor, mit einer „Kurzschlussreaktion auf die allgemeine Hysterie rund um diese Themen“ zu antworten. Die Stiftung müsse auch ihre Fürsorgepflicht gegenüber dem bisher kaum publizierten Autor wahrnehmen, für den unbegründete Anschuldigungen schwerwiegende persönliche Folgen haben könnten.

Grenzen der Erkennungssoftware

Einige Leser versuchten ihren Verdacht mit Erkennungssoftware wie Pangram zu untermauern, die den Text als vollständig maschinell generiert eingestuft haben soll. „KI-Textdetektoren machen viele Fehler, insbesondere bei kreativem Schreiben, das ungewöhnliche Konstruktionen verwendet“, zitiert die New York Times jedoch Nicholas Andrews, Informatiker an der Johns Hopkins University. Diese literarischen Eigenheiten seien oft nicht in den Trainingsdaten der Erkennungssysteme enthalten, sagt er.

Auch Jack Grieve, Linguistikprofessor an der University of Birmingham, betonte die Risiken solcher Programme gegenüber NYT. Ohne die Berücksichtigung von Variationen in Dialekt, Thema oder Genre seien die Analyseergebnisse unzuverlässig. Für ihn sei die Kurzgeschichte nach eigener Lektüre weder offensichtlich von einer KI generiert noch offensichtlich von einem Menschen verfasst worden.

Das Problem der maschinellen Texterkennung beschäftigt die KI-Branche bereits länger und geht über diesen Einzelfall hinaus. Große Anbieter wie OpenAI mussten in der Vergangenheit ihre eigenen KI-Detektoren wegen zu ungenauer Ergebnisse wieder einstellen. Bis die Commonwealth Foundation eine offizielle Entscheidung trifft, belässt Granta die Kurzgeschichte mit einem entsprechenden redaktionellen Hinweis online.

(egia)