Connect with us

Künstliche Intelligenz

KI-Update kompakt: Grok, Baustellenunfälle, Bias, vergiftete KI


Elon Musks KI-Dienst Grok wurde nach einer „Verbesserung“ wegen antisemitischer Äußerungen abgeschaltet. Der X-Chef hatte zuvor kritisiert, dass die KI „zu links“ sei und eine Überarbeitung angekündigt. Nach der Anpassung begann das System jedoch, antisemitische Verschwörungsmythen zu verbreiten, Hitler zu loben und sich selbst als „mechanisierten Hitler“ zu bezeichnen. Nutzer hatten gezielt kontroverse Antworten provoziert, die das System bereitwillig lieferte.


Eigenwerbung Fachdienst heise KI PRO

Eigenwerbung Fachdienst heise KI PRO

X hat den Dienst inzwischen deaktiviert und eine erneute Überarbeitung angekündigt.

Der KI-Anbieter Perplexity hat mit Perplexity Max ein Premium-Angebot gestartet. Für monatlich 200 US-Dollar erhalten Nutzer unbegrenzten Zugang zu allen Diensten sowie künftigen Angeboten. Der Preissprung folgt einem Branchentrend: Auch OpenAI, Anthropic und Google haben ähnlich teure Abonnements eingeführt. Die hohen Kosten spiegeln die wirtschaftliche Realität wider – Entwicklung und Betrieb von KI-Systemen verschlingen enorme Summen, die sich durch günstigere Abos nicht decken lassen. Perplexity Max richtet sich mit Features wie dem Orchestrierungstool Labs und Zugang zu Drittanbieter-Modellen wie OpenAIs o3-pro klar an professionelle Nutzer.

Eine KI-Software namens Safety AI des US-Unternehmens DroneDeploy erkennt mit 95-prozentiger Genauigkeit Sicherheitsverstöße auf Baustellen. Das System analysiert Foto- und Videomaterial vom Baufortschritt und identifiziert Verstöße gegen US-Sicherheitsstandards. Die Technologie nutzt ein visuelles Sprachmodell (VLM), das Objekte wie Leitern oder Schutzhelme erkennt und daraus Schlüsse über mögliche Gefahrensituationen zieht.

Das System wurde mit zehntausenden Bildern von Sicherheitsverstößen trainiert und wird seit Oktober 2023 auf hunderten US-Baustellen eingesetzt. Inzwischen gibt es auch länderspezifische Versionen für Kanada, Großbritannien, Südkorea und Australien. Besonders für überlastete Sicherheitsmanager, die oft für bis zu 15 Baustellen gleichzeitig verantwortlich sind, könnte die Technologie eine wertvolle Unterstützung darstellen.

Mark Zuckerberg verstärkt seine KI-Ambitionen durch die Abwerbung führender Experten von Konkurrenten wie OpenAI, Anthropic, GitHub, Apple und Safe Superintelligence. Die Fachleute sollen das neu gegründete „Meta Superintelligence Labs“ aufbauen. Während die genauen finanziellen Anreize nicht bekannt sind, dürften die Vergütungen in Millionenhöhe liegen.

Meta profitiert dabei von einem entscheidenden Wettbewerbsvorteil: Das Unternehmen kann seine KI-Investitionen durch profitable Geschäftsbereiche, insbesondere Werbung in sozialen Netzwerken, quersubventionieren. Im Gegensatz dazu stehen Start-ups wie OpenAI und Anthropic unter erheblichem Druck, die externe Finanzierung zu sichern, was ihre langfristigen Perspektiven unsicherer macht.

Die meisten deutschen Arbeitnehmer bleiben bei KI-Weiterbildungen außen vor. Einer repräsentativen Bitkom-Umfrage zufolge erhielten nur 20 Prozent der Beschäftigten eine KI-Schulung durch ihren Arbeitgeber. Weitere 6 Prozent haben entsprechende Angebote bisher nicht genutzt, während 70 Prozent keinerlei Fortbildungsmöglichkeiten in diesem Bereich haben.

Jeder siebte Befragte hält es für möglich, beruflich vollständig durch KI ersetzt zu werden. Trotz dieser Sorgen sehen viele in der Technologie ein Mittel gegen den Fachkräftemangel. Bemerkenswert: Ein Drittel der Teilnehmer ist überzeugt, dass KI den eigenen Vorgesetzten ersetzen könnte.


KI-Update

KI-Update

Wie intelligent ist Künstliche Intelligenz eigentlich? Welche Folgen hat generative KI für unsere Arbeit, unsere Freizeit und die Gesellschaft? Im „KI-Update“ von Heise bringen wir Euch gemeinsam mit The Decoder werktäglich Updates zu den wichtigsten KI-Entwicklungen. Freitags beleuchten wir mit Experten die unterschiedlichen Aspekte der KI-Revolution.

Spanische Forscher bestätigen zentrale Beobachtungen aus Apples umstrittener Studie „The Illusion of Thinking“, ziehen jedoch andere Schlüsse. Die Untersuchung des Forschungszentrums für Automatisierung und Robotik bestätigt, dass KI-Modelle wie Gemini 2.5 Pro bei komplexeren Reasoning-Aufgaben tatsächlich scheitern. Doch wo Apple darin einen grundsätzlichen Mangel an Denkfähigkeit sieht, erkennen die spanischen Wissenschaftler ein differenzierteres Bild.

Besonders aufschlussreich: Der Tokenverbrauch der Modelle steigt, solange sie eine Lösung für möglich halten, und sinkt drastisch, wenn sie eine Aufgabe als unlösbar einstufen – ein Hinweis auf implizites Unsicherheitsmanagement. Die Forscher kritisieren zudem, dass viele der von Apple getesteten Flussüberquerungsrätsel mathematisch unlösbar waren. Bei gültigen Konfigurationen löste das Modell selbst großskalige Instanzen zuverlässig.

OpenAI hat seine Sicherheitsmaßnahmen drastisch verschärft, um seine wertvollen KI-Modelle vor Konkurrenten zu schützen. Die Financial Times berichtet, dass Systeme grundsätzlich keinen Internetzugang mehr erhalten, sofern nicht ausdrücklich genehmigt. Zudem gilt ein strenges Zugriffskonzept namens „Information Tenting“: Mitarbeiter dürfen nur auf explizit freigegebene Projekte zugreifen.

Die physische Sicherheit wurde ebenfalls verstärkt, mit strengeren Zutrittsregeln für Rechenzentren. OpenAI hat zudem Sicherheitsexperten mit militärischem Hintergrund rekrutiert, darunter den früheren US-General Paul Nakasone. Die Maßnahmen reagieren auf Warnungen der US-Behörden vor zunehmender Wirtschaftsspionage, besonders aus China, in einem Technologiebereich, der als kritisch für die nationale Sicherheit gilt.

Moderne KI-Systeme diskriminieren systematisch nach Geschlecht, wie eine Studie der Technischen Hochschule Würzburg-Schweinfurt zeigt. Bei identischen Ausgangsbedingungen empfehlen Sprachmodelle wie ChatGPT Frauen konsequent niedrigere Gehaltsvorstellungen als Männern. Die Forscher variierten in ihren Tests lediglich das Geschlecht der fiktiven Person, während Stelle, Branche und Stadt konstant blieben.

Ähnliche geschlechtsspezifische Verzerrungen zeigten sich auch bei der Karriereberatung und Verhaltensempfehlungen. Diese Bias bleiben bei klassischen Tests oft unentdeckt und manifestieren sich erst in realitätsnahen Anwendungen. Da viele Nutzer den vermeintlich objektiven KI-Empfehlungen vertrauen, könnten solche Verzerrungen bestehende gesellschaftliche Ungleichheiten verstärken. Die Studie ist Teil des EU-geförderten Projekts AIOLIA, das sich für faire und inklusive KI-Systeme einsetzt.

OpenAI stellt 10 Millionen Dollar bereit, um 400.000 US-Lehrkräfte im Umgang mit Künstlicher Intelligenz zu schulen. Das auf fünf Jahre angelegte Projekt „National Academy for AI Instruction“ entsteht in Kooperation mit der American Federation of Teachers. In New York City wird ein zentrales Ausbildungszentrum eingerichtet, weitere sollen bis 2030 folgen.

Die Behauptung, das Vergiften von KI-Trainingsdaten sei so wirkungslos wie „ins Meer zu pinkeln“, greift zu kurz. Xe Iaso, Gründerin des Datenschutz-Unternehmens Anubis, nutzt diesen Vergleich, um für ihre alternative Lösung zu werben: Browser-Bots werden durch kryptografische Aufgaben abgeschreckt, die Ressourcen verbrauchen.

Doch die Wirksamkeit von Datenvergiftung sollte nicht unterschätzt werden. Einzelne Manipulationen mögen wirkungslos bleiben, aber koordinierte Bemühungen – etwa Russlands gezielte Bereitstellung manipulierter Inhalte für KI-Training – können durchaus Einfluss nehmen. Studien zeigen zudem, dass selbst unzusammenhängende Zusatzinformationen Reasoning-Modelle erheblich stören können. Auch für Menschen unsichtbare, aber für KI-Systeme erkennbare Manipulationen auf Webseiten, können wirksam sein.

Ein Unbekannter hat offenbar mit KI-generiertem Material den US-Außenminister Marco Rubio imitiert und über den verschlüsselten Messenger Signal andere Außenminister und hochrangige US-Politiker kontaktiert. Die Washington Post berichtet unter Berufung auf interne Dokumente, dass US-Strafverfolgungsbehörden den Täter noch nicht identifizieren konnten.

Der Vorfall verdeutlicht die Sicherheitslücken bei der Nutzung kommerzieller Messenger-Dienste durch Regierungsvertreter. Für die Täuschung genügten die Handynummern der Zielpersonen sowie Trainingsmaterial für die KI-Imitation. Der falsche Rubio nutzte einen Signal-Account mit der nicht authentischen E-Mail-Adresse „Marco.Rubio@state.gov“ als angezeigten Namen.

Eine neue Karte namens „LooksMapping“ bewertet die durchschnittliche Attraktivität von Restaurantgästen in Manhattan. Programmierer Riley Walz analysierte dafür die Profilbilder von Google-Maps-Rezensenten mittels eines KI-Modells von OpenAI. Die Visualisierung zeigt „attraktive“ Bereiche in Rot und „weniger attraktive“ in Blau.

Die Ergebnisse offenbaren problematische Muster: Während das hippe East Village als attraktiv eingestuft wird, erscheint der vorwiegend von Schwarzen und Hispanics bewohnte Stadtteil Harlem tiefblau. Diese Bewertung deutet auf einen rassistischen Bias im KI-System hin – ein bekanntes Problem bei Algorithmen, die mit westlich geprägten Datensätzen trainiert wurden.


Eigenwerbung Fachdienst heise KI PRO

Eigenwerbung Fachdienst heise KI PRO


(igr)



Source link

Weiterlesen
Kommentar schreiben

Leave a Reply

Deine E-Mail-Adresse wird nicht veröffentlicht. Erforderliche Felder sind mit * markiert

Künstliche Intelligenz

Perplexitys eigener Browser „Comet“ mit integrierten KI-Agenten nun verfügbar


Perplexity hat mit Comet jetzt seinen eigenen KI-Browser vorgestellt. Dieser soll mehr als eine „agentische Suche“ ermöglichen, denn integrierte KI-Agenten sollen für den Nutzer sogar komplexe Aufgaben übernehmen können, etwa die Buchung eines Hotelzimmers. Die voreingestellte Suchmaschine ist natürlich Perplexity selbst und auch der eingebaute KI-Assistent basiert auf diesem Modell künstlicher Intelligenz (KI). Zunächst steht Comet nur zahlenden Abonnenten von Perplexity Max zur Verfügung, doch der Nutzerkreis soll künftig erweitert werden.

Ende Februar hatte Perplexity den eigenen Browser bereits angekündigt, aber einen Erscheinungstermin hatte die KI-Firma nicht genannt. Jetzt ist Comet zumindest für eine begrenzte Zahl von Anwendern verfügbar. Denn das gerade erst eingeführte Abonnement von Perplexity Max kostet 200 US-Dollar im Monat, sodass zumindest zu Beginn nicht von Millionen oder Hunderttausenden Comet-Nutzern auszugehen ist. Allerdings verspricht Perplexity-Chef Aravind Srinivas bei X (vormals Twitter), dass dies nur übergangsweise ist. Der Zugang wird demnach nicht auf Max-Abonnenten beschränkt bleiben. Es gibt eine Warteliste, und Comet-Nutzer können andere Anwender bereits dazu einladen. Bald sollen auch Pro-Abonnenten Zugang zu Comet bekommen, bevor dies für alle Interessenten geöffnet wird.

Der Browser nutzt die Chromium-Engine, sodass Comet laut Perplexity grundsätzlich bekannten Browsern wie Chrome oder Edge ähnelt, weitreichend kompatibel ist mit gängigen Webstandards und sich auch per Chrome-Extensionen erweitern lässt. Die Besonderheit ist der integrierte KI-Assistent, der Webseiten automatisch erkennt, diese auswerten oder zusammenfassen kann, aber auch für komplexe Aktionen genutzt werden kann, schreibt Perplexity. So soll Comet in der Lage sein, ein Treffen zu organisieren oder eine E-Mail auf Basis der geöffneten Webseite zu schreiben. Nutzer können Comet auch beauftragen, etwas zu kaufen oder die heutigen Aufgaben aufzulisten.

Für diese Aktionen benötigt Comet Zugriff auf persönliche Daten, etwa das komplette Google-Profil inklusive aller entsprechenden Berechtigungen, sollte der Nutzer Gmail oder den Google-Kalender verwenden. Laut Reuters sollen diese persönlichen Daten allerdings nur lokal gespeichert und nicht für das Training von KI-Modellen genutzt werden. Das gilt demnach auch für alle mit Comet ausgetauschten Daten.

Lesen Sie auch

In einem ersten Test von Comet gefiel TechCrunch die Bedienung des Browsers sowie der integrierte KI-Assistent direkt im selben Fenster. Denn das Kopieren von Inhalten aus Webseiten und Einfügen in eine andere KI-App wie ChatGPT entfällt im Comet. Auch konnte Comet problemlos den Kalender durchsuchen und auf anstehende Ereignisse aufmerksam machen, E-Mails zusammenfassen und auf vermeintlich wichtige Dinge im Posteingang hinweisen.

Allerdings hatte Comet Probleme bei komplexen Aufgaben. TechCrunch wollte den KI-Assistenten beauftragen, für eine anstehende Reise einen Parkplatz am Flughafen zu einem akzeptablen Preis zu finden. Der daraufhin gefundene Parkplatz genügte zwar den Anforderungen, aber die Buchung war für den falschen Zeitraum, denn laut Comet waren die Parkplätze zu den gewünschten Terminen bereits belegt. Obwohl der Nutzer die Termine unumstößlich bezeichnet hatte, bestand Comet auf das Abschließen der Buchung für den falschen Zeitraum. Die KI hat hier offenbar bei den Daten halluziniert.

Comet ist momentan für Windows und macOS erhältlich, aber auch andere KI-Firmen arbeiten an eigenen Browsern. Schon im November 2024 wurde berichtet, dass sich OpenAI in den Browser-Krieg begeben will. Dafür wurden einschlägige Mitarbeiter ins Boot geholt. Ende Mai dieses Jahres hat Opera mit Neon einen KI-Browser bereits auf den Markt gebracht. Dieser soll die Intentionen des Nutzers verstehen und Aufgaben anhand eines integrierten KI-Agenten übernehmen. Zudem ist jüngst mit Dia ein neuer KI-Browser der Arc-Macher in die Betaphase gegangen.


(fds)



Source link

Weiterlesen

Künstliche Intelligenz

BGH: Kündigungsbutton ist auch bei automatischem Vertragsende nötig


Seit Juli 2022 müssen Anbieter für dauerhafte Schuldverhältnisse einen Kündigungsbutton im Online-Bereich verfügbar machen. Doch es gibt immer wieder Streit über diese gesetzliche Pflicht. Der Bundesgerichtshof (BGH) hat in einem Punkt nun für mehr Klarheit gesorgt: Er entschied mit einem jetzt veröffentlichten Urteil vom 22. Mai (I ZR 161/24): Eine Kündigungsschaltfläche nach Paragraf 312k Bürgerliches Gesetzbuch (BGB) ist auch dann notwendig, wenn der Verbraucher nur ein einmaliges Entgelt zu entrichten hat und der Vertrag automatisch endet.

In dem Fall klagte der Bundesverband der Verbraucherzentralen (vzbv) gegen den Versandhändler Otto.de. Dieser bietet auf seiner Webseite das Vorteilsprogramm „Otto Up Plus“ gegen ein Jahresentgelt von 9,90 Euro an. Die Laufzeit dieses Pakets beträgt zwölf Monate und läuft dann automatisch aus. Der vzbv mahnte Otto.de zunächst ab, weil der Anbieter keinen Button für außerordentliche Kündigungen der Offerte bereitstellt. Das Oberlandesgericht (OLG) Hamburg hatte die Klage abgewiesen, da es der Ansicht war, dass es sich bei „Otto Up Plus“ nicht um ein Dauerschuldverhältnis im Sinne von Paragraf 312k BGB handele und somit keine Pflicht zum Bereitstellen einer Kündigungsschaltfläche bestehe.

Der BGH hob das Urteil der niederen Instanz auf und gab der Revision des Klägers statt. Der I. Zivilsenat verurteilte die Beklagte, keine kostenpflichtigen Vorteilsprogramme mehr anzubieten, ohne Verbrauchern eine außerordentliche Kündigung über einen entsprechenden Button zu ermöglichen. Otto.de muss zudem 260 Euro nebst Zinsen an die Verbraucherschützer zahlen.

Mit ihrer Entscheidung legten die Karlsruher Richter den zentralen Begriff des Dauerschuldverhältnisses weit aus. Die wesentliche Eigenschaft einer solchen geschäftlichen Beziehung ist demnach, dass der Unternehmer dauerhaft oder wiederkehrend Leistungen erbringt und deren Gesamtumfang von der Vertragsdauer abhängt. Im vorliegenden Fall erbringe die Beklagte fortwährend Punktegutschriften und einen kostenlosen Versand während der Laufzeit, was die vertragstypische Hauptleistung darstelle. Das Vorteilspaket falle daher unter die einschlägige Norm.

Die OLG-Argumentation, dass eine einmalige Zahlung des Verbrauchers eine „Kostenfalle“ ausschließe und daher keine Schutzbedürftigkeit vorliege, teilte der BGH nicht. Der Gesetzgeber habe hier nicht primär daran gedacht, dass Verbraucher den Umfang ihrer Zahlungspflicht nicht überblicken könnten. Vielmehr habe er sich daran gerieben, dass die Kündigung von auf einfache Weise geschlossenen Verträgen im elektronischen Geschäftsverkehr erschwert werde und sich deren Beendigung verzögere.

Auch bei einer Einmalzahlung zu Beginn des Vertrags kann der Kunde in eine „Kostenfalle“ geraten, meint der Senat. Die geschuldete Vergütung hänge nämlich oft von der Dauer der Vertragslaufzeit ab. Zudem erhöhe eine erschwerte Kündigung den Betrag, den der Verbraucher dem Unternehmer schuldet. Eine Ausnahme von Paragraf 312k BGB für Verträge mit Einmalzahlung würde dem Schutzzweck der Norm zuwiderlaufen. Die vom Gesetzgeber vorgenommene Beschränkung auf Dauerschuldverhältnisse berücksichtige, dass nur bei diesen die Rechtsfolgen einer Kündigung hinreichend absehbar seien.

Der IT-Rechtler Jens Ferner sieht in dem Urteil einen Weckruf für Anbieter digitaler Dienstmodelle oder Mitgliedschaften: „Wer dem Verbraucher einen bequemen Vertragsschluss bietet, muss auch eine gleichwertige Möglichkeit zur Vertragsbeendigung bereitstellen.“ Der Fokus des Verbraucherschutzes im digitalen Raum liege darauf, eine Kündigung strukturell zu erleichtern.

Künftig wird zusätzlich ein Widerrufsbutton Pflicht: Online geschlossene Verträge sollen ab Mitte 2026 darüber auch mit einem Klick widerrufen werden können. Das sieht ein Gesetzentwurf vor, den das Bundesministerium der Justiz und für Verbraucherschutz am Mittwoch publiziert hat. Das Ressort will damit geänderte EU-Vorgaben zu Verbraucher- und Versicherungsverträgen umsetzen. „So einfach wie das Bestellen im Internet geht – so einfach soll auch das Widerrufen sein“, betonte Justizministerin Stefanie Hubig (SPD). „Mit dem Widerrufsbutton stärken wir den Schutz vor Verträgen, die man eigentlich gar nicht will.“

Laut dem Referentenentwurf, der zunächst das Bundeskabinett passieren muss, soll die Pflicht für eine solche Online-Schaltfläche in Bezug auf Waren, Dienstleistungen und Finanzdienstleistungen gelten. Verträge über letztere werden sich dem Plan nach aber höchstens zwölf Monate und 14 Tage nach Vertragsschluss widerrufen lassen können. Voraussetzung: Der Verbraucher ist über das Widerrufsrecht belehrt worden. Bei Lebensversicherungen soll eine Ausschlussfrist von 24 Monaten und 30 Tagen gelten. Bislang ist es möglich, dass entsprechende Verträge – trotz erfolgter Belehrung – ohne Befristung widerrufen werden können. Unternehmer sollen ferner die Vertragsbedingungen künftig nicht mehr in Papierform übermitteln müssen.


(dahe)



Source link

Weiterlesen

Künstliche Intelligenz

c’t-WIMage: Sicherungskopien von Windows 10 und Windows 11 erzeugen


Wir haben unser Sicherungsskript c’t-WIMage komplett neu geschrieben. Es sind einige veraltete Funktionen rausgeflogen und neue sind hinzugekommen. Die augenfälligste Neuerung: eine grafische Bedienoberfläche. Mit der fühlt sich c’t-WIMage nun wie eine ganz normale Windows-Anwendung an, obwohl es unter der Haube immer noch ein Skript ist. Doch was ist c’t-WIMage eigentlich?

  • Unser Sicherungswerkzeug sichert all Ihre Windows-Installationen mitsamt aller Dokumente, Anwendungen und Einstellungen
  • Sie steuern das Skript dank grafischer Oberfläche vollständig per Maus.
  • Ein USB-Datenträger nimmt nicht nur Ihre Sicherungen auf, sondern dient auch als bootfähiges Wiederherstellungsmedium.

Es ist ein Skript, das ein Abbild Ihrer Windows-Partition erzeugt (üblicherweise Laufwerk C:), und zwar mitsamt all Ihrer Programme, Einstellungen und Daten sowie aller NTFS-Besonderheiten wie Zugriffsrechte, Hardlinks und so weiter. Das Abbild landet auf einem USB-Datenträger, der zugleich als bootfähiges Wiederherstellungsmedium dient. Damit können Sie Ihre Sicherung auf so ziemlich jedem Windows-tauglichen x86-PC mit ausreichend Plattenplatz restaurieren.

Dieser Artikel erklärt die Funktionsweise im Detail. Zudem lesen Sie hier, wie Sie mit wenigen Mausklicks den erwähnten USB-Datenträger einrichten. Der nachfolgende Beitrag beschreibt, wie Sie mit dem fertigen Datenträger Ihre Installationen sichern. Den Abschluss bildet eine Anleitung zur Wiederherstellung einer Sicherung.


Das war die Leseprobe unseres heise-Plus-Artikels „c’t-WIMage: Sicherungskopien von Windows 10 und Windows 11 erzeugen“.
Mit einem heise-Plus-Abo können Sie den ganzen Artikel lesen.



Source link

Weiterlesen

Beliebt