Künstliche Intelligenz
KI-Update kompakt: KI-Urheberrechtsstreit, Limitless, Deep-Research, Politik
KI-Urheberrechtsstreit eskaliert
Weiterlesen nach der Anzeige
Der Kampf um KI und Urheberrecht nimmt Fahrt auf. In den USA muss OpenAI 20 Millionen Chat-Protokolle herausgeben. Die New York Times will anhand dieser Protokolle prüfen, ob ChatGPT urheberrechtlich geschützte Artikel wortwörtlich wiedergegeben hat. Parallel dazu hat die Zeitung auch Klage gegen die KI-Suchmaschine Perplexity eingereicht. Bei Perplexity geht es um ein ähnliches Problem: Die KI-Suchmaschine nutzt komplette Nachrichtenartikel, um Nutzeranfragen zu beantworten.

Noch schlimmer: Perplexity halluziniert manchmal und die falschen Ergebnisse werden der Zeitung zugeschrieben. Den Medienhäusern geht es nicht darum, der KI komplett zu verbieten, ihre Inhalte zu nutzen. Sie wollen, dass KI-Firmen Lizenzabkommen abschließen und dafür bezahlen. Meta hat bereits etliche neue Verträge unterschrieben, unter anderem mit USA Today, CNN und Fox News.
Neues Berliner Polizeigesetz erweitert KI-Einsatz
Das Berliner Abgeordnetenhaus hat eine Novelle des Allgemeinen Sicherheits- und Ordnungsgesetzes beschlossen. Die Reform stattet die Polizei mit Befugnissen aus, die tief in die Grundrechte eingreifen. Der neue Paragraf 28a erlaubt der Polizei den biometrischen Abgleich von Gesichtern und Stimmen mit öffentlich zugänglichen Daten aus dem Internet.
Damit kann die Polizei etwa mit Material aus der Videoüberwachung automatisierte Suchen in sozialen Netzwerken durchführen. Außerdem ermöglicht der neue Paragraf 42d die Weiterverarbeitung von personenbezogenen Daten zum Training von KI-Systemen. Datenschützer kritisieren dies scharf, da KI-Modelle oft Rückschlüsse auf die Trainingsdaten zulassen.
Mit KI und Handyüberwachung gegen Anschläge
Weiterlesen nach der Anzeige
Der CDU-Landtagswahl-Spitzenkandidat Sven Schulze in Sachsen-Anhalt will künftig stärker auf KI setzen, um Anschläge besser zu verhindern. KI solle herausfinden, ob jemand einen Ort vorab ausspäht. Dabei greifen derartige Systeme auf die Bewegungsmuster der Besucher zurück. Alle Menschen werden gefilmt und ihr Verhalten wird bewertet. Experten und Datenschützer gehen davon aus, dass dabei die umstrittene Software des US-Unternehmens Palantir zum Einsatz kommen könnte. Sie wird bereits in Bayern, Hessen und Nordrhein-Westfalen eingesetzt.
Meta kauft KI-Gadget-Startup Limitless
Meta hat das Startup Limitless übernommen und nimmt dessen Produkte sofort vom Markt. Limitless, vormals bekannt als Rewind, entwickelte tragbare Anhänger, die den Alltag der Nutzer aufzeichnen und mittels KI durchsuchbar machen. Der Verkauf ist gestoppt, die zugehörige Software wird eingestellt; Bestandskunden bleibt lediglich eine einjährige Nutzungsfrist. Das Interesse des Konzerns dürfte weniger der Hardware gelten als vielmehr den gesammelten Erfahrungen mit „Always-on“-Geräten und der technischen Auswertung permanenter Audio-Streams.
Bürgerrechtler kritisieren KI-Überwachung in US-Gefängnissen
Das US-Telekommunikationsunternehmen Securus hat ein KI-Modell anhand jahrelang aufgezeichneter Telefon- und Videoanrufe amerikanischer Gefängnisinsassen trainiert. Jetzt testet es dieses Modell, um Anrufe, SMS und E-Mails der Häftlinge zu scannen. So sollen Straftaten vorhergesagt und verhindert werden. Aktivisten für Strafgefangene meinen, dass Securus bereits in der Vergangenheit die Bürgerrechte von Gefangenen verletzt hat. Leaks zeigten, dass es Tausende Anrufe zwischen Insassen und ihren Anwälten unrechtmäßig aufgezeichnet habe.

Wie intelligent ist Künstliche Intelligenz eigentlich? Welche Folgen hat generative KI für unsere Arbeit, unsere Freizeit und die Gesellschaft? Im „KI-Update“ von Heise bringen wir Euch gemeinsam mit The Decoder werktäglich Updates zu den wichtigsten KI-Entwicklungen. Freitags beleuchten wir mit Experten die unterschiedlichen Aspekte der KI-Revolution.
Deep-Research-Systeme erfinden Fakten
Eine Studie des chinesischen Smartphoneherstellers Oppo deckt systematische Schwächen von Deep-Research-Systemen auf. Das Problem: Fast ein Fünftel aller Fehler entsteht, weil die Systeme plausibel klingende, aber erfundene Inhalte generieren. Ein System plant etwa eine umfassende Datenbank-Analyse, kann dann aber nicht auf die Datenbank zugreifen. Statt die Strategie anzupassen, füllt es alle geplanten Abschnitte mit selbst generierten Inhalten.
KI-Agenten bleiben im Unternehmensalltag einfach
Eine Untersuchung der UC Berkeley, der Stanford University und von IBM Research zeigt: Statt autonomer Super-Systeme dominieren im Alltag der Unternehmen einfache Workflows mit viel menschlicher Kontrolle. 68 Prozent der untersuchten produktiven Agenten führen höchstens zehn Schritte aus, bevor ein Mensch eingreifen muss. Das Hauptproblem bleibt die Zuverlässigkeit. 74 Prozent der produktiven Agenten werden deshalb primär von Menschen bewertet.
Perplexity entwickelt Schutzschild für KI-Browser-Agenten
Die KI-Suchmaschine Perplexity hat ein Sicherheitssystem für Browser-Agenten vorgestellt. Ein akutes Problem: Sie sehen mehr auf Webseiten als die Nutzer, etwa weiße Schrift auf weißem Grund. So können Angreifer bösartige Befehle verstecken. Der KI-Agent interpretiert diese dann fälschlich als Nutzeranweisungen. Das neue System namens BrowseSafe soll solche Angriffe erkennen, bevor sie Schaden anrichten.
KI-Modelle können im Chat politische Präferenzen verändern
KI-Chatbots können politische Ansichten von Menschen in kurzen Konversationen womöglich effektiver ändern als traditionelle Wahlwerbung. Forscher befragten Menschen zu ihren politischen Überzeugungen und ließen sie danach mit Chatbots diskutieren, die darauf trainiert waren, diese Meinung zu ändern. Bei den Befragungen danach konnten teilweise große Verschiebungen bei den politischen Meinungen konstatiert werden. Was besonders auffallend war: Die Chatbots argumentierten sehr mit vorgeblichen Fakten, aber ungefähr ein Drittel der Antworten war falsch.
Menschliche Kompetenzen sind wichtiger als KI-Fähigkeiten
Menschliche Fähigkeiten wie Kreativität und Empathie sollen laut dem Weltwirtschaftsforum im Jahr 2030 an erster Stelle stehen, noch vor KI-Kompetenzen. Der Bericht betont jedoch auch, dass gerade diese Kompetenzen in Bildungssystemen bisher zu wenig gefördert werden. Umfragen bestätigen, dass bei Unternehmen schon heute eine hohe Nachfrage nach qualifizierten menschlichen Kompetenzen besteht, während das Angebot nicht mithalten kann.

(igr)
Künstliche Intelligenz
Europäische Temu-Büros durchsucht | heise online
Temus Europaniederlassung ist vergangene Woche von Ermittlern im Auftrag der Europäischen Kommission durchsucht worden. Das berichtet Reuters unter Berufung auf einen Eingeweihten. Die EU-Kommission bestätigt das indirekt, ohne jedoch den Namen der chinesischen Einzelhandelsplattform zu nennen.
Weiterlesen nach der Anzeige
„Wir können bestätigen, dass die Kommission eine nicht angekündigte Inspektion in den Räumlichkeiten einer im Online-Handel in der EU tätigen Firma durchgeführt hat”, sagte ein Sprecher zu der Nachrichtenagentur, „unter der Verordnung über den Binnenmarkt verzerrende drittstaatliche Subventionen.” Daraus lässt sich schließen, dass die EU-Kommission den Verdacht hegt, Temu werde von der Volksrepublik China in unzulässiger Weise subventioniert.
Parallel wirft die EU-Kommission Temu vor, Pflichten aus dem Digital Services Act (DSA) unzureichend nachzukommen. Eine Untersuchung hat hohes Risiko illegaler Produkte aufgezeigt. Auch das deutsche Bundeskartellamt ermittelt gegen Temu. Dabei geht es um die auf dem Onlinemarktplatz für Deutschland verwendeten Konditionen für Händler, sowie tatsächliches Verhalten Temus gegenüber den Händlern. Diese könnten, so die Befürchtung, das allgemeine Preisniveau zu Lasten der Verbraucher anheben.
Foreign Subsidies Regulation gilt seit 2023
Solche Subventionen können einem Unternehmen Vorteile im Wettbewerb verschaffen. Beispielsweise könnten künstlich niedrige Preise andere Anbieter, die nicht subventioniert werden, aus dem Markt drängen. Staatliche Subventionen können auch direkt zur Beseitigung von Konkurrenten genutzt werden, indem sie die Übernahme anderer Unternehmen finanzieren.
Solche Verzerrungen kosten nicht nur Arbeitsplätze und reduzieren Steueraufkommen, sondern können langfristig auch Verbrauchern schaden. Denn hat das subventionierte Unternehmen einmal erhebliche Marktmacht erreicht, kann es die Preise anheben, ohne fürchten zu müssen, viel Geschäft an starke Konkurrenten zu verlieren, denn diese gibt es ja dann nicht mehr. Als Gegenmaßnahme ist Mitte 2023 die EU-Verordnung über den Binnenmarkt verzerrende drittstaatliche Subventionen in Kraft getreten (Foreign Subsidies Regulation, FSR).
heise online hat Temu gefragt, welche Subventionen es erhält, seit wann es von der Untersuchung Kenntnis hat, und wie es auf die Untersuchung sowie die Hausdurchsuchung reagiert. Das Unternehmen tritt selbst nicht als Verkäufer auf, sondern betreibt seine Webseite als Plattform für Dritte. Temu gehört zur chinesischen Pinduoduo-Gruppe (PDD Holdings).
Weiterlesen nach der Anzeige
(ds)
Künstliche Intelligenz
Gutachten: US-Behörden haben weitreichenden Zugriff auf europäische Cloud-Daten
Die Debatte um die digitale Souveränität Europas und den strategischen Einsatz US-amerikanischer Cloud-Infrastrukturen in sensiblen Bereichen erhält neuen Zündstoff. Ein bisher unveröffentlichtes Gutachten, das Rechtswissenschaftler der Uni Köln im Auftrag des Bundesinnenministeriums erstellten, ist nun im Zuge einer Anfrage nach dem Informationsfreiheitsgesetz (IFG) öffentlich zugänglich geworden. Es kommt zu dem Schluss, dass US-Behörden weitreichenden Zugriff auch auf Daten haben, die in europäischen Rechenzentren gespeichert sind.
Weiterlesen nach der Anzeige
Zugriff durch Geheimdienste
Die Gutachter sollten klären, ob und in welchem Umfang US-Geheimdienste und andere staatliche Stellen ein rechtliches Zugriffsrecht auf Daten in der Cloud besitzen, selbst wenn die Infrastrukturen außerhalb der Vereinigten Staaten betrieben werden. Laut dem Gutachten erlauben insbesondere der Stored Communications Act (SCA), der durch den Cloud Act erweitert wurde, sowie Abschnitt 702 des Foreign Intelligence Surveillance Act (FISA) US-Behörden, Cloud-Anbieter zur Herausgabe von Daten zu verpflichten.
Ein brisanter Punkt ist die Feststellung zur Reichweite der US-Jurisdiktion. Unternehmen sind demnach angehalten, Daten auch dann herauszugeben, wenn diese außerhalb der USA gespeichert sind. Entscheidend ist demnach nicht der physikalische Speicherort der Informationen, sondern die Kontrolle darüber durch die betroffene Firma. Das impliziert, dass selbst Daten, die in Rechenzentren auf europäischem Boden liegen und über deutsche Tochtergesellschaften verwaltet werden, dem Zugriff unterliegen. Voraussetzung ist, dass die US-Muttergesellschaft die letztliche Kontrolle ausübt.
Reichweite der US-Jurisdiktion
Die Reichweite der US-Gesetze endet hier jedoch nicht. Die Jurisdiktion der Vereinigten Staaten kann laut dem Gutachten nicht nur europäische Tochtergesellschaften US-amerikanischer Unternehmen erfassen. Sie hat auch das Potenzial, rein europäische Unternehmen zu treffen, sofern diese relevante geschäftliche Verbindungen in die USA unterhalten. Damit wird die Gefahr eines indirekten oder direkten Datenzugriffs auf einen weiten Kreis von Unternehmen ausgedehnt, die im europäischen Binnenmarkt operieren.
Obwohl ein Cloud-Anbieter technisch etwa durch Verschlüsselung verhindern könnte, selbst auf die Daten zuzugreifen, vermeidet dies die Herausgabepflicht nicht zwingend. Das US-Prozessrecht verlangt von Parteien, verfahrensrelevante Informationen schon vor Beginn eines Rechtsstreits zu speichern. Ein Cloud-Dienstleister, der regelmäßig mit Herausgabeverlangen konfrontiert ist, könnte daher zur Aufbewahrung von Daten verpflichtet sein. Schließt er sich durch technische Maßnahmen vom Zugang aus, riskiert er erhebliche Bußgelder oder strafrechtliche Konsequenzen.
In Europa dürfen Aufsichtsbehörden auf Basis der Datenschutz-Grundverordnung (DSGVO) Offenlegungen von Informationen an Behörden in Drittstaaten untersagen. Datenübermittlungen in die USA können derzeit auf den wackeligen Angemessenheitsbeschluss der EU-Kommission – das EU-US Data Privacy Framework – gestützt werden. Das Gutachten verdeutlicht aber die rechtlichen Spannungsfelder, die durch die globale Reichweite der US-Gesetze entstehen. Es verweist auf die Notwendigkeit, europäische Alternativen zur Stärkung der digitalen Souveränität zu entwickeln.
Weiterlesen nach der Anzeige
Was heißt das für MS 365 & Co.?
Die Rechtsanwälte Stefan Hessel, Christina Ziegler-Kiefer und Moritz Schneider kommen in einer aktuellen Analyse trotzdem zum Schluss, dass ein datenschutzkonformer Einsatz der cloudbasierten Lösung Microsoft 365 grundsätzlich weiterhin möglich sei. Das abstrakte Risiko, das sich aus den extraterritorialen US-Befugnissen speise, begründe allein keine automatische Unzuverlässigkeit des Auftragsverarbeiters, solange keine systematischen Verstöße gegen europäisches Recht belegt seien. Verantwortliche müssten sich auf ihre Compliance-Pflichten konzentrieren und bei hohem Risiko eine Datenschutz-Folgenabschätzung durchführen. Andere Experten sehen das nicht so.
(vbr)
Künstliche Intelligenz
Digitales Vertrauen in Gefahr: Wenn Behörden ihre alten Domains vergessen
Die Umbenennung einer Bundesbehörde erfordert nicht nur den Austausch von Schildern und Briefköpfen, sondern auch den der zugehörigen Internetadresse. Werden solche vormals staatlich genutzten Domains nach einiger Zeit aufgegeben, kann dies erhebliche Sicherheitsprobleme nach sich ziehen.
Weiterlesen nach der Anzeige
Aufgrund ihrer Historie genießen diese Adressen weiterhin ein hohes Vertrauen, werden in wissenschaftlichen Arbeiten oder von Nachrichtenmedien verlinkt und sind in Suchmaschinen leicht auffindbar. Diese Faktoren machen sie zu einem idealen Ziel für Betrüger und Verbreiter von Desinformation. Unter ehemaligen Behörden-Webadressen finden sich heute teils Werbung für illegales Glücksspiel, Online-Casinos, Wettanbieter und sogar Schadsoftware.
Bundesamt für Flüchtlinge
Ein prägnantes Beispiel dafür ist die alte Domain des heutigen Bundesamts für Migration und Flüchtlinge (BAMF), das bis 2005 noch Bundesamt für die Anerkennung ausländischer Flüchtlinge (BAFl) hieß. Nach der Umbenennung wechselte die Adresse von bafl.de zu bamf.de. Obwohl die alte URL jahrelang auf die neue weiterleitete, wurde sie schließlich aufgegeben. 2025 entdeckte der IT-Sicherheitsforscher Tim Philipp Schäfers, dass bafl.de erneut zur Registrierung frei war. Zuvor hatte dort zeitweise eine seltsame, aber scheinbar harmlose Website mit fragwürdigen Informationen über Asylthemen ihr Domizil aufgeschlagen.
Schäfers, der beim BAMF bereits skurrilen Testkonten auf die Spur gekommen war, sicherte sich laut einem jetzt veröffentlichten Bericht die Domain. Er stellte überraschend fest, dass weiterhin Anfragen aus den Netzen des Bundes an bafl.de gesendet wurden. Diese Infrastruktur verbindet Behörden und Tausende Mitarbeiter.
Das deutete darauf hin, dass interne IT-Systeme – möglicherweise aufgrund einer Fehlkonfiguration – weiterhin automatisiert auf die nicht mehr kontrollierte Adresse zugriffen. Eine solche hartnäckige Verankerung in den Systemen birgt dem Entdecker zufolge ein erhebliches Sicherheitsrisiko. Angreifer könnten durch die beständigen Anfragen Informationen über die interne IT-Infrastruktur ausspionieren und im schlimmsten Fall Systeme manipulieren.
Alte Verweise als hartnäckiges Sicherheitsrisiko
Obwohl das Bundesamt für Sicherheit in der Informationstechnik (BSI) und das BAMF auf die Meldung des Sicherheitsexperten reagierten und die Löschung des Verweises auf bafl.de aus allen Konfigurationen beim ITZBund veranlassten, rissen die automatisierten Anfragen nicht ab. Der Vorfall unterstreicht, dass die Freigabe einer Domain erst erfolgen sollte, wenn sichergestellt ist, dass sie intern auf keinem System mehr verwendet wird. Das BAMF teilte diese Einschätzung laut Netzpolitik.org nachträglich. Es will stärker darauf achten, nicht mehr genutzte Domains aus Sicherheitsgründen weiter zu registrieren.
Weiterlesen nach der Anzeige
Dass es sich nicht um einen Einzelfall handelt, belegt eine Antwort der Bundesregierung auf eine Anfrage der Linksfraktion. Demnach wurden mehrere vormals von Ministerien oder ihren Geschäftsbereichsbehörden genutzte Domains von Dritten registriert und missbräuchlich genutzt. Ein Beispiel ist eine alte URL des Landwirtschaftsministeriums. Diese informiert heute zwar noch über Bioenergiepflanzen, aber blendet Links zu Glücksspiel- und Wettanbietern ein.
Auch das Bundesinstitut für öffentliche Gesundheit (BIÖG), ehemals Bundeszentrale für gesundheitliche Aufklärung, kämpft mit ungenutzten Domains aus früheren Aufklärungskampagnen. Diese verlinken nun ebenfalls auf illegale Online-Casinos. Eine andere, einst für Kinderlieder genutzte Domain verbreitet sogar Schadsoftware. Während einige Ministerien entsprechende Fälle meldeten, signalisierten andere nur „Fehlanzeige“. Das erscheint angesichts der Dimension staatlicher Domainverwaltung und des BAFl-Falls unglaubwürdig.
Mangelnde Transparenz und fehlende Regeln
Die Linken-Abgeordnete Donata Vogtschmidt beklagt ein „Totalversagen“ bei der Sicherung vertrauenswürdiger Webauftritte. Unzureichend erscheint Vogtschmidt die Situation, weil es laut Regierung keine einheitlichen Regeln für den Umgang mit nicht mehr benötigten Domains gibt: Die Zuständigkeit liege bei der jeweiligen Behörde.
Die Regierung lehnt es ab, eine systematische Liste aller in Bundeshand befindlichen Domains und deren Kosten offenzulegen, da dies die Sicherheit der Bundesrepublik gefährden könnte. Diese Geheimhaltung erschwert ein internes Inventar-Management sowie externe Transparenz und notwendige Sicherheitsforschung. Die Schätzungen zur Anzahl der Domains mit staatlichen Inhalten gehen in die Tausende, was die Größe des potenziellen Sicherheitsproblems verdeutlicht.
Um Vertrauen zu schaffen und Missbrauch von Anfang an zu verhindern, könnte die konsequente Nutzung von Subdomains unter bund.de oder der neuen digitalen Dachmarke gov.de helfen. Letztere, die offizielle Websites kennzeichnen soll, befindet sich aber noch in der Pilotphase und ist keine Pflicht. Ein konsequentes Domain-Management, starke Authentifizierung und Kontrolle anstelle von Geheimhaltung wären laut IT-Experten effektiver, um die digitalen Auftritte des Bundes resilienter gegen Missbrauch zu machen.
(wpl)
-
UX/UI & Webdesignvor 2 MonatenIllustrierte Reise nach New York City › PAGE online
-
Datenschutz & Sicherheitvor 3 MonatenJetzt patchen! Erneut Attacken auf SonicWall-Firewalls beobachtet
-
Künstliche Intelligenzvor 2 MonatenAus Softwarefehlern lernen – Teil 3: Eine Marssonde gerät außer Kontrolle
-
Künstliche Intelligenzvor 2 Monaten
Top 10: Die beste kabellose Überwachungskamera im Test
-
UX/UI & Webdesignvor 3 MonatenFake It Untlil You Make It? Trifft diese Kampagne den Nerv der Zeit? › PAGE online
-
UX/UI & Webdesignvor 2 MonatenSK Rapid Wien erneuert visuelle Identität
-
Entwicklung & Codevor 3 WochenKommandozeile adé: Praktische, grafische Git-Verwaltung für den Mac
-
Social Mediavor 3 MonatenSchluss mit FOMO im Social Media Marketing – Welche Trends und Features sind für Social Media Manager*innen wirklich relevant?
