Connect with us

Künstliche Intelligenz

KI-Update Deep-Dive: Künstliche Intelligenz als Security-Albtraum


Weiterlesen nach der Anzeige

Die Bedrohungslage in der IT-Sicherheit verändert sich durch Künstliche Intelligenz grundlegend. „Manches verändert sie eher evolutionär, manches schon sehr nah an revolutionär“, sagt Dr. Christopher Kunz von heise security im Podcast. Während Angriffe wie Phishing-Mails durch KI raffinierter werden, liegt die größere Veränderung in der Geschwindigkeit, mit der Software-Schwachstellen ausgenutzt werden.


Eigenwerbung Fachdienst heise KI PRO

Eigenwerbung Fachdienst heise KI PRO

Ein Beispiel dafür ist das KI-Modell Mythos von Anthropic, das nicht nur Sicherheitslücken finden, sondern auch aktiv ausnutzen kann. Mozilla konnte damit nach eigenen Angaben 271 Lücken im Browser Firefox aufspüren. Kunz, der mit dem Mozilla-Security-Team sprach, ordnet dies ein: Firefox sei mit 20 Millionen Zeilen Code eine riesige Software, in der eine KI viele schlummernde Fehler finden kann. Dass Mythos kein Allheilmittel ist, zeigt die Prüfung der weit verbreiteten Bibliothek Curl, in der das Modell nur eine einzige Lücke fand. Laut Kunz können KI-Modelle wie Mythos keine wirklich neuen Arten von Sicherheitslücken erfinden, sondern variieren nur bekannte Muster. „LLMs bilden im Wesentlichen Durchschnitte und können keine Innovation in dem Sinne erzeugen, als dass sie sich komplett neue Arten von Sicherheitslücken ausdenken“, so der Experte.


KI-Update

KI-Update

Wie intelligent ist Künstliche Intelligenz eigentlich? Welche Folgen hat generative KI für unsere Arbeit, unsere Freizeit und die Gesellschaft? Im „KI-Update“ von Heise bringen wir Euch gemeinsam mit The Decoder werktäglich Updates zu den wichtigsten KI-Entwicklungen. Freitags beleuchten wir mit Experten die unterschiedlichen Aspekte der KI-Revolution.

Das eigentliche Problem ist die massive Verkürzung der Zeit zwischen der Behebung einer Lücke und deren Ausnutzung durch Angreifer. Kunz schildert den Fall einer Schwachstelle im Linux-Kernel von Mitte Mai. Nachdem die Fehlerbehebung veröffentlicht wurde, dauerte es nur wenige Stunden, bis Angreifer funktionierende Angriffsprogramme, sogenannte Exploits, entwickelt hatten. „Ein beliebiger Nutzer konnte damit Daten lesen, auf die er keinen Zugriff hätte haben dürfen“, berichtet Kunz.

Für Unternehmen bedeutet dies eine drastische Kehrtwende. Der monatliche Patch-Day, an dem gesammelt Updates eingespielt werden, ist überholt. „Wenn Softwarehersteller einmal im Monat einen Patch-Day ausrufen, dann bedeutet das, dass möglicherweise schwere Sicherheitslücken 29 oder 30 Tage […] bekannt waren und nicht behoben wurden“, erklärt Kunz. Diese Zeit könne man sich nicht mehr leisten. Unternehmen müssten ihre Systeme nahezu in Echtzeit aktualisieren können. Das erfordere ein hohes Maß an Automatisierung und eine genaue Dokumentation der gesamten IT-Landschaft, da manuelle Prozesse zu langsam seien.

Weiterlesen nach der Anzeige

Dass Anthropic den Zugang zu Mythos beschränkt, hält Kunz für sinnvoll. Nicht, weil das Modell zu gefährlich sei, sondern um die IT-Sicherheitsteams, die die Lücken beheben müssen, vor einer Überlastung zu schützen. Viele, gerade im Open-Source-Bereich, seien bereits an ihrer Belastungsgrenze. Würden weltweit zehntausende Menschen mit Mythos parallel dieselben Lücken melden, drohe ein „massiver Burnout“ der Verteidiger.

Gerade darum müssen Unternehmen und Privatpersonen klare Konsequenzen ziehen: „Die Zeit, in der man einmal im Monat den PC anschaltet, um Updates runterzuladen, die neigt sich rapide dem Ende zu und darauf müssen wir alle vorbereitet sein“, so Kunz. Der Wettlauf zwischen Angreifern und Verteidigern wird durch KI weiter beschleunigt – und erfordert von allen Beteiligten ein neues, höheres Tempo.

Mehr zu IT-Security-Themen hört Ihr jeden Mittwoch im Podcast Passwort von heise security mit Christopher Kunz und Sylvester Tremmel.


(igr)



Source link

Künstliche Intelligenz

Jugendmedienschutz: Warum Politik und Eltern mehr für Minderjährige tun müssen


Wer einen Spielplatz baut, muss Normen einhalten. Die Höhe von Klettergerüsten ist ebenso geregelt wie die Beschaffenheit von Fallschutzflächen. Steckdosen erhalten Kindersicherungen, an Grundschulen gilt Tempo 30. Über Jahrzehnte haben Gesetzgeber, Hersteller und Pädagogen ein dichtes Netz aus Sicherheitsvorkehrungen zum Schutz von Kindern und Jugendlichen geschaffen.

Im digitalen Raum manövrieren Kinder durch Umgebungen, die ursprünglich für Erwachsene entwickelt wurden. Empfehlungsalgorithmen bestimmen, welche Videos, Bilder oder Beiträge Kinder überhaupt zu sehen bekommen. Messenger ermöglichen den Kontakt zu Fremden. Viele der Dienste erklären zwar in ihren Nutzungsbedingungen, sie richten sich nur an Personen ab 13 Jahren oder älter. Tatsächlich gehören Kinder und Jugendliche aber zu ihren wichtigsten Nutzergruppen.

Während der Schutz von Kindern in der analogen Welt über Jahrzehnte zu einem selbstverständlichen Leitprinzip wurde, entwickelte sich das Internet zunächst weitgehend ohne vergleichbare Schutzmechanismen. Erst in den vergangenen Jahren hat sich die Debatte um den Jugendschutz im Netz spürbar verschoben. Auch aufgrund neuer Studienergebnisse denken die Politik und Medienpädagogik zurzeit um. Die Architektur digitaler Dienste rückt in den Mittelpunkt. Der Artikel zeigt anhand aktueller Studien, wo konkrete Risiken liegen, wie Plattformdesign sie verstärkt und warum politische Antworten bislang nur begrenzt greifen.


Das war die Leseprobe unseres heise-Plus-Artikels „Jugendmedienschutz: Warum Politik und Eltern mehr für Minderjährige tun müssen“.
Mit einem heise-Plus-Abo können Sie den ganzen Artikel lesen.



Source link

Weiterlesen

Künstliche Intelligenz

CAPTCHAs reichen nicht mehr: Cloudflare stellt neue Bot-Erkennung vor


Cloudflare führt mit Precursor ein neues Verfahren zur Bot-Erkennung ein, welches das Verhalten von Besuchern über eine gesamte Websitzung hinweg auswertet. Statt nur einzelne Aktionen wie Login oder Checkout zu prüfen, sammelt das System fortlaufend Signale aus dem Browser. So soll es automatisierte Zugriffe zuverlässiger von menschlichen Nutzern unterscheiden. Die Funktion ergänzt Cloudflares Bot-Management und den CAPTCHA-Ersatz Turnstile zunächst als optionales Enterprise-Feature.

Weiterlesen nach der Anzeige

Nach Angaben von Cloudflare schließt Precursor eine Lücke der klassischen Bot-Abwehr: Moderne Bots können JavaScript ausführen, echte Browser verwenden und einzelne CAPTCHA-Prüfungen bestehen. Schwieriger sei es hingegen, menschliches Verhalten über einen längeren Zeitraum konsistent nachzubilden.

Dafür bindet Cloudflare beim Ausliefern von HTML-Seiten automatisch ein kompaktes JavaScript-Skript ein. Es erfasst während der Sitzung unter anderem Mausbewegungen, Tastaturaktivität, Fokuswechsel und Sichtbarkeitsänderungen der Seite. Die Daten werden fortlaufend an Cloudflares Auswertungsplattform übertragen und fließen in den Bot-Score sowie bestehende Schutzmechanismen ein.

Zum Beispiel kann das System erkennen, wenn Tastatureingaben auftreten, obwohl kein Eingabefeld aktiv ist, oder wenn Mausbewegungen nicht zu der Zeit passen, in der eine Seite tatsächlich sichtbar war. Solche Inkonsistenzen sind zusätzliche Indikatoren für automatisierte Zugriffe.

Cloudflare begründet den Ansatz damit, dass menschliche Mausbewegungen durch biomechanische und kognitive Faktoren geprägt sind – etwa die Drehbewegung des Handgelenks, messbare Verzögerungen durch kognitive Verarbeitung und das physiologische Handzittern. Automatisierte Werkzeuge erzeugen dagegen häufig mathematisch ideale Bewegungsbahnen oder wiederkehrende Muster.

Entscheidend sei dabei nicht ein einzelnes Ereignis, sondern die Gesamtheit der Interaktionen innerhalb einer Sitzung. Da Precursor sitzungsbasiert arbeitet, soll ein Bot seine Bewertung auch nicht durch einfaches Neuladen einer Seite zurücksetzen können.

Weiterlesen nach der Anzeige

Parallel führt Cloudflare neue sitzungsbezogene Ansichten in Security Analytics ein. Administratoren sollen damit komplette Nutzerpfade analysieren können, statt lediglich einzelne HTTP-Anfragen zu betrachten.

Der Ansatz ist datenschutzrechtlich zumindest fragwürdig. Cloudflare betont in der Ankündigung jedoch, dass Precursor unter Datenschutzgesichtspunkten entwickelt worden sei. So würden bei der Tastaturerfassung beispielsweise nur zeitliche Muster und Eingaberhythmen ausgewertet, nicht jedoch die tatsächlich gedrückten Tasten. Die gesammelten Verhaltensdaten würden zudem aggregiert verarbeitet und weder Benutzerkonten noch dauerhaften Identitäten zugeordnet.

Precursor wird nach Angaben des Unternehmens derzeit eingeführt und lässt sich über das Cloudflare-Dashboard aktivieren. Bis zur allgemeinen Verfügbarkeit im Laufe des Jahres soll die Funktion kostenlos nutzbar sein, anschließend wird sie Teil von Cloudflares Enterprise Bot Management sein.

Lesen Sie auch


(fo)



Source link

Weiterlesen

Künstliche Intelligenz

Elektroautos: Was die GEIG-Novelle in der Ladeinfrastruktur verändert


Kurz vor der Sommerpause des Bundestages hat die Regierung eine Neufassung des Gebäudeenergiegesetzes und des Gebäude-Elektromobilitätsinfrastruktur-Gesetzes (GEIG) durch Bundestag und Bundesrat gebracht. Teil der Neuregelung sind Vorgaben für den Ausbau der Ladeinfrastruktur. Es unterscheidet dabei zwischen Wohn- und Nichtwohn-Gebäuden, Bestand, Neubau und Sanierung.

Weiterlesen nach der Anzeige

In einem Neubau mit mehr als fünf Stellplätzen, beispielsweise einem Parkhaus, sollen künftig mindestens 50 Prozent vorverkabelt und die restlichen Stellplätze mit Leitungsinfrastruktur versehen werden. Außerdem soll es wenigstens einen Ladepunkt je fünf Stellplätze geben. Für neue Nichtwohn-Gebäude, in denen vor allem Verwaltungs-, Kommunikations- und Organisationsaufgaben erledigt werden, gelten strengere Vorgaben.

Wenn die Stellplätze in Neubauten öffentlich zugänglich sind, kann der Eigentümer auch öffentlich zugängliche Ladepunkte schaffen, deren Ladeleistung insgesamt mindestens dem Produkt aus der Anzahl der öffentlich zugänglichen Stellplätze und einer Ladeleistung von 2,2 kW entspricht. Bei zehn Parkplätzen wären das also ein 22-kW-Ladepunkt oder eben zwei 11-kW-Ladepunkte.

Auch im Bestand ändert sich für die Besitzer etwas, und das sogar recht kurzfristig. Sofern mehr als 20 Stellplätze vorhanden sind, müssen ab dem 1. Januar 2027 mindestens 50 Prozent der Stellplätze mit Leitungsinfrastruktur für die Elektromobilität ausgestattet werden. Alternativ kann auch wenigstens jeder zehnte Stellplatz mit einem Ladepunkt versehen werden.

Ähnlich wie beim Neubau kann der Eigentümer auch im Bestand öffentliche Ladepunkte schaffen. Die Vorgaben an die Ladeleistung sind dann weniger streng: Anzahl der Ladepunkte mal 1,1 kW Ladeleistung. Bei zehn Stellplätzen reicht also ein 11-kW-Ladepunkt, um die Pflichtvorgaben zu erfüllen.

Weiterlesen nach der Anzeige

Wer in größerem Umfang renoviert, muss dabei künftig ebenfalls Lademöglichkeiten für Elektroautos berücksichtigen. Das betrifft Nichtwohn-Gebäude mit mehr als fünf Stellplätzen und Wohngebäude mit mehr als drei Parkplätzen. In beiden Fällen müssen wenigstens die Hälfte der Stellplätze mit Vorverkabelung und die übrigen mit Leitungsinfrastruktur ausgestattet werden. Außerdem muss ab dieser Anzahl von Stellplätzen mindestens ein Ladepunkt geschaffen werden.

Mehr zum Thema Elektromobilität


(mfz)



Source link

Weiterlesen

Beliebt