Digitale Handbücher, Online-Banking-Dokumente, eigene Notizen und Wissenssammlungen: Auf unseren Festplatten horten wir eine Menge Dokumente. Doch zu einer konkreten Frage die richtige Datei und den passenden Inhalt zu finden, ist oft mühselig.

Lokale KIs können hier eine Stärke ausspielen: Wer einem lokalen LLM den eigenen Wissensschatz in vektorisierter Form zur Verfügung stellt, kann es als persönlichen Assistenten einsetzen. Die KI ermittelt zu einer konkreten Frage den passenden Inhalt aus Ihren Dokumenten und fasst ihn in leicht verdaulicher Form zusammen. Da die Datenbasis begrenzt ist, neigt sie dabei kaum zum Halluzinieren. Die Technik, die das ermöglicht, nennt sich Retrieval Augmented Generation (RAG). Dabei bleiben alle Daten auf dem eigenen Computer, anstatt auf irgendwelchen fremden Cloud-Servern zu landen.

Der Artikel erklärt, wie Sie einen solchen Wissensspeicher anlegen, dass die KI mit hoher Trefferquote zufriedenstellende Ergebnisse liefert. Dazu gehören einige Konfigurationstipps, die das Ergebnis optimieren. Als Test-Setup dienen insbesondere drei digitale Bedienungsanleitungen zu verschiedenen technischen Geräten, zu denen die KI nach der Einrichtung konkrete Fragen beantwortet hat. Den Workflow haben wir unter Windows 11 mit Docker und Open WebUI (v0.7.2) sowie Ollama erstellt. Zur Umsetzung empfiehlt sich ein System mit einer 16-GByte-Grafikkarte, vorzugsweise von Nvidia für zügige Verarbeitung. Für einen Teil des Workflows ist auch eine leistungsfähige CPU hilfreich. Als Testsystem haben wir einen privat genutzten Rechner mit dem Prozessor AMD Ryzen 7 9800X3D und einer Nvidia 3090 mit 24 GByte RAM verwendet.

Das war die Leseprobe unseres heise-Plus-Artikels „Privates Wissensarchiv: Anleitungen und Co. mit lokaler KI durchsuchen“.
Mit einem heise-Plus-Abo können Sie den ganzen Artikel lesen.

Wenn Ende Februar die neue Staffel der TV-Show „Let’s Dance“ anläuft, dann sind die mehr oder weniger holprigen Tanzschritte der Prominenten direkt auch auf einem YouTube-Kanal zu sehen. Seit einem Jahr baut der Kölner Privatsender RTL auf der US-Plattform „gezielt“ eigene „Business Channels“ als „neuen Erlösstrom“ auf. So sollen mehr Einnahmen und neue Zielgruppen erreicht werden.

Der Kanal der RTL-Actionreihe „Alarm für Cobra 11“ beispielsweise erreicht bei manchen Folgen mehr als 700.000 Aufrufe auf YouTube. Das ist immerhin rund die Hälfte dessen, was der Krimi zuletzt im linearen Fernsehen an Publikum versammelt hat – wahrlich nicht zu vernachlässigen.

„Sie sind für uns Partner und Wettbewerber“, sagt der zuständige RTL-Manager Oliver Schablitzki mit Blick auf die amerikanische Videoplattform. Schablitzki spricht im Interview der Deutschen Presse-Agentur von einem „weiteren Baustein“ der „Wachstumsstrategie“.

Ausspielweg und Konkurrenz zugleich

Tatsächlich ist für RTL und andere Sender die Plattform durchaus ein Konkurrent, weil das TV-Publikum weltweit in Scharen zu YouTube abwandert: 2,5 Milliarden Nutzer pro Monat. Mehr als eine Milliarde Stunden Video werden täglich gestreamt. In Deutschland verwenden laut Agentur Kontor4 rund 70,9 Millionen Nutzer jeden Monat YouTube.

In den Vereinigten Staaten ist die Entwicklung weiter: 90 Prozent aller 18- bis 34-jährigen Amerikaner konsumieren im Monatsverlauf Inhalte auf der Plattform – weit mehr als jemals ein Fernsehsender erreichen könnte. Selbst die Oscar-Verleihung, ein klassisches TV-Ereignis, wird demnächst zuerst auf YouTube laufen.

Die wirtschaftlichen Folgen dieser Entwicklung sind extrem. Beim Londoner Marktforschungsunternehmen Ampere Analysis ist man sich sicher, dass „die traditionellen Geschäftsbereiche wie Fernsehen oder Kino alle unter Druck stehen, während Online-Plattformen wie YouTube und TikTok aufsteigen“.

Den Gesamtmarkt von 800 Milliarden Dollar weltweit teilen sich beide Bereiche noch fast zu gleichen Teilen. Aber die Einschätzung von Guy Bisson bei Ampere Analysis lautet: Die eine Hälfte wird weiter zurückgehen, die andere weiterwachsen. Und das löst jetzt schon deutliche Verwerfungen aus. Die Folge sind Einnahmeausfälle und Stellenabbau bei einer Reihe deutscher Privatsender.

70 Millionen Nutzer in Deutschland

Doch auch die über den Rundfunkbeitrag finanzierten Öffentlich-Rechtlichen stehen unter Druck, schon allein wegen ihrer überalterten Zuschauerschaft. YouTube soll ihnen mehr Reichweite verschaffen. „Wir erreichen mit wertvollen Inhalten schnell und in großer Zahl die Teile unseres Publikums, die kaum noch fernsehen oder Radio hören“, heißt es vom WDR. „Bei Veränderungen der weltpolitischen Lage funktioniert das oft sehr gut. Als es zum Umsturz in Syrien kam, haben wir eine Doku zu den Assads aus unserem Archiv bei YouTube eingestellt und hatten in wenigen Tagen Nutzer im Millionenbereich.“

Die Tendenz erscheint klar: „Die Plattformen YouTube und TikTok werden im Fernseh- und Videobereich die größten Player der Zukunft sein“, so die Einschätzung des Kölner Film- und TV-Produzenten Michael Souvignier („Der Medicus 2“) zu einer dpa-Anfrage mit Blick auf die aktuelle Entwicklung. So deutlich wie Souvignier werden TV-Verantwortliche aber eher selten, vielleicht um den eigenen Bedeutungsverlust nicht noch weiter zu unterstreichen oder um die Megaplattform nicht zu verärgern.

Kontrolle über den Zugang

Kurios: YouTube als Unternehmen produziert selbst keine Inhalte, sieht sich, so Europachef Pedro Pina, als „Ökosystem“, in dem sich Inhalte-Produzenten ein eigenes Unternehmen aufbauen können. Dabei hat die Plattform eine Monopolstellung inne: YouTube gehört zum US-Konzern Google, und Google schaltet selbst Werbung, vermittelt aber auch zwischen Werbetreibenden und denen, die den Platz dafür online zur Verfügung stellen.

Die Verantwortlichen beteuern zwar immer wieder, dass die Auffindbarkeit und das Ranking von Inhalten nur durch das Interesse der Nutzerschaft gesteuert würde. Nachprüfen kann das bisher allerdings niemand. ARD-Programmdirektorin Christine Strobl warnt daher im dpa-Interview: „Neben den Empfehlungslogiken, die nur bedingt zu unserem Auftrag passen, besteht die Gefahr, zu abhängig von Algorithmen und Geschäftsinteressen eines globalen Konzerns zu werden.“

Und vielleicht erschweren nicht nur wirtschaftliche Interessen den Zugang zu Inhalten, sondern auch ideologische: Aktuell scheinen in den Vereinigten Staaten Politik und Big-Tech-Unternehmen wie Google zu einer Allianz in einer ganz neuen Dimension zu verschmelzen. Das löst auch beim WDR Sorgen aus: „Ein Thema, dass die Redaktionen beschäftigt, sind sogenannte Shadow Bans. Wenn ein Film gegen die Interessen und Vorgaben YouTubes steht, haben Redaktionen den Eindruck, dass er weniger prominent ausgespielt wird. Manchmal werden Inhalte nicht richtig zugeordnet in passende Kategorien, was Sichtbarkeit erschwert.“

(afl)

Der Kurznachrichtendienst Threads von Meta wird auf Mobilgeräten inzwischen offenbar deutlich häufiger aufgerufen als das große Vorbild X. Das berichtet TechCrunch unter Berufung auf einen Bericht des Analyseunternehmens Similarweb. Demnach hatte Threads Anfang Januar im Schnitt 141,5 Millionen täglich aktive Nutzer und Nutzerinnen auf iOS und Android, X sei nur auf 125 Millionen gekommen. Der Skandal um die sexualisierten Deepfakes auf X hatte demnach augenscheinlich nicht damit zu tun, stattdessen legen die Zahlen nahe, dass es sich um einen langfristigen Trend handelt. Ganz im Gegenteil hat die Nutzung von Threads demnach zuletzt sogar leicht nachgelassen, während sie bei X stabil scheint. Zugenommen hat die Aktivität derweil erneut auf Bluesky.

Trotz stärkerer Nutzung keine spürbare gesellschaftliche Relevanz

Laut TechCrunch hat die Analyse aber auch ergeben, dass Threads zwar auf Mobilgeräten seit einer Weile die Nase vorn hat, im Web ist der Abstand aber noch immens: Wenn es um Besuche auf den jeweiligen Internetseiten geht, kommt X demnach seit Monaten stabil auf etwa 150 Millionen pro Tag, bei Threads sind es lediglich 8,5 Millionen. Diese Zahlen passen auch eher zur weiteren gesellschaftlichen Relevanz, denn X und die dort aktiven Nutzer und Nutzerinnen können weiterhin Debatten anstoßen und darauf bauen, dass das etwa in klassischen Medien aufgenommen wird. Threads hat keinen annähernd vergleichbaren Einfluss und selbst das deutlich kleinere Bluesky scheint hier relevanter zu sein.

Dass Threads auf Mobilgeräten aufholt und X überholen könnte, hat sich schon im Sommer angekündigt. An der Dynamik hat sich also nichts geändert. Der Kurznachrichtendienst von Meta ist nur eine von mehreren Alternativen zum einstigen Platzhirsch, die davon profitieren wollen, dass viele besonders aktive Nutzer und Nutzerinnen Elon Musks Plattform verlassen haben. Bluesky ist eine weitere, dort haben sich inzwischen fast 42 Millionen Menschen angemeldet. Nachdem der Dienst infolge des Wahlerfolgs von Donald Trump und seiner Amtsübernahme seine bislang größte Aktivität erreicht hat, ist es in den Monaten danach etwas ruhiger geworden. Etwa zu Weihnachten hat die Nutzung aber wieder angezogen, zeigen die öffentlich einsehbaren Zahlen. Deutlich dahinter liegt Mastodon.

(mho)