Anthropic-Philosophin erklärt: So schreiben sie wirklich gute Prompts

Gute Kommunikation ist der Schlüssel zu guten Ergebnissen – das gilt auch im Umgang mit KI-Tools. Amanda Askell, die als Philosophin und KI-Forscherin bei Anthropic tätig ist, hat im „Ask Me Anything“-Podcast des Unternehmens ihren Ansatz für effektives KI-Prompting vorgestellt. Sie sagt, dass ein ausgewogenes Verhältnis zwischen mehreren Faktoren erforderlich sei. Ein Grundpfeiler bestehe beispielsweise darin, Ideen klar und präzise zu kommunizieren.

KI-Tools benötigen klar formulierte Anweisungen

Askell hat an der New York University zu „Unendlicher Ethik“ promoviert. Zuvor hatte sie ihr Philosophiestudium an der University of Oxford abgeschlossen. Seit 2021 ist sie bei Anthropic tätig, wo sie sich mit der Entwicklung und Bewertung von KI-Systemen, insbesondere großen Sprachmodellen, befasst. Sie leitet ein Team, das Modelle so trainiert, dass sie ehrlicher werden und positive Charaktereigenschaften entwickeln. Zuvor war sie knapp zweieinhalb Jahre als Forscherin bei OpenAI tätig, wo sie sich vor allem mit dem Thema KI-Sicherheit befasste. In Anthropics Podcast hat sie jetzt versucht, ihren Denkprozess zu erklären, den sie beim Erstellen guter Prompts anwendet.

„Es ist wirklich schwer, das Wesentliche auf den Punkt zu bringen, denn es geht zum einen darum, bereit zu sein, viel mit den Modellen zu interagieren und sich wirklich jedes einzelne Ergebnis anzuschauen“, sagte sie. Um einen guten Prompt zu erstellen, müsse man experimentierfreudig sein. Aber das Prompting ginge noch weit über einfaches Experimentieren hinaus. „Hier denke ich tatsächlich, dass Philosophie in gewisser Weise für das Prompting nützlich sein kann, denn ein Großteil meiner Arbeit besteht darin, dem Modell bestimmte Probleme, Bedenken oder Gedanken so klar wie möglich zu erklären.“

KI ist wie ein neuer Kollege, der viel Kontext braucht

Der Fokus auf klare Kommunikation sei nicht nur wichtig, um Menschen dabei zu helfen, ihre eigenen Prompts zu verfeinern – sondern auch, um die KI selbst besser zu verstehen. In einer „Prompt Engineering Overview“, die Anthropic im Juli veröffentlichte, erklärte das Unternehmen, dass Nutzer KI-Tools wie neue Mitarbeiter behandeln sollten, die klare Anweisungen benötigen. Da Claude kein Wissen über die internen Richtlinien und bevorzugten Arbeitsweisen hat, muss ihm genau erklärt werden, wie er seine Aufgaben ausführen soll, um gute Ergebnisse erzielen zu können.

Die Arbeit von Askell zeigt: Der Beruf des Prompt Engineerings ist noch lange nicht ausgestorben. Mit der Veröffentlichung von ChatGPT und dem dadurch ausgelösten KI-Hype wurden Prompt Engineers innerhalb kürzester Zeit zu gefragten Fachkräften, die nicht selten ein sechsstelliges Gehalt verdienten. Zwar ist der Bedarf inzwischen zurückgegangen, trotzdem haben Experten in diesem Bereich noch immer nicht an Relevanz verloren. Zwar ist die Nutzung großer Sprachmodelle deutlich einfacher geworden, aber die Empfehlungen der Anthropic-Philosophin legen nahe, dass nicht jeder Prompt zum gewünschten Ergebnis führt. Damit Claude und Co. ihr Potenzial entfalten können, braucht es vor allem präzise formulierte Anweisungen.

Dieser Beitrag ist zuerst auf t3n.de erschienen.

(jle)