Bots unter sich: Forscher organisiert erste Wissenschaftskonferenz nur für KI

Im Oktober findet eine ganz besondere akademische Konferenz statt, die bislang ihresgleichen sucht. „Agents4Science“ ist eine eintägige Online-Veranstaltung, die fast alle Bereiche der Wissenschaft von der Physik bis zur Medizin umfasst. Die Besonderheit: Alle vorgestellten Arbeiten wurden nahezu vollständig von KI recherchiert, verfasst und überprüft – und werden mithilfe von Text-to-Speech-Technologie „präsentiert“.

Die Konferenz kommt vom Stanford-Informatiker James Zou. Er untersucht, wie Menschen und KI am besten kooperieren. Die bisherigen Systeme haben Wissenschaftlern bereits viele nützliche Werkzeuge an die Hand gegeben. Dazu gehört beispielsweise Alphafold von Deepmind, mit dessen Hilfe sich Proteine simulieren lassen, die real nur schwer herzustellen wären.

In jüngerer Zeit haben Fortschritte bei großen Sprachmodellen und KI mit Reasoning-Fähigkeiten zudem die Idee aufgebracht, dass die Systeme mehr oder weniger so autonom arbeiten können wie Wissenschaftler. Dabei sollen sie selbst Hypothesen aufstellen, Simulationen durchführen und Experimente entwerfen. Die Idee hat allerdings auch Kritiker. Unter anderem sind sie der Meinung, dass Sprachmodelle nicht zu den kreativen Denkprozessen fähig sind, die in der Forschung erforderlich sind. Zudem machten die Systeme zu viele Fehler und halluzinierten. Schließlich gruben sie jungen Forschern das Wasser ab.

Wie KI als Wissenschaftler funktionieren kann

Dennoch sind eine Reihe von Wissenschaftlern und politischen Entscheidungsträgern von den Möglichkeiten der KI-Forschenden sehr angetan. Der KI-Aktionsplan der US-Regierung beschreibt die Notwendigkeit, „in automatisierte, cloudbasierte Labore für eine Reihe von wissenschaftlichen Bereichen“ zu investieren. Optimisten glauben, dass solche Systeme tatsächlich neue wissenschaftliche Entdeckungen ermöglichen könnten, auf die Menschen allein niemals kämen. Für Zou ist die These einfach: „KI-Agenten sind nicht an Zeiten gebunden. Sie können sich jederzeit mit uns virtuell treffen und rund um die Uhr mit uns zusammenarbeiten.“

Im vergangenen Monat veröffentlichte Zou dann einen Artikel im Fachmagazin Nature mit den Ergebnissen seiner eigenen Gruppe autonomer KI-Mitarbeiter, die ein Mittel gegen das Coronavirus gefunden hatten. Angespornt durch erste Erfolge möchte er nun sehen, was „echte“ KI-Wissenschaftler leisten können, die nicht nur beitragen. Er beschreibt, wie eine erfolgreiche Veröffentlichung bei Agents4Science aussehen könnte: „Die KI sollte Erstautor sein und den Großteil der Arbeit leisten. Menschen könnten als Berater fungieren.“

Ein virtuelles Labor mit KI-Mitarbeitern

Als Doktorand an der Harvard University Anfang der 2010er Jahre war Zou so interessiert am Potenzial der KI für die Wissenschaft, dass er ein Jahr lang seine Forschung im Bereich Informatik unterbrach. Er arbeitete stattdessen in der Genomik, einem Bereich, der stark von Technologien zur Kartierung ganzer Genome profitiert hatte. Seine Zeit in echten Laboratorien zeigte ihm, wie schwierig es sein kann, mit Experten aus anderen Bereichen zusammenzuarbeiten. „Die sprechen oft eine andere Sprache“, sagt Zou. Große Sprachmodelle sind seiner Meinung nach aber besser als Menschen darin, Fachjargon zu entschlüsseln und zu übersetzen. „Die Systeme haben [im Training] so viel gelesen“, sagt Zou, dass sie Ideen aus verschiedenen Wissenschaftsbereichen sehr gut übersetzen und verallgemeinern können. Diese Idee inspirierte Zou zu seiner Vision eines „virtuellen Labors“.

Auf oberster Ebene wäre das Virtual Lab ein Team von KI-Agenten, die eine echte Universitätslabor-Gruppe nachahmen. Diese Agenten hätten verschiedene Fachgebiete und könnten mit verschiedenen Programmen wie Alphafold interagieren. Forscher könnten einem oder mehreren dieser Agenten eine Agenda geben, an der sie arbeiten sollen, dann das Modell öffnen, um die Kommunikation der Agenten untereinander zu überprüfen und zu bestimmen, welche Experimente in einem realen Versuch durchgeführt werden sollten.

KI-Agenten wie ein Forscherteam

Zou brauchte allerdings einen menschlichen Mitarbeiter, um diese Idee in die Tat umzusetzen und ein konkretes Forschungsproblem anzugehen. Letztes Jahr lernte er dafür John E. Pak kennen, einen Forschungswissenschaftler am Chan Zuckerberg Biohub. Pak, der Zous Interesse an der Nutzung von KI für die Wissenschaft teilt, erklärte sich bereit, gemeinsam mit ihm das virtuelle Labor aufzubauen. Pak würde bei der Festlegung der Themen helfen, aber sowohl er als auch Zou wollten klarstellen, welche Ansätze das virtuelle Labor selbst entwickeln könnte. Als erstes Projekt beschlossen sie daher, sich auf die Entwicklung von Therapien für neue Covid-19-Stämme zu konzentrieren. Mit diesem Ziel vor Augen begann Zou mit dem Training von fünf KI-Wissenschaftlern – darunter solche, die darauf trainiert waren, wie ein Immunologe, ein Bioinformatiker und ein Seniorforscher zu agieren – mit unterschiedlichen Zielen und Programmen.

Die Erstellung dieser Modelle dauerte einige Monate, aber laut Pak waren sie sehr schnell bei der Entwicklung von Therapieansätzen angekommen, sobald die Voraussetzungen geschaffen waren. „Ich glaube, es dauerte ein Tag oder nur ein halber Tag, so in etwa.“ Zou berichtet, die Agenten hätten dann beschlossen, Anti-COVID-Nanokörper zu untersuchen, eine Art Verwandte von Antikörpern, die viel kleiner und in der Natur weniger verbreitet sind. Der Grund dafür schockierte Zou. Er teilte mit, die Modelle seien deshalb auf Nanokörper gekommen, weil sie den Zusammenhang hergestellt hatten, dass diese kleineren Moleküle gut für die begrenzten Rechenressourcen geeignet sind. „Es stellte sich tatsächlich als gute Entscheidung heraus, da die Agenten diese Nanokörper effizient entwerfen konnten“, sagt er.

Nature publiziert trotz strenger KI-Regeln

Die von den Modellen entworfenen Nanokörper gehen wissenschaftlich weiter als bisherige Ansätze. Die meisten konnten sich laut der Studie an die ursprüngliche COVID-19-Variante binden. Pak und Zou räumen jedoch beide ein, dass der Hauptbeitrag ihrer Studie in Wirklichkeit beim Virtual Lab als grundsätzlichem Werkzeug liegt. Yi Shi, Pharmakologe an der University of Pennsylvania, der nicht an der Arbeit beteiligt war, aber einige der zugrunde liegenden Nanokörper herstellen konnte, die vom Virtual Lab modifiziert wurden, stimmt zu. Er sei von der Demonstration des Virtual Lab begeistert und die größte Neuerung dabei sei die Automatisierung. Nature akzeptierte schließlich das Paper und nahm es in sein Vorveröffentlichungsprogramm auf – Zou wusste, dass der Einsatz von KI-Agenten in der Wissenschaft ein für das Journal heißes Thema war und wollte einer der Ersten sein, der dies testete.

Als er seinen Artikel einreichte, stellte Zou allerdings bestürzt fest, dass er die Rolle der KI in seiner Forschung dabei nicht angemessen würdigen konnte. Die meisten Konferenzen und Fachzeitschriften erlauben es nämlich nicht, KI als Mitautor in Studien anzugeben – und viele verbieten Forschern ausdrücklich, KI zum Verfassen von Papern oder Rezensionen zu verwenden. Nature beispielsweise führt Unsicherheiten hinsichtlich der Verantwortlichkeiten, des Urheberrechts und von Ungenauigkeiten als Gründe für das Verbot dieser Praxis an. „Ich finde das einschränkend“, sagt Zou. „Solche Richtlinien sind im Grunde ein Anreiz für Forscher, den Einsatz von KI zu verheimlichen oder zu minimieren.“

KI-Konferenz in der Kritik

Zou wollte das ändern und rief deshalb seine eigene Agents4Science-Konferenz ins Leben, bei der der Hauptautor aller eingereichten Beiträge eine KI sein muss – und nicht nur darf. Andere KI-Agenten versuchen dann, die Arbeit zu bewerten und ihren wissenschaftlichen Wert zu bestimmen. Aber auch Menschen bleiben nicht völlig außen vor: Ein Team aus menschlichen Experten, darunter ein Nobelpreisträger für Wirtschaftswissenschaften, wird die besten Beiträge begutachten. Zou ist sich nicht sicher, was aus der Konferenz werden wird, aber er hofft, dass sich unter den Hunderten von Beiträgen, die er aus allen Bereichen erwartet, einige Perlen finden werden. „Es könnte KI-Beiträge geben, die interessante Entdeckungen enthalten“, sagt er. Und selbst wenn nicht: Es könne aber auch KI-Beiträge geben, die Fehler enthalten, die „interessant“ sind, meint der Forscher. Während er die Resonanz auf die Konferenz als insgesamt positiv bezeichnete, gab es auch Kritik von Kollegen.

Lisa Messeri, Wissenschaftsanthropologin an der Yale University, hat etwa viele Fragen zur Fähigkeit der KI, wissenschaftliche Arbeiten zu begutachten: „Wie kommt es zu Erkenntnisfortschritten? Und was passiert, wenn ein solcher Fortschritt dann auf dem Schreibtisch des Gutachters landet?“ Sie bezweifelt, dass die Konferenz zufriedenstellende Antworten liefern kann. Letztes Jahr untersuchten Messeri und ihre Kollegin Molly Crockett in einem anderen Artikel in Nature die Probleme beim Einsatz von KI in der Wissenschaft. Beide sind nach wie vor nicht davon überzeugt, dass KI zu neuen Ergebnissen führen kann – einschließlich derjenigen, die in Zous Artikel über Nanokörper vorgestellt wurden.

„Ich bin genau die Art von Wissenschaftlerin, für die solche Tools gedacht sind, da ich keine Informatikerin bin, aber dennoch computergestützte Arbeit verrichte“, sagt Crockett, Kognitionswissenschaftlerin an der Princeton University. „Gleichzeitig bin ich jedoch sehr skeptisch gegenüber den weitreichenden Behauptungen, insbesondere hinsichtlich der Frage, wie [KI-Wissenschaftler] bestimmte Aspekte des menschlichen Denkens simulieren können.“ Beide Forscherinnen stehen dem Einsatz von KI in der Wissenschaft skeptisch gegenüber, wenn die Automatisierung menschliche Wissenschaftler daran hindert, das erforderliche Fachwissen aufzubauen, um die Agenten zu überwachen. Stattdessen plädieren sie dafür, Experten aus einem breiteren Spektrum von Disziplinen einzubeziehen, um durchdachte Experimente zu entwerfen, bevor man KI die Durchführung und Überprüfung wissenschaftlicher Arbeiten anvertraut.

KI-Forscher Zou: „Es gibt viel Hype und viel Anekdotisches“

„Wir müssen mit Erkenntnistheoretikern, Wissenschaftsphilosophen, Wissenschaftsanthropologen und Fachwissenschaftlern sprechen, die sich intensiv mit der Frage beschäftigen, was Wissen eigentlich ist“, sagt Crockett. Zou sieht seine Konferenz jedoch genau als das Experiment, das dieses Gebiet voranbringen könnte. In Bezug auf KI-generierte Wissenschaft sagt er: „Es gibt viel Hype und viel Anekdotisches, aber es gibt wirklich keine systematischen Daten.“ Ob die KI-Konferenz Agents4Science solche Daten liefern kann, ist noch offen, aber im Oktober werden die Agenten und Bots zumindest versuchen, der Welt zu zeigen, was sie können.

Dieser Beitrag ist zuerst auf t3n.de erschienen.

(jle)