Künstliche Intelligenz – Chancen ergreifen, Risiken minimieren
Leitlinie zur „Verantwortungsvollen Erforschung und Entwicklung von Künstlicher Intelligenz“ im Senat der Max-Planck-Gesellschaft verabschiedet
Viele der Techniken, die heute im Alltag eingesetzt werden, wie maschinelles Lernen und die Verarbeitung natürlicher Sprache, basieren auf jahrzehntelanger wissenschaftlicher Arbeit im Bereich künstlicher neuronaler Netze. Ein Großteil der neuesten und hochkarätigen KI-Forschung ist jedoch in den Forschungslaboren privater Tech-Unternehmen entstanden. Nicht umsonst ging der Nobelpreis in Chemie 2024 an zwei Forscher von Google DeepMind.
Dass KI-Forschung heute nicht in Universitätslabors, sondern hinter den verschlossenen Türen privater Unternehmen durchgeführt wird, kritisierte das Fachmagazin Nature in einem Beitrag vom September 2024. Der Anteil der Industrie an den größten und daher leistungsfähigsten KI-Modellen liege inzwischen bei 96 Prozent. Die größte Sorge sei daher, dass Unternehmen sich zwangsläufig auf Gewinne konzentrieren, die nicht nur die Arten von KI-Produkten beeinflussen, die sie entwickeln möchten, sondern auch die Forschungsfragen, die sie stellen.
Vor diesem Hintergrund kommt der akademischen Forschung eine große Bedeutung zu. Sie kann dazu beitragen, die KI-Forschung am Gemeinwohl auszurichten. So gibt es erkennbar ein Defizit an KI-Anwendungen, die sich auf genau jene Probleme konzentrieren, mit denen die Menschen am meisten konfrontiert sind, wie der Klimawandel, biomedizinische aber auch sozialwissenschaftliche Fragestellungen.
Im Rahmen eines zweitägigen Max-Planck-internen Symposium zu „KI und Forschung“ mit über 200 Teilnehmenden vor Ort in Berlin und weiteren bis zu 250 remote zugeschalteten haben Expertinnen und Experten ihre Forschung an und mit KI vorgestellt. Die Themen reichten von KI-Anwendungen in der Hirnforschung und Psychiatrie bis hin zu Anwendungen im Bereich der Astrophysik, den Geo- sowie den Sozialwissenschaften. Die methodische Weiterentwicklung der KI-Forschung in der MPG, die interdisziplinäre Zusammenarbeit sowie Strategien, die es der MPG ermöglichen, KI sowohl in der Wissenschaft als auch im wissenschaftsstützenden Bereich effizienter einzusetzen, waren Gegenstand verschiedener Podiumsdiskussionen.
Die Veranstaltung war der Auftakt für eine umfassendere KI-Initiative in der Max-Planck-Gesellschaft. Bereits im November 2024 hatte der Senat der Max-Planck-Gesellschaft eine Leitlinie zur „Verantwortungsvollen Erforschung und Entwicklung von Künstlicher Intelligenz“ verabschiedet. Zwar sind KI-Systeme, die ausschließlich für wissenschaftliche Zwecke entwickelt werden, von den Regulierungen des European AI Act ausgenommen, jedoch wird erwartet, dass auch in der Wissenschaft ethische und professionelle Standards eingehalten werden.
Das jetzt vorliegende Papier wurde in Zusammenarbeit mit Forschenden erarbeitet. Es ergänzt die bestehenden Leitlinien der Max-Planck-Gesellschaft, die den Rahmen für die Erforschung und Entwicklung von vertrauenswürdiger KI bilden. Zu diesen Leitlinien zählen etwa der Code of Conduct, die Regeln guter wissenschaftlicher Praxis oder die Hinweise und Regeln zum verantwortungsvollem Umgang mit Forschungsfreiheit und Forschungsrisiken.
