KI-Gipfel

Bayern! Minister Dr. Mehring zu KI: „Müssen Geister, die wir rufen, auch beherrschen!“

Bayerns Digitalminister zieht Konsequenzen aus hochrangigem KI-Gipfel: Bayerischer KI-Sicherheitsdialog, jährlicher Sicherheitsbericht, Bayerisches KI-Ethikforum und breit angelegte Aufklärungskampagne – KI-Sicherheitsinstitut soll nach Bayern!

Bayern baut seine Aktivitäten für sichere und verantwortungsvolle Künstliche Intelligenz deutlich aus. Nach einem hochrangig besetzten KI-Gipfel im Bayerischen Staatsministerium für Digitales kündigt Digitalminister Dr. Fabian Mehring ein umfassendes Maßnahmenpaket an.

Kernpunkte sind, ein neuer Bayerischer KI-Sicherheitsdialog, der mit dem mit dem Bayerischen KI-Rat abgestimmt wird, eine unabhängige wissenschaftliche Begleitung mit künftig jährlichem KI-Sicherheitsbericht, die Einrichtung eines Bayerischen KI-Ethikforums sowie eine breit angelegte Aufklärungskampagne für die Bevölkerung. Zugleich erneuert Mehring die bayerische Forderung, ein deutsches KI-Sicherheitsinstitut in Bayern anzusiedeln. Die Ergebnisse des Gipfels will er zudem bei der Digitalministerkonferenz im November in Brüssel einbringen.

Anlass für den Gipfel sind die rasant wachsenden Fähigkeiten moderner KI-Systeme – insbesondere sogenannter Frontier-Modelle und agentischer KI. Jüngste Sicherheitstests internationaler KI-Unternehmen und Forschungseinrichtungen haben gezeigt, dass leistungsfähige Modelle in konstruierten Testszenarien unter bestimmten Bedingungen täuschen, Schutzmechanismen umgehen oder sogar zu Erpressung und Sabotage greifen können. Zugleich warnen führende Forscher und Entwickler seit Längerem vor möglichen Risiken künftiger, noch leistungsfähigerer Systeme.

Mehring hatte deshalb Spitzenvertreter aus KI-Wirtschaft, Wissenschaft, Ethik und Gesellschaft an einen Tisch geholt. Mit dabei waren unter anderem Vertreter von Google, IBM, Mistral AI und OpenAI sowie Prof. Dr. Alena Buyx, Direktorin des Instituts für Geschichte und Ethik der Medizin an der Technischen Universität München und ehemalige Vorsitzende des Deutschen Ethikrats, Prof. Dr. Niklas Kühl, Inhaber des Lehrstuhls für Wirtschaftsinformatik und humanzentrische Künstliche Intelligenz an der Universität Bayreuth, Weihbischof Dr. Dr. Anton Losinger, Bischofsvikar für Bioethik und Sozialpolitik im Bistum Augsburg, Prof. Dr. Markus Sause, Direktor des KI-Produktionsnetzwerks Augsburg, sowie Prof. Dr. Sonja Zillner, Mitglied im Bayerischen KI-Rat.

Digitalminister Dr. Fabian Mehring:
„Wer bei KI an der Spitze fährt, muss auch die Leitplanken mitbauen. Bayern ist einer der stärksten KI-Standorte Europas. Deshalb wollen wir nicht nur Weltmeister bei den Chancen sein, sondern auch Verantwortung für die Risiken übernehmen. Mein Ziel ist weder ein digitaler Freifahrtschein noch eine regulatorische Vollbremsung. Wir brauchen intelligente Leitplanken, die Innovation ermöglichen und gleichzeitig dafür sorgen, dass der Mensch das Steuer in der Hand behält.“

Bayerischer KI-Sicherheitsdialog
Als erste Konsequenz aus dem Gipfel richtet das Digitalministerium einen Bayerischen KI-Sicherheitsdialog ein. In dem neuen Format sollen Spitzenvertreter aus Wirtschaft, Wissenschaft und Politik regelmäßig aktuelle Entwicklungen bewerten und daraus konkrete Handlungsbedarfe ableiten. Der Sicherheitsdialog soll mindestens zweimal jährlich und bei besonderen Entwicklungen auch kurzfristig zusammentreten. Die erste Sitzung soll noch 2026 stattfinden.

Mehring: „Die Entwicklung von KI wartet nicht auf den nächsten Gesetzgebungskalender. Deshalb brauchen wir einen festen Tisch, an dem Politik, Forschung und diejenigen zusammensitzen, die diese Systeme tatsächlich entwickeln. KI-Sicherheit darf kein Thema sein, das wir alle paar Jahre aus der Schublade holen. Sie muss zum permanenten Bestandteil unserer Technologiepolitik werden.“

Eigene wissenschaftliche Expertise und jährlicher KI-Sicherheitsbericht
Flankiert wird der Sicherheitsdialog durch eine wissenschaftliche Begleitung im Auftrag des Bayerischen Staatsministeriums für Digitales. Noch in diesem Jahr soll festgelegt werden, wer diese Aufgabe übernimmt. Auf dieser Grundlage will das Ministerium künftig jährlich einen Bayerischen KI-Sicherheitsbericht erstellen und öffentlich vorstellen. Der erste Bericht soll 2027 erscheinen.

Mehring: „Wir setzen auf den Dialog mit den Technologieunternehmen – aber der Staat darf sein Wissen über die Sicherheit einer Schlüsseltechnologie nicht ausschließlich von denen beziehen, die diese Technologie entwickeln und verkaufen. Das ist keine Frage des Misstrauens, sondern staatlicher Verantwortung. Der Konstrukteur sollte nicht zugleich der TÜV seines eigenen Produkts sein. Wir brauchen eigene Expertise, eigene Messinstrumente und ein belastbares Lagebild.“

Neues Bayerisches KI-Ethikforum
Neben technischen Sicherheitsfragen soll das Digitalministerium künftig auch die gesellschaftlichen und ethischen Dimensionen leistungsfähiger KI systematischer begleiten. Dazu gründet Mehring ein Bayerisches KI-Ethikforum unter dem Dach des Bayerischen Digitalministeriums. Auch dieses neue Gremium soll noch 2026 erstmals zusammentreten.
„Nicht alles, was technisch möglich wird, beantwortet automatisch die Frage, was gesellschaftlich wünschenswert ist“, so Mehring. „Wenn Maschinen immer autonomer entscheiden, kommunizieren und handeln, brauchen wir neben Informatik und Ingenieurskunst auch einen moralischen Kompass. Technologie braucht nicht weniger Fortschritt – sie braucht mehr Orientierung.“

Mehring: Europa darf nicht allein den Pausenknopf drücken
In der Diskussion des Gipfels habe sich zugleich gezeigt, dass eine Antwort auf KI-Risiken nicht darin bestehen könne, die technologische Entwicklung einseitig in Europa zu verlangsamen.

Mehring: „Wenn Europa den Pausenknopf drückt, während Amerika und China auf Fast Forward laufen, gewinnen wir keine Sicherheit – wir verlieren Einfluss. Wer bei der Entwicklung der Technologie nicht mehr mitspielt, sitzt irgendwann auch nicht mehr mit am Tisch, wenn ihre Regeln geschrieben werden.“

Ebenso wenig hält Mehring reine Selbstregulierung der Industrie für ausreichend.
„Bei einer Technologie dieser Tragweite kann sich der Staat nicht auf die Rückbank setzen und darauf vertrauen, dass der Markt seine Sicherheitsregeln allein schreibt. Wir brauchen messbare Standards, klare Meldepflichten und überprüfbare Indikatoren. Rechtsstaat bedeutet auch im KI-Zeitalter: Der Staat setzt den Rahmen und kann ihn im Ernstfall durchsetzen.“

Dabei müssten auch die Unternehmen selbst Verantwortung übernehmen.
„Die Gewinne privatisieren und die Sicherheitskosten sozialisieren – das kann bei einer disruptiven Technologie wie KI nicht das Modell sein. Wer mit Frontier-KI wirtschaftlich enorme Chancen erschließt, trägt auch Mitverantwortung dafür, dass diese Systeme sicher entwickelt werden. Deshalb müssen wir auch darüber sprechen, wie die Unternehmen selbst stärker zur Sicherheitsforschung beitragen.“

Unterschiedliche KI braucht unterschiedliche Regeln
Mehring spricht sich zugleich gegen eine pauschale Regulierung sämtlicher KI-Anwendungen nach demselben Muster aus. Ein hochautonomes Frontier-Modell mit weitreichenden Handlungsmöglichkeiten stelle andere Anforderungen an Sicherheit und Aufsicht als ein begrenzter digitaler Verkaufsassistent.
„Wir dürfen nicht mit der regulatorischen Gießkanne über jede KI-Anwendung gehen. Ein Verkaufsassistent ist kein autonomer Agent und ein spezialisiertes Assistenzsystem kein Frontier-Modell. Je größer die Fähigkeiten und je größer der mögliche Schaden, desto höher müssen die Sicherheitsanforderungen sein. Das ist für mich der vernünftige Weg zwischen blindem Alarmismus und blindem Fortschrittsglauben.“ Auch dezentrale und stärker spezialisierte KI-Systeme könnten dabei einen wichtigen Beitrag zur Risikobegrenzung leisten.

Nicht nur auf die Maschine schauen
Aus Sicht Mehrings darf sich die Debatte außerdem nicht ausschließlich auf die Vorstellung einer sich verselbständigenden KI konzentrieren. Gerade im Bereich Cybersicherheit gehe ein erheblicher Teil der Gefahr weiterhin von Menschen aus, die leistungsfähige KI bewusst für Angriffe, Betrug, Manipulation oder Desinformation einsetzen. „Die spektakulärste Geschichte ist die KI, die sich selbständig macht. Die kurzfristig wahrscheinlichere Gefahr ist aber häufig der Mensch, der KI gezielt missbraucht. Wir dürfen beim Blick auf die Maschine den Menschen hinter der Maschine nicht vergessen. Deshalb müssen KI-Sicherheit und Cybersecurity viel stärker zusammengedacht werden.“

Mehr Aufklärung über Künstliche Intelligenz
Aus Sicht Mehrings gehört zu einem verantwortungsvollen Umgang mit KI auch, die Bevölkerung stärker über Chancen, Funktionsweise und Risiken der Technologie zu informieren. Viele Debatten über Künstliche Intelligenz seien derzeit auch von Unsicherheit, Halbwissen und einem fehlenden Verständnis darüber geprägt, was heutige Systeme bereits können – und was nicht.
Das Bayerische Digitalministerium will deshalb geeignete Informations- und Dialogformate auf den Weg bringen, die Bürgerinnen und Bürger verständlich und alltagsnah über Künstliche Intelligenz informieren. Dabei sollen sowohl klassische Medien und Formate als auch soziale Medien genutzt werden.
Mehring:

„Vertrauen entsteht nicht durch Beschwichtigung, sondern durch Wissen. Wer verstehen kann, was KI leistet, wo ihre Grenzen liegen und welche Risiken tatsächlich bestehen, kann souveräner mit dieser Technologie umgehen. Deshalb wollen wir nicht nur über KI regulieren, sondern auch über KI aufklären – verständlich, transparent und dort, wo die Menschen ihre Informationen bekommen: in klassischen Medien genauso wie auf Social Media.“

Souveränität heißt Wahlfreiheit
Zugleich sei technologische Souveränität ein zentraler Bestandteil von Sicherheit. Mehring versteht darunter ausdrücklich keine digitale Autarkie Europas, sondern Wahlfreiheit und strategische Handlungsfähigkeit.
„Souveränität heißt nicht, alles selbst bauen zu müssen. Souveränität heißt, auswählen zu können. Wir dürfen bei einer Schlüsseltechnologie wie KI niemals in eine Situation geraten, in der technologische Abhängigkeit zum geopolitischen Druckmittel gegen Europa werden kann.“

Bayern erneuert Forderung nach deutschem KI-Sicherheitsinstitut
Mehring bekräftigte nach dem Gipfel außerdem die Forderung Bayerns, ein deutsches KI-Sicherheitsinstitut aufzubauen und dieses in Bayern anzusiedeln.
„Bei KI entscheidet Nähe zum technologischen Fortschritt über Qualität. Ein Sicherheitsinstitut darf kein strukturpolitischer Wanderpokal werden, den man irgendwann irgendwo hinstellt. Es gehört dorthin, wo man den Puls dieser Technologie jeden Tag spürt – zu Spitzenforschung, Start-ups, Tech-Konzernen und industrieller Anwendung. Dieser Ort ist Bayern und insbesondere München.“ Die Forderung will Mehring erneut gegenüber der Bundesregierung adressieren.

Ergebnisse gehen nach Brüssel
Auch auf europäischer Ebene sollen die Erkenntnisse des Gipfels eingebracht werden. Bei der nächsten Digitalministerkonferenz im November in Brüssel will Mehring die Ergebnisse der Münchner Beratungen zur Diskussion stellen.
Zudem wird das Digitalministerium die Inhalte des KI-Gipfels in einem ausführlichen Ergebnispapier dokumentieren. Dieses soll als fachliche Grundlage für die erste Sitzung des Bayerischen KI-Sicherheitsdialogs in Abstimmung mit dem Bayerischen KI-Rat dienen.

Mehring abschließend: „Wir stehen an einem historischen Punkt: KI kann unsere Wirtschaft produktiver machen, Krankheiten besser verstehen, Verwaltung revolutionieren und völlig neue Lösungen für große gesellschaftliche Probleme ermöglichen. Gleichzeitig wächst mit ihrer Leistungsfähigkeit unsere Verantwortung.
Bayern will deshalb weder die Handbremse des Fortschritts ziehen noch ohne Sicherheitsgurt beschleunigen. Wir wollen zeigen, dass Innovation und Verantwortung keine Gegensätze sind. Wenn Europa diesen Mix klug hinbekommt, kann genau daraus sogar ein neuer Standortvorteil entstehen: Technologien, die nicht nur leistungsfähig sind, sondern denen Menschen und Unternehmen auch vertrauen können. Auf diesem Weg wollen wir in Bayern im Schulterschluss von Wirtschaft, Wissenschaft, Politik und Gesellschaft an der Spitze vorangehen.“