Nicht erst seitdem die Applikation Chat GPT von Open AI öffentlich zugänglich gemacht wurde, ist klar, dass die Entwicklungen im Bereich der künstlichen Intelligenz (KI) immer dynamischer und tiefgreifender werden. Es gilt zu prüfen, ob die rechtlichen Rahmenbedingungen dahingehend ausgestaltet sind, dass unser Rechtssystem und seine Prinzipien auch mit neuen Technologien weiter greifen.

Der Bundesrat wird damit beauftragt,

1. Bericht zu erstatten, ob und wo er aktuell bei der Gesetzeslage und Rechtspraxis Lücken identifiziert, welche dazu führen, dass unser Rechtssystem den Entwicklungen rund um KI nicht gerecht wird.

2. Stellung dazu zu nehmen, ob die momentane juristische Praxis ausreichend ist, um der seitens der Bevölkerung zunehmenden Unsicherheit ausserhalb der unmittelbar für den Bund anwendbaren Rechtsbereiche zu begegnen.

Dabei soll er sich von einem technologieneutralen Ansatz leiten lassen.

Gestützt auf diese Analyse soll:

3. Geprüft werden, ob eine Strategie, basierend auf einer Chancen- Risiko Analyse durch eine Expertengruppe, aus Wirtschaft, Wissenschaft und NGOs erstellt werden muss.

4. Gegebenenfalls ein Konzept zum gesetzgeberischen Handlungsbedarf erstellt werden, in dem die Prioritäten, der Zeitplan für die Umsetzung der notwendigen Massnahmen und die Bereitstellung der notwendigen Ressourcen ausgeführt werden.

Der Bund hat auf die zunehmende Wichtigkeit von KI reagiert, Vorstösse zu diesem Thema beantwortet, Dokumente und Leitlinien zu Risiken und Chancen veröffentlicht und Expertengremien einberufen. Zu nennen sind die Leitlinien des Bundes zu KI, die Strategie Digitale Schweiz, der Bericht der interdepartementalen Arbeitsgruppe zu künstlicher Intelligenz (IDAG KI), sowie das Kompetenznetzwerk Künstliche Intelligenz des BFS (CNAI). Auch das revidierte Datenschutzgesetz deckt kritische Bereiche ab, in denen KI zur Anwendung kommt. Dies sind wichtige erste Schritte, es ist aber nicht klar, ob sie ausreichend sind. Besonders in den Bereichen ausserhalb des Wirkungsbereichs des Bundes (Privat- und Zivilrecht), bestehen Unsicherheiten, wo ein Bezugsrahmen, der auch die Privatwirtschaft mit einbezieht, weitgehend fehlt.

Aussenpolitisch ist die Schweiz im „Committee on Artificial Intelligence“ (CAI) des Europarates aktiv, wo sich auch privatwirtschaftliche Akteure an den Beratungen beteiligen, und setzt sich als konstruktiver Partner für bindende Leitlinien innerhalb der Mitglieder des Europarates ein. Nun soll sie dies auch innenpolitisch in kohärenter Weise tun. Statt lediglich weiter zuzuwarten, kann die Schweiz ihren technologischen Innovationsstandort weiter fördern und auf den Bereich KI ausdehnen, wenn dem Thema mit einem pragmatischen Ansatz begegnet wird (analog DLT-Gesetzgebung) und proaktiv im Sinne von „so viel wie nötig, so wenig wie möglich“ Lücken identifiziert und -soweit erforderlich- Anpassungen vorgenommen werden.

Die EU hat mithilfe des bereits 2021 vorgelegten EU AI Acts den Stein zur europaweiten KI-Regulierung ins Rollen gebracht. Obschon der AI Act noch nicht fertig verhandelt ist, lässt sich bereits erkennen, dass die EU eine allgemeine Dachlösung anstrebt, während die Regulierung von Sektor zu Sektor in separaten Gesetzen und Verordnungen sukzessive auszudifferenzieren sein wird.

Die letztlich entstehende EU-Verordnung zu KI wird aufgrund extraterritorialer Wirkung in absehbarer Zeit auch Auswirkungen auf die Schweiz haben.

Der Bundesrat teilt das Anliegen des Postulats. Er verfolgt seit 2018 die Entwicklungen, Chancen und Risiken im Bereich der künstlichen Intelligenz (KI) aufmerksam und hat bereits verschiedene Massnahmen getroffen und Strukturen geschaffen, wie sie im Postulat gefordert werden. Zu nennen sind u.a. der Bericht der IDAG KI 2019, die KI-Leitlinien für den Bund 2020 sowie die Schaffung des Kompetenznetzwerks für KI (CNAI) 2022. Das Ende 2022 vom BAKOM in Zusammenarbeit mit dem CNAI durchgeführte Monitoring der KI-Leitlinien hat ergeben, dass diese bekannt und relevant sind und diesbezüglich aktuell kein Handlungsbedarf besteht. Des Weiteren hat der Bundesrat am 5. April 2023 das UVEK (BAKOM) beauftragt, einen Gesetzesvorschlag zur Regulierung von Online-Plattformen auszuarbeiten. Wissend, dass die Auswirkungen der Nutzung von KI-Systemen stark kontextabhängig sind, verfolgt der Bundesrat den Ansatz, dass allfällige Massnahmen wo immer möglich und sinnvoll in den jeweiligen Sektoren, auf Basis bestehender Strukturen und Logiken vorgenommen werden sollen.

Ein wichtiges Gefäss für den Dialog sowie Informations- und Wissensaustausch zu politischen, gesellschaftlichen und wirtschaftlichen Aspekten von Kl ist die vom BAKOM koordinierte „Plateforme Tripartite“, welche allen Interessierten offensteht und über einen Verwaltungsausschuss zur Koordinierung von Schweizer Positionen verfügt. KI war in den letzten Jahren auch Thema am Swiss Internet Governance Forum, welches unter dem Patronat des BAKOM steht, und wird auch am nächsten Swiss IGF vom 13. Juni 2023 prioritär diskutiert. Zudem soll im CNAI ein „Knotenpunkt Recht“ geschaffen werden, welcher sich spezifisch mit rechtlichen Herausforderungen befasst. Weiter leitet das BAKOM zusammen mit dem Staatssekretariat des EDA (Abteilung Europa) eine interdepartementale Koordinationsgruppe (IK) zur EU Digitalpolitik, welche auch die Arbeiten der EU am AI Act aufmerksam verfolgt, mögliche Auswirkungen auf die Schweiz analysiert und Bundesrat und Öffentlichkeit regelmässig informiert (siehe die aktuelle Analyse vom 18. April 2023 auf der BAKOM-Website).

Auch international ist die Schweiz seit Jahren aktiv und hat die Arbeiten der OECD, des Europarates, der UNESCO und der ITU im Bereich KI mitgeprägt. Das EDA hat in seinem Bericht vom April 2022 den Willen des Bundes bekräftigt, das internationale Regelwerk zu KI aktiv mitzugestalten. Dies geschieht derzeit insbesondere im Rahmen des KI-Ausschuss des Europarats. Dieser hat den Auftrag, das erste verbindliche internationale Abkommen zu KI zu verhandeln, welches auf den Normen des Europarats zu Menschenrechten, Demokratie und Rechtstaatlichkeit beruht und die Innovation fördern soll. Der Ausschuss, in welchem auch führende KI-Nationen wie die USA, Japan oder Israel mitverhandeln, wird von Botschafter Thomas Schneider, Vizedirektor des BAKOM, präsidiert. EDA DV, BAKOM und BJ bilden gemeinsam die Schweizer Delegation im CAI. Weiter ist die Schweiz an den Arbeiten der UNCITRAL zur Automatisierung von Verträgen (inklusive der Verwendung von KI) im internationalen Handelsrecht beteiligt.

Zum AI Act der EU sind aktuell noch diverse Fragen offen. Die meisten Beteiligten rechnen mit einem Abschluss der Arbeiten Ende 2023 oder Anfang 2024. Da die EU-Kommission für alle Mitgliedstaaten die Verhandlungen im Europarat führt, ist davon auszugehen, dass die Verhandlungen im Europarat einen ähnlichen Zeitplan haben werden. Die Ergebnisse dieser beiden für die Schweiz wohl relevantesten internationalen Prozesse werden demzufolge erst in etwa einem Jahr vorliegen. Anders als die EU haben führende KI-Nationen wie die USA, UK, Japan oder Israel derzeit keine konkreten Projekte für eine horizontale Regulierung von KI und fokussieren wie die Schweiz auf möglichst kontextspezifische Massnahmen für KI.

Der Bundesrat wird die Analyse über die Entwicklungen im Bereich KI sowie bezüglich der für die Schweiz relevanten europäischen und internationalen Regelwerke im Rahmen der genannten Gefässe (insb. IK EU-Digitalpolitik, KI-Leitlinien-Monitoring, Plateforme Tripartite und CNAI) und unter Zusammenarbeit aller für die betroffenen Rechtsbereiche federführenden Bundesstellen weiterführen und bis Ende 2024 Handlungsbedarf und mögliche Optionen für sektorielle und wenn nötig horizontale Massnahmen aufzeigen, welche als Grundlagen für weitere Diskussionen im Parlament und der Öffentlichkeit dienen können.

Der Bundesrat beantragt die Ablehnung des Postulates.