«Das Ziel der Regulierung muss sein, Menschen vor ungewollten Risiken zu schützen, ohne dabei Innovationen unnötig zu hemmen.»
Matthias Stürmer, Professor an der Berner Fachhochschule, spricht sich für eine sinnvolle Regulierung von Künstlicher Intelligenz aus. Er warnt vor den möglichen Folgen eines unkontrollierten Einsatzes und nennt konkrete Beispiele: So sei es etwa in der Vergangenheit zu einem Suizid nach einem intensiven Austausch mit einem Chatbot gekommen. In einem anderen Fall wurde ein Unternehmen verklagt, weil eine KI urheberrechtlich geschützte Fotos ohne Zustimmung der Rechteinhaber verwendet hatte.
Wie kann die Gesellschaft sicherstellen, dass sie die Chancen von KI bestmöglich nutzen und zugleich ihre Risiken minimieren kann?
Es ist ein ähnliches Prinzip wie bei der Erfindung des Autos: Zu Beginn gab es nur wenige Sicherheitsmassnahmen, da vieles noch im Bereich des Ausprobierens lag. Mit der Zeit erkannte man jedoch die Notwendigkeit von Vorschriften – und so wurde beispielsweise der Sicherheitsgurt eingeführt. Damit die Gesellschaft nun diese Balance zwischen einer möglichst effektiven Nutzung und der Minimierung von Risiken im Bereich der KI finden kann, braucht es eine sinnvolle Regulierung. Ein auch für die Schweiz wichtiges Gesetz wurde 2024 mit der Verabschiedung des sogenannten «EU AI Act» eingeführt.
Was regelt der «EU AI Act» und für wen gilt er?
Der «EU AI Act» ist eine Verordnung der Europäischen Union, die KI-Anwendungen nach vier Risikostufen – von minimal bis inakzeptabel – kategorisiert. Diese Regulierung bringt eine hohe Komplexität mit sich und beinhaltet über 100 Artikel, darunter allgemeine Bestimmungen, verbotene KI-Praktiken und vieles mehr. Zu den verbotenen Praktiken zählen unter anderem schädliche KI-basierte Manipulationen sowie Soziales Scoring. Letzteres wird vor allem in China angewendet, wo Menschen mittels Gesichtserkennung überwacht und bewertet werden.
Wo steht die Schweiz bei der KI-Regulierung?
In der Schweiz gibt es aktuell keine spezifische Gesetzgebung zur Regulierung von KI. Der Bundesrat hat jedoch beschlossen, bis 2026 eine Vernehmlassungsvorlage für neue gesetzliche Regelungen für die Nutzung von KI zu erarbeiten. Diese soll zentrale Bereiche wie Transparenz, Datenschutz, Nichtdiskriminierung und Aufsicht abdecken. Dabei handelt es sich zunächst lediglich um einen Gesetzesentwurf, dessen tatsächliche Umsetzung voraussichtlich noch mehrere Jahre in Anspruch nehmen wird. Aber schon heute müssen sich Schweizer Unternehmen mit den Vorgaben des «EU AI Act» befassen, wenn sie in der EU tätig sind. Denn der «AI Act» gilt für alle Firmen, die sich an die Bevölkerung der EU wenden.
«Beim Individuum selbst geht es nicht um die Regulierung, sondern um die Aufklärung.»
Wer ist nun verantwortlich für den sicheren Umgang mit KI?
Bereits im Jahr 2017 wurden Grundprinzipien zur sicheren und ethischen Nutzung von KI formuliert. Auf der «Asilomar-Konferenz für eine nützliche KI» wurden dabei sowohl mögliche Risiken von KI als auch Chancen für eine verantwortungsvolle Anwendung diskutiert. Mit der Verabschiedung von 23 Grundsätzen sollte eine Entwicklung der KI gefördert werden, die sich auf deren Vorteile beschränkt. Grosse Unternehmen wie Microsoft und Google haben diesen «ethischen Kodex» unterzeichnet, mit dem Ziel, ihn als Richtlinie für Unternehmen zu setzen. In der Praxis hat sich jedoch gezeigt, dass die Umsetzung dieser Prinzipien nicht immer reibungslos verläuft.
Was passiert, wenn KI ausser Kontrolle gerät?
Ein Extrembeispiel aus den USA verdeutlicht die Risiken: Ein Teenager hat monatelang mit einem Chatbot kommuniziert, der einem Charakter aus der Fernsehserie «Game of Thrones» nachgebildet war. Es handelte sich dabei um eine emotional belastende Beziehung, die den 14-Jährigen schlussendlich in den Selbstmord getrieben hat. Die Bundesrichterin hat die Klage der Mutter gegen die Entwickler-Firma nun zugelassen. Werden solche Technologien also auf Millionen von Menschen losgelassen, sind klare Spielregeln unerlässlich – auch wenn Firmen dies oft ungern sehen, weil mehr Regulation üblicherweise die Innovationen hemmt.
Unternehmen werden also in die Pflicht genommen. Welche Verantwortung haben wir Nutzer?
Beim Individuum selbst geht es nicht um die Regulierung, sondern um die Aufklärung. Vor allem Schulen sollten vermitteln, wie man verantwortungsvoll mit KI umgehen kann, damit es zu solchen Extremfällen gar nicht erst kommt. Denn in der Kommunikation kann KI eine Hilfe sein, doch wenn es um Lebensweisheiten geht, sollte ein Chatbot nicht die erste Anlaufstelle sein.
Wie steht es um den Schutz von Werken vor missbräuchlicher Verwendung durch KI?
Werke, die von Menschen geschaffen werden, sind urheberrechtlich geschützt. Das bedeutet, dass KI solche Werke nicht einfach weiterverbreiten darf. Die heutigen KI-Modelle werden jedoch mit riesigen Datensätzen trainiert, die auch urheberrechtlich geschützte Bilder enthalten können. Ein Beispiel dafür gab es im Jahr 2023, als die Bildagentur Getty Images eine Klage gegen Stability AI einreichte, weil diese Bilder von Getty Images kopiert und für eigene Zwecke verwendet hatte. Getty Images hofft jetzt, dass eine solche Nutzung durch KI verboten wird. Ein vollständiges Verbot könnte jedoch die Innovationsfähigkeit erheblich einschränken.
Was fordern Sie aus wissenschaftlicher Sicht zum jetzigen Zeitpunkt konkret von der Politik?
Ich bin immer hin- und hergerissen, wie stark die Politik nun eingreifen sollte. Ich kann gut verstehen, dass der Bundesrat für die Schweiz noch keinen Regulierungspfad festgelegt hat, denn die Wirtschaft hätte sicher protestiert, wenn die Schweiz sich der EU angeschlossen hätte. Gleichzeitig halte ich den «EU AI Act» für sinnvoll und bin der Meinung, dass er auch für die Schweiz gelten sollte – vorausgesetzt, man weiss, wie man ihn in der Praxis umsetzt. Grundsätzlich sollte sich die Politik mit der Frage auseinandersetzen, wie man KI ethisch sinnvoll regulieren kann. Ziel muss es sein, Menschen vor ungewollten Risiken zu schützen, ohne dabei Innovationen unnötig zu hemmen.
Das Gespräch führte Jaël Schultze. Sie ist Praktikantin Medien und Kommunikation bei der Schweizerischen Evangelischen Allianz SEA.