Generative KI – Neue Technologie mit Chancen und Gefahren für die Demokratie

Studie zu politischen Handlungsoptionen in Hinblick auf künstliche Intelligenz auf Website des Parlaments verfügbar

Über das Projekt „Foresight und Technikfolgenabschätzung“ holt das österreichische Parlament regelmäßig wissenschaftliche Expertise über die potenziellen Auswirkungen von technischen Entwicklungen auf Politik und Gesellschaft ein. Anfang 2024 wurde beim Institut für Technikfolgen-Abschätzung (ITA) der Österreichischen Akademie der Wissenschaften (ÖAW) eine Kurzstudie in Auftrag gegeben, die sich der Frage der möglichen Auswirkungen von neuen Anwendungsformen von künstlicher Intelligenz (KI) insbesondere auf die Demokratie widmet. Die Abgeordneten wollen vor allem wissen, wie die Politik mit den neuartigen Möglichkeiten der sogenannten generativen KI umgehen kann, die erlaubt, gänzlich neue Inhalte in hoher Qualität zu erstellen. Mit Chatbots oder Deep Fakes erhöht sich auch die Gefahr, dass Informationen manipuliert und die öffentliche Meinung unzulässig beeinflusst wird.

Im Endbericht des ITA, der nun vorliegt, werden Themen wie digitale Souveränität, hybride Bedrohungen, KI-Cyberkriminalität ebenso behandelt wie mögliche Optionen für den Umgang mit KI. Für die politische Sphäre sieht die Studie neben Chancen auch beträchtliche Risiken von generativer KI für die Demokratie. Die Forscher:innen stellen daher fest, dass aus der Perspektive der Technikfolgenabschätzung ein Einsatz dieser neuartigen, sehr wirkmächtigen Technologie ohne eingehende Diskussion ihrer Wirkungen und ohne entsprechende begleitende Maßnahmen nicht vertretbar sei, egal, für welchen Zweck er erfolgt.

POTENZIALE VON KI FÜR POLITIK UND DEMOKRATIE NUTZBAR MACHEN

In ihrer Betrachtung der neuen Möglichkeiten von KI-Anwendungen, insbesondere der generativen KI, sehen die Forscher:innen durchaus vielversprechendes Potenzial für die Politik und Demokratie. Allerdings müssten diese Chancen auch aktiv genutzt und sinnvoll gestaltet werden, um tatsächlich demokratiefreundliche Ergebnisse zu bewirken. Als „Selbstläufer“ könnten sich im Grunde positive Möglichkeiten in ihr Gegenteil verkehren, warnt die Studie.

Angeregt wird daher, sinnvolle, positive und gut funktionierende Anwendungen des Einsatzes von generativer KI in der Politik zu sammeln und auf einer Art „Demokratie-Plattform“ zugänglich zu machen. Diese Plattform könnte auch im Zusammenhang mit Initiativen zu KI-Literacy eine wichtige Rolle spielen. Für den Erfolg dieser neuen Elemente des zukünftigen demokratischen Diskurses sei dabei essentiell, dass sie nach europäischen und österreichischen Standards implementiert werden. Unter anderem müssten sie mit verlässlichen, DSGVO- und urheberrechtskonformen Daten trainiert und entsprechend kuratiert werden.

Weiters weisen die Autor:innen des Berichts auf die Gefahr eines neuen Digital Divide hin. Eine vollständige Umstellung auf digitale Dienste, ohne dass alle Betroffenen diese auch schon nutzen, würde zum Ausschluss mancher Bevölkerungskreise führen. Wichtig sei auch, dass der politische Diskurs trotz aller Digitalisierung weiterhin unter Menschen stattfindet und nicht primär über KI-gesteuerte Bots.

GRAVIERENDE PROBLEME WIE CO2-FUSSABDRUCK MITBEDENKEN

Die Studie weist auch auf gravierende Probleme hin, die im Zusammenhang mit KI-Anwendungen zu bedenken sind. Dazu gehört etwa ihr enormer Ressourcenverbrauch an Energie, Wasser und Land und der damit einhergehende markante CO2-Fußabdruck. Auch wird auf gravierende ethische Defizite bei den Arbeitsbedingungen im menschlichen Teil der KI-Wertschöpfungskette und weitgehend offene Urheberrechts- und Datenschutzfragen hingewiesen. Noch wenig untersucht seien auch die sich abzeichnenden Folgen für die Gesellschaft, insbesondere disruptive Auswirkungen auf den Bildungssektor.

ZAHLREICHE HANDLUNGSOPTIONEN FÜR DEN UMGANG MIT KI

Bei der Durchführung der Studie haben die Forscher:innen zwischen regulativen, organisatorischen und technischen Ansätzen unterschieden. Ziel sei es gewesen, Handlungsoptionen zu eruieren, wie erwünschte Entwicklungsrichtungen gefördert und Risiken ausgeschlossen oder zumindest minimieret werden können. So wird die Einrichtung einer parlamentarischen Enquetekommission „Demokratie und KI“ und die Erarbeitung eines Verhaltenskodex zu KI in der Politik für sinnvoll erachtet. Zudem werden bundesweite Bürger:innen-Foren zu Grundsatzfragen der Demokratie angeregt. Gesamtgesellschaftlich gelte es, die Medien- und KI-Literacy massiv zu fördern und die Transparenz von KI-Anwendungen zu erhöhen.

Um die demokratische Meinungsbildung zu schützen, werden die gesetzliche Festlegung der klaren Verantwortlichkeit von digitalen Plattformen für ihre Inhalte sowie ein generelles Verbot eines politischen Microtargeting von Wähler:innen mithilfe von KI zur Diskussion gestellt. Auch ein Verbot von politisch motivierten Deepfakes mit Schadensabsicht wird für sinnvoll erachtet.

Österreich soll zudem die Möglichkeit ergreifen, sich in der EU als Vorreiter einer proaktiven Vorgangsweise zum Erhalt der Demokratie zu positionieren und Initiativen in Richtung der Absicherung der staatlichen digitalen Souveränität zu setzen. Angeregt wird auch, eine eigene Diskursplattform aufzubauen, die demokratieverträglich und europäisch ist.

Von großer Wichtigkeit ist es laut den Verfasser:innen der Studie, Manipulationsversuche systematisch und konsequent abzuwehren. Dazu müsse das Fact-Checking gefördert und die Koordination der Abwehr feindlicher Einmischungsversuche intensiviert werden. Auch müsse eine umfassende Kennzeichnung KI-generierter Inhalte durchgesetzt werden. In der Forschungspolitik gelte es, die Entwicklung chancenreicher KI-Anwendungen im politischen Kontext zu fördern und die KI-Begleitforschung zu forcieren. Zudem wird ein jährlicher Monitoringbericht zur digitalen politischen Kommunikation in Österreich für sinnvoll erachtet.

Laut den Forscher:innen reiche jedenfalls die Regulierung alleine nicht aus, um die Probleme und Risiken, die mit generativer KI auf die Demokratie zukommen, in den Griff zu bekommen. Daher sei eine Kombination von vielen unterschiedlichen, gut aufeinander abgestimmten Maßnahmen in regulativer, organisatorischer und technischer Hinsicht notwendig.

Nur die FPÖ kritisiert, dass der Studie inhaltliche Ausgewogenheit fehle. (Schluss) red

Den Link zur Studie auf der Webseite des Parlaments finden Sie hier:

Generative KI und Demokratie

————————-

Pressedienst der Parlamentsdirektion
Parlamentskorrespondenz
Tel. +43 1 40110/2272
pressedienst@parlament.gv.at
http://www.parlament.gv.at
www.facebook.com/OeParl
www.twitter.com/oeparl

OTS-ORIGINALTEXT PRESSEAUSSENDUNG UNTER AUSSCHLIESSLICHER INHALTLICHER VERANTWORTUNG DES AUSSENDERS. www.ots.at
© Copyright APA-OTS Originaltext-Service GmbH und der jeweilige Aussender