Künstliche Intelligenz eröffnet neue Möglichkeiten und kann unseren Alltag erleichtern. Doch mit der Technologie sind auch Herausforderungen verbunden, bis hin zu Risiken für die Demokratie. Wie kann unsere Gesellschaft damit umgehen?
Welche Kompetenzen brauchen wir im Umgang mit KI?
KI ist nicht gleich KI. Unter dem Begriff werden verschiedene Ansätze zusammengefasst. Und nicht alle der vielfältigen Anwendungen für Künstliche Intelligenz bergen ernste Risiken. Um das Thema einschätzen zu können, müssen wir zunächst ein Bewusstsein dafür entwickeln, wo KI konkret eingesetzt wird und welche Auswirkungen dies haben kann. Besonders kritisch sollten wir reflektieren, wenn KI die Interessen und Rechte von Menschen berührt. Zum Beispiel, wenn KI eingesetzt wird, um die Kreditwürdigkeit zu beurteilen oder Bewerberinnen und Bewerber für einen Job auszuwählen. In solchen Bereichen muss hinterfragt werden, ob die Rechte der Betroffenen gewahrt werden.
Besonders kritisch wird es ebenfalls, wenn KI die Funktionen unserer Demokratie berührt. Dies ist zurzeit vor allem im Bereich der sozialen Netzwerke der Fall, wo Algorithmen die Meinungsbildung und öffentliche Diskussion beeinflussen können. Es ist darum wichtig, über diese Mechanismen in sozialen Netzwerken Bescheid zu wissen und Informationen kritisch zu hinterfragen.
Digitalcheck NRW
Weitere Informationen finden Sie beim #DigitalCheckNRW der Gesellschaft für Medienpädagogik und Kommunikationskultur. Dort können Sie auch Ihren individuellen Wissensstand zum Thema KI testen.
Anforderungen an die Entwicklung von KI
Es gibt Möglichkeiten, mit den Herausforderungen durch KI verantwortungsvoll umzugehen. Viele Fachleute und kritische Initiativen fordern, schon bei der Entwicklung ethische und rechtliche Aspekte zu berücksichtigen. Oft dominiert in der KI-Branche die technische Perspektive, Fachleute kommen meist aus der Informatik. Hier genügt es nicht, dass kritische Stimmen von außen die gesellschaftliche Perspektive einbringen. Vielmehr sollten ethische Abwägungen bereits in die Entwicklungsprozesse integriert werden.
Dafür könnten zum Beispiel gesellschaftliche Fragen in der Informatik-Ausbildung mehr Raum bekommen. Ein weiterer Ansatz ist, Vielfalt in den Entwicklungsteams zu schaffen. Wenn dort zum Beispiel marginalisierte Gruppen vertreten sind, kann dies helfen, Diskriminierungen entgegenzuwirken. Darüber hinaus ist auch die ökologische Perspektive wichtig – denn der KI-Einsatz kann viel Rechenleistung erfordern und beansprucht daher beträchtliche Ressourcen.
Wie sieht eine faire KI aus?
Unsere Gesellschaft verfügt über ein klares Verständnis, wie ein demokratisches und faires Miteinander aussieht. „KI in der Demokratie“ muss diesem Verständnis entsprechen. Dazu gehört, dass kein Mensch aufgrund seines kulturellen, religiösen, körperlichen oder geschlechtlichen Hintergrundes benachteiligt werden darf. Und der Zugang zu bestimmten Diensten muss gleichberechtigt und diskriminierungsfrei sein.
Doch zu beurteilen, ob eine konkrete KI-Anwendung diesen Grundsätzen entspricht, ist angesichts der Komplexität der Technologie nicht einfach. Eine wichtige Voraussetzung ist, dass die Funktionen nachvollziehbar sind. Daher wird oft gefordert, die Algorithmen offenzulegen.
In vielen Ländern der Welt wird an KI geforscht. Jedoch sind nicht alle davon Demokratien und nicht immer werden Menschenrechte und Datenschutzaspekte berücksichtigt. Bei der Entwicklung von KI ist es aber wichtig, dass sich die Menschen einig sind, was „gut“ und was „schlecht“ ist. Hier wird oft gefordert, dass eine „Ground Truth“, also ein länderübergreifendes ethisches Regelwerk entwickelt wird. Dabei geht es allerdings um normative Fragen, die global nicht immer eindeutig zu beantworten sind.
Es bedarf also einer breit angelegten öffentlichen Debatte über Ethik und KI. Dass dieses Thema in der medialen Berichterstattung über KI in Deutschland aber aktuell noch eine untergeordnete Rolle spielt, zeigt das Projekt MeMo:KI – Meinungsmonitor Künstliche Intelligenz, das seit 2021 die Medienberichterstattung zum Thema KI analysiert.
Was tun Politik und Gesellschaft?
Viele Akteure können Einfluss auf die Entwicklung von KI nehmen. Um die wichtigsten Rahmenbedingungen zu formulieren, ist die Politik gefragt. Sie ist bereits auf verschiedenen Ebenen aktiv. So hat die damalige Bundesregierung erstmals 2018 eine nationale Strategie für KI (PDF-Datei, 615 KB) vorgelegt. Sie wurde 2020 aktualisiert.
Der Bundestag hat eine Enquête-Kommission zum Thema KI eingesetzt. Sie hat von Oktober 2018 bis Mitte 2020 Handlungsempfehlungen zum Thema verfasst. Dabei ging es sowohl um die gesellschaftliche Verantwortung als auch wirtschaftliche, soziale und ökologische Potenziale von KI.
Auch auf der Ebene der Bundesländer gibt es KI-Aktivitäten. Ziel der Plattform „KI.NRW“ ist es etwa, aktuelle Forschungsergebnisse in die Wirtschaft zu tragen und die Anwendung von KI zu fördern. Dabei sollen ebenso ethische Grundsätze im Fokus stehen.
Eine zentrale Rolle spielen die Unternehmen, welche die KI-Entwicklung vorantreiben und die Technologie einsetzen. In der Wirtschaft gibt es oft bereits Selbstverpflichtungen zu verantwortungsvollem Handeln („Corporate Social Responsibility“, CSR). Es liegt nahe, KI dabei ausdrücklich einzubeziehen, um unternehmensintern einen kritischen Umgang mit der Technologie zu fördern.
In der Zivilgesellschaft gibt es bereits eine Reihe von Organisationen, welche die Entwicklung und den Einsatz von KI kritisch begleiten. Dazu gehört zum Beispiel Algorithm Watch. Die Initiative analysiert automatisierte Entscheidungsprozesse und deren gesellschaftliche Auswirkungen – sowie die dahinterstehenden Akteure und ihre Interessen.
Auch einzelne Bürgerinnen und Bürger können Einfluss nehmen. Dies beginnt bei der bewussten und kritischen Nutzung von digitalen Medien. Soziale Netzwerke zum Beispiel sind auf ihre Nutzerinnen und Nutzer angewiesen. Wenn diese sich organisieren und Kritik äußern oder bestimmten Plattformen verlassen, kann dies die Betreiberunternehmen zu Änderungen bewegen.
Darüber hinaus kann jede und jeder auf die politischen Rahmenbedingungen im KI-Bereich Einfluss nehmen, zum Beispiel durch Wahlentscheidungen, aber auch durch entsprechendes politisches Engagement.
KI im Bildungswesen
In der Politik aber auch in der Gesellschaft rückt zunehmend die Frage in den Vordergrund, wie in der schulischen und außerschulischen Bildung mit KI umgegangen werden soll. Anwendungen wie der textgenerierende ChatGPT bieten dabei sowohl Chancen als auch Herausforderungen für den Bildungssektor.
Insbesondere mit KI erstellte Lernnachweise sind an vielen Schulen und Hochschulen eine Herausforderung. Einerseits können KI-Anwendungen beispielsweise unterstützend bei der Erstellung von Lernmaterialen eingesetzt werden oder Schülerinnen und Schülern bei der Texterstellung helfen. So lassen sich beispielsweise Recherchen unterstützen und digitale Kompetenzen trainieren. Andererseits behindert die fehlende Auseinandersetzung mit dem Stoff Lernfortschritte. Wer Hausarbeiten von der KI erstellen lässt, kommt kaum zu einer kritischen Bewertung von Inhalten und Quellen. Das aber sind Schlüsselkompetenzen in einer offenen, demokratischen Gesellschaft.
Darüber hinaus sind auch KI-Tools nicht fehlerfrei und es bedarf klarer Regeln, wo ihr Einsatz erwünscht ist und wo nicht. Das Ministerium für Schule und Bildung NRW (MSB) hat in diesem Zusammenhang Ende Februar 2023 einen Handlungsleitfaden für Lehrkräfte zum Umgang mit textgenerierenden KI-Systemen veröffentlicht. Darin sind praxisnahe Empfehlungen für die Schulung der Lernenden im Umgang mit KI-Werkzeugen und Regeln für den schulischen Einsatz (z. B. bei Quellenangaben und Prüfungen) zusammengestellt. Der Leitfaden enthält auch Tipps, wie Aufgaben so gestellt werden, dass sie nicht ausschließlich mit KI-Anwendungen gelöst werden können. Darüber hinaus plädiert das MSB dafür, die gesellschaftlichen Auswirkungen des Einsatzes von KI im Unterricht kritisch zu thematisieren.
Was bewegt NRW
Weitere Informationen hierzu finden Sie auch in unserem Debattenformat Was bewegt NRW? zum Thema "KI macht Schule: Ist ChatGPT eine Chance für die Bildungslandschaft in NRW?"
Mehr erfahren: Fallbeispiele und Linktipps
- „Technologische Infrastrukturen kreieren Abhängigkeit”, Interview bei der Bundeszentrale für politische Bildung mit der Forscherin Theresa Züger
- UNESCO-Empfehlung zur Ethik Künstlicher Intelligenz. Bedingungen zur Implementierung in Deutschland
- Die Politik und die Künstliche Intelligenz, Audio-Beitrag von Deutschlandfunk
- Lernplattform des KI-Campus (BMBF gefördert) für Künstliche Intelligenz zur Stärkung von KI- und Datenkompetenzen
- AI4Democracy - Grundlagen zu KI in der Demokratie - ein Online-Kurs auf auf der Lernplattform des KI-Campus
- Mehr über Bildung in Zeiten von KI und maschinellem Lernen findet sich in der Werkstatt der Bundeszentrale für Politische Bildung
- "ChatGPT: Ende der Kreativität oder schöpferische Freiheit?", Sendung der Sternstunde Philisophie bei SRF Kultur Sternstunden
