In dieser Lektion werdet ihr…
- euch mit der Ethik von Technologie und KI auseinandersetzen.
- dafür sorgen, dass euer Projekt einen positiven Einfluss auf die Interessensgruppen (Stakeholder) ausübt.
Schlüsselbegriffe
- Ethik: moralische Prinzipien, die beeinflussen, wie Menschen entscheiden, was richtig oder falsch ist
- Voreingenommenheit (Bias): vorgefasste Meinungen, die jemand hat und die oft unfair gegenüber anderen Personen oder Gruppen sind
- Interessengruppen (Stakeholder) – Menschen oder Einrichtungen, die durch Entscheidungen oder Handlungen einer Organisation oder eines Unternehmens beeinflusst werden oder davon betroffen sind
Ethik und Handlungen
Ethik gehört zur Philosophie und befasst sich mit der Frage, was richtig oder falsch ist. Aus vielen Gründen stellt dieser Punkt ein wichtiges Thema im Bereich der Technologie und besonders auf dem Gebiet der KI dar! Dabei geht es darum sicherzustellen, dass euer Projekt den Menschen und der Gesellschaft zugutekommt und keinen Schaden anrichtet, selbst wenn dieser Schaden unbeabsichtigt ist.
Algorithmische Voreingenommenheit liegt vor, wenn Programmierer:innen oder KI-Entwickler:innen ihr Programm oder Modell dahingehend gestalten, dass einige Nutzer:innen besser behandelt werden als andere oder ungerechte Ergebnisse für Nutzer:innen entstehen. Selbst wenn dies unbeabsichtigt ist, kann das Nutzer:innen benachteiligen.
Verpflichtet euch dazu, dass euer Projekt ausschließlich einen positiven Einfluss ausübt!
Technologie gehört in der heutigen Zeit zu unserem Alltag und wir sind uns häufig nicht darüber bewusst, was diese Technologie tatsächlich auslöst, wie wir darauf reagieren und welche Wirkungen sie auf unsere mentale Gesundheit hat. In diesem Zusammenhang wurde im Oktober 2021 festgestellt, dass Facebook (jetzt Meta) durch interne Studien zwar von den Schäden wusste, die es bei einigen seiner Nutzer:innen verursachte, allerdings nichts zur Lösung dieser Probleme unternahm. Dieses ernste Problem wurde durch das Wall Street Journal in einem ausführlichen Artikel behandelt. Ein Beispiel aus den NBW News:
„Laut den Forschern von Facebook meinten 32 % der jugendlichen Mädchen, dass immer wenn sie sich in ihrem Körper unwohl fühlen, dieses Gefühl durch Instagram (im Eigentum von Facebook) sogar noch schlimmer wird. Darüber hinaus stellte Facebook fest, dass 14 % der Jungen in den U.S.A. angaben, dass sich ihr Selbstwertgefühl durch Instagram verschlechtert hat.“
Im Anschluss an die Artikel im Wall Street Journal haben sich Facebook-Whistleblower:innen gemeldet und weitere Fakten vorgelegt, die belegen, dass durch Facebook die Verbreitung von Falschmeldungen begünstigt wird und Facebook Hassreden sowie illegale Inhalte von bestimmten Nutzer:innen ignoriert. Softwareunternehmen wie Facebook haben weltweit einen derart großen Einfluss und tragen dementsprechend eine große Verantwortung dafür Sorge zu tragen, dass deren Software keinen Schaden verursacht.
Auch wenn sich eure App oder euer KI-Projekt noch in den Startlöchern befindet und somit noch nicht über dieselbe Reichweite wie Facebook oder Instagram verfügt, solltet ihr euch genau Gedanken darüber machen, wer euer Produkt benutzen wird und welche Auswirkungen das Produkt auf die Nutzer:innen haben könnte.
Auch wenn es in diesem Video um Künstliche Intelligenz geht, so ist es doch ein guter Kommentar zur Technologie im Allgemeinen und dazu, wie wichtig es ist, sich darüber im Klaren zu sein, welche Folgen das, was man entwickelt, auf andere hat.
Bei der Durchführung eures Projekts solltet ihr auch die Interessengruppen berücksichtigen. Bei Interessengruppen handelt es sich um Menschen oder Einrichtungen, die durch im Rahmen eures Projektes getroffene Entscheidungen oder Handlungen beeinflusst werden. Zweifellos werden eure Nutzer:innen durch euer Projekt beeinflusst. In diesem Sinne gelten eure Nutzer:innen in eurem Projekt als direkte Interessengruppen. Allerdings gibt es weitere Interessengruppen, sogenannte indirekte Interessengruppen, die von eurer Technologie zwar betroffen sind, allerdings nicht unbedingt direkt davon erfasst werden. Falls es in eurem Projekt beispielsweise darum geht, Menschen über Fake News aufzuklären, gehören zahlreiche Nachrichtenagenturen zu den indirekten Interessengruppen. Um sicherzugehen, dass ihr ihnen keinen Schaden zufügt, solltet ihr bei der Arbeit an eurem Projekt alle Interessengruppen berücksichtigen.
In diesem Video wird der Begriff der Interessengruppe genauer erläutert. Ebenso werden euch hier auch andere wichtige Punkte für eine Technikethik nähergebracht.
Handelt es sich bei eurem Projekt um eine mobile App, solltet ihr bei deren Entwicklung folgende Dinge bedenken.
- Sammelt eure App Nutzer:innendaten?
- Sind eure Nutzer:innen darüber informiert?
- Habt ihr das Einverständnis eurer Nutzer:innen, um ihre Daten zu sammeln?
- Wie schützt ihr die Daten eurer Nutzer:innen?
- Sind die Hinweise oder Angaben in eurer App angemessen?
- Woran erkennt ihr das?
Infografik von YTH und Vodafone Americas Foundation
Falls euer Projekt KI beinhaltet, solltet ihr euch die Frage stellen, was unter „gesunden“ Daten zu verstehen ist. Das Entfernen von Voreingenommenheit in euren Daten hilft euch dabei, euer Modell „gesünder“ zu gestalten, sodass es dadurch in der Lage ist, bessere Entscheidungen zu treffen. Hier geht es zu einem Video, welches das Thema der Voreingenommenheit in Trainingsdaten detaillierter behandelt:
Der Unkraut-Ausreißer
Daten sind aber nicht der einzige Bereich von KI, in dem wir über Ethik nachdenken können. Wir können auch über die Ethik der Nutzung oder die Ergebnisse von KI nachdenken. Stellt euch eine KI-Technologie namens „Unkraut-Ausreißer“ vor, die vorhersagt, welche Pflanzen Unkraut sind und sie ausreißt. Überlegt euch Folgendes:
- Wie könnt ihr Bias (Voreingenommenheiten) aus euren Datensätzen entfernen?
- Welche Entscheidungen trifft eure KI?
- Welche Handlungen könnte eure KI ausführen?
- Was ist, wenn eure KI einen Fehler macht?
- Verwendet oder teilt eure App oder eure KI-Technologie sensible Daten?
- Wie interagiert euer KI-Modell mit Menschen oder trifft Vorhersagen in Verbindung mit ihnen?
- Die Daten sollten die Eigenschaften der Bevölkerung widerspiegeln, die die App nutzen. Wenn eure Daten aufgrund von Bias verzerrt sind, könnte die KI Fehler machen.
- Ein Bias könnte sich aber nicht nur auf Menschen beziehen, sondern z. B. auch auf Pflanzen. Stellt euch vor, der Unkraut-Ausreißer hat einen Datensatz mit Bildern von Unkräutern, die nur in der Wüste vorkommen. Was ist, wenn wir den Unkraut-Ausreißer in der Nähe von Wasser verwenden wollen? Es könnte sein, dass er nicht funktioniert, weil er nicht mit Daten trainiert wurde, die ihm helfen, Unkraut in Wassernähe zu erkennen. Der Unkraut-Ausreißer bevorzugt Wüstenpflanzen.
ein Unkraut, das in der Wüste wächst
Wilder Lattich
ein in der Nähe des Wassers gefundenes Unkraut
Rohrkolben
Seht, wie unterschiedlich sie aussehen! Die Eigenschaften von Unkräutern in der Wüste unterscheiden sich drastisch von denen in Wassernähe.
- Manche KI-Modelle treffen eine einzige Entscheidung. Andere treffen aber mehrere! Denkt über jede Entscheidung nach, für die ihr eure App programmieren werdet. Gibt es irgendwelche Entscheidungen, die sie treffen könnten, die ihr ursprünglich nicht beabsichtigt habt?
- Stellt euch vor, der Unkraut-Ausreißer versucht vorherzusagen, ob er ein Unkraut sieht. Gibt es nur eine Art von Unkraut? Kann Unkraut versteckt sein oder sein Aussehen tarnen? Der Unkraut-Ausreißer könnte eine schlechte Entscheidung treffen und z. B. eine Pflanze ausreißen, die kein Unkraut ist.
- Könnt ihr sagen, welche dieser Pflanzen Unkräuter sind? Was würdet ihr tun, wenn ihr euch nicht sicher wärt?
Drei davon zählen zu den Unkräutern!
- Erstellt eine Karte mit allen Handlungen, die eure App oder euer KI-Projekt ausführen könnte (oder auch nicht). Welche Wirkungen beabsichtigt ihr mit diesen Handlungen? Fallen euch weitere Auswirkungen ein, die ihr nicht bedacht habt?
- Der Unkraut-Ausreißer versucht, Unkraut zu jäten. Mit genügend Training könnte diese KI dies genauso gut wie ein Mensch, aber ohne das kontextuelle Verständnis eines Menschen. Die KI kann nur das tun, wozu sie programmiert wurde. Sie könnte eine schlechte Entscheidung treffen und z. B. eine Pflanze ausreißen, die in manchen Ökosystemen zwar als Unkraut zählt, in anderen Ökosystemen aber bedrohten Tieren Schutz bietet.
- Ihr könnt Bias in den Daten reduzieren und eurer KI dabei helfen, bessere Entscheidungen zu treffen, indem ihr:
- einen repräsentativeren Datensatz findet.
- die Entscheidungen eurer App oder eurem KI-Modell korrigiert – je nachdem, wie sicher die KI bei ihrer Entscheidung ist.
- Wenn der Unkraut-Ausreißer einen Fehler macht und entscheidet, dass eine Tomatenpflanze ein Unkraut ist, würde er die Tomatenpflanze herausreißen. Das könnte sich negativ auf Menschen auswirken, die sie essen wollten – oder auf Insekten im Garten, die dort leben.
- Daten sind wichtig für den Erfolg von KI. Neben einem funktionierenden KI-Modell ist es auch wichtig, die geteilten Informationen sorgfältig zu behandeln. Wenn Nutzer:innen euch Informationen zur Verfügung stellen, vertrauen sie euch, dass ihr ihre Privatsphäre respektiert und nicht missbraucht. Wie würdet ihr euch fühlen, wenn eine fremde Person eure Geheimnisse kennen würde?
- Der Unkraut-Ausreißer verwendet Daten, um Entscheidungen über Unkraut zu treffen. Vielleicht sammelt er Daten über die Standorte der Häuser von Menschen, um bei der Rasenpflege zu helfen. Er könnte sensible Informationen über die Lage der Häuser von Menschen weitergeben. Das wäre ein Problem!
- Vorhersagen, die Menschen betreffen, solltet ihr vor ihrer Umsetzung sorgfältig abwägen. Denkt an euch selbst: Ihr seid eine komplexe Person und für eine fremde Person oder eine KI wäre es nicht einfach, euch in kurzer Zeit wirklich zu kennen!
- Schaut euch diese „Envisioning Karten“ an: Sie stellen Entwickler:innen Fragen zu möglichen langfristigen Auswirkungen neuer Technologien. Nehmt euch ein paar Minuten Zeit und denkt über jede der Karten nach.
Als Entwickler:innen tragen wir die Verantwortung dafür, wie unsere Technologie mit Menschen interagiert. Wir sollten uns immer bewusst sein, welche Auswirkungen unsere Erfindungen haben können.
Aktivität: Eine Reise durch die Ethik
Bearbeitet dieses Arbeitsblatt aus und überlegt euch ein paar Fragen zu eurem Projekt.
Es geht zunächst einmal darum, eure direkten und indirekten Interessengruppen zu bestimmen.
Anschließend geht ihr das Flussdiagramm eurer Fragen durch und prüft, ob ihr gerade alles dafür tut, damit euer Projekt einen ausschließlich positiven Einfluss hat.
Reflexion
Jetzt, wo ihr mehr über Ethik und eure Rolle bei der Sicherstellung, dass euer Projekt einen ausschließlich positiven Einfluss hat, erfahren habt, solltet ihr euch diese Fragen stellen:
- Welche Erkenntnisse über Technologie und Ethik haben euch erstaunt?
- Denkt ihr jetzt anders über die Technologien, die ihr täglich nutzt?
- Inwiefern könnt ihr dazu beitragen, dass Technologie ethischer wird?
Zusatzmaterial
Wenn ihr mehr über Ethik erfahren wollt, könnt ihr euch gerne das MIT AI Ethics Curriculum anschauen.
Technovation Challenge
Bewertungskriterien für den internationalen Wettbewerb
Diese Lektion hilft euch dabei, Punkte im Abschnitt „positiver Einfluss“ des Teils „Pitch-Video“ des Bewertungsbogens zu sammeln.
technovationgirls@dkjs.de