KI - ein diskriminierendes Problem oder eine Chance für die Zukunft?

Als die Firma OpenAI am 30. November 2022 seinen KI-Chatbot „ChatGPT“ der Öffentlichkeit frei zugänglich machte, ging die Software schnell viral. Innerhalb von fünf Tagen registrierten sich über eine Millionen Nutzer  auf der Plattform und Ideen für vielfältige Anwendungen des neuen Tools überrannten Social Media. In der Zwischenzeit ist die Anwendung bereits weit über den privaten Bereich hinaus gegangen: Apps uns sogar ganze Unternehmen entstanden auf Grundlage der Angebote von OpenAI. Der Hype schien unaufhaltsam.

Und dann berichteten erste Nutzer im Juni 2023 von Problemen bei der Benutzung von ChatGPT. Am 31. Oktober 2023 veröffentlichten die Universitäten Stanford und Berkeley eine Studie, die dies auch wissenschaftlich belegte: Auf die gleichen Fragen lieferten die Systeme von OpenAI im Juni 2023 in einigen Bereichen schlechtere und ungenauere Ergebnisse als noch drei Monate zuvor. Um ein Beispiel zu nennen: Die Ergebnisgenauigkeit beim Erkennen von Primzahlen sank von 84 % (März, 2023) auf 51,1 % (Juni, 2023). Da kommt automatisch die Frage auf: Welche Rolle kann oder sollte Künstliche Intelligenz in unserer nahen Zukunft spielen?

Du suchst einen netten Minijob? Hier entlang

Was ist Künstliche Intelligenz (KI)?

Der Begriff „Künstliche Intelligenz“ beschreibt Systeme, die mit Hilfe von eingepflegten Daten menschliches Denken imitieren und sich vor allem eigenständig weiterentwickeln können. Wie bei den neuronalen Verschaltungen im menschlichen Gehirn werden beim „Deep Learning“ können die Verbindungen von Daten immer wieder neu gewichtet, wodurch auch unbekannte Daten sortiert und eingeordnet werden. Das bedeutet aber auch, dass die Software abhängig ist von den Daten, die zuvor eingeschleust wurden, weil, nur auf dieser Basis, die Informationen bewertet werden können.

Was kann die KI?

Als der Begriff der Künstlichen Intelligenz das erste Mal aufkam, dachten vermutlich Einige als erstes an einen getunten Taschenrechner. Und ja: Eine Künstliche Intelligenz kann einem das Rechnen abnehmen oder andere mathematische Funktionen ohne komplizierte Formeln ausspucken, aber – und da ergibt sich schon eine Besonderheit – sie kann diese „Entscheidungen“ auch begründen. Diese Begründungen, wieso beispielsweise eine Zahl als Primzahl erkannt wurde, war auch Gegenstand der eingangs erwähnten Studie. Eine weitere Fähigkeit von generierenden KI-Softwares ist das Erzeugen von Bildern und Videos. Spätestens seitdem wir Papst Franziskus in einer XXL-Daunenjacke durch die Straßen spazieren sahen, ist den meisten diese Funktion bekannt. Doch die Funktion, die wohl am schnellsten Einzug in den Alltag vieler Menschen fand, war die Text-Generierung.

In Sekunden kann ChatGPT seit Ende September auf das gesamte Internet zugreifen und einem auf Anfrage Entscheidungen abnehmen, Rechercheergebnisse – auch inklusive Quellenangaben – auflisten und ein Gedicht oder gleich ganze Präsentationen oder längere Texte schreiben. Die Möglichkeiten der Einsetzbarkeit sind unerschöpflich – besonders, für kreative Köpfe.

Kann KI sexistisch sein?

Ein großer Vorteil von KIs ist das effizientere Auswerten von großen Datenmengen und das Sortieren von Neuen Daten anhand der dadurch erlernten Kategorien. Genau das machte sich Amazon bereits 2014 zunutze, als das Unternehmen in Bewerbungsverfahren eine Künstliche Intelligenz für das Auswählen von Kandidaten nutzte. Doch nach kurzer Zeit viel auf, dass zunehmen überdurchschnittlich viele Frauen aussortiert wurden.

Wie konnte das sein? Das Unternehmen hatte die Software mit den Daten von bisher eingestellten Mitarbeiter:innen trainiert und da mehr Männer als Frauen dort arbeiteten, hatte die KI das Attribut „männlich“ als „positiv“ bewertet. Trotz mehrerer Versuche konnte das nicht behoben werden und so musste die Software 2018 wieder abgeschafft werden.

Ähnliches geschah bei Apple, als das Unternehmen 2019 begann eigene Kreditkarten anzubieten und eine KI für die Prüfung der Kreditwürdigkeit. Frauen mit gleichen finanziellen Voraussetzungen bekamen automatisch einen geringeren Kreditkartenrahmen zugewiesen.

Mit welchen Daten eine Künstliche Intelligenz trainiert wird entscheidet also grundlegend über die Fähigkeiten dieser Software und vergangene Beispiele haben gezeigt, wie tief sexistische und auch rassistische Strukturen in unserer Gesellschaft noch verankert sind.

Suchst Du einen Studierendenjob? Hier entlang

Wird ChatGPT dümmer?

Genau dieser Aspekt steht auch im Mittelpunkt der Diskussion, wieso die Software ChatGPT nachweislich nach drei Monaten schlechtere und ungenauere beziehungsweise kürzere Ergebnisse auf die gleichen Fragen lieferte. Da das Unternehmen OpenAI nicht offenlegt, wie und mit welchen Daten die Modelle trainiert werden, kann über die Gründe dafür nur spekuliert werden. Der OpenAI Produktchef Peter Welinder gab dahingehend in einem Tweet lediglich an, dass seine Vermutung sie, es seien durch die intensivere Nutzung einfach Probleme aufgetreten, die man zuvor nicht gesehen hatte.

Wem gehören die KI generierten Ergebnisse?

Laut Gesetz kann eine KI keinen urheberrechtlich-geschützten Text verfassen. Ist also der Text, den man sich von einer KI generieren lässt, der eigene? Die Europäische Kommission versucht bereits seit 2021 mit dem sogenannten „AI-Act“ Antworten auf solche Fragen zu finden. Da es sich hierbei aber auch um einen globalen Prozess handelt und mit der Weiterentwicklung von Künstlicher Intelligenz immer neue Fragen aufgeworfen werden, wird es vermutlich dauern, bis diese und weitere Aspekte abschließend geklärt sind.

Bevor man sich jedoch über den Eigentümer der in Frage stehenden Ergebnisse unterhält, muss man diese erst mal zuverlässig erkennen können. Und da liegt das Problem: Wie erkennt man einen künstlich generierten Text, der auf der Basis der individuell eingepflegten Daten erstellt wurde – der also mit der Sprache des Fragenden auf diesen zugeschnitten wird?

In den Vereinigten Staaten von Amerika versuchten Software-Entwickler eine Künstliche Intelligenz zu trainieren, die Ergebnisse einer anderen KI hervorzuheben. Bisher waren diese Versuche allerdings noch nicht zuverlässig von Erfolg gekrönt und es wurden menschlich erzeugte Texte einer KI zugeordnet und umgekehrt.

KI an Universitäten und Schulen

Was für Konsequenzen ergeben sich daraus? Besonders bei Personengruppen, die häufig längere Texte schreiben müssen, fanden die Text-generierenden Chatbots eine große Abnahme. Unter anderem so auch bei Schüler:innen und Studierenden, die die Softwares für Hausaufgaben oder dem Schreiben von Hausarbeiten befragen konnten.

Das führte an Schulen und Universitäten zu viel Unsicherheit, wie man mit der Möglichkeit eine KI zu verwenden in der Bewertung umgehen solle." den Satz bei "KI an Universitäten und Schulen. Perspektivisch könnten diese Entwicklungen asynchrone Prüfungsformate gänzlich hinfällig machen. Einige Universitäten haben deswegen bereits darauf reagiert und, wie die Uni Jena, den Einsatz von Chatbots und Künstlicher Intelligenz unter anderem beim Schreiben von Hausarbeiten verboten. Die Frage bleibt allerdings (noch) offen, wie dieses Verbot kontrolliert werden soll.

KI als Studium

Noch kann man Künstliche Intelligenz nur als Teil von anderen Studiengängen wie Data Science und Humanoide Robotic studieren. Hier lernt man nicht nur, wie man Kis weiterentwickeln kann, sondern beschäftigt sich auch mit den rechtlichen und ethischen Fragen, auf die wir noch keine allgemeingültige Antwort haben.

Dass die Bedeutung von KI jedoch auch weiter zunehmen wird, ist kaum von der Hand zu weisen und die Grundlagen, wie diese Software einzusetzen ist, sollte sich wahrscheinlich jeder zukünftig angeeignet haben.