Künstliche Intelligenz (KI) stellt derzeit die Welt auf den Kopf. Aber was kann sie wirklich, wo liegen ihre Grenzen und wie intelligent ist die KI tatsächlich? Diese und andere Fragen beantwortet Wissenschaftsforscherin und ÖAW-Ehrenmitglied Helga Nowotny im Interview. In ihrem jetzt in der deutschen Übersetzung erschienenen Buch „Die KI sei mit euch“ widmet sie sich den Chancen und Gefahren der neuen Technologie.
Wie intelligent ist denn die künstliche Intelligenz tatsächlich?
Helga Nowotny: Der Begriff KI wurde 1956 während einer Konferenz in Dartmouth erstmals öffentlich in Umlauf gesetzt. Wenn wir ihn heute neu erfinden könnten, würde niemand von künstlicher „Intelligenz“ sprechen, denn der Vergleich zur menschlichen Intelligenz ist irreführend. Als der Schachcomputer DeepBlue 1996 zum ersten Mal den Schachweltmeister Garry Kasparov besiegte, war das eine Sensation. Doch die KI war menschlicher Intelligenz lediglich in einem engen, von klaren Spielregeln geleiteten Bereich überlegen.
Der Vergleich zur menschlichen Intelligenz ist irreführend.
Trotz des überbordenden Hypes, dass uns demnächst die „Allgemeinen KI“ (General Artificial Intelligence, GAI) überholen wird, die der menschlichen ebenbürtig ist oder diese übertrifft, sind wir noch sehr weit davon entfernt, wenn wir sie jemals erreichen. Am Weg dahin, eine KI dazu zu bringen, Abstraktionen zu generieren, lernen wir allerdings sehr viel über uns selbst und über das, was wir mit Maschinen alles machen können.
Schöne neue KI-Welt
In welchen Bereichen werden die neuen Algorithmen unsere Gesellschaft besonders verändern?
Nowotny: Die beeindruckende Performanz der LLM (Large Language Models) beruht nicht nur auf den verwendeten Algorithmen, sondern auf der Unmenge von Daten, an denen diese trainiert werden und der dafür nötigen Rechnerkapazität – mit hohem Energieverbrauch. Die KI ist längst zu einer General Purpose Technology, GPT, geworden, also einer Technologie, die unsere ganze Wirtschaft durchdringt und somit alle Bereiche der Gesellschaft verändern wird.
KI hat Auswirkungen auf unsere Beziehungen, die Demokratie sowie unser Selbst- und Weltbild.
Wenn wir immer mehr mit digitalen Maschinen interagieren, mit ihnen sprechen, sie befragen, ihren Rat befolgen und glauben, was sie uns erzählen, hat das unweigerlich Auswirkungen auf unsere Beziehungen zueinander, auf die Demokratie und letztlich auf unser Selbst- und Weltbild. Wir sollten uns auf große Veränderungen einstellen, die alle betreffen. Daher ist es wichtig den öffentlichen Diskurs über KI zu fördern und einzufordern.
Algorithmen sind nicht neutral, sondern spiegeln gesellschaftliche Werte wider. Wie kann man Algorithmen demokratisieren?
Nowotny: Wir wissen seit langem, dass das Internet sowohl gesellschaftlichen Bias wie internen Bias reflektiert - also eine selektive Auswahl der Nutzer:innen. Stichwort: die „Weisheit der Wenigen“. Die Quelle und Qualität der Daten spielen eine große Rolle. Dazu kommt der Bias durch recommender systems und der Rangreihung und Prioritätensetzung, die von den großen Konzernen vorgenommen werden. Doch auch die Nutzer:innen lassen ihren Bias durch selektive Nutzung einfließen.
Insgesamt gilt: aus Bias entsteht mehr Bias. Um mehr Fairness, Transparenz und andere geforderte Kriterien umzusetzen, muss zuerst das Bewusstsein entstehen, dass die KI und ihr Einsatz nicht einigen wenigen internationalen Großkonzernen überlassen werden darf, sondern ein öffentliches Gut ist, das für alle Nutzen bringen soll.
Von Regulierung und Chancen Künstlicher Intelligenz
Tech-Giganten wie Google und Facebook haben ihre Geschäfte auf datengestützten Modellen aufgebaut. Welche Regulierungen bräuchte es hier?
Nowotny: Die EU hat inzwischen ein ganzes Paket an Regulierungen erlassen. Die vorläufig letzte davon, der AI Act, regelt auch ChatGPT und wurde vor kurzem vom Europäischen Parlament verabschiedet. Die EU hat einen risiko-basierten Ansatz gewählt, der eine laufende Risikoabschätzung der KI-Anwendungen vorsieht. Wie alle Gesetze und Regulierungen hängt sehr viel von deren tatsächlicher Umsetzung ab.
Die vielen Bestrebungen des Lobbyings, das von den großen Konzernen im Vorfeld des AI Act massiv unternommen wurde, zeigen wieviel für sie auf dem Spiel steht. Europa hat im internationalen Vergleich eine Vorreiterrolle, doch die Tech-Giganten sind, wie wir wissen, nicht hier entstanden. In den USA, die bekanntlich bei staatlicher Regulierung sehr zurückhaltend sind, entstehen inzwischen Initiativen der Zivilgesellschaft, die durch Open Source und andere Mittel Druck auf die Konzerne ausüben wollen.
Die KI fordert uns heraus und diese Herausforderung stellt eine große Chance dar.
Welchen utopischen und welchen dystopischen Vorstellungen könnten wir uns als Gesellschaft durch KI annähern?
Nowotny: Im Gegenteil, wir müssen uns von utopischem und dystopischem Denken verabschieden, denn das, was für einige Utopie ist, erscheint für andere als Dystopie und umgekehrt. Unsere Gesellschaften sind bereits genügend polarisiert. Stattdessen gilt es, kritisches Denken zu fördern. Wer ChatGPT ausprobiert, stellt bald fest, dass auf dumme oder ungeschickt gestellte Fragen, dumme oder nichtssagende Antworten folgen. Die KI fordert uns also heraus und diese Herausforderung stellt eine große Chance dar.
Für die Wissenschaft öffnen sich viele neue, faszinierende Forschungsfragen – etwa, wie unser Gehirn im Vergleich zur Maschine funktioniert; wie es mit der Entwicklung der Sprache weitergeht und ob eine Metasprache im Entstehen ist; was die ständige Interaktion mit KI besonders bei Jugendlichen für ihre Identitätssuche bedeutet und welche Gefahren für die Demokratie es abzuwehren gilt. Wir sind nicht nur passive Nutzer:innen einer mächtigen Technologie, sondern können und müssen diese aktiv mitgestalten.
