©kp yamu jayanath/Pixabay
Fortschritte in der KI hängen nicht nur von Hardware, sondern von Fragestellung, Grenzen und menschlichem Urteilsvermögen ab
Mehr Rechenleistung, größere Modelle und mehr Daten gelten in der KI-Debatte oft als Treiber des nächsten Entwicklungsschritts. Nach Einschätzung von Matt Wood, Head of Cyber Security Operations bei ABBYY, greift diese Sicht zu kurz. Fortschritte in der KI entstehen nicht allein durch Hardware, sondern auch durch die Qualität der Fragestellung, klare Grenzen und die Fähigkeit, Ergebnisse richtig einzuordnen.
Wenn wir die Frage richtig stellen, den Kurs beibehalten und ehrlich damit umgehen, was wir wissen und was wir nicht wissen, dann ist mehr Rechenleistung kein Risikomultiplikator mehr. Dann wird sie zu dem, was sie von Anfang an hätte sein sollen: ein Beschleuniger im Dienst menschlicher Absicht.
In der praktischen Anwendung entscheidet deshalb nicht nur die Leistungsfähigkeit eines Systems über den Nutzen von KI. Ausschlaggebend ist auch, wie Aufgaben formuliert, Ergebnisse bewertet und Grenzen definiert werden. Fehlentwicklungen entstehen dort, wo diese Voraussetzungen fehlen.
Cybersicherheit zeigt die Folgen fehlender Einordnung
Wie folgenreich das sein kann, zeigt sich branchenübergreifend beim Thema Cybersicherheit. Darauf weisen öffentliche Vorfälle, Berichte von Regulierungsbehörden und Entwicklungen in verschiedenen Branchen hin. Immer wieder werden Systeme für Aufgaben eingesetzt, ohne dass Fragestellung, Zielsetzung oder Grenzen ausreichend geklärt sind. Zugleich werden Ergebnisse übernommen, obwohl ihre Herleitung, ihre Annahmen und ihre Schwachstellen nicht ausreichend geprüft sind.
Die Folgen können unterschiedlich ausfallen. Manche Ergebnisse bleiben folgenlos oder können zufällig sogar hilfreich sein. Kritisch wird es dort, wo ein Resultat innerhalb des Modells stimmig erscheint, unter realen Bedingungen aber weitreichende Schäden verursachen kann.
Besonders deutlich wird das bei Systemen, die auf ein einzelnes Ziel ausgerichtet sind. Wird Interaktion maximiert, können Inhalte oder Verhaltensmuster verstärkt werden, die Menschen an extreme Positionen heranführen. Steht vor allem die Kostenoptimierung im Vordergrund, können Risiken in Bereiche wandern, die niemand ausreichend überwacht. Wird eine Lösung verlangt, kann ein Ergebnis in der Simulation überzeugen und dennoch an chaotischen Randfällen scheitern, die nie in die Daten eingeflossen sind.
Werden Modelle nur größer und schneller, löst das diesen Grundkonflikt nicht. Es erhöht vor allem die Geschwindigkeit, mit der Fehler entstehen, und die Sicherheit, mit der sie vorgetragen werden.
Drei Voraussetzungen für sichere KI
Für einen sicheren Einsatz von KI müssen deshalb beide Seiten des Prozesses berücksichtigt werden. Es geht um die Formulierung der Frage, die Einordnung der Antwort und die laufende Prüfung dessen, was zulässig ist und was nicht.
KI darf dabei nicht als Instanz verstanden werden, die Wahrheiten liefert. Sie ist eine Muster-Engine, die innerhalb menschlich gesetzter Grenzen arbeitet. Für den Einsatz im großen Maßstab ergeben sich daraus drei Voraussetzungen:
- ein präzise definiertes Optimierungsziel,
- klar festgelegte Grenzen und
- ein belastbares Verständnis dafür, was eine Antwort bedeutet, wie sie zustande kommt und worauf sie beruht.
Die eigentliche Gefahr liegt damit nicht allein in der Technologie, sondern im Umgang mit ihr. Problematisch ist es, wenn Menschen die Verantwortung an Systeme abgeben, obwohl Fragen, Grenzen und Folgen nicht ausreichend durchdacht oder verstanden sind. Dann treffen unklare Vorgaben auf unverstandene Systeme und die Ergebnisse werden wie verbindliche Handlungsanweisungen behandelt.
Auch künftige Fortschritte ändern daran nichts. Zwar wird es Beschleuniger wie AlphaFold geben, bei denen eine klar umrissene Frage, gute Daten und hohe Rechenleistung in einem spezifischen Bereich deutliche Fortschritte ermöglichen. Aber auch dann bleibt die Verantwortung beim Menschen. Das Problem muss klar gefasst, die Ausgabe interpretiert und die Konsequenz getragen werden. Wenn dieser Teil falsch läuft, machen größere Modelle nicht klüger. Sie ermöglichen nur, im großen Maßstab falsch zu liegen.
Tragfähig ist dagegen ein Ansatz, der Verantwortung nicht auslagert, sondern zwischen technischer Leistung und realer Konsequenz bewusst vermittelt. Die Konsequenz daraus ist nicht ein weiterer technologischer Sprung, sondern ein belastbarer Rahmen für den Einsatz. Gefragt sind Governance, Kompetenz und Disziplin.
Governance und KI-Kompetenz als Voraussetzung
Vor diesem Hintergrund verfolgt ABBYY den Anspruch, KI-Risiken so zu managen, dass sie operativ greifbar, belegbar und auditierbar sind. Sie sollen nicht nur beschrieben, sondern im Arbeitsalltag steuerbar und überprüfbar werden. Dazu gehört die Zusammenarbeit mit der KI-Prüfinstanz ForHumanity, die an den EU AI Act angelehnte AI Risk Management Policy von ABBYY sowie die Nutzung eines KI-Risikoregisters.
Dieser Denkansatz fördert bereits im Vorfeld das richtige Verhalten im Umgang mit KI. Es muss klar benannt werden, worauf ein System ausgerichtet wird. Grenzen müssen festgelegt und dokumentiert werden. Zudem braucht es Nachweise, die einer Prüfung standhalten. Vertrauen bleibt damit kein Schlagwort, sondern wird überprüfbar.
Ebenso wichtig ist der Aufbau grundlegender KI-Kompetenz in Organisationen. Wenn KI in realen Arbeitsumgebungen eingesetzt wird, darf dieses Wissen nicht auf Spezialisten beschränkt bleiben. Mehr Menschen brauchen ausreichende Kenntnisse, um zu erkennen, wann eine Frage falsch gestellt oder ein Anreiz falsch gesetzt wird. Sie müssen auch sehen, wann Ergebnisse zu selbstsicher wirken und wann scheinbar hilfreiche Antworten Risiken unbemerkt verlagern.
Daran knüpfen praxisnahe Bildungsangebote an, etwa die über ABBYY University veröffentlichten Grundlagenmaterialien zu KI. In denselben Zusammenhang gehört auch die „Alignment-Trilogie“. Sie versteht KI nicht als Thema für Compliance-Routinen und auch nicht als Grund, technologischen Fortschritt auszubremsen. Im Mittelpunkt steht die Frage, wie die menschliche Seite im Prozess stark genug bleibt, um mit der wachsenden Wirkung von KI verantwortungsvoll umzugehen.
Entscheidend bleibt der menschliche Rahmen
Der Nutzen von KI entscheidet sich damit nicht allein an Modellgröße, Datenmenge oder Hardware. Ausschlaggebend ist, ob Organisationen Ziele klar definieren, Grenzen verbindlich setzen und Ergebnisse verlässlich einordnen. Erst dann wird zusätzliche Rechenleistung zu dem, was sie sein soll: ein Beschleuniger im Dienst menschlicher Absicht.
Disclaimer:
„Für den oben stehenden Beitrag sowie für das angezeigte Bild- und Tonmaterial ist allein der jeweils angegebene Nutzer verantwortlich. Eine inhaltliche Kontrolle des Beitrags seitens der Seitenbetreiberin erfolgt weder vor noch nach der Veröffentlichung. Die Seitenbetreiberin macht sich den Inhalt insbesondere nicht zu eigen.“
