„Die Debatte über das Tempo der KI-Entwicklung ist wichtig, weil die Fähigkeiten heutiger Modelle bestimmen werden, wie KI künftig in Wirtschaft und Gesellschaft eingesetzt wird. Geschwindigkeit und Leistungsfähigkeit sind jedoch nur ein Teil der Gleichung. Vertrauen, Verantwortlichkeit und Governance müssen sich parallel zur Technologie weiterentwickeln.
Wir haben eine vergleichbare Entwicklung bereits bei der Einführung der Cloud erlebt. Mit zunehmender Verbreitung entwickelten Anbieter und Unternehmen gemeinsame Modelle für Sicherheit, Governance und Verantwortlichkeit. Das notwendige Vertrauen musste mit den technologischen Fähigkeiten wachsen - und genau das ist geschehen. Agentenbasierte KI tritt nun in eine ähnliche Phase ein. Der entscheidende Unterschied: KI-Agenten geben nicht nur Empfehlungen, sondern können innerhalb festgelegter Befugnisse selbstständig handeln.
Die dafür erforderlichen Vertrauensstrukturen können nicht allein in der Verantwortung der Modellentwickler liegen. Unternehmen müssen selbst klare Grenzen definieren, festlegen, bei welchen Entscheidungen menschliches Urteilsvermögen unverzichtbar bleibt, das tatsächliche Verhalten der eingesetzten Agenten überwachen und eindeutige Möglichkeiten schaffen, in automatisierte Abläufe einzugreifen. Menschen werden nicht jede einzelne Aktion eines KI-Agenten vorab genehmigen können. Das entbindet Unternehmen jedoch nicht von ihrer Verantwortung für die eingesetzten Systeme, die übertragenen Befugnisse und die daraus entstehenden Ergebnisse.
Besonders deutlich wird diese Verantwortung in regulierten und geschäftskritischen Bereichen wie Steuern und Compliance. Eine Entscheidung, die ein System heute trifft, muss möglicherweise noch Jahre später nachvollzogen, erklärt und gegenüber Behörden vertreten werden können. Technologische Durchbrüche werden die KI-Entwicklung weiter vorantreiben. Vertrauen wird letztlich darüber entscheiden, wie umfassend diese Fortschritte tatsächlich genutzt werden.“
