Viele Unternehmen haben blindes Vertrauen in Generative AI – trotz fehlender Sicherheit

Führungskräfte vertrauen Generative AI weltweit mehr als jeder anderen Form von künstlicher Intelligenz (KI), z. B. Machine Learning. Dies hat eine aktuelle globale Studie der International Data Corporation (IDC) ergeben, die im Auftrag von SAS, einem der weltweit führenden Anbieter von Lösungen für Daten und KI, durchgeführt wurde.

Der "IDC Data and AI Impact Report: The Trust Imperative", für den rund 2.400 Experten aus IT- und Fachabteilungen weltweit befragt wurden, bringt eine große Diskrepanz zwischen Bauchgefühl und Realität ans Licht: Obwohl 78 % der Befragten angeben, KI vollkommen zu vertrauen, haben erst 40 % in AI Governance, Erklärbarkeit und ethische Vorgaben investiert, um dieses Vertrauen auch abzusichern.

Das ist umso erstaunlicher, als sich Unternehmen, die Trustworthy AI priorisieren, handfeste geschäftliche Vorteile verschaffen: Die Wahrscheinlichkeit, dass KI-Projekte profitabel sind, liegt signifikant (60 %) höher als bei Unternehmen, die sich nicht darum kümmern. Paradoxerweise haben gerade diejenigen, die am wenigsten in ein entsprechendes Framework investieren, eine besonders optimistische Einschätzung: Sie sehen Generative AI als drei Mal so vertrauenswürdig an wie etablierte KI-Technologien (z. B. Machine Learning).

Most Trusted: neue KI-Technologien

Die Studie belegt eine grundsätzliche Tendenz, neueren KI-Technologien mehr zu vertrauen als bereits etablierten. Fast die Hälfte der Befragten (48 %) vertraut Generative AI uneingeschränkt, ein Drittel tut dies bei Agentic AI. Dagegen fühlt sich weniger als ein Fünftel (18 %) bei "traditioneller" KI sicher. Dennoch gibt es auch bei ChatGPT & Co. Bedenken: Diese richten sich auf Datenschutz (62 %), Transparenz und Erklärbarkeit (57 %) sowie ethische Nutzung (56 %).


Obwohl Praxisanwendungen noch in den Kinderschuhen stecken, steigt auch die Beachtung für Quanten-KI: Etwa ein Drittel der weltweiten Entscheider beobachtet die Technologie bereits, ein Viertel vertraut ihr vollständig.

Mangelnde Absicherung bremst Nutzen von KI

Die KI-Nutzung nimmt weiterhin rasant zu, das gilt insbesondere für Generative AI, die etablierte KI-Methoden hinsichtlich Bekanntheit bereits in den Schatten stellt (81 % versus 66 %). Gleichzeitig steigen damit Risiken und ethische Bedenken.

Dennoch tun Unternehmen bislang zu wenig gegen diese Risiken. Neben der unzureichenden Investition in gesicherte Infrastrukturen (KI-Frameworks) haben auch bei der Operationalisierung von KI-Projekten Maßnahmen zur Sicherstellung von Trustworthy AI nur selten Priorität. Unter den Top-3-Aufgaben sehen lediglich 2 % die Entwicklung einer AI Governance; nicht einmal jeder Zehnte gibt an, Richtlinien für den verantwortungsvollen KI-Einsatz zu erstellen.

Datenmanagement und -qualität als Fallstricke

Je autonomer KI-Systeme sind und je tiefer sie in kritische Prozesse integriert werden, desto entscheidender sind smarte Datenstrategien, um etwa Produktivitätssteigerungen auch wirklich zu realisieren und Risiken zu minimieren. Die IDC-Studie identifiziert drei Haupthürden: schwache Dateninfrastruktur, lückenhafte Governance und mangelhafte KI-Expertise. Fast die Hälfte der Unternehmen nennt eine dezentrale Datenbasis oder Cloud-Datenumgebungen, die nicht optimiert sind, als Haupthindernis für eine erfolgreiche KI-Einführung. Darauf folgen das Fehlen umfassender Data-Governance-Prozesse (44 %) und der Rückgang von KI-Spezialisten im Unternehmen (41 %).

Im Hinblick auf das Datenmanagement bei KI-Projekten stellt der Zugriff auf relevante Datenquellen für 58 % der Unternehmen die größte Herausforderung dar. Ebenso stehen Probleme mit Datenschutz und Compliance (49 %) sowie Datenqualität (46 %) einer erfolgreichen KI-Implementierung im Weg.

"Im Sinne von Gesellschaft, Business und Mitarbeitern ist Vertrauen in KI das oberste Gebot", sagt Bryan Harris, Chief Technology Officer bei SAS. "Um dies aufzubauen, müssen KI-Anbieter die Erfolgsquote bei Implementierungen erhöhen, Menschen müssen KI-Ergebnisse kritisch hinterfragen und die Führungskräfte ihre Mitarbeitenden mit KI-Tools und dem erforderlichen Know-how für den Umgang damit ausstatten."

Erstellt von (Name) S.P. am 27.11.2025 Geändert: 27.11.2025 16:31:03 Autor:  S. P. Quelle:  SAS Institute GmbH Bild:  Bildagentur PantherMedia / Smarterpix denisismagilov

Drucken