Unrealistische KI-Erwartungen
ITler: Chefs haben unrealistische Erwartungen bei KI
Normalerweise versuchen die IT-Mitarbeiter neue Technik den Fachbereichen schmackhaft zu machen. Bei KI ist es umgekehrt, wie sich am Beispiel Salesforce zeigt.
Egal, wo man hinhört, hinschaut oder hingeht – überall werden die neuen Möglichkeiten der KI in höchsten Tönen gelobt. Das reicht von ungeahnten Vereinfachungen der Arbeit bis zu unbegrenzten Gewinnaussichten der Unternehmen. Amazon hat jüngst eine Studie veröffentlicht, wonach KI, Cloud Computing und weitere digitale Technik bis 2030 einen Gesamteffekt von 668 Milliarden Euro bei der deutschen Wirtschaft bewirken könnten.
Die KI-Euphorie war auch auf der jüngsten Developer-Konferenz von Salesforce, der TrailblazerDX, omnipräsent. Und das, obwohl die Teilnehmer zumeist zu den Kategorien Developer oder Data-Scientist gehörten – also eher skeptische und rational denkende Gruppen. Doch in den Präsentationen wurden die bekannten KI-Lobeshymnen immer wieder neu angestimmt. "Einstein Copilot wird den Unternehmen viel Produktivität bescheren. Die Leistungsfähigkeit unserer Plattform und unseres Copiloten zeigt die Magie, die diese LLMs entfalten können", hieß es überschwänglich in der Eröffnungsrede. Dazu wurden die Ergebnisse einer Umfrage präsentiert, die Salesforce jüngst zu diesem Thema durchgeführt hat. Danach erwarten die Top-Manager, dass die IT die generative KI schnellstmöglich in alle technischen Bereiche integriert.
Keine Begeisterung für KI
Doch leider teilen die IT-Mitarbeiter diesen Business-Hype überhaupt nicht. Ganz im Gegenteil: Sie sehen die KI-Entwicklung äußerst skeptisch. So sagen drei von fünf IT-Experten, dass die Geschäftsführung "unrealistische Erwartungen an Geschwindigkeit und Agilität bei der Einführung von KI haben". Der Konsens unter den Experten lautet knapp gesagt: "Die Unternehmensführung priorisiert Geschwindigkeit vor Sicherheit und Datenqualität." Für die IT-Experten sind die fünf größten KI-Herausforderungen: fehlende KI-Kenntnisse in der Belegschaft, Datensicherheit, Datenqualität, Implementierungsprobleme im Zusammenhang mit anderen Projekten und die hohen Kosten für die Programmierung und die Tools.
Diese Bedenken sind nicht unbegründet. Gerade was die Datennutzung angeht, ist bei KI noch viel Nachholbedarf. Die renommierte Harvard Business Review hat in einem ausführlichen Artikel auf diese Probleme hingewiesen. Und obwohl das eher ein Magazin für die CEOs und Fachbereichs-Manager ist, scheint dessen Inhalt in diesem Fall mehr Beachtung bei den IT-Verantwortlichen zu finden.
Salesforce, KI und die Daten
Was die KI-Datennutzung bei Salesforce angeht, so erlaubt Einstein das Einbinden von diversen fremden LLMs, die der Kunde außerhalb der Salesforce-Plattform trainieren kann, also auch on Premises oder in einer gehosteten Private Cloud. Damit ist man nicht gezwungen, sensitive Unternehmensdaten für das Training oder Feintuning von Modellen auszulagern. Für die Datensicherheit bei der Ausführung von Abfragen bietet Salesforce den Einstein Trust Layer an, der so aufgebaut ist, dass nach der Verarbeitung einer Abfrage alle enthaltenen Informationen gelöscht werden. Gleichzeitig wird ein Prüfpfad erstellt und alle Prompts und Ergebnisse werden protokolliert.
Ein spezielles Problem sind die vielen neuen Cloud-basierten KI-Dienste, beispielsweise in den Bereichen Security, proaktives Geräte-Management und Business-Entscheidungshilfen. Hier rühmen sich die Anbieter damit, dass die KI auf den anonymisierten Daten aller Kunden aufsetzt, sodass jedes einzelne Unternehmen in den Genuss des Wissens aller Beteiligten kommt. Das hört sich zunächst gut an, doch es bedeutet im Umkehrschluss, dass es weniger Konkurrenzvorteile gibt. Wer beispielsweise viel in seine Security investiert und somit neue Bedrohungen schneller erkennen kann, verliert den damit einhergehenden Konkurrenzvorteil, weil sofort alle anderen über die neue Bedrohung informiert sind. Noch gravierender können die Auswirkungen dieser Gleichmacherei bei Business-Entscheidungen und Geschäfts-Prozessen sein.
Ausblick
Fazit: Die Datennutzung bei KI ist immer noch ein Wilder Westen. Deshalb ist die Zurückhaltung der IT-Chefs bei diesem Thema mehr als begründet. Die neue Gesetzesvorlage der EU bietet den CIOs hierzu einige wichtige Argumente. Sie sollten das zum Anlass nehmen, um die CEOs umfassender zu informieren und somit eine Balance zwischen Business-Interessen und technischen Risiken zu finden.
