10 Apr 2024
Generative KI (englisch Generative AI) ist eine Form der künstlichen Intelligenz, die mit sehr großen Datenmengen trainiert wurde, um Inhalte wie Texte, Bilder, Musik und neuerdings sogar Videos zu erstellen. Das folgende Bild veranschaulicht die begriffliche Einordnung in die verschiedenen Bereiche und Disziplinen der KI.
Sehr vereinfacht dargestellt nutzt das trainierte Modell beim Generieren von Inhalten Wahrscheinlichkeiten, um sequenziell Entscheidungen zu treffen, welches Wort oder Element als nächstes kommt, basierend auf dem bisher generierten Kontext.
Fast jeder wird den Satz „Alle meine Entchen..“ mit „schwimmen auf dem See“ vervollständigen, da dies die höchste Wahrscheinlichkeit hat. Genauso macht es die Generative KI und bietet so neue, ungeahnte und faszinierende Möglichkeiten Vorhersagen zu treffen, Inhalte zu kreieren und Dialoge mit Kunden zu automatisieren.
So wird es immer schwieriger in der Kommunikation zwischen Mensch und Maschine zu unterscheiden und die aktuelle KI dürfte den bereits 1950 definierten Turing Test bestehen (Wie weit dieser Test noch relevant und sinnvoll ist, wäre einen extra Artikel wert).
Unternehmen verknüpfen mit den neuen Möglichkeiten immense Erwartungen. IWConsult schätzt den Beitrag zur Bruttowertschöpfung in Deutschland auf Potenzial von 320 Mrd. €.
KI ist somit eine Top Prio für alle CEOs in Deutschland. Ernüchternd ist, dass bisher aber nur 17% der deutschen Unternehmen KI einsetzen und vermutlich davon auch nur eine geringe Anzahl der Use Cases einen sinnvollen Unternehmensbeitrag leisten.
Doch, was sind die Ursachen für diesen „KI Gap“ und wie können Unternehmen das Potential gewinnbringend und sicher beheben? Hier lohnt sich ein Blick auf verbreitete Hürden in Unternehmen.
Die Grundlage von Generativer KI sind LLMs (Large Language Modells) wie beispielsweise GPT-4 von OpenAI, die mit sehr großen (frei verfügbaren) Datenmengen trainiert wurden. Die LLMs beinhalten (hoffentlich 😉) nicht Ihre sensiblen Unternehmensdaten. Diese sind also sicher – jedoch fehlt den LLMs damit auch das notwendige “Insiderwissen”, um einen Mehrwert in Ihrem Unternehmenskontext bieten zu können.
Um dies zu erreichen, muss Chat-GPT zunächst mit Ihren Unternehmensdaten trainiert werden. In diesem Kontext ergibt sich eine weitere Herausforderung, denn aktuell tun sich LLMs noch schwer mit Echtzeitwissen. Da Generative KI immer nur bis zu einem definierten Stichtag trainiert wird, “weiß” somit auch nichts über aktuelle Ereignisse.
Die EU hat gerade erst mit dem AI Act (https://artificialintelligenceact.eu/de/) einen ersten regulatorischen Rahmen zum Umgang mit KI verabschiedet. Für Unternehmen ergeben sich daraus für den Einsatz von KI unter anderem die folgenden Fragen:
KI hat mit dem Menschen eines gemeinsam: Sie macht Fehler. Ob sie beim Lernen aus Fehlern besser oder schlechter ist als der Mensch, wird sich zeigen. Ein gravierendes Problem sind sogenannte „Halluzinationen“, also schwerwiegende inhaltliche Fehler, die aber sprachlich sehr überzeugend dargeboten werden und deshalb oft unbemerkt bleiben.
Generierung von Bildern können Halluzinationen zu sehr kreativen und überraschenden Ergebnissen führen. Im Unternehmenseinsatz sind aber korrekte und deterministische Antworten elementar wichtig.
So wurde gerade im Unternehmenskontext ein Fall publik, in dem der Chatbot eines Autohändlers falsche Angaben zu Angeboten machte und zu allem Überfluss auch die Produkte der Konkurrenz empfahl. Hier wäre mehr menschliche Kontrolle sinnvoll gewesen.
KI-Anwendungen verlangen spezifische leistungsfähige Infrastrukturen. Das spiegelt sich z.B. im Aktienkurs von Nvidia, dem führenden Lieferanten von GPUs, wieder.
Die Infrastruktur für ChatGPT kostet geschätzt 4 Mio USD pro Tag und das initiale Training von GPT-4 kostete ca 100 Mio USD. Lesenswert zu den Kosten von Generativer KI: ChatGPT and generative AI are booming, but the costs can be extraordinary.
Hier stellt sich die Frage, wie ein Unternehmen KI mit beherrschbaren Kosten nutzen kann? Bei Liongate setzen wir auf vorhandene Tools und LLMs, die mit vergleichsweise geringem Aufwand für den Einsatz in Ihrem Unternehmen angepasst werden können.
Die bekannten und verbreiteten LLMs werden (derzeit) von amerikanischen Unternehmen entwickelt und betrieben. Das Training erfolgt zum großen Teil mit englischsprachigen Texten (ca 90%). Deutsche Texte bilden nur mit 0,17 % einen sehr geringen Anteil an den Trainingsdaten.
Für deutschsprachige Unternehmen bzw. Unternehmen, die im deutschsprachigen Raum tätig sind, stellt sich die Frage, wie eine hochwertige Sprachverarbeitung in deutscher Sprache möglich ist.
Wie bereits erwähnt ist GPT-4 derzeit Marktführer. Aber allein in 2023 sind 29 LLMs entstanden, die alle für unterschiedliche Einsatzzwecke und Zielgruppen ihre Berechtigung haben. 22 dieser LLMs sind erfreulicherweise Open Source.
Ein Ende der Entwicklung ist hier noch nicht absehbar und laufend entstehen neue Innovationen. Für Unternehmen stellt sich die Frage, wie man bei dieser Volatilität Schritt halten und sinnvolle und nachhaltige Investitionen tätigen kann?
Die bisherigen Ausführungen zeigen reichlich Hürden und Fragen auf dem Weg zum Einsatz von Generativer KI in Unternehmen – Zeit für Antworten und Lösungen.
Die folgende Abbildung zeigt unser Framework für den Einsatz Generativer KI in Unternehmen. Darin werden drei grundsätzliche Ansätze für den Einstieg gegenübergestellt.
In der linken Spalte nutzen Anwender einfach den Prompt von Chat-GPT oder anderen LLMs oder der Zugriff erfolgt über deren bereitgestellte APIs. hier sind die Einstiegshürden gering. Allerdings lassen sich hiermit keine sensitiven und unternehmensrelevanten Daten verarbeiten und somit ist der Business Value eher gering.
Als Alternative bietet sich in der rechten Spalte die Entwicklung eines eigenen LLMs mit spezifischem Domain-Knowhow an. Die Kosten hierfür sind aber extrem und es gibt nur wenige Unternehmen, die sich das leisten können und wollen. Ein Beispiel ist das Software-Unternehmen Bloomberg, das mit immensem finanziellen Aufwand ein LLM mit all seine Finanzdaten erstellt hat. Das Kosten-Nutzen-Verhältnis hat hier jedoch in der Regel mehr als fraglich.
Die sinnvollste Variante und unser Ansatz ist es, intelligent ein vorhandenes LLM mit Unternehmensdaten anzureichern. Dies ist in der mittleren Spalte dargestellt und wird im folgenden weiter ausgeführt. Aus Compliance-Sicht ist es sinnvoll hier auf Open Source LLMs mit gleicher Performance wie Chat-GPT zu setzen und dieses Open Source LLM sicher in einer dedizierten Cloud-Umgebung zu betreiben.
In der Praxis müssen Unternehmen eine Reihe von Herausforderungen meistern, um Generative KI gewinnbringend und sicher einsetzen zu können. In den meisten Fällen empfiehlt sich der goldene Mittelweg zwischen ChatGPT, das kostengünstig aber für den Einsatz im Unternehmen ungeeignet ist, und von Grund auf selbst entwickelten Large Language Models, die zwar sicher aber unbezahlbar sind. Bei Liongate setzen wir auf sichere und mit geringem Aufwand anpassbare Open-Source-Lösungen in der Cloud.
Kontaktieren Sie uns für einen Austausch und erschließen Sie mit uns sicher und nachhaltig das Potenzial von Generativer KI in Ihrem Unternehmen.
Cookie Hinweis – Wir wollen Ihnen nicht auf den Keks gehen.
Wir verwenden Cookies, um die einwandfreie Funktion unserer Website zu gewährleisten, Inhalte und Werbung zu personalisieren, Social Media-Funktionen bereitzustellen und unseren Datenverkehr zu analysieren. Wenn Sie auf „Alle Cookies akzeptieren“ klicken, stimmen Sie der Speicherung von Cookies auf Ihrem Gerät zu. Nähere Informationen finden Sie in unserer Datenschutzerklärung.
