Wie Unternehmen generative KI einsetzen können – Enterprise Search als Beispiel
Welche technischen Challenges auf Unternehmen warten, wenn sie generative KI einführen wollen.
Unternehmen fragen sich, wie sie generative KI einsetzen können. Doch von der Idee bis zur Einführung liegen erstmal viele Challenges. Das diese mit den richtigen Systemen als Grundlage gar nicht so schwierig zu meistern sind, zeigt dieser Blogartikel.
Generative Künstliche Intelligenz (KI) automatisiert die Erstellung diverser Formen von Content, von Texten und Bildern bis hin zu Melodien und Designs. Sie ist eine transformative Technologie, die einen differenzierten Ansatz für Firmen darstellt, um ihre Effizienz zu steigern und neue Denkweisen anzustoßen. Zurzeit am relevantesten für Unternehmen ist sicherlich die Form der textgenerierenden KI, weshalb wir uns in diesem Beitrag um genau diesen Teil kümmern werden.
Index
Stand der Technik
Insbesondere im ersten Halbjahr 2023 wurden neue KI-Modelle praktisch im Wochentakt auf den Markt gebracht. Verschiedenste Anbieter haben in kurzer Zeit eine Vielzahl von Produkten für Unternehmen und Endverbraucher vorgestellt. Darunter waren einige begehrte und kostenintensive Modelle, die sich durch spezialisierte Funktionen und hochmoderne Technologien auszeichnen. Parallel dazu wurden viele Open-Source-Modelle veröffentlicht, die für eine breitere Anwendbarkeit und Zugänglichkeit sorgen und Firmen die Möglichkeit geben, sie an ihre speziellen Bedürfnisse anzupassen. Die Tech-Branche ist aktuell noch auf der Suche nach dem effizientesten Modell für die jeweiligen Anwendungsfälle.
Des Weiteren ist davon auszugehen, dass die Modelle sich weiterhin entsprechend schnell weiterentwickeln werden und Applikationen dementsprechend variabel für neue Modelle gebaut sein müssen.
Anwendungsfälle für Generative KI
In diesem Blogbeitrag soll es eher um die technischen Hürden einer Einführung gehen und weniger um die möglichen Anwendungsfälle. Nichtsdestotrotz wird anbei eine kleine Übersicht mögliche Anwendungsfälle gegeben:
- Produktentwicklung / R&D: Generative KI kann genutzt werden, um Ingenieuren die wichtigsten Informationen und Best Practices bereits durchgeführter Projekte näher zu bringen, um so auf vorhandenes Know-How aufzubauen, anstatt dieses erneut zu erarbeiten.
- Marketing & Content Creation: Mit Hilfe von generativer KI können Marketingmaterialien wie Blogbeiträge, Social-Media-Posts oder E-Mail-Kampagnen einfach und spezifisch auf die Bedürfnisse der Zielgruppe erstellt werden.
- Vertrieb: Im Vertrieb kann generative KI genutzt werden, um Einwände von pot. Kunden schnell und einfach zu behandeln oder um aus Meetingnotizen Follow Up E-mails zu erstellen.
- Service (Chatbots, Self-Service): Um gerade in Zeiten von Personalmangel das notwendige Personal zu reduzieren, können generierende ChatBots genutzt werden, um mit Hilfe von internem Know-How die Fragen des Kundens zu beantworten.
- Personalwesen: Generative KI kann große Mengen von Lebensläufen nach spezifischen Kriterien analysieren, um so eine Vorauswahl für den Recruiter zu erstellen.
- Enterprise Search: Generative KI kann zudem auch für Unternehmensinterne Suchen verwendet werden. Dabei können alle Dokumente indexiert werden und die KI versucht Antworten von Mitarbeitern best möglichst aufgrund der vorhandenen internen Daten zu beantworten.
Wie kann man generative Systeme mit internen Systemen verbinden?
Die größte Frage, die sich bei der internen Einführung eines generativen Systems stellt, ist wie die internen Daten unter Berücksichtigung der DSGVO mit den KI-Modellen kombiniert werden können.
Folgende Challenges stellen sich dabei:
- Access Control: Berücksichtigung bestehender Zugriffsrechte
- Administrativer Aufwand: Müssen Dokumente aktiv irgendwo hochgeladen werden oder sprechen die Systeme dauerhaft über eine Schnittstelle
- Hosting: Wo soll das System laufen bzw. hat das Unternehmen überhaupt genügend Ressourcen & Know-How, um ein solches System entsprechend zu administrieren und pflegen?
Die meisten Personen denken zunächst, dass man für den internen Anwendungsfall KI-Modelle neu trainieren muss – dem ist jedoch nicht so. Wenn dem so wäre, würden sich folgende Fragen stellen:
- Wie oft muss das KI-Modell nachtrainiert werden, um immer aktuelles Know-How zu haben?
- Welche Ressourcen werden für das Trainieren benötigt (Spoiler: Viele) und wer bezahlt das?
- Welche Daten werden für das Training genutzt? Je nach Position/Abteilung müsste die Datengrundlage eine andere sein.
Da diese nicht trivial bzw. mit einem guten ROI zu beantworten sind, ist folgende Lösung eine bessere Alternative:
Enterprise Search Systeme sind Systeme, die schon heute darauf angelegt sind, Informationen aus verschiedenen unternehmensinternen Systemen zu kombinieren und dem Mitarbeiter die relevantesten Informationen anzuzeigen. Eine der Standardanforderungen an eine Enterprise Search ist dabei natürlich, dass Zugriffsrechte berücksichtigt werden. Darüber kann sichergestellt werden, dass jeder Mitarbeiter nur die Informationen findet, die er auch wirklich sehen darf.
Übrigens: Steht man vor der Einführung einer Enterprise Search, dann steht man zunächst vor einer Make or Buy Entscheidung. Aufgrund der Komplexität ist eine Enterprise Search meistens eine Buy-Entscheidung.
Beispiel: Enterprise Search mit generativer KI
Hat der Nutzer eine Frage oder einen Prompt an das System gegeben, sucht die unternehmensinterne Suchmaschine die relevantesten Informationen heraus. Diese werden anschließend an ein allgemeines (!) generierendes Modell gegeben mit der Aufgabe, die relevantesten Informationen zu finden, zusammenzufassen und die Frage bzw. den Prompt am besten zu beantworten. So entfällt lästiges suchen und die Mitarbeiter bekommen schnell und einfach die Informationen aus tausenden Dokumenten relevant aufbereitet.
Welches generierende Modell wählen?
Bei der Auswahl des generierenden Modells ist zunächst die Frage, was mit den Daten im Modell passiert. Nutzt man einen der großen Anbieter wie OpenAI, dann werden die Daten auf deren Systemen verarbeitet. Nutzt man ein Open Source Modell, kann man dieses auch auf eigenen Instanzen hosten – falls man genug Ressourcen hat. Falls nicht, kann man oft auf Anbieter zurückgreifen, die das DSGVO-konforme Hosting solcher Modelle anbieten. Welches Modell im individuellen Fall gewählt wird, hängt jedoch stark vom Anwendungsfall ab. Wichtig ist jedoch, dass die Architektur so entwickelt ist, dass Modelle schnell ausgetauscht werden können, wenn passendere Modelle auf den Markt kommen.
Fazit
Die größte Challenge bei der Einführung eines generierenden Systems ist die Frage, wie man die internen Daten mit geringem administrativem Aufwand, aber DSGVO-konform mit dem generierenden System verbinden kann. Enterprise Search Lösungen bieten hier einen sehr guten Ansatz, um generative KI direkt über mehrere Systeme anzuwenden.
Die Kommentarfunktion ist geschlossen.