KI-Lösung für automatisierten Kundensupport

Mindfork

Cadet 4th Year
Registriert
Aug. 2014
Beiträge
80
Hallo zusammen,

ich bin auf der Suche nach einer KI, die speziell für den Kundensupport ausgelegt ist. Die wichtigsten Anforderungen sind:

  • Features: Die KI sollte in der Lage sein, auf Basis unserer eigenen Eingaben und interner Guides zu lernen. Es geht darum, häufige Anfragen automatisch und präzise zu beantworten und später auch komplexere Anfragen.
  • Budget: Wir möchten ein Tool, das sich in einem Rahmen von ca. 300 € pro Monat bewegt.
Im bestenfall soll die KI automatisiert Nachrichten beantworten können. Sollte das in der Preisklasse nicht vorhanden sein, dann soll sie einfach nur als unterstützung dienen.

Ich bin von Chatgpt nicht so besonders überzeugt derzeit, daher Suche ich nach einer anderen Lösung.

Hat jemand von euch Erfahrung mit einer solchen Lösung? Welche Anbieter könnt ihr empfehlen?

Ich freue mich über jeden Tipp und jede Empfehlung!

Vielen Dank schonmal
 
Zuletzt bearbeitet:
Kundensupport ist etwas unpräzise, vlt kannst du das auch noch etwas konkretisieren.
Wie hoch ist das Initialbudget?
 
Fujiyama schrieb:
Kundensupport ist etwas unpräzise, vlt kannst du das auch noch etwas konkretisieren.
Es geht primär darum, den eingehenden E-Mail-Verkehr von Kunden effizient zu bearbeiten und automatisiert zu beantworten. Wir verwenden Zendesk als Plattform, daher wäre eine Integration mit diesem System ideal, um die Prozesse nahtlos einzubinden.

Eine einfache Low-End-Variante könnte sich am Layout und der Bedienung von ChatGPT orientieren. Das bedeutet, der Kunde sendet eine Nachricht, die dann von der KI analysiert wird, um daraufhin eine sinnvolle und präzise Antwort zu generieren.

Dabei muss die Nachricht nicht zwingend automaitisiert in der KI landen (wenn so ein System zu teuer wäre) wir können das auch selber sonst einfügen.
Fujiyama schrieb:
Wie hoch ist das Initialbudget?
Das Budget ist aktuell zweitrangig, sollte jedoch in einem überschaubaren Rahmen bleiben und nicht unverhältnismäßig hoch ausfallen. Wir fokussieren uns zunächst auf die Funktionalität und Praxistauglichkeit.
Ergänzung ()

Fujiyama schrieb:
Kundensupport ist etwas unpräzise, vlt kannst du das auch noch etwas konkretisieren.
Etwas genauer:

Die Artden der Anfragen beinhalten hauptsächlich:

  • Technischer Support (Problemlösungen, FAQs).
  • Allgemeine Kundenfragen (z. B. Bestellungen).
  • Reklamationen oder Beschwerden.
  • Beratung (Produktempfehlungen oder Hilfe bei der Auswahl).
Sprache und Lokalisierung:
  • KI soll antworten in der Eingangssprache des Kunden
 
So einfach geht das nicht, wie Du Dir das vorstellst, das ist schon ein aufwendiges Projekt. Wie hoch wäre denn dazu Dein Budget? Ich war letztes erst auf einer mehrtägigen IT-Messe, wo KI-Anwendungen wie Firmen wie Pilze aus dem Boden schießen. Aber die haben alle noch nichts konkretes, nur Spielwiesendemos, und da bist Du für eine POC schon im hohe 5-stelligen Bereich, schon eher 6-stellig.
Mindfork schrieb:
Es geht primär darum, den eingehenden E-Mail-Verkehr von Kunden effizient zu bearbeiten und automatisiert zu beantworten. Wir verwenden Zendesk als Plattform, daher wäre eine Integration mit diesem System ideal, um die Prozesse nahtlos einzubinden.
Nur mal so, weil ich hier auch gerade in dem Thema drin bin, Dir ist die rechtliche Konsequenz auch klar? Du darfst in diversen Richtlinien nicht einfach E-Mails von Kunden mit einem in der Cloud liegenden Chatsystem (meistens USA) verarbeiten, Stichwort Datenschutz und DSGVO. Dafür brauchst Du dann eine Sovereign Cloud, wo Du auch einen entsprechende Anbieter brauchst, der das dann rechtlich abdeckt.

Wenn Du das alles lokal mit einem entsprechendem LLM machen willst, mußt Du erst mal eine umfangreiche Infrastruktur anlegen, die a) nicht billig und b) sehr umfangreich und in der Realiserung c) komplex sein wird.
 
  • Gefällt mir
Reaktionen: lazsniper und F1database
Ist da was für dich dabei?

Azure AI Bot Service: https://azure.microsoft.com/en-us/products/ai-services/ai-bot-service/
Botpress: https://botpress.com/de
GPT-4 mit eigenen Embeddings: https://chatgpt.com/

So oder so wirst du nicht um "Development" herumkommen. Spätestens wenn du Schnittstellen zu eigenen Systemen bereitstellen musst, die Daten bereitstellen. Wenn Atlassian Produkte oder große CRM Services am Start sind, gibt es das vermutlich schon.

Aber ja... ist auf dem Niveau eines Projekts, nichts für mal nebenher. Ein POC ja, mehr aber nicht. Und spätestens wenn Kundendaten involviert sind, wird es interessant, welcher Service die wie und wo nutzen darf.
 
  • Gefällt mir
Reaktionen: nutrix
Nur mal so simple skizziert und einen Punkt rausgenommen: Wie soll das KI-System auf die E-Mails zugreifen? Direkt auf den Exchange-Server oder anderes wäre schon mal ein Nogo, sprich, Ihr müßtest das spiegeln oder extrahieren. Dazu müßtet Ihr dann auch sicherstellen, daß nur gewisse E-Mail extrahiert werden, und dafür braucht Ihr entsprechende Tools. Und dafür ein Sicherheitskonzept mit allen Risiken und Abwägungen erstellen, wird auch nicht trivial.
 
  • Gefällt mir
Reaktionen: madmax2010
Danke @nutrix :)
Ich habe in den letzten ~2 Jahren schon ein paar LLM basierte Support bots gebaut und bastle auch gerade an einem auf Rockchip NPUs in Homeassistant.

Ein paar grundsätzliche Dinge dazu:
Achte exakt darauf was eure Datenschutzerklärung euch erlaubt. Welche Daten wie und bei welchem Dienstleister verarbeitet werden dürfen.
Klärt das mal zuerst ab und schaut, dass alle Kunden ggf. die neue Datenschutzerklärung unterschreiben.
Das sollte mit einem Datenschutzanwalt unter 5000 Euro umsetzbar sein, falls noch nicht geschehen.


Dann musst du die Inhalte eures CRM/Ticketsystem/Wiki/KB/Mailservers dem LLM zur verfuehung stellen. Dazu brauchst du Embeddings/RAG.
Dann musstdu schauen, dass diese

Zu entscheiden ist:
  • Welche Datenquellen werden genutzt
    • emails
    • crm
    • wiki
    • kb
    • ...
  • Welche Datenquellen sind bei welchem request relevant und wie werden sie ausgewählt
  • Wie werden die Datenquellen angebunden
  • Wie werden aus den Datenquellen embeddings
  • Wie wollt ihr entscheiden welche daten welchem kunden zuzuordnen sind (hier wird relativ schnell manuelles tickets / emails anonymisieren notwendig - kein kunde ist happy wenn er mitbekommt, dass seine daten an drittegeleaket werden)
  • mehrere Modelle? wann und wie werden sie ausgewählt
  • lokales LLM mit mehr Kontrolle, oder Glücksspiel mit OpenAI/Anthropic
  • Wie wollt ihr erinnerungen verwalten
  • Wie wollt ihr Erfolg messen.


Was das LLM angeht:
  • Ein lokales, was auf das Subset an Sprachen, die bei euch relevant, und auf eure Branche gefinetuned ist.
  • Ein lokales, was gut englisch kann und dann im hintergrund mit deepl / meta mms die Sprachen uebersetzen.
  • Sonnet 3.5 (mn das beste hosted model gerade)

Embeddings:
  • ColBERT
  • Meta LASER
  • Voyager
  • PGVector + PGAI


liege geradeleider flach, aber so weit ein kurzer brainstorm. Fehlt noch einiges, aber schon mal ein high level überblick
 
Zuletzt bearbeitet:
  • Gefällt mir
Reaktionen: Rickmer, Azdak, philipp275 und 2 andere
Hallo auch und danke für eure Rückmeldungen.

Ja, da ist einiges Aufgekommen, was ich noch gar nicht auf dem Schirm hatte.
nutrix schrieb:
Nur mal so simple skizziert und einen Punkt rausgenommen: Wie soll das KI-System auf die E-Mails zugreifen? Direkt auf den Exchange-Server oder anderes wäre schon mal ein Nogo, sprich, Ihr müßtest das spiegeln oder extrahieren. Dazu müßtet Ihr dann auch sicherstellen, daß nur gewisse E-Mail extrahiert werden, und dafür braucht Ihr entsprechende Tools. Und dafür ein Sicherheitskonzept mit allen Risiken und Abwägungen erstellen, wird auch nicht trivial.

Optimalerweise sollte sich das Tool direkt in Zendesk integrieren lassen, da wir dort bereits anfangen unsere gesamten E-Mails und Tickets zentral zu verwalten. Ich denke dadurch könnten wir auf separate Zugriffe auf Mailserver verzichten, was die Komplexität und potenzielle Sicherheitsrisiken deutlich reduzieren sollte?
nutrix schrieb:
Nur mal so, weil ich hier auch gerade in dem Thema drin bin, Dir ist die rechtliche Konsequenz auch klar? Du darfst in diversen Richtlinien nicht einfach E-Mails von Kunden mit einem in der Cloud liegenden Chatsystem (meistens USA) verarbeiten, Stichwort Datenschutz und DSGVO. Dafür brauchst Du dann eine Sovereign Cloud, wo Du auch einen entsprechende Anbieter brauchst, der das dann rechtlich abdeckt.

madmax2010 schrieb:
Achte exakt darauf was eure Datenschutzerklärung euch erlaubt. Welche Daten wie und bei welchem Dienstleister verarbeitet werden dürfen.
Klärt das mal zuerst ab und schaut, dass alle Kunden ggf. die neue Datenschutzerklärung unterschreiben.
Das sollte mit einem Datenschutzanwalt unter 5000 Euro umsetzbar sein, falls noch nicht geschehen.
Das ist auf jeden Fall ein kritischer Punkt, der nicht ignoriert werden sollte. Aktuell würde ich mich jedoch zunächst auf die technischen Möglichkeiten und die Auswahl potenzieller Anbieter konzentrieren wollen. Die rechtlichen Fragen wie Datenschutz und DSGVO-konforme Lösungen würden dann in einem späteren Schritt geklärt werden, sobald eine engere Auswahl getroffen werden kann. Andere Unternehmen verwenden ja auch solche Tools, und ich frage mich, wie diese die DSGVO-Anforderungen in der Praxis umsetzen. Es erscheint mir schwer vorstellbar, dass alle diese Unternehmen komplett DSGVO-konforme Lösungen nutzen, da das mit erheblichen Kosten verbunden wäre. (Soll nicht heißen, man sollte es nicht umsetzen!)
madmax2010 schrieb:
Dann musst du die Inhalte eures CRM/Ticketsystem/Wiki/KB/Mailservers dem LLM zur verfuehung stellen. Dazu brauchst du Embeddings/RAG.
Dann musstdu schauen, dass diese
Vielen Dank für den Überblick.

Ich denke aber eine lokae Version wird zu aufwendig werden.

Oder sind das auch Herausforderungen, die externe Anbieter betreffen? Sollten den diese Aspekte nicht bereits durch die Anbieter gelöst werden?👇

Ich habe mir einmal Text Cortex, Ultimate.ai und Yuma.ai angesehen, und es wird damit geworben, dass sie unternehmensspezifisches Wissen über eine Wissensdatenbank (Mit FAQ´s, Prozesse von A bis Z ) einbinden können. Die KI zieht generiert dann Ihre Antworten richtend nach diesen Quellen. Von Botpress weiß ich noch nicht, was ich halten soll.

Also, haben die Anbieter nicht die Lösungen dafür, wie die KI das Wissen aus Webseiten, PDF´s und eingebauten Leitfäden ziehen kann?

Generell gefragt: Wie gut sind KI-Systeme darin, komplexe Kundenanfragen zu bearbeiten? Gibt es typische Grenzen oder Schwächen, die man kennen sollte?

Ich meine, dass alles noch immer unter menschlicher Aufsicht geschehen muss: dass jemand die KI traniert (Absichten generieren) damit diese nicht "halluziniert". Dahingehend ergibt sich auch: Wie geht man mit falsch generierten Antworten der KI um (Fehlerbehebung und Fehlererkennung im Verständnis der KI).
 
Das sind alles Fragen, die Du in Deinem Projekt bestimmt beantworten willst. 🤗 Du fragst hier schon nach einem sehr speziellen Fall, der eben nicht so einfach zu lösen ist.

Was ist denn überhaupt Dein Budget für das Ganze?
 
  • Gefällt mir
Reaktionen: JumpingCat
nutrix schrieb:
Das sind alles Fragen, die Du in Deinem Projekt bestimmt beantworten willst. 🤗 Du fragst hier schon nach einem sehr speziellen Fall, der eben nicht so einfach zu lösen ist.

Ich wollte von den Einblicken und Erfahrungen anderer lernen - aber ja du hast recht und ich merke selbst gerade, das geht schon ziemlich in die Tiefe. Eigentlich bin ich aber noch immer an dem Punkt, mir zunächst einen Überblick über mögliche Anbieter zu verschaffen(Recherchephase).

Was das Budget betrifft:

- Für den laufenden Betrieb ~ 400 € pro Monat (aber flexibel, wenn die Lösung wirklich überzeugend ist.
Maximal 1000€)

Initiale Kosten sind vorerst zweitrangig, solange sie im Verhältnis zum Nutzen stehen. Aber um was zu nennen: 2000€.
 
Zuletzt bearbeitet:
Darf ich bitte fragen, wieviel Projekt- und Berufserfahrung Du hast? Sorry, das wird mit dem Budget nichts. Das ist jetzt wirklich bitte weder böse noch anfeindend gemeint, Du gehst hier sehr naiv ran. Selbst wenn Du das alleine in Vollzeit machen wolltest und könntest, bekommst Du das so never ever von Deinem Chef so abgesegnet, weil Du das alleine selbst in einem Jahr hier nichts brauchbares liefern können wirst.

Bei einem so komplexeren Projekt liegst Du min. bei 30-50k nur für einen POC.
 
Zuletzt bearbeitet:
  • Gefällt mir
Reaktionen: JumpingCat
nutrix schrieb:
Darf ich bitte fragen, wieviel Projekt- und Berufserfahrung Du hast?
Absolut berechtigte Frage. Tatsächlich habe ich bisher noch keine direkte Projekt- bzw Berufserfahrung in diesem Bereich. Ich dachte es wäre einfach gelöst, im Sinne von: Suche Anbieter A, Implementiere in B, erstelle eine Wissensdatenbank C und dann kann man loslegen.
nutrix schrieb:
Selbst wenn Du das alleine in Vollzeit machen wolltest und könntest, bekommst Du das so never ever von Deinem Chef so abgesegnet, weil Du das alleine selbst in einem Jahr hier nichts brauchbares liefern können wirst.
Okay, das ist doch auch schonmal eine Aussage mit der ich was anfangen kann - also mehr als Chatgpt usen wirds wohl nicht werden. Danke für die Info 👍
 
Zuletzt bearbeitet:
  • Gefällt mir
Reaktionen: nutrix
Mindfork schrieb:
Ich dachte es wäre einfach gelöst, im Sinne von: Suche Anbieter A, Implementiere in B, erstelle eine Wissensdatenbank C und dann kann man loslegen.
Ja, das denkt man so immer, und dann kommt ein Riesen Rattenschwanz mit allen Dingen, die man so nicht bedacht hat.
Mindfork schrieb:
Okay, das ist doch auch schonmal eine Aussage mit der ich was anfangen kann - also mehr als Chatgpt usen wirds wohl nicht werden. Danke für die Info 👍
Ich kenne aktuell ähnlich laufende Projekte wie das, was Du jetzt planst. Die liegen im 6-7-stelligen Bereich.

Und man darf nicht vergessen, daß LLM gerade erst in vielen Firmen anfängt. Wie ich sagte, ich habe bei einer Messe bei mehreren Anbietern alleine für einen POC die Summe von ca. 100k für ein paar Wochen bekommen.

Hab mal ein Auge, was so die nächsten 2-3 Jahre so als OSS Lösungen so rauspurzeln, vielleicht fällt ja genau sowas auch für Eure Zwecke raus.
 
  • Gefällt mir
Reaktionen: Mindfork
Zurück
Oben