Square bringt mit W&B Konversations-KI in Unternehmen jeder Größe
„Wenn wir jetzt trainieren, sprechen wir nicht mit S3. Wir müssen keine Details darüber wissen, wo es gespeichert ist. Wir sprechen einfach mit dem Artifacts-Register und können die Herkunft für alles verfolgen.“
Ethan Rosenthal
Angestellter KI-Ingenieur
Ein kundenorientiertes Unternehmen
Die Art und Weise, wie Sie als Unternehmer reden, sagt viel darüber aus, wie Sie die Dinge in die Tat umsetzen.
Der Aufbau von Kundenbeziehungen ist entscheidend für den langfristigen Erfolg. Und gute Kundenbeziehungen basieren auf der Kundenerfahrung – wie es für die Menschen ist, mit Ihnen Geschäfte zu machen. Eine einzige Interaktion kann den Unterschied zwischen einer begeisterten Bewertung und einer katastrophalen Beschwerde ausmachen.
Eine durchgängig effektive Kundenkommunikation erfordert jedoch Zeit, Mühe und manchmal auch Geduld. Hier kommt Square ins Spiel.
Square ist für seine Zuverlässigkeit, Benutzerfreundlichkeit und angemessenen Kosten bekannt. Die Mission von Square besteht darin, Unternehmen dabei zu helfen, an der Wirtschaft teilzunehmen und in ihr zu gedeihen. Und das ML-Team bei Square arbeitet an Tools, um noch einen Schritt weiter zu gehen und dem Unternehmer im Alltag zu helfen, jede Kundeninteraktion zu einem Erfolg zu machen.
Square Messages und Square Assistant
Ob Sie nun einen Friseursalon, ein Restaurant oder eine Boutique besitzen, die Führung eines Unternehmens bedeutet, dass Sie mit Ihren Kunden einfühlsame Gespräche führen. Diese Kommunikation erfolgt häufig in Form von praktischen Textnachrichten und kann die unterschiedlichsten Gründe haben – von der Kontaktaufnahme mit Lieferanten und der Erteilung von Anweisungen an Mitarbeiter bis hin zur Koordination von Kundenterminen. Diese persönlichen Nachrichten sind das, worauf Unternehmen sich bei der täglichen Abwicklung ihrer Geschäfte verlassen können.
Um all diese Gespräche besser nachverfolgen zu können, hat Square Square Messages eingeführt, einen Messaging-Hub, der die gesamte Kundenkommunikation an einem Ort zusammenführt. Über Square Messages können Sie alles senden und empfangen, von Textnachrichten über Quittungen und Rechnungen bis hin zu Feedback und vielem mehr. Aber das ist noch nicht alles – vielbeschäftigte Unternehmer können auch Square Assistant verwenden, ein automatisiertes Messaging-Tool, das Kunden in Echtzeit antwortet. Unternehmer können sich das Tool als ihren persönlichen KI-Assistenten vorstellen.
Nehmen wir zum Beispiel die Terminverwaltung. Wenn ein Kunde einen Termin bestätigen, verschieben oder absagen möchte, kann Square Assistant dem Kunden sofort antworten und für jedes dieser Szenarien eine Lösung anbieten. Das Tolle an der Nutzung von Assistant ist, dass er sicherstellt, dass alle Kundeninteraktionen direkt, schnell und professionell sind.
Maschinelles Lernen im großen Maßstab
Was passiert hinter den Kulissen, um beide Tools erfolgreich zu machen? Ein robustes automatisches Umschulungsframework, produktionsreife Metriken und eine vollständige Darstellung des Lebenszyklus für alle Modelle. Bei Square hatte W&B bei jedem dieser Schlüsselelemente eine Rolle zu spielen.
Jede Sekunde finden Gespräche zwischen Kunden und Unternehmen statt, die Square verwenden. Mit all den neuen Daten, die aus diesen Nachrichten generiert werden, richtet Square ein automatisches Neutraining seines Modells ein – ein großes Sprachmodell im GPT-Stil –, das das Modell mit den Gesprächsdaten des Vormonats trainiert. Alle Trainingsdaten und Modelle werden in W&B gespeichert, um den Fortschritt des gesamten Teams an einem organisierten, standardisierten und zentralen Ort aufzubewahren.
Von dort aus kennzeichnet Square die Modelle in W&B auch basierend auf der Phase des Modells. Und Square verfügt über eine einzigartige Möglichkeit, seine Modelle zu kategorisieren, um zu bestimmen, welche in der Produktion eingesetzt werden.
Ein Kampf der Modelle
Wenn Square sein Modell jeden Monat automatisch mit neuen Daten neu trainiert, wird es zunächst als Schattenmodell bereitgestellt. Dabei wird das Modell unbemerkt im Hintergrund verwendet: Es generiert Text, aber niemand sieht ihn. Als Nächstes wird das Schattenmodell zum Challenger-Modell befördert und fordert, wie der Name schon sagt, das bestehende Modell – das Champion-Modell – heraus. Challenger und Champion durchlaufen einen automatisierten A/B-Test und wenn der Challenger besser abschneidet, wird er zum neuen Champion-Modell befördert. Dieser Prozess nutzt nicht nur W&B, sondern auch die skalierbare Infrastruktur von Amazon Web Services, einschließlich Datenspeicherung und Zugriff auf GPUs für das Modelltraining.
Anforderungsrouting im Schattenmodus:
Anfragerouting während des A/B-Tests:
Squares „Jobs“-Framework für den Übergang eines Modells vom Schatten zum Herausforderer zum Champion:
Produktionsreife Metriken
Dabei fungiert W&B als zuverlässige Quelle, um Modelle zu versionieren und sie durch die drei Phasen Shadow, Challenger und Champion zu führen. Da Square mit W&B sein Training in Echtzeit überwachen kann, kann Square seine Modelle schnell und iterativ debuggen und so sicherstellen, dass die Leistungskennzahlen für die Bereitstellung erfüllt sind. „Wir verwenden Weights & Biases als Gehirn unserer Abläufe. Es stellt sicher, dass Modelle von höchster Qualität in die Produktion gelangen“, sagte Gabor Angeli, Senior Manager bei Square.
Durchgehende Herkunft
Angesichts der vielen verschiedenen Modelle, die Square nutzt, wird es immer wichtiger, die Modellherkunft beizubehalten. Hier kommen W&B Artifacts ins Spiel. Mit Artifacts weiß Square genau, welche Datensätze zur Erstellung seiner Modelle verwendet werden – ohne Zweifel oder Rückfragen.
„Wenn wir jetzt trainieren, sprechen wir nicht mit S3. Wir müssen keine Details darüber wissen, wo es gespeichert ist. Wir sprechen einfach mit dem Artifacts-Register und können die Herkunft für alles verfolgen“, sagte Ethan Rosenthal, AI Engineering Manager bei Square.
Darüber hinaus haben Artifacts Square auch dabei geholfen, Vertrauen zu gewinnen, wenn es darum ging, neue Modelle zu erstellen und sie mit vorhandenen Champion-Modellen zu vergleichen. Jetzt kann Square sicher sein, dass beim Vergleich der Modellleistung die Modelle mit denselben Daten trainiert und dann auch mit denselben Testdaten ausgewertet werden. Im Vergleich zu seiner vorherigen Lösung verfügte Square nur über grundlegende Experimentverfolgungsfunktionen und keine mit Artifacts vergleichbaren Funktionen, die bei der Verfolgung jedes Schritts ihrer ML-Pipeline helfen könnten.
Ein weiterer Aspekt von W&B, der für Square besonders nützlich ist, sind W&B-Berichte. Berichte ermöglichen die einfache Weitergabe von Feedback von einem Teammitglied an ein anderes. Das dynamische Dokument zeigt auf einen Blick alle Läufe und ihre relevanten Parameter, Metriken, Protokolle und Codes und gibt so den vollständigen Kontext der eigenen Arbeit an. „Das Erstellen eines Berichts war viel hilfreicher, um zu sehen, woran jeder arbeitet, als ein Google-Tabellenblatt mit Metriken zu erhalten, die wahrscheinlich veraltet sind, wenn ich sie lese“, erklärt Ethan.
Die Unternehmen von morgen
Da immer mehr Arbeitnehmer ihren 9-bis-5-Job aufgeben und ihr eigener Chef werden, wird eine Lösung wie Square immer wichtiger. Square hat sich seit seiner Gründung darauf konzentriert, Unternehmen dabei zu helfen, zu wachsen, zu gedeihen und erfolgreich zu sein. Und diese Mission wird auch in Zukunft Bestand haben.
Square entwickelt weiterhin Tools für Unternehmer, die ihnen helfen, intelligenter zu arbeiten und Zeit zu sparen. Eine umfassende MLOps-Plattform ist dabei von entscheidender Bedeutung. Durch die Nutzung von W&B kann sich Square auf die Entwicklung der besten Modelle für die Produktion konzentrieren, Erkenntnisse austauschen, um auf der Arbeit der anderen aufzubauen, und ein umfassendes Verständnis der Daten- und Modellherkunft erlangen. Für eine missionsorientierte Organisation wie Square ist eine unternehmenstaugliche, durchgängige MLOps-Plattform unverzichtbar – und es überrascht nicht, dass W&B genau das ist.