Jeder IPO S-1-Prospekt enthält einen Abschnitt, in dem alle möglichen Risikofaktoren aufgeführt sind, die dafür sprechen, warum die Aktie möglicherweise kein guter Kauf ist. Bei vielen davon handelt es sich um allgemeine Warnungen, Warnungen hinsichtlich der finanziellen Leistung oder um Kriegs- und Naturereignisse. Einige davon sind jedoch unternehmensspezifischer.
Mit ServiceTitan, einem Cloud-Service-Startup, das eingereicht hat öffentliche IPO-Dokumente Mit der SEC am Montag erleben wir möglicherweise die Geburt einer neuen Standardwarnung: Große Sprachmodelle (LLMs), die zum Geschäftswachstum beitragen, könnten ebenfalls zu Schäden führen.
ServiceTitan hatte einen 1.150 Wörter umfassenden Risikofaktor dafür, wie sich der Einsatz von KI, insbesondere generativer KI, negativ auf sein Geschäft auswirken könnte. Es warnte davor, dass halluzinatorisches LLM-Verhalten „ungenaue“ Informationen hervorbringen und zu „diskriminierenden“ Verhaltensweisen führen könnte; seine LLMs könnten das Urheberrecht oder das geistige Eigentum anderer verletzen; Und die Verwendung von LLMs bedeutet, dass mehr Daten potenziellen Hacks und Schäden ausgesetzt werden. Wenn das Unternehmen jedoch nicht genügend Daten erhält, ist es möglicherweise nicht in der Lage, weiterhin KI-Produkte anzubieten oder neue zu entwickeln. Darüber hinaus warnt das Unternehmen davor, dass seine Mitarbeiter oder Auftragnehmer möglicherweise versehentlich die privaten Daten seiner Kunden an Drittsysteme weitergeben, was dann zu Sicherheitsverletzungen führen könnte, oder dass sie diese Daten zum Trainieren ihrer Modelle verwenden könnten.
ServiceTitan warnt davor, dass der Einsatz von KI eines Tages mit sozialen und ethischen Problemen in Konflikt geraten könnte. Oder dass künftige Vorschriften Geld kosten könnten.
ServiceTitan befürchtet außerdem, dass es möglicherweise nicht in der Lage sein wird, die KI-Experten einzustellen, die es für seine Produkte benötigt, und selbst wenn dies möglich wäre, wird das Talent teuer sein. ServiceTitan warnt davor, dass seine KI-Produkte auf Dienste von Drittanbietern angewiesen sind, die es nicht kontrolliert – und nennt insbesondere Microsoft und OpenAI. Wenn sie also nicht verfügbar sind oder Probleme auftreten, besteht auch ein Risiko.
Diese Warnungen sind interessant, weil ServiceTitan an der Schnittstelle der Branchen agiert, die GenAI, insbesondere LLM-gesteuerte KI-Agenten, voraussichtlich dominieren werden. ServiceTitan bietet Software für Unternehmen der Außendienstbranche – hauptsächlich kleine Unternehmen, darunter Bauunternehmer, HVAC-Experten, Landschaftsgärtner und dergleichen. Seine Software übernimmt Funktionen wie Marketing, Kundenbeziehungsmanagement, Kundensupport und Buchhaltung. (ServiceTitan lehnte einen weiteren Kommentar ab.)
KI-Agenten marschieren derzeit so rasant in Richtung Vertrieb, Marketing und CRM, dass der König des CRM-Marktes, Salesforce-CEO Marc Benioff, gegenüber Tech sagte, dass allein sein Unternehmen in einem Jahr eine Milliarde KI-Agenten in den Unternehmen der Salesforce-Kunden beschäftigen könnte .
ServiceTitan bietet seit mindestens 2023 KI-gestützte Dienste namens Titan Intelligence an. Im Oktober, Außerdem wurde eine Reihe von KI-Agenten für Vertrieb, Kundendienst und Callcenter eingeführt.
Aber LLMs wurden entwickelt, um Wörter, Bilder und Daten zu studieren und eigene Versionen der Dinge zu erstellen. Das heißt, sie wurden entwickelt, um Dinge zu erfinden. Die Wissenschaftler von OpenAI streben nach allgemeiner Intelligenz – sie ahmen die Fähigkeit des Menschen nach, noch besser zu schlussfolgern –, was bedeutet, dass sie an KI arbeiten, von der sie hoffen, dass sie noch kreativer wird.
Sicherlich ist die LLM-Zuverlässigkeit für den Geschäftsgebrauch etwas, das im Laufe der Zeit gelöst werden sollte, da sich immer mehr Unternehmen auf Agenten spezialisieren, bei denen Zuverlässigkeit und nicht Kreativität von entscheidender Bedeutung sind. Aber es ist erwähnenswert, dass diejenigen, die heute KI-Bots verkaufen, den leisen Teil in ihrer Juristensprache tatsächlich laut aussprechen: In diesem frühen Stadium könnte die KI-Einführung ebenso viele Probleme schaffen, wie sie löst.