GitHub gab heute die allgemeine Verfügbarkeit von Copilot Enterprise bekannt, der 39-Dollar-Monat-Version seines Code-Completion-Tools und entwicklerorientierten Chatbots für große Unternehmen. Copilot Enterprise umfasst alle Funktionen des bestehenden Business-Plans, einschließlich der Entschädigung für geistiges Eigentum, erweitert diesen jedoch um eine Reihe wichtiger Funktionen für größere Teams. Der Clou hierbei ist die Möglichkeit, auf den internen Code und die Wissensdatenbank einer Organisation zu verweisen. Copilot ist jetzt auch in die Bing-Suchmaschine von Microsoft integriert (derzeit in der Beta-Phase) und bald können Benutzer auch die Modelle von Copilot auf der Grundlage der vorhandenen Codebasis eines Teams verfeinern.
Damit können neue Entwickler in einem Team beispielsweise Copilot fragen, wie ein Container-Image in der Cloud bereitgestellt werden soll, und erhalten eine Antwort, die speziell auf den Prozess in ihrer Organisation zugeschnitten ist. Schließlich ist es für viele Entwickler nicht unbedingt das Verständnis der Codebasis, das beim Umzug von Unternehmen ein Hindernis für die Produktivität darstellt, sondern das Verständnis der verschiedenen Prozesse – obwohl Copilot natürlich auch beim Verständnis des Codes helfen kann.
Bildnachweis: GitHub
Viele Teams bewahren ihre Dokumentation bereits heute in GitHub-Repositories auf, was es für Copilot relativ einfach macht, darüber nachzudenken. Tatsächlich, wie mir Thomas Dohmke, CEO von GitHub, sagte, haben einige Leute damit begonnen, es für nicht-technische Fragen zu verwenden, da GitHub selbst praktisch alle seine internen Dokumente im Dienst speichert – und kürzlich allen seinen Mitarbeitern Zugriff auf diese neuen Funktionen gewährt hat. auch und fing an, Copilot zum Beispiel nach den Urlaubsbestimmungen zu fragen.
Dohmke erzählte mir, dass Kunden seit den Anfängen von Copilot nach diesen Funktionen gefragt hätten, um auf interne Informationen zu verweisen. „Viele Dinge, die Entwickler in Organisationen tun, unterscheiden sich von dem, was sie zu Hause oder in Open Source tun, in dem Sinne, dass Organisationen einen Prozess oder eine bestimmte Bibliothek verwenden müssen – und viele von ihnen verfügen über interne Tools, Systeme und Abhängigkeiten.“ „Das gibt es äußerlich nicht so“, bemerkte er.
Was die Bing-Integration betrifft, bemerkte Dohmke, dass dies nützlich wäre, um Copilot nach Dingen zu fragen, die sich seit dem ursprünglichen Training des Modells möglicherweise geändert haben (denken Sie an Open-Source-Bibliotheken oder APIs). Derzeit ist diese Funktion nur in der Enterprise-Version verfügbar, und obwohl Dohmke nicht viel darüber sagen würde, ob sie auch in anderen Editionen verfügbar sein wird, wäre ich nicht überrascht, wenn GitHub diese Funktion zu einem späteren Zeitpunkt auch auf die anderen Ebenen bringen würde , zu.
Bildnachweis: GitHub
Eine Funktion, die – teilweise aufgrund der damit verbundenen Kosten – wahrscheinlich eine Unternehmensfunktion bleiben wird, ist die Feinabstimmung, die bald eingeführt wird. „Wir lassen Unternehmen eine Reihe von Repositories in ihrer GitHub-Organisation auswählen und dann das Modell an diesen Repositories verfeinern“, erklärte Dohmke. „Wir abstrahieren die Komplexität der generativen KI und nehmen die Feinabstimmung vom Kunden weg und ermöglichen es ihm, seine Codebasis zu nutzen, um ein für ihn optimiertes Modell zu generieren, das dann in den Copilot-Szenarien verwendet wird.“ Er stellte jedoch fest, dass dies auch bedeutet, dass das Modell nicht so aktuell sein kann wie bei der Verwendung von Einbettungen, Fähigkeiten und Agenten (wie dem neuen Bing-Agenten). Er argumentiert jedoch, dass dies alles komplementär sei und die Kunden, die diese Funktion bereits testen, erhebliche Verbesserungen feststellen. Das gilt insbesondere für Teams, die mit Codebasen in Sprachen arbeiten, die nicht so weit verbreitet sind wie Python und JavaScript, oder mit internen Bibliotheken, die außerhalb einer Organisation nicht wirklich existieren.
Ich habe nicht nur über die heutige Veröffentlichung gesprochen, sondern auch Dohmke nach seinen allgemeinen Vorstellungen darüber gefragt, wohin Copilot als Nächstes geht. Die Antwort lautet im Wesentlichen: „Mehr Copilot an mehr Orten.“ Ich denke, im nächsten Jahr werden wir einen zunehmenden Fokus auf die End-to-End-Erfahrung sehen, bei der Copilots dort platziert werden, wo die Arbeit bereits erledigt wird, anstatt ein neues Ziel zu schaffen, an das man Dinge kopieren und dort einfügen kann. Ich denke, hier sind wir bei GitHub unglaublich begeistert von der Möglichkeit, die wir durch die Bereitstellung von Copilot auf github.com haben, indem wir Copilot dort verfügbar machen, wo Entwickler bereits zusammenarbeiten, wo sie bereits die Software der Welt entwickeln.“
Bildnachweis: GitHub
Als er über die zugrunde liegende Technologie und die Zukunft sprach, wies Dohmke darauf hin, dass die Funktion zur automatischen Vervollständigung derzeit auf GPT 3.5 Turbo läuft. Aufgrund seiner Latenzanforderungen hat GitHub dieses Modell nie auf GPT 4 verschoben, aber Dohmke wies auch darauf hin, dass das Team das Modell seit der Einführung von Copilot Business „mehr als ein halbes Dutzend Mal“ aktualisiert hat.
Derzeit sieht es nicht so aus, als würde GitHub dem Google-Modell folgen und seine Preisstufen nach der Größe der Modelle differenzieren, die diese Erlebnisse ermöglichen. „Unterschiedliche Anwendungsfälle erfordern unterschiedliche Modelle. Verschiedene Optimierungen – Latenz, Genauigkeit, Qualität des Ergebnisses, verantwortungsvolle KI – für jede Modellversion spielen eine große Rolle, um sicherzustellen, dass die Ausgabe ethisch, konform und sicher ist und keinen Code mit geringerer Qualität generiert, als unsere Kunden erwarten . Wir werden weiterhin den Weg gehen, die besten Modelle für die verschiedenen Teile des Copilot-Erlebnisses zu verwenden“, sagte Dohmke.