Diese Woche in AI: Der generative AI-Boom treibt die Nachfrage nach maßgeschneiderten Chips an

Mit einer so schnelllebigen Branche wie der KI Schritt zu halten, ist eine große Herausforderung. Bis eine KI dies für Sie erledigen kann, finden Sie hier eine praktische Zusammenfassung der neuesten Geschichten aus der Welt des maschinellen Lernens sowie bemerkenswerte Forschungsergebnisse und Experimente, die wir nicht alleine behandelt haben.

Diese Woche in AI, D-Matrix, ein AI-Chip-Startup, erzogen 110 Millionen US-Dollar für die Kommerzialisierung dessen, was es als „erste seiner Art“-Inferenz-Rechenplattform bezeichnet. D-Matrix behauptet, dass seine Technologie Inferenz – also die Ausführung von KI-Modellen – zu geringeren Betriebskosten als GPU-basierte Alternativen ermöglicht.

„D-Matrix ist das Unternehmen, das generative KI kommerziell nutzbar machen wird“, sagte Playground Global-Partner Sasha Ostojic, ein Unterstützer von D-Matrix.

Ob D-Matrix dieses Versprechen einhält, ist eine offene Frage. Aber die Begeisterung dafür und Startups, die es mögen – siehe NeuReality, Tenstorrent usw. – zeigt, dass sich die Akteure der Technologiebranche zunehmend der Schwere des Mangels an KI-Hardware bewusst werden. Da die Einführung generativer KI immer schneller voranschreitet, haben die Anbieter der Chips, auf denen diese Modelle laufen, wie Nvidia, Schwierigkeiten, mit der Nachfrage Schritt zu halten.

Kürzlich Microsoft gewarnt Aktionäre potenzieller Unterbrechungen des Azure-KI-Dienstes, wenn das Unternehmen nicht genügend KI-Chips – insbesondere GPUs – für seine Rechenzentren erhalten kann. Nvidias beste KI-Chips sind angeblich Bis 2024 ausverkauft, teilweise dank Sky-High Nachfrage von ausländischen Technologiegiganten wie Baidu, ByteDance, Tencent und Alibaba.

Das ist kein Wunder MicrosoftUnter anderem investieren Amazon und Meta in die Entwicklung eigener Next-Gen-Chips für KI-Inferenz. Aber für die Unternehmen, die nicht über die Ressourcen verfügen, um diese drastische Maßnahme durchzuführen, könnte Hardware von Start-ups wie D-Matrix das nächstbeste sein.

Im optimistischsten Szenario werden D-Matrix und seine Verwandten als ausgleichende Kraft fungieren und gleiche Wettbewerbsbedingungen für Start-ups im Bereich der generativen KI – und im weiteren Sinne der KI – schaffen. Ein kürzlich Analyse vom KI-Forschungsunternehmen SemiAnalysis zeigt, wie die Abhängigkeit der KI-Branche von GPUs die Technologiewelt in „GPU-reich“ und „GPU-arm“ unterteilt, wobei die erstere Gruppe von etablierten Unternehmen wie Google OpenAI und die letztere hauptsächlich aus europäischen Start-ups und Regierungsvertretern besteht. unterstützte Supercomputer wie den Franzosen Jules Verne.

Ungleichheit plagt die KI-Branche seit jeher Kommentatoren Sie kennzeichnen die Daten, die zum Trainieren generativer KI-Modelle verwendet werden, mit den schädlichen Verzerrungen, die bei diesen trainierten Modellen häufig auftreten. Hardware droht ein weiteres Beispiel zu werden. Das heißt nicht, dass alle Hoffnungen auf Start-ups wie D-Matrix ruhen – neue KI-Techniken und -Architekturen könnten auch dazu beitragen, das Ungleichgewicht zu beseitigen. Aber billigere, im Handel erhältliche KI-Inferenzchips versprechen, ein wichtiger Teil des Puzzles zu sein.

Hier sind einige andere bemerkenswerte KI-Geschichten der letzten Tage:

• Imbue sammelt 200 Millionen US-Dollar: Durchdringendas KI-Forschungslabor, das früher als Generally Intelligent bekannt war, hat erzogen 200 Millionen US-Dollar in einer Finanzierungsrunde der Serie B, die das Unternehmen mit über 1 Milliarde US-Dollar bewertet. Imbue startete im vergangenen Oktober aus dem Verborgenen mit einem ehrgeizigen Ziel: die Grundlagen menschlicher Intelligenz zu erforschen, die Maschinen derzeit fehlen. Die neue Tranche wird für die Bemühungen des Startups verwendet, dieses Ziel zu erreichen.
• eBay generiert Angebote aus Fotos: Ebay führt ein neues KI-Tool für Marktplatzverkäufer ein, das aus einem einzigen Foto eine Produktliste erstellen kann. Dies ist möglicherweise eine große Zeitersparnis. Doch wie einige Nutzer herausgefunden haben, waren die generativen KI-Tools von eBay in puncto Qualität bisher eher enttäuschend.
• Anthropic führt einen kostenpflichtigen Plan ein: Anthropic, das von ehemaligen OpenAI-Mitarbeitern mitbegründete KI-Startup, hat angekündigt die Einführung seines ersten verbraucherorientierten Premium-Abonnementplans, Claude Pro, für Claude 2 – Anthropics KI-gestützter Chatbot zur Textanalyse.
• OpenAI startet eine Entwicklerkonferenz: OpenAI wird am 6. November eine Entwicklerkonferenz veranstalten – seine erste überhaupt –, so das Unternehmen angekündigt diese Woche. Auf der eintägigen OpenAI DevDay-Veranstaltung, die eine Grundsatzrede und Breakout-Sessions unter der Leitung von Mitgliedern des technischen Personals von OpenAI beinhalten wird, sagte OpenAI in einem Blogbeitrag, dass es eine Vorschau auf „neue Tools und den Austausch von Ideen“ geben werde – den Rest überließ es aber die Vorstellung.
• Zoom benennt KI-Tools um – und führt neue ein: Um auf dem überfüllten Markt für Videokonferenzen wettbewerbsfähig zu bleiben, aktualisiert Zoom mehrere seiner KI-gestützten Funktionen und benennt sie um, darunter den generativen KI-Assistenten, der früher als Zoom IQ bekannt war.
• Sind KI-Modelle dazu verdammt, zu halluzinieren?: Große Sprachmodelle wie ChatGPT von OpenAI leiden alle unter dem gleichen Problem: Sie erfinden Dinge. Aber wird das immer so sein? Wir bitten Experten um ihre Meinung.
• Staatsanwälte bekämpfen KI-Ausbeutung von Kindern: Die Generalstaatsanwälte aller 50 US-Bundesstaaten sowie vier Territorien haben unterzeichnet ein Brief fordert den Kongress auf, Maßnahmen gegen KI-gestütztes Material über sexuellen Kindesmissbrauch zu ergreifen. Generative KI ist im Bereich Kinderpornografie im Allgemeinen harmlos. Aber im schlimmsten Fall kann es, wie die Generalstaatsanwälte betonen, genutzt werden, um Missbrauch zu erleichtern.
• Artisse generiert Fotos von Ihnen: Mit einem neuen Tool, Artisse, können Benutzer KI-Fotos von sich selbst erstellen, indem sie zunächst eine Reihe von Selfies hochladen. Das ist nicht besonders neu; Andere Tools tun dies. Aber Artisee behauptet, die aktuelle Auswahl an KI-Foto-Apps zu verbessern, indem es ein breiteres Spektrum an Eingabe- und Ausgabefunktionen und mehr Realismus in den resultierenden Fotos bietet, selbst wenn sie in fantastischen Gefilden angesiedelt sind.

Mehr maschinelles Lernen

Erstens haben wir im wahrsten Sinne des Wortes dies KI-gesteuerte Hochgeschwindigkeitsdrohne, die es schaffte, die menschlichen Weltmeister bei dem Sport zu schlagen, bei dem die Piloten ihre Drohnen mit Geschwindigkeiten von bis zu 100 km/h durch eine Reihe von Toren steuern. Ein KI-Modell wurde in einem Simulator trainiert, was „dabei half, die Zerstörung mehrerer Drohnen in den frühen Phasen des Lernens zu vermeiden“, und führte alle Berechnungen in Echtzeit durch, wodurch die beste Runde mit einer halben Sekunde Vorsprung erzielt wurde. Menschen reagieren immer noch besser auf sich ändernde Bedingungen wie Lichtverhältnisse und Kurswechsel, aber es ist möglicherweise nur eine Frage der Zeit, bis die KI sie auch dort einholt.

Modelle des maschinellen Lernens machen auch in anderen, unerwarteten Modalitäten Fortschritte: Osmo, das darauf abzielt, „Computern einen Geruchssinn zu verleihen“. veröffentlichte einen Artikel in Science Dies zeigt, dass Gerüche tatsächlich zuverlässig quantifiziert und kartiert werden können. „RGB ist eine dreidimensionale Karte aller Farben … Wir betrachten unsere Entdeckung der Hauptgeruchskarte (POM) als die olfaktorische Version von RGB.“ Das Modell hat erfolgreich die Charakteristika von Düften vorhergesagt, denen es zuvor noch nicht begegnet war, was die Gültigkeit von POM bestätigt. Der erste Markt des Unternehmens scheint die Rationalisierung der Duftsynthese zu sein.

Die Hauptgeruchskarte, oder wie ich sie nenne, Smellspace. Bildnachweis: Osmo

Es wäre nicht korrekt zu sagen, dass KI in dieser anderen Studie auch beim Vorsprechen gut ist, aber es ist passend, dass wir einen anderen Sinn in der Mischung haben. Biologen am Imperial College London Sie haben fast 36.000 Stunden Audio von mehr als 300 Standorten in ganz Costa Rica aufgezeichnet, um die dortige Tierwelt zu verfolgen. Es hätte 20 Jahre oder 20 Studenten ein Jahr gedauert, um sich alles anzuhören, aber Modelle des maschinellen Lernens sind großartig darin, Signale aus dem Rauschen herauszuholen, also haben sie es in zwei Monaten analysiert. Es stellte sich heraus, dass es den Brüllvögeln in Costa Rica nicht gefällt, wenn die Baumbedeckung weniger als 80 % beträgt, und dass sie empfindlicher auf die Anwesenheit von Menschen reagieren als die Heuler in Mexiko.

Das AI for Good Research Lab von Microsoft hat einige Projekte in ähnlicher Richtung: worauf Juan Lavista Ferres in diesem Beitrag eingeht. Und hier, auf Spanisch. Im Grunde ist es das gleiche Problem: zu viele Daten und nicht genug Zeit oder Leute, um sie sich anzusehen. Mit speziell trainierten Modellen können sie jedoch Hunderttausende bewegungsgesteuerte Fotos, Satellitenbilder und andere Daten verarbeiten. Durch die Quantifizierung von Dingen wie dem Ausmaß und den Nebenwirkungen der Entwaldung bieten Projekte wie diese eine solide empirische Untermauerung für Naturschutzbemühungen und -gesetze.

Keine Zusammenfassung ist vollständig ohne eine neue medizinische Anwendung, und tatsächlich hat man in Yale herausgefunden, dass Ultraschalluntersuchungen des Herzens dies können durch ein maschinelles Lernmodell analysiert um eine schwere Aortenstenose, eine Form der Herzerkrankung, zu erkennen. Eine solche Diagnose schneller und einfacher zu stellen, kann Leben retten, und selbst wenn die Diagnose nicht 100 % sicher ist, kann sie einem nicht spezialisierten Gesundheitsdienstleister den Hinweis geben, dass vielleicht ein Arzt konsultiert werden sollte.

Zuletzt haben wir noch ein bisschen Analyse von Reportern von ChinaTalk, der Baidus neuestes LLM, Ernie, auf die Probe gestellt hat. Es funktioniert hauptsächlich auf Chinesisch, es ist also alles aus zweiter Hand, aber im Wesentlichen ist es so, wie man es von den restriktiven Vorschriften des Landes rund um KI erwarten kann. „Heikle“ Themen wie die Souveränität Taiwans werden abgelehnt und es werden „moralische Behauptungen und sogar politische Vorschläge“ gemacht, die manchmal das aktuelle Regime widerspiegeln und manchmal etwas seltsam sind. Es liebt zum Beispiel Richard Nixon. Aber es tut, wozu manche LLMs scheinbar nicht in der Lage sind: einfach den Mund zu halten, wenn es glaubt, gefährliches Terrain zu betreten. Ich wünschte, wir hätten alle so eine bewundernswerte Diskretion.