Large Language Models (LLMs), die Technologie, die KI-Chatbots antreibt, hat gezeigt, dass sie bei der Lösung komplexer Aufgaben eingesetzt werden können. Allerdings leiden sie manchmal unter Halluzinationen, einem Phänomen, bei dem die zurückgegebenen Ergebnisse zwar plausibel, aber sachlich falsch sind, was ihren breiteren Einsatz in verschiedenen Branchen einschränkt. Google DeepMind, die KI-Forschungsabteilung des Unternehmens, hat jetzt ein neues Modell angekündigt, das darauf abzielt, Halluzinationen zu reduzieren und mit Antworten zu antworten, die „die bekanntesten Ergebnisse bei wichtigen Problemen übertreffen“.Dieses große Modell namens FunSearch „sucht nach Programmen, die beschreiben, wie ein Problem gelöst werden kann, und nicht nach der Lösung“. Google erklärt in einer Forschungsarbeit. Das Unternehmen demonstrierte dies, indem es mithilfe des Modells eine Lösung für ein seit langem bestehendes wissenschaftliches Rätsel entdeckte, indem es überprüfbare und wertvolle neue Informationen lieferte, die zuvor nicht existierten.
So funktioniert FunSearch
FunSearch (kurz für Searching in the Function Space) kombiniert einen vorab trainierten LLM mit einem systematischen Evaluator. Es kombiniert ein LLM namens Codey, eine auf Computercode abgestimmte Version von Googles PaLM 2, mit Systemen, die falsche oder unsinnige Antworten ablehnen und gute Antworten wieder einbauen.Ein zweiter Algorithmus prüft und bewertet dann, was Codey herausgefunden hat. Die besten Vorschläge – sowohl richtige als auch falsche – werden gespeichert und an Codey zurückgegeben.„Viele werden unsinnig sein, einige werden vernünftig sein und einige werden wirklich inspiriert sein. Man nimmt diese wirklich inspirierten und sagt: ‚Okay, nimm diese und wiederhole es‘“, erklärte Pushmeet Kohli, Mitautor des Artikels, Vizepräsident für Forschung bei Google DeepMind.Um das Modell zu testen, verwendeten die Forscher FunSearch, um sich einem mathematischen Problem zu nähern: dem Bin-Packing-Problem. Das Problem besteht darin, Artikel in möglichst wenigen Behältern zu verpacken. Die Forscher sagten, dass FunSearch einen Weg gefunden habe, das Problem schneller zu lösen als von Menschen entwickelte.Wie FunSearch in Zukunft genutzt werden kann
Bei Halluzinationsproblemen werden LLMs nicht zur wissenschaftlichen Entdeckung und Lösung schwieriger mathematischer Probleme eingesetzt. Das neue LLM könnte ein Gateway für die Bereitstellung solcher Programme in realen Anwendungen bieten.
FacebookTwitterLinkedin
Ende des Artikels