Die Gründer des KI -Unternehmens haben den Ruf, mutige Behauptungen über das Potenzial der Technologie für die Umgestaltung von Feldern, insbesondere die Wissenschaften, zu machen. Aber Thomas Wolf, der Mitbegründer und Chief Science Officer von Faceging Face, hat eine bessere Einstellung.
In an Essay zu x veröffentlicht Am Donnerstag sagte Wolf, dass er befürchtete, die KI zu „Ja-Men auf Servern“ zu werden, wenn er einen Durchbruch in der KI-Forschung fehlt. Er erläuterte, dass aktuelle AI-Entwicklungsparadigmen KI nicht in der Lage sind, außerhalb des Boxs und der kreativen Problemlösung in der Lage zu sein-die Art der Problemlösung, die Nobelpreise gewinnt.
„Der Hauptfehler, den die Menschen normalerweise machen, ist das Denken [people like] Newton oder Einstein waren nur mit guten Schülern, dass ein Genie zum Leben erweckt wird, wenn Sie einen Top-10%-Studenten linear extrapolieren “, schrieb Wolf. „Um einen Einstein in einem Rechenzentrum zu erstellen, benötigen wir nicht nur ein System, das alle Antworten kennt, sondern auch eines, das Fragen stellen kann, an die sonst niemand gedacht hat oder es gewagt hat zu fragen.“
Die Behauptungen von Wolf stehen im Gegensatz zu denen des OpenAI -CEO Sam Altman, die in einem Essay Anfang dieses Jahres sagte, dass „Superintelligent“ KI „die wissenschaftliche Entdeckung massiv beschleunigen“ könnte. In ähnlicher Weise hat der anthropische CEO Dario Amodei vorausgesagt, dass KI dazu beitragen könnte, Heilmittel für die meisten Krebsarten zu formulieren.
Wolfs Problem mit KI heute – und wo er glaubt, dass die Technologie führt – ist, dass sie kein neues Wissen erzeugt, indem sie zuvor nicht verwandte Fakten verbinden. Selbst wenn der größte Teil des Internets zur Verfügung steht, füllt KI, wie wir es derzeit verstehen, meistens die Lücken zwischen dem, was Menschen bereits wissen, sagte, sagte Wolf.
Einige KI-Experten, darunter der Ex-Google-Ingenieur Francois Chollet, haben ähnliche Ansichten zum Ausdruck gebracht und argumentieren, dass KI zwar in der Lage sein könnte, sich die Argumentationsmuster auswendig zu merken, aber es ist unwahrscheinlich, dass sie auf der Grundlage neuer Situationen „neue Argumentation“ erzeugen kann.
Wolf glaubt, dass AI Labs im Wesentlichen „sehr gehorsame Studenten“ aufbauen – nicht im Sinne des Satzes wissenschaftliche Revolutionäre. KI ist heute nicht dazu angeregt, Ideen in Frage zu stellen und vorzuschlagen, die möglicherweise gegen ihre Trainingsdaten verstoßen, und beschränkte sie auf die Beantwortung bekannter Fragen.
„Um einen Einstein in einem Rechenzentrum zu erstellen, benötigen wir nicht nur ein System, das alle Antworten kennt, sondern auch eines, das Fragen stellen kann, an die sonst niemand gedacht hat oder es gewagt hat zu fragen“, sagte Wolf. „Einer, der schreibt“ Was ist, wenn sich alle daran falsch liegen? “ Wenn alle Lehrbücher, Experten und allgemeines Wissen etwas anderes schlagen. “
Wolf glaubt, dass die „Evaluierungskrise“ in KI teilweise schuld für diesen enttäuschenden Zustand schuld ist. Er verweist auf Benchmarks, die üblicherweise zur Messung von AI-Systemverbesserungen verwendet werden.
Als Lösung schlägt Wolf vor, dass die KI-Industrie „zu einem Maß an Wissen und Argumentation wechselt“, das aufklären kann, ob KI „mutige kontrafaktische Ansätze“ verfolgen kann, allgemeine Vorschläge auf der Grundlage von „winzigen Hinweisen“ machen und „nicht offensichtliche Fragen“ stellen, die zu „neuen Forschungspfaden“ führen.
Der Trick wird darin bestehen, herauszufinden, wie diese Maßnahme aussieht, gibt Wolf zu. Aber er glaubt, dass es die Mühe wert sein könnte.
“[T]Er ist der wichtigste Aspekt der Wissenschaft [is] Die Fähigkeit, die richtigen Fragen zu stellen und selbst herauszufinden, was man gelernt hat “, sagte Wolf. „Wir brauchen kein A+ [AI] Schüler, der jede Frage mit allgemeinem Wissen beantworten kann. Wir brauchen einen B -Studenten, der sieht und befragt, was alle anderen vermisst haben. “