Künstliche Intelligenz (KI) erfreut sich immer größerer Beliebtheit. Sie steckt hinter Modellen, die uns beim Autofahren, beim Korrekturlesen von E-Mails und sogar beim Entwerfen neuer Moleküle für Medikamente helfen. Doch genau wie bei Menschen ist es schwierig, die Gedanken von KI zu lesen.
Erklärbare KI (XAI), ein Teilbereich dieser Technologie, könnte uns dabei helfen, indem sie die Entscheidungen eines Modells begründet. Und jetzt nutzen Forscher XAI nicht nur, um prädiktive KI-Modelle genauer zu untersuchen, sondern auch, um tiefer in das Gebiet der Chemie einzutauchen.
Die Forscher präsentieren ihre Ergebnisse auf der Herbsttagung der Amerikanische Chemische Gesellschaft.
Aufgrund der zahlreichen Einsatzmöglichkeiten von KI ist sie in der heutigen Technologielandschaft nahezu allgegenwärtig. Viele KI-Modelle sind jedoch Black Boxes, d. h. es ist nicht klar, welche Schritte genau unternommen werden, um ein Ergebnis zu erzielen. Und wenn es sich bei diesem Ergebnis beispielsweise um ein potenzielles Arzneimittelmolekül handelt, könnte das Unverständnis der Schritte bei Wissenschaftlern und der Öffentlichkeit gleichermaßen Skepsis hervorrufen.
„Als Wissenschaftler mögen wir Begründungen“, erklärt Rebecca Davis, Chemieprofessorin an der University of Manitoba. „Wenn wir Modelle entwickeln können, die einen Einblick in die Entscheidungsfindung der KI geben, könnten Wissenschaftler mit diesen Methoden möglicherweise vertrauter werden.“
Bildnachweis: American Chemical Society
Eine Möglichkeit, diese Begründung zu liefern, ist XAI. Diese Algorithmen des maschinellen Lernens können uns helfen, hinter die Kulissen der KI-Entscheidungsfindung zu blicken. Obwohl XAI in einer Vielzahl von Kontexten eingesetzt werden kann, konzentriert sich Davis‘ Forschung auf die Anwendung auf KI-Modelle für die Arzneimittelentdeckung, wie sie beispielsweise zur Vorhersage neuer Antibiotikakandidaten verwendet werden.
Wenn man bedenkt, dass für die Zulassung eines einzigen neuen Medikaments Tausende von Molekülkandidaten geprüft und abgelehnt werden können und die Antibiotikaresistenz eine ständige Bedrohung für die Wirksamkeit vorhandener Medikamente darstellt, sind genaue und effiziente Vorhersagemodelle von entscheidender Bedeutung.
„Ich möchte XAI nutzen, um besser zu verstehen, welche Informationen wir brauchen, um Computern Chemie beizubringen“, sagt Hunter Sturm, ein Chemiestudent in Davis‘ Labor, der die Arbeit auf der Tagung vorstellt.
Die Forscher begannen ihre Arbeit, indem sie Datenbanken bekannter Arzneimittelmoleküle in ein KI-Modell einspeisten, das vorhersagen sollte, ob eine Verbindung eine biologische Wirkung haben würde. Dann verwendeten sie ein XAI-Modell, das von Pascal Friederich am Karlsruher Institut für Technologie entwickelt wurde, um die spezifischen Teile der Arzneimittelmoleküle zu untersuchen, die zur Vorhersage des Modells führten.
Dies half zu erklären, warum ein bestimmtes Molekül laut Modell aktiv war oder nicht. Und es half Davis und Sturm zu verstehen, was ein KI-Modell für wichtig erachten könnte und wie es Kategorien erstellt, nachdem es viele verschiedene Verbindungen untersucht hat.
Die Forscher stellten fest, dass XAI Dinge erkennen kann, die Menschen möglicherweise übersehen hätten. Es kann weitaus mehr Variablen und Datenpunkte gleichzeitig berücksichtigen als ein menschliches Gehirn. Beim Screening einer Reihe von Penicillinmolekülen fand XAI beispielsweise etwas Interessantes.
„Viele Chemiker glauben, dass der Kern des Penicillins der entscheidende Ort für die antibiotische Wirkung ist“, sagt Davis. „Aber das ist nicht das, was die XAI gesehen hat.“ Stattdessen identifizierte sie Strukturen, die an diesen Kern gebunden sind, als den entscheidenden Faktor bei ihrer Klassifizierung, nicht den Kern selbst.
„Dies könnte der Grund sein, warum einige Penicillinderivate mit diesem Kern eine geringe biologische Aktivität aufweisen“, erklärt Davis.
Neben der Identifizierung wichtiger molekularer Strukturen hoffen die Forscher, mit XAI auch prädiktive KI-Modelle zu verbessern. „XAI zeigt uns, was Computeralgorithmen als wichtig für die Wirkung von Antibiotika definieren“, erklärt Sturm.
„Wir können diese Informationen dann nutzen, um ein KI-Modell darauf zu trainieren, wonach es suchen soll“, fügt Davis hinzu.
Als nächstes wird das Team mit einem mikrobiologischen Labor zusammenarbeiten, um einige der Verbindungen zu synthetisieren und zu testen, von denen die verbesserten KI-Modelle vorhersagen, dass sie als Antibiotika wirken würden. Letztendlich hoffen sie, dass XAI Chemikern dabei helfen wird, bessere oder vielleicht ganz andere Antibiotikaverbindungen zu entwickeln, die dazu beitragen könnten, die Flut antibiotikaresistenter Krankheitserreger einzudämmen.
„KI weckt bei den Menschen viel Misstrauen und Unsicherheit. Wenn wir KI aber auffordern können, zu erklären, was sie tut, ist die Wahrscheinlichkeit größer, dass diese Technologie akzeptiert wird“, sagt Davis.
Sturm fügt hinzu, dass er glaubt, dass KI-Anwendungen in der Chemie und der Arzneimittelforschung die Zukunft des Fachgebiets darstellen. „Jemand muss den Grundstein legen. Und genau das hoffe ich zu tun.“
Weitere Informationen:
Mit erklärbarer künstlicher Intelligenz den Zusammenhang zwischen Struktur und Aktivität erforschenACS Herbst 2024.