Um KI-fokussierten Akademikerinnen und anderen ihre wohlverdiente – und überfällige – Zeit im Rampenlicht zu geben, startet Tech eine Reihe von Interviews, die sich auf bemerkenswerte Frauen konzentrieren, die zur KI-Revolution beigetragen haben. Während der KI-Boom anhält, werden wir das ganze Jahr über Beiträge veröffentlichen, in denen wir wichtige Arbeiten hervorheben, die oft unerkannt bleiben. Weitere Profile lesen Sie hier.
Emilia Gómez ist leitende Forscherin am Gemeinsamen Forschungszentrum der Europäischen Kommission und wissenschaftliche Koordinatorin von AI Watch, der EU-Initiative zur Überwachung der Fortschritte, Einführung und Auswirkungen von KI in Europa. Ihr Team trägt mit wissenschaftlichem und technischem Wissen zur KI-Politik der EG bei, einschließlich des kürzlich vorgeschlagenen KI-Gesetzes.
Gómez‘ Forschung basiert auf dem Bereich der Computermusik, wo sie zum Verständnis der Art und Weise beiträgt, wie Menschen Musik beschreiben und mit welchen Methoden sie digital modelliert wird. Ausgehend vom Musikbereich untersucht Gómez die Auswirkungen von KI auf menschliches Verhalten – insbesondere die Auswirkungen auf Arbeitsplätze, Entscheidungen sowie die kognitive und sozioemotionale Entwicklung von Kindern.
Fragen und Antworten
Kurz gesagt, wie haben Sie mit der KI angefangen? Was hat Sie an diesem Fachgebiet gereizt?
Ich begann meine Forschung im Bereich KI, insbesondere im maschinellen Lernen, als Entwickler von Algorithmen zur automatischen Beschreibung von Musik-Audiosignalen in Bezug auf Melodie, Tonalität, Ähnlichkeit, Stil oder Emotion, die in verschiedenen Anwendungen von Musikplattformen bis hin zum Bildungswesen genutzt werden . Ich begann zu erforschen, wie man neuartige Ansätze für maschinelles Lernen entwerfen kann, die sich mit verschiedenen Rechenaufgaben im Musikbereich befassen, und über die Relevanz der Datenpipeline, einschließlich der Erstellung und Annotation von Datensätzen. Was mir damals am maschinellen Lernen gefiel, waren seine Modellierungsfähigkeiten und der Wandel vom wissensbasierten zum datengesteuerten Algorithmusdesign – statt beispielsweise Deskriptoren auf der Grundlage unseres Wissens über Akustik und Musik zu entwerfen, nutzten wir jetzt unser Know-how dafür Entwerfen Sie Datensätze, Architekturen sowie Schulungs- und Bewertungsverfahren.
Aufgrund meiner Erfahrung als Forscherin für maschinelles Lernen und der Beobachtung meiner Algorithmen „in Aktion“ in verschiedenen Bereichen, von Musikplattformen bis hin zu Symphoniekonzerten, wurde mir klar, welche enorme Wirkung diese Algorithmen auf Menschen (z. B. Zuhörer, Musiker) haben, und ich leitete meine Forschung hin zur KI-Bewertung statt zur Entwicklung, insbesondere zur Untersuchung der Auswirkungen von KI auf menschliches Verhalten und zur Bewertung von Systemen im Hinblick auf Aspekte wie Fairness, menschliche Aufsicht oder Transparenz. Dies ist das aktuelle Forschungsthema meines Teams an der Gemeinsamen Forschungsstelle.
Auf welche Arbeit sind Sie am meisten stolz (im KI-Bereich)?
Auf der akademischen und technischen Seite bin ich stolz auf meine Beiträge zu musikspezifischen Architekturen für maschinelles Lernen bei der Music Technology Group in Barcelona, die den Stand der Technik auf diesem Gebiet vorangebracht haben, wie sich in meinen Zitationsaufzeichnungen widerspiegelt. Während meiner Doktorarbeit habe ich beispielsweise einen datengesteuerten Algorithmus vorgeschlagen, um Tonalität aus Audiosignalen zu extrahieren (z. B. wenn ein Musikstück in C-Dur oder D-Moll ist), der zu einer wichtigen Referenz auf diesem Gebiet geworden ist, und später habe ich eine Maschine mitgestaltet Lernmethoden zur automatischen Beschreibung von Musiksignalen in Bezug auf Melodie (z. B. Suche nach Liedern durch Summen), Tempo oder zur Modellierung von Emotionen in Musik. Die meisten dieser Algorithmen sind derzeit in Essentia integriert, einer Open-Source-Bibliothek für Audio- und Musikanalyse, -beschreibung und -synthese, und wurden in vielen Empfehlungssystemen genutzt.
Besonders stolz bin ich auf Banda Sonora Vital (LifeSoundTrack), ein vom Roten Kreuz mit dem Preis für humanitäre Technologien ausgezeichnetes Projekt, bei dem wir einen personalisierten Musikempfehlungsgeber entwickelt haben, der an ältere Alzheimer-Patienten angepasst ist. Es gibt auch PHENICX, ein großes, von der Europäischen Union (EU) finanziertes Projekt zum Einsatz von Musik, das ich koordiniert habe; und KI, um bereichernde symphonische Musikerlebnisse zu schaffen.
Ich liebe die Musik-Computing-Community und war glücklich, die erste Präsidentin der International Society for Music Information Retrieval zu werden, zu der ich während meiner gesamten Karriere beigetragen habe, mit besonderem Interesse an der Steigerung der Vielfalt in diesem Bereich.
Derzeit leiste ich in meiner Rolle bei der Kommission, der ich 2018 als leitender Wissenschaftler beigetreten bin, wissenschaftliche und technische Unterstützung für die in der EU entwickelten KI-Politiken, insbesondere das KI-Gesetz. Aufgrund dieser jüngsten Arbeit, die in Bezug auf Veröffentlichungen weniger sichtbar ist, bin ich stolz auf meine bescheidenen technischen Beiträge zum KI-Gesetz – ich sage „bescheiden“, da Sie sich vielleicht vorstellen können, dass hier viele Menschen involviert sind! Ich habe beispielsweise viel an der Harmonisierung oder Übersetzung zwischen juristischen und technischen Begriffen mitgewirkt (z. B. indem ich Definitionen basierend auf vorhandener Literatur vorschlage) und an der Bewertung der praktischen Umsetzung gesetzlicher Anforderungen, wie z. B. Transparenz oder technische Dokumentation für Hoch- und Tiefbau. Risiko-KI-Systeme, Allzweck-KI-Modelle und generative KI.
Ich bin auch ziemlich stolz auf die Arbeit meines Teams bei der Unterstützung der EU-KI-Haftungsrichtlinie, in der wir unter anderem besondere Merkmale untersucht haben, die KI-Systeme von Natur aus riskant machen, wie etwa fehlende Kausalität, Undurchsichtigkeit, Unvorhersehbarkeit oder ihre selbst- und kontinuierliche Lernfähigkeiten und bewertete die damit verbundenen Schwierigkeiten beim Nachweis der Kausalität.
Wie meistern Sie die Herausforderungen der männerdominierten Technologiebranche und damit auch der männerdominierten KI-Branche?
Es geht nicht nur um Technik – ich bewege mich auch in einem von Männern dominierten KI-Forschungs- und Politikbereich! Ich habe weder eine Technik noch eine Strategie, da dies die einzige Umgebung ist, die ich kenne. Ich weiß nicht, wie es wäre, in einem vielfältigen oder von Frauen dominierten Arbeitsumfeld zu arbeiten. „Wäre es nicht schön?“, wie es in dem Lied der Beach Boys heißt. Ich versuche ehrlich, Frustrationen zu vermeiden und Spaß an diesem herausfordernden Szenario zu haben, in einer Welt zu arbeiten, die von sehr durchsetzungsfähigen Männern dominiert wird, und genieße die Zusammenarbeit mit hervorragenden Frauen auf diesem Gebiet.
Welchen Rat würden Sie Frauen geben, die in den KI-Bereich einsteigen möchten?
Ich würde ihnen zwei Dinge sagen:
Sie werden dringend gebraucht – bitte betreten Sie unseren Bereich, denn es besteht ein dringender Bedarf an Vielfalt an Visionen, Ansätzen und Ideen. Laut dem divinAI-Projekt – einem von mir mitbegründeten Projekt zur Überwachung der Diversität im KI-Bereich – waren beispielsweise nur 23 % der Autorennamen auf der International Conference on Machine Learning und 29 % auf der International Joint Conference on AI im Jahr 2023 weiblich , unabhängig von ihrer Geschlechtsidentität.
Sie sind nicht allein – es gibt viele Frauen, nicht-binäre Kollegen und männliche Verbündete auf diesem Gebiet, auch wenn wir vielleicht nicht so sichtbar oder anerkannt sind. Suchen Sie nach ihnen und erhalten Sie ihr Mentoring und ihre Unterstützung! In diesem Zusammenhang gibt es im Forschungsfeld viele Bezugsgruppen. Als ich beispielsweise Präsidentin der International Society for Music Information Retrieval wurde, war ich sehr aktiv in der Initiative „Women in Music Information Retrieval“, einer Pionierin für Diversitätsbemühungen im Musik-Computing mit einem sehr erfolgreichen Mentoring-Programm.
Was sind einige der dringendsten Probleme, mit denen die KI im Zuge ihrer Weiterentwicklung konfrontiert ist?
Meiner Meinung nach sollten Forscher der KI-Entwicklung genauso viele Anstrengungen widmen wie der KI-Bewertung, da es derzeit an Ausgewogenheit mangelt. Die Forschungsgemeinschaft ist so damit beschäftigt, den Stand der Technik in Bezug auf KI-Fähigkeiten und -Leistung voranzutreiben, und so gespannt darauf, ihre Algorithmen in der realen Welt einzusetzen, dass sie vergisst, ordnungsgemäße Bewertungen, Folgenabschätzungen und externe Audits durchzuführen. Je intelligenter KI-Systeme sind, desto intelligenter sollten ihre Auswertungen sein. Der Bereich der KI-Bewertung wird kaum erforscht, und dies ist die Ursache für viele Vorfälle, die der KI einen schlechten Ruf verleihen, z. B. geschlechtsspezifische oder rassistische Vorurteile in Datensätzen oder Algorithmen.
Welche Probleme sollten KI-Benutzer beachten?
Bürger, die KI-gestützte Tools wie Chatbots nutzen, sollten wissen, dass KI keine Zauberei ist. Künstliche Intelligenz ist ein Produkt der menschlichen Intelligenz. Sie sollten die Funktionsprinzipien und Grenzen von KI-Algorithmen kennenlernen, um sie herausfordern und verantwortungsbewusst nutzen zu können. Es ist auch wichtig, dass die Bürger über die Qualität von KI-Produkten informiert werden, wie diese bewertet oder zertifiziert werden, damit sie wissen, welchen Produkten sie vertrauen können.
Was ist der beste Weg, KI verantwortungsvoll aufzubauen?
Meiner Ansicht nach besteht der beste Weg zur Entwicklung von KI-Produkten (mit guten sozialen und ökologischen Auswirkungen und auf verantwortungsvolle Weise) darin, die erforderlichen Ressourcen für die Bewertung, Bewertung der sozialen Auswirkungen und die Minderung von Risiken – beispielsweise für Grundrechte – aufzuwenden. bevor Sie ein KI-System auf den Markt bringen. Dies kommt den Unternehmen und dem Vertrauen in Produkte, aber auch der Gesellschaft zugute.
Verantwortungsvolle KI oder vertrauenswürdige KI ist eine Möglichkeit, Algorithmen zu entwickeln, bei denen Aspekte wie Transparenz, Fairness, menschliche Aufsicht oder soziales und ökologisches Wohlergehen von Anfang an im KI-Designprozess berücksichtigt werden müssen. In diesem Sinne legt das KI-Gesetz nicht nur die Messlatte für die weltweite Regulierung künstlicher Intelligenz fest, sondern spiegelt auch den europäischen Schwerpunkt auf Vertrauenswürdigkeit und Transparenz wider – Innovationen ermöglichen und gleichzeitig die Rechte der Bürger schützen. Ich glaube, dass dies das Vertrauen der Bürger in das Produkt und die Technologie stärken wird.