Der Aufbau und die Pflege von Beziehungen ist schwierig, und COVID-19 hat definitiv nicht geholfen. Mehrere Studien haben gezeigt, dass Erwachsene seit Beginn der Pandemie noch einsamer geworden sind.
Gründer versuchen, technische Lösungen zu finden. Es gibt viele Start-ups, die sich mit der Einsamkeit befassen wollen – einige wurden schon Jahre vor der Pandemie gegründet –, darunter auch auf Senioren ausgerichtete Unternehmen ElliQ Und Replikawodurch ein KI-Begleiter erstellt wird, und Infektions-KI‘s Pi, ein Bot zur emotionalen Unterstützung. Aber ein Neuzugang ist mir diese Woche wirklich aufgefallen: Amorai.
Das Startup hat einen KI-Beziehungscoach entwickelt, der Menschen dabei hilft, sich zu entwickeln und reale Verbindungen zu pflegen, indem er Ratschläge und Antworten auf Beziehungsfragen bietet. Das Unternehmen wurde von der ehemaligen Tinder-CEO Renate Nyborg gegründet und im AI Fund von Andrew Ng gegründet. Das Unternehmen habe gerade einen nicht genannten Betrag an Pre-Seed-Finanzierung aufgebracht, die nur 24 Stunden gedauert habe, sagte Nyborg gegenüber Recode Media von Vox Podcast schon im April.
Auch wenn die Bekämpfung der Einsamkeit eine große Aufgabe ist – und einige Personengruppen vielleicht eher offen dafür sind, mit einem Bot als mit einem Menschen zu chatten –, hat das Gefühl, dass es das Potenzial hat, so schnell schief zu gehen. Aber was weiß ich? Also habe ich einen Experten angepingt.
Es stellt sich heraus, dass ich nicht der Einzige bin, der diesem Konzept etwas skeptisch gegenübersteht. Maarten Sap, Professor an der Carnegie Mellon University und Forscher am gemeinnützigen Allen Institute of AI, teilte meine Besorgnis. Die Forschung von Sap konzentriert sich auf die Integration von sozialem gesunden Menschenverstand und sozialer Intelligenz in die KI. Er hat auch an der Entwicklung von Deep-Language-Learning-Modellen geforscht, die dabei helfen, die menschliche Kognition zu verstehen. Im Wesentlichen weiß er ein oder zwei Dinge darüber, wie KI mit Menschen interagiert.
Sap sagte mir, dass die Idee, eine technische Lösung zur Förderung realer Beziehungen zu entwickeln, zwar bewundernswert sei – und es definitiv Beweise dafür gibt, dass es solide Anwendungsfälle für KI bei der Bekämpfung dieser Art von Problemen geben wird –, dass ihn diese Idee jedoch zum Nachdenken bringt.
„Ich sage das unvoreingenommen, ich glaube nicht, dass es funktionieren wird“, sagte er. „Haben sie Studien durchgeführt, die zeigen, wie das funktionieren wird? Tut [Amorai] Zunahme [users’] soziale Fähigkeiten? Denn ja, ich weiß nicht, in welchem Ausmaß diese Dinge übertragen werden.“
Das Größte, was ihn zum Nachdenken bringt, ist seiner Meinung nach die Sorge, dass diese Art von Anwendung entweder allen Benutzern die gleichen Ratschläge geben wird, ob gut oder schlecht, und dass es für die KI schwierig wäre, die Nuancen bestimmter Beziehungen richtig zu verstehen . Würden Menschen überhaupt Ratschlägen der KI mehr vertrauen als einer anderen Person?
„Irgendwie kam mir die Idee der Pickup-Künstler in den Sinn“, sagte Sap. „Willst du hier einen Ratschlag bekommen, einer Gruppe heterosexueller Männer zu sagen, sie sollen Frauen nörgeln oder versuchen, mit ihnen zu schlafen? Oder sind ihre Leitplanken dafür?“
Wenn das Modell darauf ausgelegt ist, aus sich selbst zu lernen, könnte es eine Echokammer basierend auf den Arten von Fragen erstellen, die Menschen stellen. Dies wiederum könnte das Modell in eine problematische Richtung weisen, wenn es nicht kontrolliert wird. Bing-Benutzer haben dies möglicherweise bereits auf die harte Tour gelernt, als die KI den Leuten dies mitteilte unglücklich in ihrer Ehe.
Sap sagte, dass dies auf jeden Fall funktionieren könnte, wenn es eine menschliche Note gäbe. Die menschliche Aufsicht, um sicherzustellen, dass die App den richtigen Leuten die richtigen Ratschläge gibt, könnte sie zu einem leistungsstarken Tool machen. Wir wissen jedoch nicht, ob das der Fall ist, da das Unternehmen keine Fragen beantwortet oder Interviews annimmt.
Diese Runde zeigt auch, wie tief das FOMO in der KI wirklich ist. Jemand, der sich jeden Tag mit diesen Dingen beschäftigt, kann nicht verstehen, wie dieses Unternehmen wirklich funktionieren könnte, und dennoch hat Amorai in einem schlechten Markt innerhalb von 24 Stunden vor der Markteinführung Finanzmittel aufgebracht.
Natürlich wissen Investoren mehr über das Unternehmen als das, was veröffentlicht wird, und diese Bedenken können natürlich als Feedback für das Startup dienen. Aber wie viele KI-Startups muss ich davon ausgehen, dass es mit guten Absichten aufgebaut wird, obwohl es nichts Konkretes gibt, das dies beweisen könnte.
Ich glaube auch nicht, dass es sich hierbei um eine kleine Pre-Seed-Runde handelte – was ich normalerweise annehme, wenn ein Unternehmen die Gesamtfinanzierung nicht offenlegt; Wenn es groß wäre, würde man wollen, dass die Leute es wissen – aber in diesem Fall ist es meiner Meinung nach wahrscheinlich das Gegenteil. Es besteht ein großer Druck, viel Geld aufzubringen, bevor es umgesetzt wird oder das Produkt für den Markt geeignet ist.
„Wenn ich von solchen Ideen und Startups höre, kommt das aus gutem Grund, aber oft ist es nur die lösungsorientierte Denkweise der Technik“, sagte Sap.