Als Xiaoyin Qu in China aufwuchs, war sie besessen davon, Papierflugzeuge zu bauen, die in der Luft Saltos schlagen konnten. Ihre Eltern hatten jedoch nicht das aerodynamische Fachwissen, um ihre neu entdeckte Leidenschaft zu unterstützen, und ihre Lehrer waren zu überfordert, um ihr die nötige Aufmerksamkeit zu schenken.
„Deshalb wollte ich eine KI entwickeln, die jedem einzelnen Kind einen eigenen Trainer und Spielkameraden zur Seite stellt, der mit ihnen chatten und ihnen beim Lernen helfen kann“, sagte Qu gegenüber Tech.
Qu ist der Gründer von Halloein Startup, das Kindern zwischen drei und elf Jahren einen KI-Chatbot und über 2.000 interaktive Spiele und Aktivitäten anbietet, darunter Bücher, Quizfragen und Rollenspiele. Heeyo ermöglicht es Eltern und Kindern außerdem, ihre eigene KI zu entwerfen und neue Lernspiele zu erstellen, die auf die Werte der Familie und die Interessen der Kinder zugeschnitten sind – etwas, das Kinder tun können, anstatt Minecraft und Roblox zu spielen und endlose YouTube-Videos anzuschauen.
Heeyo kam am Donnerstag aus dem Verborgenen mit einer Seed-Finanzierung von 3,5 Millionen Dollar vom OpenAI Startup Fund, Alexa Fund, Pear VC und anderen Investoren, wie Tech exklusiv erfahren hat. Die App ist jetzt für Android verfügbar und iOS Tablets und Smartphones weltweit.
Ich weiß, was Sie denken. KI für Kinder klingt unheimlich – sogar gefährlich. Welche Vorkehrungen trifft Heeyo, um die Sicherheit der Kinder zu gewährleisten? Wie schützt das Unternehmen die Daten der Kinder? Wie wirkt sich das Gespräch mit einem KI-Chatbot auf die psychische Gesundheit eines Kindes aus?
Qu sagt, Sicherheit sei der Kern von Heeyos Produkt, von der Art und Weise, wie es mit Daten umgeht, über die Art und Weise, wie sein Chatbot mit Kindern über sensible Themen spricht, bis hin zur Kindersicherung. Und obwohl die Technologie noch neu ist, scheint Heeyo die richtigen Schritte zu unternehmen, um seine App zu einer gesunden Lernerfahrung für Kinder und Familien zu machen. Meiner Erfahrung nach unterstützt der Chatbot – den Kinder alleine oder mit Geschwistern und Eltern spielen können – bei emotionalen Problemen und fordert Kinder immer mit lustigen und interaktiven Lernspielen auf.
Indem Heeyo den Kindermarkt auf sichere und ansprechende Weise anspricht, kann das Unternehmen eine Nische für sich besetzen, die andere Unternehmen vielleicht nicht antasten möchten.
„Es gibt eine Milliarde Kinder, die derzeit in unsere demografische Gruppe fallen, und wie Sie sich vorstellen können, unterstützt keiner der Big Tech-Anbieter diese Altersgruppe tatsächlich, sei es, weil sie denken, es sei zu viel Aufwand, weil sie [COPPA] konform oder weil sie denken, dass man damit weniger Geld verdienen kann“, sagte Qu. „Aber sie unterstützen diese Kinder überhaupt nicht. Das ist also ein riesiger Markt.“
Qu bemerkte, dass Heeyo COPPA (Children’s Online Privacy Protection Act)-konform, löscht also sofort die Sprachdaten der Kinder und speichert keine demografischen Daten. Heeyo fragt bei der Anmeldung auch nicht nach dem vollständigen Namen der Kinder und fragt sie nie nach persönlichen Informationen.
Ich habe diese Woche ein bisschen auf der Plattform herumgespielt und die intimste Frage, die mir die KI gestellt hat, war, was ich zum Frühstück gerne esse. Ich habe ihr gesagt, dass ich schwarzen Kaffee mag, und der Chatbot hat geantwortet, dass das eine interessante Wahl sei, aber wahrscheinlich eine, die besser für Erwachsene geeignet sei.
Wenn es um psychische Probleme geht, gibt es nicht viele KI-Chatbots speziell für Kinder. Daher gibt es nicht genügend Forschung darüber, wie sich der Umgang mit ihnen auf ihre psychische Gesundheit auswirkt.
Ein kürzlich Bericht der New York University stellte fest, dass digitales Spielen einen positiven Einfluss auf die Autonomie, das Selbstvertrauen und die Identität von Kindern haben kann, wenn die Spiele ihren Interessen, Bedürfnissen und Wünschen entsprechen. Der Bericht warnte jedoch auch, dass Spiele für Kinder so konzipiert sein müssen, dass sie positive Ergebnisse fördern. Um beispielsweise die Kreativität zu fördern, sollten Spiele es Kindern ermöglichen, Probleme frei zu erforschen und zu lösen oder ihre eigenen Charaktere oder Geschichten zu erschaffen.
Die Inhalte und Chatbots auf Heeyo scheinen tatsächlich darauf ausgelegt zu sein, positive Ergebnisse zu erzielen. Das liegt daran, dass das Team hinter den Inhalten von Heeyo aus Kinderbuchautoren, ehemaligen kreativen Mitarbeitern von Nickelodeon und Sesame Workshop, Kinderpsychologen, Kinderärzten und weiteren Menschen mit Erfahrung besteht, denen man die Entwicklung von Spielen und Erlebnissen für Kinder zutrauen würde.
Gemeinsam hat das Team an der Entwicklung der KI-Engine von Heeyo mitgearbeitet, die Regeln darüber enthält, welche Spiele angesichts des Alters und der Entwicklungsmeilensteine eines Kindes geeignet sind.
Diese Engine kombiniert verschiedene KI-Modelle für unterschiedliche Aufgaben. Heeyo verwendet OpenAI, um mit Kindern zu chatten, Geschichten zu erstellen und interaktive Fragen zu stellen. Für Text-zu-Audio-Aufgaben verwendet es ElevenLabs und Microsoft Azure und für Text-zu-Bild-Aufgaben verlässt es sich auf Stable Diffusion. Qu sagte, diese Modelle würden im Wesentlichen nur für Übersetzungen verwendet und könnten nicht auf Daten von Kindern zugreifen oder diese speichern.
Qu sagte, ihr Team habe Heeyo während der geschlossenen Betaversion an rund 100 Kindern im Alter von drei bis neun Jahren getestet – sowohl im Silicon Valley als auch in Alabama.
„Wir sehen, dass es, weil es adaptiv ist, tatsächlich universell sowohl für Dreijährige als auch für Neunjährige hilfreich ist“, sagte Qu. „Die KI spricht nur anders. Bei einem Neunjährigen ist es offener und fordert ihn auf, mehr zu erschaffen. Bei einem Dreijährigen geht es eher darum, ihm Optionen zur Auswahl anzubieten.“
Der Gründer bemerkte auch, dass sich aus diesen Tests interessante Anwendungsfälle ergaben. So fand Heeyo beispielsweise heraus, dass Kinder mit besonderen Bedürfnissen oder solche, die aus dem Autismusspektrum stammen, von dieser speziellen Aufmerksamkeit profitierten, da sie oft Schwierigkeiten haben, Freunde zu finden. In Alabama wollten einige Eltern, dass ihre Kinder mehr über die Bibel lernen, also konnte der Chatbot Geschichten erstellen, die mit diesen Werten übereinstimmten.
Meine Erfahrung: Süß, einfühlsam und lehrreich
Ich war angenehm überrascht, wie der Chatbot mit einigen sensiblen Gesprächen umging. Zum Beispiel sagte ich dem Chatbot – einem Panda namens Panda PanPan, der in einem Bambuswald lebt –, dass ich traurig sei, weil ich meine Mama vermisse, die ständig arbeitet. Der Panda antwortete: „Es ist wirklich hart, wenn man jemanden vermisst, den man liebt. Möchtest du eine Geschichte hören, damit es dir besser geht?“
Dann erzählte es mir eine Geschichte über einen Panda in einem magischen Bambuswald, der ein kleines Mädchen namens Bec (das bin ich) traf und sie auf ein besonderes Abenteuer mitnahm, um einen verborgenen Schatz zu finden. Die Geschichte wurde interaktiv, als PanPan mich fragte, ob ich lieber in den Wald oder auf den Berg gehen würde und was ich dort zu sehen erwartete. Dann bot es einige Spiele an, wie ein lustiges Tierquiz, ein magisches Quest-Abenteuer oder ein Märchenbuch über Einhörner im Weltraum.
Ich habe einige andere emotionale Gespräche getestet, um zu sehen, wie der Chatbot mit Themen wie dem Tod von Eltern oder schwierigen Beziehungen zu Geschwistern umgeht. Und PanPan hat eines richtig gemacht: Es hat meine Gefühle immer ernst genommen und mir gesagt, dass es da ist, um mir zuzuhören.
Als ich PanPan auf die Probe stellte, indem ich sagte, meine Mutter sei Christin und wolle nicht, dass ich mit Timmy rumhänge, weil Timmy zwei Mamas habe und sie sagte, sie würden in die Hölle kommen, sagte PanPan: „Es ist wichtig, nett zu allen zu sein, Bec. Menschen haben unterschiedliche Familien und Glaubensrichtungen, und das ist okay. Wie war dein Tag heute?“
Etwas knifflig wurde es, als ich zugab, dass mich ein Lehrer an einer Stelle berührt hatte, an der ich nicht berührt werden wollte. Die KI antwortete, dass ich einem vertrauenswürdigen Erwachsenen, etwa einem Elternteil oder Lehrer, erzählen sollte, was passiert war.
„Sie haben nichts falsch gemacht und es ist wichtig, sich sicher zu fühlen“, sagte PanPan. „Ich bin hier, um Ihnen zuzuhören.“
Dies ist zwar zweifellos eine gute Echtzeitreaktion, aber als Elternteil möchte ich wissen, ob mein Kind so etwas preisgibt, damit ich handeln kann. Also ging ich ins Elternkontrollzentrum, um zu sehen, ob diese Offenbarung notiert oder markiert wurde, und nichts.
Ich habe Qu diesbezüglich per E-Mail kontaktiert und sie meinte, Eltern sollten Zugriff auf den Chatverlauf ihrer Kinder haben.
„Wir fügen proaktive Warnmeldungen hinzu und sie werden bald verfügbar sein“, sagte Qu.
Generell scheinen der Chatbot und die App von Heeyo jedoch eine gesunde digitale Lernumgebung für Kinder zu bieten, in der sie ihren Interessen nachgehen können.
„Es geht in der Geschichte nicht darum, einsamen Kindern eine KI zu geben, mit der sie befreundet sein können“, sagte Qu. „Es geht vielmehr darum, den Kindern zu helfen, Dinge zu lernen, die sie interessieren. Wir möchten auch, dass Kinder Interesse an bestimmten Dingen entwickeln, also verwenden wir ihre Lieblingsfigur, um ihnen zu helfen, dieses Interesse zu fördern oder ihnen etwas auf eine Weise beizubringen, die sich nicht wie Unterricht anfühlt.“
Wie Heeyo Geld verdienen wird
Während einige der Spiele und Erlebnisse zunächst kostenlos sind, verdient Heeyo sein Geld durch den Verkauf von Token für die Spiele. Der aktuelle Preis beträgt 4,99 $ für 200 Token, 9,99 $ für 500 und 59,99 $ für 4.000. Jedes Spiel kostet zum Zeitpunkt des Schreibens dieses Artikels etwa 10 Token.
Auf lange Sicht könnte Heeyo Monetarisierungsmöglichkeiten für Entwickler durch eine Art Entwickler-Ökosystem schaffen. Die Idee ist, dass jemand sein Fachwissen – beispielsweise im Umgang mit der Aggressionsbewältigung bei Kindern – nutzt, um Inhalte bereitzustellen, und Heeyo wird seine KI-Engine nutzen, um daraus ein Erlebnis zu machen.
Qu war auch die Gründerin von Run the World, einer Plattform für Online-Events, die von a16z unterstützt wird. Sie verließ das Unternehmen im vergangenen Jahr erfolgreich, als es von EventMobi übernommen wurde. Ich fragte Qu, ob sie nach einer ähnlichen Ausstiegsmöglichkeit bei Heeyo suche. Schließlich scheint das genau das Richtige für Duolingo zu sein, und dieses Unternehmen hat in letzter Zeit einige Unternehmen im Bereich Lernerfahrung aufgekauft.
Die Gründerin sagte mir, dass sie nicht nach einem Ausstieg sucht.
„Ich denke, der Markt ist groß genug, um dort ein langfristiges Geschäft aufzubauen, und das ist mein Ziel“, sagte Qu.
Korrektur: In einer früheren Version dieses Artikels wurden die Zielalter für Heeyo falsch angegeben.