Künstliche Intelligenz bei Snapchat: Das sind die Gefahren für eure Kids

Computer, die eure Fragen beantworten, sind zurzeit in aller Munde. Als letztes Jahr Chat GPT veröffentlicht wurde, war die ganze Welt fassungslos, wie weit fortgeschritten diese Programme bereits sein können. Ihr schreibt mit diesen Robotern wie in einem Chat und je mehr geschrieben wird, desto mehr tendiert ihr dazu, den Unterschied zwischen Mensch und Maschine zu vergessen. Das ist nur eines der Probleme der künstlichen Intelligenz von Snapchat My AI.

My AI, auch bekannt als 'Meine Künstliche Intelligenz', ist der neue generative KI-Chatbot auf Snapchat.

• Er erscheint als neuer Chat in eurer App und in dieser Unterhaltung könnt ihr alle möglichen Fragen stellen, auf die dann eine Antwort generiert wird.
• Es sind also simple Unterhaltungen oder auch einfache Recherchen möglich.
• Es handelt sich um eine spezielle Variante von ChatGPT, die kürzere Texte generiert und sich als Freund in Snapchat präsentiert.
• Benutzer haben die Möglichkeit, dem Chatbot einen Namen zu geben, ihn Gruppen hinzuzufügen und das Aussehen des Avatars anzupassen.
• Darüber hinaus können Bilder im Chat geteilt werden

Der Chatbot initiiert keine Kontaktaufnahme von sich aus, sondern reagiert lediglich auf Nachrichten. Bei der ersten Verwendung von My AI erhält man eine kurze Information darüber, dass es sich um einen Chatbot handelt und nicht um eine echte Person. Es wird auch darauf hingewiesen, dass man sich nicht uneingeschränkt auf die Ratschläge von My AI verlassen sollte, da der Chatbot ebenfalls Fehler machen kann. Zudem wird darauf hingewiesen, dass Daten aus der Nutzung von My AI gespeichert und analysiert werden können.

Offiziell lässt sich der Assistent nur mit der kostenpflichtigen Version Snapchat + löschen. Vorrübergehend gab es einen Trick um diese Kostenfalle zu umgehen. Diese hat Snapchat allerdings wieder beseitigt. Wir halten euch auf dem Laufenden, wann es möglich ist My AI ohne SnapchatPlus zu löschen.

Besonders für eure Kinder und Jugendlichen könnte der Chatbot eine Gefahr bilden. In verschiedenen Versuchen hilft der Assistent bei den Hausaufgaben, aber rät dem Benutzer gleichzeitig gegenüber der Lehrer nicht zu erwähnen, dass die Aufgaben in Zusammenarbeit mit My AI bewältigt wurden. Snapchat hat hier einen Chatbot ins Leben gerufen, der verblüffend echte Konversationen mit einem Freund nachahmen soll. Eine weitere Gefahr ist auch dass (besonders einsame) Kinder und Jugendliche vergessen, mit wem sie schreiben. Wie der Computer zu Beginn verlauten lässt, handelt es sich am anderen Ende nicht um einen Menschen. Ein leichtes Gefühl des Unbehagen bereitet auch die Foto Funktion. Wie andere Freunde auch, kann My AI Fotos und Videos erhalten und darauf reagieren. Dabei geht er erschreckend genau auf Gegenstände im Raum ein, um den Dialog auszubauen.

Diese neuen KI-Systeme wie My AI und Chat GPT sind nicht an und für Kinder getestet worden. Mit dem Snapchat Chatbot findet ein großer Feldversuch statt, bei dem Familien zusammen am besten agieren. Als Eltern schaut ihr am besten mit euren Kindern auf diese neue Funktion.

Selbst wenn ihr die Ortungsdienste von Snapchat ausschaltet, weiß My AI trotzdem wo ihr euch befindet. Ihr versteht sicherlich wie fraglich die Funktion noch ist.