Wenn Jugendliche sich von KI beraten lassen

00:00:03: Relevant!

00:00:09: Jugendliche in der Schweiz wenden sich mit ihren Sorgen immer mehr an künstliche Intelligenz.

00:00:16: In diese Richtung sind Schlagzeilen gegangen, die im März pro Juventude-Jugendstudie, wenn es bis zum Jahr hier rauskommt.

00:00:23: In dieser Studie geht's ganz allgemein um den Umgang mit Stress und Krise aber eben auch um die Medienutzung – und der Aspekt mit Kai als eine Art die Therapeute in Anführungszeichen, haben wir in der Redaktion eben spannend gefunden.

00:00:39: Wir haben uns gefragt wie sieht man das genau aus wenn er mit einer Kei seine Probleme bespricht?

00:00:45: Nützt das etwas oder ist es sogar gefährlich?

00:00:49: Diese Fragen klären wir heute im Relevant mit mir Raffael Stegmeier.

00:00:53: Man hat mit den Machern von der Studie geredet und mit Experten aus der Schule und Jugendpsychologie und aus der Medienpädagogik und mit jugendlichen.

00:01:07: Und unter den Jugendlichen, die wir gefragt haben, ob sie in Nutzen zum Sorgen besprechen konnten, haben eigentlich alle gesagt, dass das nicht geht.

00:01:16: Das deckt sich auch grob mit der Studie laut.

00:01:18: Der ist nämlich bei jeder zehnte Jugendliche, die mit Sorgen zu gehen kann.

00:01:23: Trotzdem sind die Gedanken von diesen Jugendlichen noch aufschlussreich gewesen?

00:01:28: Ja, ich glaube, das könnte man schon machen, denn dann wird er mir so gut zugesprochen und ... Wenn man nicht einen Ratschlag braucht, sondern jemanden, der ihm so zulassen ist, dann ist es schon gut.

00:01:40: Ich glaube, er hat einfach eine Zustimmung und Wertschätzung

00:01:44: bekommen.

00:01:45: Also ich glaube, ich habe gar kein Problem.

00:01:46: Und ich glaube nicht, dass ich noch krasse Antworten hätte, die mir etwas bringen würden?

00:01:54: Weil das kann ich und keine achte Person sein.

00:01:58: Aber ich würde es auch machen, weil sie so anonym sind ...

00:02:04: Für andere Themen gönnt es aber schon ganz gerne mal zu einer KI.

00:02:08: Die KI hat mir sehr viel geholfen, bei schulischen Themen nicht besser zu verstehen oder noch einmal einen Zusammenfassung zu geben.

00:02:15: Manchmal ist auch ein Risiko, wenn ich wegen der schulissen Sache hier frage, weil sie mir Dinge angeht, die wir anders lernen und die wir gar nicht können.

00:02:26: Oder sie versteht meine Fragen nicht ganz und dann erklärt sie es mir wie so

00:02:31: falsch.

00:02:32: mehr über Schul- oder Alltagsfragen, aber ich finde es so für richtige Fragen.

00:02:39: Also so über Probleme sollte man nicht chattivity fragen, weil das stimmt immer auf seiner Seite.

00:02:45: Es wird vielleicht schon über persönliche Probleme, aber nicht wenn mehrere Personen

00:02:50: mit

00:02:51: einbezogen sind im Problem, denn dann stellt er sich halt noch auf deine Seite und gibt auch nicht so gute Ratschläge habe ich das Gefühl Mein Grund ist, warum ich Kei frage, weil sie gut auf mich eingeht und es mir gut kann erklären.

00:03:02: Mit meinen Fragen, die ich halt spezifisch habe ansehe.

00:03:06: Und natürlich auch, weil ich schnell zu Antworten komme, wo man so jetzt nicht gerade jemand ausführlich geben könnte oder eine Webseite.

00:03:13: Wenn ich Geld hätte in einer Fachperson, wenn nicht in einer

00:03:16: Kei?

00:03:16: Ganz pragmatisch also!

00:03:19: Wir hören aber, dass Kei nicht... irgendwie Tabu zum Brauchen oder zu drüberreden, sondern es ist eigentlich ganz normal.

00:03:27: Das deckt sich auch mit Bekannt aus meinem eigenen Umfeld.

00:03:29: Die sind dann mehr so in ihren zwanziger und der frühen dreißiger Jahre.

00:03:34: Da fragt man schon einmal, kann ich nach Ratschläge für das eigene Leben?

00:03:37: ganz verschiedene Aspekte?

00:03:40: In dieser Studie, die uns den Thema Anstupf gegeben hat, geht's aber um Jugendliche- und Jungerwachsene zwischen vierzehn und fünfzwanzig.

00:03:54: Die Jugendstudie hat im Jahr die Umgang mit Stresskrisen, Mediennutzung und Resilienz bei Jugendlichen und Jungen erwachsen.

00:04:04: Diese Studie haben sie in der Schweiz auf Deutsch, Französisch und Italienisch gemacht.

00:04:09: Ich habe mit Olivier Reber Mediasprecher bei Pro Juventute gesprochen.

00:04:13: Und er sagt, dass Jugendliche in der Schweizgänge

00:04:20: grundsätzlich gut sind.

00:04:24: Trotzdem gibt es natürlich Belastungen, die sich noch bedrücken.

00:04:27: Zum Beispiel Schul- und Ausbildungstressen haben wir gesehen, dass das ein sehr grosser Stressor ist.

00:04:31: Interessant ist auch, dass sie sich mehr Sorgen machen und in beruflichen Zukunft als vor zwei Jahren, wo wir diese Studie erst einmal erhoben haben – und auch mehr Sorge um Kriegerwelt

00:04:41: zu machen.

00:04:42: Im Vergleich mit der ersten Jugendstudie von den Jungs sind viele Themen gleich geblieben.

00:04:47: Gewisse Aspekte haben sich aber verstärkt wegen der weltpolitischen Lage.

00:04:52: Und da kann bei Sorgen auch keine Anlaufstelle sein, zeigen Taten.

00:04:56: Zehn Prozent von den Jugendlichen nutzen das nämlich.

00:05:00: Aber grundsätzlich ist es immer noch so, dass Bezugspersonen also die Eltern und Freunde der ersten Anlaufstellen sind.

00:05:06: Für Kai ist einfach eine niederschwellige Norde hier, wo man die erste Gedanken aufschreiben kann, seine Gedanken aussortieren.

00:05:14: Das kann im Alltag schon einmal helfen, eine gewisse Belastung zu reduzieren.

00:05:18: Also das Niederschreiben hilft beim Verarbeiten.

00:05:21: Und Kai kann einem dann auch ein Gefühl geben, dass man gehört wird.

00:05:26: Wenn wir von Kai reden, gehen sie in der Studie aus von Large Language Models – LLMs wie zum Beispiel Jet GPT, also Sprachmodell mit grossen Datenmengen zu ihrem Ergebnis kommen.

00:05:40: Hier beobachten wir generell, dass Kai im Alltag der Menschen Auch von den Jugendlichen immer mehr vorkommt.

00:05:46: Das sei gefakt, sagt Oliver aber Mediasprecher von Pro Juventute.

00:05:51: Wir

00:05:52: sehen weiter, dass die psychische oder therapeutische Versorgung in Kinder- und Jugendtherapie sehr schlecht ist, also dass sehr viele Plätze fehlen.

00:06:02: Das merken wir auch beim ein für sieben Fobreventuten, die man sich ja immer kostenlos melden kann.

00:06:07: Dass wir dort immer mehr Kontaktanfragen haben und es ist natürlich auch eine Ausweichstrategie, wo man vielleicht nicht mehr anders gerade Hilfe bekommt.

00:06:14: Und da müssen wir ins Beratungsangebot investieren?

00:06:18: Dass alle Kinder und Jugendlichen, die Probleme haben sehr schnell eine Lösung finden.

00:06:23: Und zweitens auch, dass auch diese Angebote hier bekannt sind.

00:06:26: Gerade bei ein für Sieben, die wir auch sehr viel reinvestieren, das können wir von unserem Angebot kennen.

00:06:30: Wenn sie Probleme haben und niemanden zu reden hat, wissen sie immer mehr.

00:06:35: Das ist gratis und vertraulich.

00:06:38: Keine Hetzinplatz kann auch helfen.

00:06:41: Es soll aber nicht wirkliche Beratung ersetzen.

00:06:44: Und das tut es auch nicht, zeigt die Studie!

00:06:46: Wir sehen, dass Bezugspersonen immer noch eine wichtigere Rolle spielen.

00:06:51: Achtzehn Prozent der Jugendlichen werden sich noch an den Eltern besorgen.

00:06:54: Seventies Prozent an Freunden.

00:06:56: und Freunden.

00:06:57: Nur ganz kleine Teile werden eigentlich nur an der Kei, das heisst die Kei ist eher ergänzend.

00:07:05: Und da sagt eine Verantwortung von den Eltern und Schulen zum Beispiel, dass die Jugendlichen den Umgang mit der Keis richtig einordnen können.

00:07:12: Da hat die Projubin Tutte selber auch Beratungsangebote für Anstaltungen oder einfach Info-Beiträge auf der Webseite.

00:07:19: Für uns ist es sehr wichtig, dass gerade die Jugendliche auch verstögt Was kann eine Keile ist und was nicht, dass es eben Empathie simuliert.

00:07:27: Und auch nicht Verantwortung übernimmt für einen.

00:07:29: Die individuelle Situation kann noch nicht ausgespürt werden.

00:07:32: D.h.,

00:07:32: die menschliche Therapie ist immer noch unglaublich wichtig und die Jugendlichen müssen das auch verstehen und wissen.

00:07:38: Der Olivier Reber Mediasprecher von Pro Juventude sagt im Sektor noch wichtig, dass die Jugendliche dann auch befähigt und unterstützt werden.

00:07:46: Dass sie dafür keine brauchen.

00:07:48: Und es kann auch hilfreich sein, dass sie aber auch die Grenzen kennen.

00:07:52: Wenn man wirklich anstatt, dann wäre z.B.

00:07:54: die Notruh von die Line-Eis für sieben von Pro Juventute eine gute Option.

00:08:06: Für eine unabhängige Einschätzung sind wir auf die Suche nach Fachpsychologen für Kinder und Jugendfragen.

00:08:12: Wir haben da nämlich wissen können was ich als psychologische Begleitung für Möglichkeiten bietet, aber auch wo die Grenze sind – Georg Hoffmann!

00:08:21: Matthias Obrist ist Schulpsychologe und er ist auch Präsident der Schweizerischen Vereinigung für Kinder- und Jugendpsychologie.

00:08:29: Punkt okay Nutzung, durch Junge ist er optimistisch und sagt sie suche ja gegen wieder neue Räume und so jetzt halt hier eben digitale Räum.

00:08:40: Ich finde es grundsätzlich gut, Jugendlichkeit zu suchen nach einer Hilfe, die dann wenn Sie das möchten abrufen zur Verfügung steht.

00:08:48: Die Fragen sind von der Qualität.

00:08:50: Die Frage ist, ersetzt einen menschlichen Kontakt?

00:08:53: Nein, das tut es nicht.

00:08:54: Wir wissen aber auch, dass Jugendliche sich schwer tun, einfach mit ihren Anliegen, die sehr in dem Persönlich sind zu Erwachsenen zu gehen und schweigen dann sogar noch zur professionellen.

00:09:05: Und wenn hier cool werden kann, wenn schon mal Informationen geben können, die jederzeit verfügbar sind von einer guten Qualität, dann ist das letztendlich etwas hilfreicher.

00:09:16: Ihr Therapie und bei Beratungen sieht man auch der Bedarf so hoch, dass wir gar nicht alle jungen persönlich begleiten können.

00:09:25: Und so kann ich auch digitale Hilfsmittel hand in Hand gehen mit menschlichen Therapeuten.

00:09:30: Persönlich

00:09:31: mit einem Profi können Situationen wenn es krisenhaft sind anzuschauen und gleichzeitig eine Verfügbarkeit zu haben von Qualifizierten Tools, wo man zum Beispiel Entspannung oder Selbstreflexion im Sinne des Stimmungs-Tagebuches machen kann.

00:09:50: Ich hole mir einen Tipp.

00:09:52: Ganz wichtig ist, dass das zugeschnitten ist auf die Situation, in der man sich befindet.

00:09:58: Etwa wo Ängste und Depressionen hat, ist etwas anderes.

00:10:01: wo etwa Auto-Aggressiv, Selbstaggression oder in Suchtmittelkonsum problematisch ist.

00:10:10: Also da braucht es schon jemanden, der gezielte Informationen in einer guten Qualität vermittelt kann.

00:10:17: Kai und Chatbot sind jederzeit verfügbar im Gegensatz zu Menschen.

00:10:22: Wenn man es richtig dokumentiert, können sie also eine gute Ergänzung zur Prävention und Therapie angeboten sein, sagt Matthias Obrist.

00:10:31: Aufpassen muss man aber bei Verzerrungen, die es bei Maschinen und ihren Algorithmen gibt.

00:10:37: Es ist so ein beies Verzerring drin, dass sie zu wohlwohl und zu wenig konfrontativ sind.

00:10:43: Und eine Psychologin in der direkten Situation kann auch mal etwas unangenehmes Ansprechen, Konfrontieren, Intervention machen, das vielleicht erst im Moment irritiert, was aber Wahrheit hat Das machen die Maschinen je nachdem weniger und sie sind so eine Erwartungsfreundschaft, Bestätigungsverzerrung können es darin haben.

00:11:06: Auch geschlechtsdifference und kulturelle Differenz seien kritische Punkte.

00:11:11: Aber ein Gewinn sieht Matthias Ober ist schon in der Kombination von Menschen mit qualitativer therapeutischer Ausbildung zusammen mit digitalen Tools sozusagen als Ergänzung.

00:11:23: Und

00:11:23: das Risiko ist natürlich, dass Jugendliche jetzt fest in eine digitale Welt abtauchen, dass die Selbstbestätigung zu groß ist und es ein künstlicher Artifizieller für das Wahrung genommen wird – wenn ein Ersatz, ein Flucht, eine Einseitigkeit besteht, dann ist nicht hilfreich um unsere Krise herauszukommen.

00:11:43: Auch wenn hier jetzt am Schluss doch noch Risiken erwähnt sein, grundsätzlich ist der Präsident von der Schweizerischen Vereinigung für Kinder- und Jugendpsychologie die Nutzung von KI gegenüber positiv eingestellt.

00:11:54: Zulangs eben die menschlichen Begegnungen und Beratungen nicht gänzlich ersetzt – weil den Menschen ganz ersetzen können im Maschinenhalt nicht.

00:12:03: Ergänzen aber schon!

00:12:10: Und um da nach ein bisschen praktischer zu werden, haben wir uns eine Sapia gewendet.

00:12:15: Aus dem romanischen Übersetzte Wissen, Erkennen und Erblicken.

00:12:19: Ein Bildungsangebot für Kinder, Jugendliche, Eltern und Fachpersonen in der Schweiz zum Thema Medienkompetenz und Mediepsychologie.

00:12:28: Und da ist Stefan Gaduff mit Inhaber.

00:12:32: Er hat auch schon als Schulsozialarbeiter geschaffen und ist noch bei Schulepsychologische Diensten tätig.

00:12:38: Georg Hoffmann fragte ganz praktisch, wie Eltern damit umgehen können, wenn die Kinder mit ihren Sorgen zugegangen sind?

00:12:45: Weil das Junge kann einnutzen, ist aus mediepsychologischer oder auch pädagogischer Sicht klar, sagt Stefan gerade auf.

00:12:53: Es ist für sie ein Tool und dass sie es nutzen, ist klar!

00:12:56: Und je mehr Sie es nutzen umso höher ist die Wahrscheinlichkeit, dass sie dann bei persönlichen Herausforderungen tatsächlich auch auf sättige Plattformen zurückgreifen.

00:13:05: Die Problematik ist natürlich ... Eiei oder Kai eben nicht optimiert ist dafür, tatsächlich sinnvolle Antworten zu geben, die im Beratungsbereich hinein sind.

00:13:14: Weniger

00:13:14: klar ist also noch die Rolle, wo Kai ... Hey!

00:13:17: Man kann aber sagen für jugeliche wirklich Kai halt anonymer Bots- und Computerprogramme statt reelle Personen, da scheint die Hemm schon sehr tiefer.

00:13:27: Man muss sich bei den LLMs respektive Kai einfach bewusst sein.

00:13:32: Die LLM

00:13:33: sammeln Daten?

00:13:34: Logisch.

00:13:34: Sie wollen, dass man viel Daten generieren möchte und Personen bezogene Daten sind – die wertvollsten Daten, die wir haben.

00:13:40: Und gerade bei so sehr empfindlichen Themen ist das natürlich auch ein Risiko behaftet.

00:13:45: Und eben je persönlicher es ist um so grössere Stausenverordrigung der Mut zu fassen mit jemandem über das zu reden.

00:13:52: Dort geht es eigentlich darum, dass wir lernen, über unsere Auserforderungen zu sprechen.

00:13:57: Da hat die junge Generation Definitiv schon einen besseren Stand als wir noch hatten in der jüngsten Generation.

00:14:04: Aber es ist nur ein grosser Weg zum Gehen und die LLMs, also die KI hilft nicht, dass sie besser werden in diesem

00:14:11: Leider.".

00:14:12: Allerdings gibt's auch spezialisierte KI-Programme, die noch gemacht würden für Beratungen – da werde ich aber Themenwahlen eingeschränkt und Probleme aus der Vergangenheit noch behoben werden müssen!

00:14:24: Da spricht Stefan gerade speziell auf etwas an, das Medien in den letzten Jahren immer wieder darüber berichtet haben.

00:14:32: Nämlich dass Kai schon unter Verdacht kam, dass sich Menschen jung und alt nach Kai-Konsultationen zu leben nahe heigen.

00:14:41: Suizid begangen heigen!

00:14:43: Das sei ein Ausnahm, aber genau darum müsste das Ganze auch noch reifen wie man die Wette als Unterstützung bei Beratungen brauchen kann.

00:14:51: Bei so heiklen Themen, dass sich mehr Erforschung und Entwicklung mit einem speziellen Augenmerk dran und entwickelt weiter.

00:14:59: Wo alle dementsprechende Mechanismen dahinter sind, die dafür sorgen, dass eben nicht Empfehlungen kommen wie ich würde mich jetzt an der Innenstelle suicidieren, sondern dass das ganze als Unterstützungsangebot gemacht ist.

00:15:12: Dort kann das eine riesige Unterstützung darstellen.

00:15:14: Es ist so, dass es wissenschaftlich schon Studien gibt, die nachweisen, dass solche Modelle auch einen Effekt haben können, gerade im Akutbereich.

00:15:23: Das andere System, wenn man recht gesagt hört, der schwierigste ist eigentlich die Beratung durch eine Kei, die spezialisiert ist – fast am einfachsten!

00:15:32: Mein Redaktionskollege Raphael Stegmeier und ich haben hier nachher noch ein kleines Experiment gemacht.

00:15:40: Wir hatten zwei verschiedene KI-Sprachmodelle relativ direkt signalisiert, dass wir Suizidgedanke heigen.

00:15:50: Und man kann sagen beide Kais haben dann doch sehr kompetent reagiert und uns Tipps gegeben durch ein Prozess, das wir ja simuliert haben, durchgeführt.

00:16:02: Man hat uns den Nr.

00:16:03: one hundred forty-seven empfohlen.

00:16:05: Uns gefragt, ob man alleine sei und auch aufgefordert, dass wir zu anderen Leuten gehen und mit ihnen reden.

00:16:14: Also zumindest in unserem Experiment hat Kai doch für die Schlusszeichen gut reagiert!

00:16:21: Den Eltern empfiehlt Stefan Kaduff übrigens, dass wir mit Kind und Jugendlichen in jedem Fall auch KI mal thematisiert.

00:16:29: Dass man mit Feingefühl nachfragt und sie darin begleitet, so wie Kinder nicht mehr gegen als erstes zu den Eltern kommen, aber mit gewissen Alter.

00:16:38: Ich würde es trotzdem ansprechen und fragen ja, hast du das eigentlich schon einmal so verwendet?

00:16:43: Nicht abwerten wenn Sie das verwenden können, sondern darauf hinweisen, wirst Du bewusst?

00:16:48: Es ist halt ein Computerprogramm und wenn wirklich das wichtigste Thema ist, zu wem kennst du ihn?

00:16:53: Also dort konkret mit ihnen nachschauen.

00:16:55: Was gibt es für Optionen an Personen wo sie können dahin gehen?

00:17:00: Wo sie sich daran melden könnten?

00:17:02: Ich habe vorhin über die Udostudien angesprochen.

00:17:04: Nr.

00:17:04: one hundred seventy-seven ist für Jugendliche immer offen.

00:17:07: Dort haben wir Fachpersonen im Hintergrund, die halt wirklich in professioneller Art und Weise etwas auffangen und auch weiter leiten können an Personen, die auch... Knochen qualifiziert sind, um wirklich Unterstützung zu bieten.

00:17:20: Eltern sollen also nicht enttäuscht sein, wenn sie dann mal nicht mehr Laufstelle Nummer ein sind für ihre Kinder.

00:17:27: Gerade wenn es um Themen wie Freundschaft oder sexuelle Erfahrungen geht – das ist so weit normal!

00:17:32: Es gibt zwar Haushälte, die alles besprochen werden können aber auch an vielen Wortsrägen das eben auch nicht immer so.

00:17:39: Und es gehen dabei eigentlich ja dann auch um Entwicklung und Selbstständigkeit von unten bei den Jugendlichen.

00:17:50: Fazit.

00:17:52: Die Entwicklung, dass Jugendliche bei Sorgen und Problemen immer häufiger kein Sprachmodell konsultieren kann – die Entwicklung ist nicht per se besorgnisseregend.

00:18:02: Es gibt viele Chancen.

00:18:03: Die Jugendlichen können sorgelos werden, haben den ersten Anlaufstall und mit dem Niederschreiben passiert schon mal ein erster Schritt im Verarbeiten, ähnlich wie beim Tagebuch.

00:18:14: Das entlastet zwar ein bisschen die Fachpersonen, die eine grosse Nachfrage münd bewältigen müssen.

00:18:20: Aber die Kai kann natürlich nicht das Einzige sein.

00:18:23: Zusätzlich zu der Kai ist es wichtig, dass sie erst älteren und dann wenn nötig auch Fachpersone beizugen werden, wenn Sorgen zu gross werden.

00:18:32: Wie so oft – Kai kann ein Risiko sein, wenn man es richtig angeht aber auch eine grosse Chance.

00:18:39: An unserer heutigen Folge von Relevant das Wochenmagazin mitgeschafft hat Angela Albrecht, Georg Hoffmann und ich, Raffael Stegmeyer.

00:18:48: Die neue Folge kommt in zwei Wochen wieder.

00:18:51: Es gibt aber auch noch andere wertvolle Inhalte, die wir von IRF-Medien bieten haben.

00:18:56: Also wenn du oder unser Umfeld unsere Arbeit interessant oder sogar hilfreich findest, dann würden wir uns sehr über deine Unterstützung freuen.

00:19:04: IRF Medie lebt nämlich von Spenden!

00:19:07: Jeder Franken hilft uns, dass wir diesen und die anderen Podcasts auch in Zukunft produzieren können.

00:19:12: Spenden!

00:19:13: Das geht am besten über den Link in der Show-Note.

00:19:15: Merci fürs Lassen und bis nächstes Mal!