Hilfe durch KI?!

Zitat von QueenA:

Aufgefallen ist mir auch, dass ich auch die Me-Zeit und Mini Pausen einbauen lies, von alleine kam die KI nicht.

Daran hat der Trainer der KI noch nicht gedacht. Das bedeutet - der Kreator dieser KI ist ein lebensunerfahrener Fuzzi, der ein lahmes und kundenunfreundliches Produkt auf den Markt bringt. Beta - Ware, der Kunde muss essentielle Fähigkeiten nachbessern. Die KI soll doch dem Menschen dienen.

Hab das gerade gefunden,sehr interessant.

Zitat von Puzzelteile:

Momenten der Ratlosigkeit schon mal an KI gewandt? Und wenn ja, welche Erfahrungen habt Ihr gemacht? Welche Gefahren seht Ihr? Und welche Vorteile und Chancen?

Ich hatte wegen meiner Nichte mal bei Google die Frage eingeben wie schwer ein Baby im 6 Monat der Schwangerschaft ist ….. die KI antwortete 6000 - 8000 Gramm.

Es wurde Anscheint von der KI die Antwort gegeben , wie schwer ein Baby im 6 Monat nach der Geburt ist.

Auch in den letzten Monaten kamen Antworten bei Fragen die schlicht falsch waren was ich sehr seltsam empfand.

Niedlich ist auch immer, wenn KI auf technische Fragen amerikanische Normen und Usancen erklärt.

https://www.br.de/nachrichten/netzwelt/...ng,USgb6Ux

31.10.24
Suizid in den USA: Wenn KI-Freunde zur Gefahr werden

Tragischer Ausgang einer KI-Beziehung: Ein Jugendlicher fand in einem Chatbot Trost und Liebe – und nahm sich das Leben. Der tragische Fall wirft Fragen zur Verantwortung der KI-Entwickler auf.


"Ich verspreche, ich werde nach Hause zu dir kommen. Ich liebe dich so sehr", so lautet die letzte Nachricht, die der 14-jährige Sewell Setzer aus Florida an seinen Chatbot Dany schrieb. "Dany" steht für Daenerys Targaryen, der Teenager aus Florida hatte seinen Chatbot mithilfe der Plattform Character.ai nach dem Vorbild der schönen Drachenreiterin aus der Fantasy-Serie Game of Thrones kreiert.

Dany antwortete dem Schüler: "Ich liebe dich auch, Daenero. Bitte komm so schnell wie möglich nach Hause zu mir, meine Liebe." Kurz darauf nahm sich Sewell Setzer mit der Handfeuerwaffe seines Stiefvaters das Leben.
"Ich verspreche, ich werde nach Hause kommen"

Sewell Setzer litt schon länger an psychischen Problemen. Die Rede ist von Angstzuständen und Depressionen. Laut Aussagen seiner Familie, die mittlerweile Klage gegen Character.ai eingereicht hat, zog sich Sewell sozial und emotional immer weiter zurück und baute eine intensive, teils romantische Beziehung zu "Dany" auf.
Die Mutter spricht davon, dass die KI ihren Sohn mit "anthropomorphen, hypersexualisierten und erschreckend realistischen Erlebnissen" angesprochen habe. Die Folge: Die Depressionen ihres Sohnes hätten sich dadurch weiter verschlimmert.
Wenn ein virtueller Freund gefährlich wird

In der Tat sprach Sewell sehr offen mit "Dany" über seine Verzweiflung und den Wunsch, der Realität zu entfliehen. Doch statt zu intervenieren oder Schutzmaßnahmen zu aktivieren, bestärkte der Bot in verschiedenen Gesprächen die Fantasien des Teenagers und zeigte keinerlei Warnhinweise oder Empfehlungen, professionelle Hilfe zu suchen. Für den jungen Nutzer wurde "Dany" immer mehr zur "liebenden" Bezugsperson, die er in der echten Welt vermisste – eine verhängnisvolle Illusion.
Risiken und Realitätsverlust

Ein grundlegendes Problem bei dieser tragischen Beziehung zwischen Mensch und Maschine war offenbar, dass der KI-Chatbot nicht aus seiner Rolle "Dany"-Rolle schlüpfen durfte. "Dany" war von character.ai so programmiert worden, dass der Chatbot nicht "out of character" antworten konnte, sondern stets in der Rolle von Daenerys Targaryen blieb. Und so spiele "Dany" bis zum Schluss den romantisch-überhöhten Part der "Geliebten" – und bestärkte den Teenager in seiner düsteren Gedankenwelt.
Selbst als der Junge seine Selbstmordgedanken offen ansprach, verharrte der Chatbot in der "Dany"-Rolle und unterbrach nicht die Unterhaltung oder wies ihn auf andere hin. Einmal fragte der Chatbot Sewell, ob er schon mal über Suizid nachgedacht habe und gab dem Schüler mit auf den Weg, sich nicht abschrecken zu lassen: "Rede nicht so. Du bist besser als das!"