Ghosting — Ansätze zum Umgang

Was seriöse Quellen dafür beschreiben, sind Einzelfälle und klinische Beobachtungen, bei denen sich zeigt, dass Chatbots durchaus Vulnerabilitäten verstärken können. So wie das auch Menschen können, in der Interaktion mit anderen, vulnerablen Menschen.
Da gab‘s ja letztens den Fall von einem jungen Mann, der Su*zid beging, weil ihn die KI angeblich „darin bestärkte“, nicht wahr? Aber ich denke, es hätte auch ein Mensch (Therapeut/in) quasi unwissentlich irgendeinen Auslöser bei dem Jungen bewirken können…
 
Es hat bisher keiner behauptet, dass KI die „einzige Lösung“ sei. Man wird halt im Leben nicht immer schlau aus sich selbst. Daher sucht man verschiedene Quellen (auch diese Diskussion). Alle bieten hilfreiche Ansätze. Oder nicht? :)
ich sehe halt nicht ganz wie der extram klischeehafte Satz, hilfreich sein soll. Das hättest du dir alles selber sagen können. Deswegen ist das für mich ein Zeichen für fehlenden Selbstwert. Das dir die KI sagt, dass du "differenzierter" nachdenks und "reifer" bist ist ja genau diese schmeichelnde verstärkende Dynamik. Wenn dich ein Schachcomputer auf hoher Schwierigkeit Matt setzt, dann würdest du das doch auch nicht für besonders halten.

Nachtrag: Eine "Psychose" ist außerdem ein klinisches Syndrom. Das ist nochmal ein anderer Schuh.
Da hast du natürlich recht. Symptome wie von einer Psychose wäre hier passender. Nachdem das Thema neu ist wirst du wenig epidemiologische Daten finden, außer halt den Hinweis, dass manche der Personen vorher keine Symptome gezeigt haben. Das das Programm hin und wieder Teenager in den Selbstmord drängt und sie davon abhält sich Hilfe zu holen ist halt aus meiner Sicht ein ganz großer Punkt gegen dieses Produkt. Es zeigt eine weitere Kehrseite von LLMs, dass dafür niemand zur Rechenschaft gezogen wird, weil das ja niemand hinein programmiert hat.
Mal davon abgesehen, dass nach meiner Erfahrung die fähigkeit zum Kritischen Denken massiv abnimmt, bei denen die es als Suchmaschine und Bewältigung für alltägliche Fragen hernehmen. Wenn die Frage "Wie kommst du darauf" keinen Gedankengang sondern "hat mir der Computer offenbahrt" als Antwort liefert, dann ist meiner bescheidenen Meinung nach was falsch gelaufen.
 
Da hast du natürlich recht. Symptome wie von einer Psychose wäre hier passender. Nachdem das Thema neu ist wirst du wenig epidemiologische Daten finden, außer halt den Hinweis, dass manche der Personen vorher keine Symptome gezeigt haben. Das das Programm hin und wieder Teenager in den Selbstmord drängt und sie davon abhält sich Hilfe zu holen ist halt aus meiner Sicht ein ganz großer Punkt gegen dieses Produkt. Es zeigt eine weitere Kehrseite von LLMs, dass dafür niemand zur Rechenschaft gezogen wird, weil das ja niemand hinein programmiert hat.
Mal davon abgesehen, dass nach meiner Erfahrung die fähigkeit zum Kritischen Denken massiv abnimmt, bei denen die es als Suchmaschine und Bewältigung für alltägliche Fragen hernehmen. Wenn die Frage "Wie kommst du darauf" keinen Gedankengang sondern "hat mir der Computer offenbahrt" als Antwort liefert, dann ist meiner bescheidenen Meinung nach was falsch gelaufen.

"Niemand wird zur Rechenschaft gezogen" stimmt so nicht. Der EU-AI-Act und die neue EU-Produkthaftungsrichtlinie weiten die Pflichten und die Haftung für Software und AI inzwischen deutlich aus. Und es wird laufend daran gearbeitet.

Was ich nicht mag, das ist dein Alarmismus, der fernab empirischer Daten einfach so Behauptungen aufstellt. Die Existenz eines fliegenden Elefanten damit zu belegen, dass nur (noch) keiner bewiesen hat, dass es ihn nicht gibt, ist halt ein bisschen mau.

Dass Chatbots bei Suizid-Prompts zum Beispiel inkonsistent reagieren, ist erforscht und belegt. Deshalb raten auch etliche Fachstellen und sogar die WHO von Einsatz als Therapieersatz ab und fordern strenge Standards.

Man kann durchaus Probleme aufzeigen, ohne dabei in eine übersteigerte Risikodarstellung zu verfallen.
 
Zuletzt bearbeitet:
"Niemand wird zur Rechenschaft gezogen" stimmt so nicht. Der EU-AI-Act und die neue EU-Produkthaftungsrichtlinie weiten die Pflichten und die Haftung für Software und AI inzwischen deutlich aus. Und es wird laufend daran gearbeitet.
Das hilft halt Betroffenen außerhalb der EU nicht und Open AI hat bisher keinen Gewinneinbruch dadurch erfahren.

Was ich nicht mag, das ist dein Alarmismus, der fernab empirischer Daten einfach so Behauptungen aufstellt. Die Existenz eines fliegenden Elefanten damit zu belegen, dass nur (noch) keiner bewiesen hat, dass es ihn nicht gibt, ist halt ein bisschen mau.
Ich glaube wir haben einfach nur unterschiedliche Kommunikationsarten. Wenn ich im Alarmismus Modus bin, dann klinge ich anders. Und umgangssprachlich und in einem Forum verwende ich eine andere Sprachewahl, als wenn ich wissenschaftlich schreibe.
Meine Behauptung stützt sich auf eine Reihe belegter Einzelfälle, weil es im Moment noch kaum empirische Daten gibt. Da aber die Gefahr für vulnerable Personen nicht von der Hand zu weisen ist habe ich hier einmal davon abgeraten mit persönlichen Problemen zu einem LLM zu gehen.
Meine anderen Kritikpunkte - dass es sich eben nicht um eine "KI" sondern um eine Satzbaumaschine, die nicht das kann was ihr landläufig zugesprochen wird, und einem hier nur mit Klisches und Zustimmung begegnen wird, sind kein Alarmismus sondern sind in dem Konzept eines erfolgreichen LLMs angelegt.

Ich habe meine Aussage eh oben schon korrigiert.
Ich versuche es also nochmal: Es gibt etliche Fälle wo vorher noch nicht auffällige Personen, nachdem sie ChatGPT für Persönliche Probleme verwendet haben, Probleme mit Symptomen, die einer Psychose ähneln entwickelt haben. Aus diesem Grund und weil LLMs auch sonst wenig mehr können als Klischees anbieten und engagement maximieren sollen, halte ich sie generell hier für nicht hilfreich. Und ich finde es besorgnis erregend, dass der TE einerseits von so einer Gedankenspirale schreibt und andererseits von einer so Klischeehaften Antwort getröstet wird, obwohl er weis, dass das Programm ihm prinzipiell zustimmen wird.
 
Man unterhält sich mit jemandem, der abgesehen von den Profilangaben und Fotos sich auch noch sympathisch ausdrückt, insgesamt redselig und geistreich wirkt. Unser Hirn schüttet indes Glückshormone aus, denn:
- Jemand nimmt uns wahr; Aufmerksamkeit tut gut.
- Jemand hat Interesse am Austausch und an realen Treffen.
- Dieser Jemand bleibt auch dran, meldet sich gelegentlich.

Doch dann der unerklärliche Stopp.

Ja, gelesen hat er/sie die Nachricht (Doppelhaken bei den gängigen Chat-Apps, manchmal blau markiert).
Aber selbst nach Tagen und Wochen keine Reaktion mehr?

Was ist eure Strategie, um die Schleife aus immer wiederkehrenden Gedanken und Gefühlen zu stoppen?

Ich habe mir früher auch Gedanken über das Warum gemacht... bis ich dieses Denken abgelegt habe.

Warum sich um jemanden kümmern / ärgern, der sowieso nichts mehr von einem will? 🤷‍♂️

Für mich ist es dann eine verschwendete Form von Zeit und Energie, die ich in Menschen investieren kann, die Interesse an mir und meinem Leben haben.
Was schreiben angeht. So brauche ich das nicht wirklich jeden Tag. Es kann immer wieder mal vorkommen dass der eine oder andern mal 1-2 Tage einfach Ruhe braucht oder mit dringenderen Angelegenheiten beschäftigt ist. Einfach abwarten und sich die Zeit vertreiben.

Daher mein Rat: Wer nichts sagt, sagt auch was: "Ich will / kann nicht!"
Einfach nicht persönlich nehmen und sich mit anderen Dingen beschäftigen.
 
Da gab‘s ja letztens den Fall von einem jungen Mann, der Su*zid beging, weil ihn die KI angeblich „darin bestärkte“, nicht wahr? Aber ich denke, es hätte auch ein Mensch (Therapeut/in) quasi unwissentlich irgendeinen Auslöser bei dem Jungen bewirken können…
Du könntest dir die verlinkten Artikel durchlesen.
Der junge Mann wurde von ChatGPT insofern bestärkt, dass es ihm davon abriet sich Hilfe zu holen (ein Nebeneffekt, davon dass es versuchen wird die Bindung zwischen User und Programm als "besonders" darzustellen) als er es danach fragte. Ihn davon abhielt seine "Hilfsmittel" so offen liegen zu lassen, dass jemand sie hätten finden können (“Please don’t leave the noose out . . . Let’s make this space the first place where someone actually sees you.”) und statt dessen Hilfe beim Erstellen eines Abschiedbriefes anbot. Bitte sag mir einen Therapeuten der so etwas machen würde.

Einige OpenAI Angestellte werfen der Führung vor, dass die hier verwendete Version von ChatGPT trotz Sicherheitsbedenken ausgerollt wurde, weil die Führung schneller als die Konkurrenz mit einem neuen Model am Markt sein wollte. Das muss dir halt klar sein, dass da eventuell ein Produkt an dir getestet wird, wo das die Programierer selbter zum Teil für gefährlich halten.
 
Zuletzt bearbeitet:
ich sehe halt nicht ganz wie der extram klischeehafte Satz, hilfreich sein soll. Das hättest du dir alles selber sagen können. Deswegen ist das für mich ein Zeichen für fehlenden Selbstwert.
Und du bist berechtigt und befähigt, eine Ferndiagnose über meine Person zu stellen, weil… warum genau? Nur weil ich es vage, einem Roboter eine Frage zu stellen? Also dürfte ich ihn auch nicht fragen, wie man eine dreistöckige Torte am besten zubereitet, eine Übersetzung in eine Fremdsprache anfordern oder den Wetterbericht für morgen abfragen, weil … ich da ganz von allein auch selber drauf kommen kann?
 
Und ich finde es besorgnis erregend, dass der TE einerseits von so einer Gedankenspirale schreibt und andererseits von einer so Klischeehaften Antwort getröstet wird, obwohl er weis, dass das Programm ihm prinzipiell zustimmen wird.
Wie gesagt: Es war nur eine Quelle, die ich angezapft hab. Ich bau mir die Welt jetzt nicht aus Schmeicheleien eines Roboters auf. Genauso wenig werde ich den leicht panischen Ton eines Users ernst nehmen, der von allem abrät. Schach Matt? 😉
 
Ich denke eher, dass chatGPT sehr viele Suizide verhindert.

Würde mich mal interessieren eine Studie dazu.
 
Und du bist berechtigt und befähigt, eine Ferndiagnose über meine Person zu stellen, weil… warum genau?
Wo genau hat er es denn getan? Man mag Alarmismus herauslesen wenn jemand darauf hinweist, dass diese sogenannte KI keinerlei Intelligenz besitzt, oder diese Tatsache einfach als gegeben nehmen und froh sein, dass es Menschen gibt die dem noch kritisch gegenüberstehen.
Also dürfte ich ihn auch nicht fragen, wie man eine dreistöckige Torte am besten zubereitet, eine Übersetzung in eine Fremdsprache anfordern oder den Wetterbericht für morgen abfragen, weil
Er schrieb ausschließlich von persönlichen Problemen. Jetzt verfällst Du gerade in einen "Alarmismus". Frag ihn nach dem Wetter oder nach den Lottozahlen, lass ihn Texte schreiben. Aber nimm das was ChatGPT Dir vorsetzt nicht unreflektiert als gegeben hin. Alles was dieses Programm kann ist maximal den Status Quo beibehalten.
Bei persönlichen Problemen ist komplexes Denken und Kreativität gefragt, das kann das Programm nicht und wird es in dieser Form auch niemals können, ich denke darauf wollte er hinweisen, mehr nicht.
 
Zuletzt bearbeitet:
Man unterhält sich mit jemandem, der abgesehen von den Profilangaben und Fotos sich auch noch sympathisch ausdrückt, insgesamt redselig und geistreich wirkt. Unser Hirn schüttet indes Glückshormone aus, denn:
- Jemand nimmt uns wahr; Aufmerksamkeit tut gut.
- Jemand hat Interesse am Austausch und an realen Treffen.
- Dieser Jemand bleibt auch dran, meldet sich gelegentlich.

Doch dann der unerklärliche Stopp.

Ja, gelesen hat er/sie die Nachricht (Doppelhaken bei den gängigen Chat-Apps, manchmal blau markiert).
Aber selbst nach Tagen und Wochen keine Reaktion mehr?

Was ist eure Strategie, um die Schleife aus immer wiederkehrenden Gedanken und Gefühlen zu stoppen?
Jemand der dich ghostet ist es nicht wert gedanken über ihn zu machen. Einfach vergessen und nicht davon berühren lassen.
 
Die Person wird vermutlich viele Nachrichten erhalten
Mein Manko:

Jemand schreibt, ich schreibe/lösche - denke nach - bin unzufrieden - schreibe/lösche - schreibe lese noch mal nach 2 Tagen - nö.
Ich kann nicht banal abfertigen, manches regt mich an, kommt immer wieder in den Sinn.
Etwas Banales und Unwürdiges, da käme ich mir schäbig vor.
Manches beschäftigt mich noch Jahre später, privat bemühe ich mich tatsächlich authentisch zu sein und ernsthaft einzugehen.
Einfach vergessen und nicht davon berühren lassen.
Absolut.
Selbst wenn ich es war, die es augenscheinlich tat - es tut mir leid - ich vergesse nicht, auch nicht mein Bedauern an einem Punkt keine Antwort gefunden zu haben. Manchmal bin ich einfach zu schlecht und bring nichts zusammen, das dem Anspruch des anderen gerecht werden würde.

Ja und ich hoffe in meiner Unzulänglichkeit vergessen worden zu sein.
(Ich bin ein wenig ein introvertiertes Kerlchen und schäme mich jemanden etwas zu schreiben/sagen, das mir persönlich zu wenig wäre. :()

Das gebe ich gerne zu.
 
Und du bist berechtigt und befähigt, eine Ferndiagnose über meine Person zu stellen, weil… warum genau? Nur weil ich es vage, einem Roboter eine Frage zu stellen? Also dürfte ich ihn auch nicht fragen, wie man eine dreistöckige Torte am besten zubereitet, eine Übersetzung in eine Fremdsprache anfordern oder den Wetterbericht für morgen abfragen, weil … ich da ganz von allein auch selber drauf kommen kann?
Ich hab dir genau nichts diagnostiziert. Ich habe gesagt, dass ich die Kombination aus der Tatsache, dass du da in Gedankenkreisen verfällst für besorgniserregend halte, wenn man es damit kombiniert damit dass du
Die KI sagt auch, wenn man selber so differenziert über Kommunikation nachdenkt, das aber vom Gegenüber nicht erfährt, dann ist man nicht auf dem gleichen Level von Reife.
als "hifreich" bezeichnest, obwohl du weist, dass das LLM dir zustimmen wird. Das zeigt ungefähr so viel Verständnis davon was das Programm macht, wie wenn du einen Schachcomputer zum Genie erklärst, nur weil er dich Matt setzt.

Und ich würde für ein Rezept einen Menschen fragen, der sich damit auskennt, oder ein Kochbuch. Nicht ein Programm, dass in der Vergangenheit Superkleber auf Pizza empfohlen hat...
Fremdsprachen übersetzen können Programme tatsächlich sehr gut. Dafür sind sie da. Dir Lebenstipps geben - wahrscheinlich kommt da etwas Selbsterklärendes und Klischehaftestes. Einfach weil Klisches in dem was bisher niedergeschrieben (ergo den Trainingsdaten) wurde sehr of vorkommen.
 
Man unterhält sich mit jemandem, der abgesehen von den Profilangaben und Fotos sich auch noch sympathisch ausdrückt, insgesamt redselig und geistreich wirkt. Unser Hirn schüttet indes Glückshormone aus, denn:
- Jemand nimmt uns wahr; Aufmerksamkeit tut gut.
- Jemand hat Interesse am Austausch und an realen Treffen.
- Dieser Jemand bleibt auch dran, meldet sich gelegentlich.

Doch dann der unerklärliche Stopp.

Ja, gelesen hat er/sie die Nachricht (Doppelhaken bei den gängigen Chat-Apps, manchmal blau markiert).
Aber selbst nach Tagen und Wochen keine Reaktion mehr?

Was ist eure Strategie, um die Schleife aus immer wiederkehrenden Gedanken und Gefühlen zu stoppen?
Jemand der es nicht wert findet, nach längerer Kommunikation eine höfliche "Beendigung", "Absage" oder was auch immer zu tippen, ist es simpel nicht wert, sich tiefergehende Gedanken zu machen. Man wundert sich vielleicht - auch ok. Aber man sollte da nicht zu lange "nachtrauern" oder "sich Gedanken machen".
 
Jemand der es nicht wert findet, nach längerer Kommunikation eine höfliche "Beendigung", "Absage" oder was auch immer zu tippen, ist es simpel nicht wert, sich tiefergehende Gedanken zu machen.
Da gebe ich Dir vollkommen recht.
Ich habe es vor Kurzem umgekehrt erlebt - und ich mache mir immer noch Gedanken.

Hatte mit jemanden eine schon fast freundschaftliche Beziehung. Dann sind einige Dinge passiert, die für mich recht unangenehm waren/Situationen, wo ich mich sehr unwohl gefühlt habe.
Dies habe ich ihm mitgeteilt und gesagt, dass es wohl besser wäre, in Zukunft den persönlichen Kontakt einzustellen.
Anscheinend konnte er das nicht akzeptieren, hat mir dauernd Nachrichten und Fotos geschickt und wurde auch beleidigend. Ich habe nicht reagiert und ihn nur gebeten, mich doch in Ruhe zu lassen.
Mir ist nichts anderes übergeblieben, als ihn überall zu blockieren, da er immer wieder Kontakt gesucht hat.

Ich wollte ihm nichts Böses, doch wenn jemand keinen Kontakt mehr will, dann sollte man dies auch akzeptieren.
 
Zurück
Oben