"Niemand wird zur Rechenschaft gezogen" stimmt so nicht. Der EU-AI-Act und die neue EU-Produkthaftungsrichtlinie weiten die Pflichten und die Haftung für Software und AI inzwischen deutlich aus. Und es wird laufend daran gearbeitet.
Das hilft halt Betroffenen außerhalb der EU nicht und Open AI hat bisher keinen Gewinneinbruch dadurch erfahren.
Was ich nicht mag, das ist dein Alarmismus, der fernab empirischer Daten einfach so Behauptungen aufstellt. Die Existenz eines fliegenden Elefanten damit zu belegen, dass nur (noch) keiner bewiesen hat, dass es ihn nicht gibt, ist halt ein bisschen mau.
Ich glaube wir haben einfach nur unterschiedliche Kommunikationsarten. Wenn ich im Alarmismus Modus bin, dann klinge ich anders. Und umgangssprachlich und in einem Forum verwende ich eine andere Sprachewahl, als wenn ich wissenschaftlich schreibe.
Meine Behauptung stützt sich auf eine Reihe belegter Einzelfälle, weil es im Moment noch kaum empirische Daten gibt. Da aber die Gefahr für vulnerable Personen nicht von der Hand zu weisen ist habe ich hier einmal davon abgeraten mit persönlichen Problemen zu einem LLM zu gehen.
Meine anderen Kritikpunkte - dass es sich eben nicht um eine "KI" sondern um eine Satzbaumaschine, die nicht das kann was ihr landläufig zugesprochen wird, und einem hier nur mit Klisches und Zustimmung begegnen wird, sind kein Alarmismus sondern sind in dem Konzept eines erfolgreichen LLMs angelegt.
Ich habe meine Aussage eh oben schon korrigiert.
Ich versuche es also nochmal: Es gibt etliche Fälle wo vorher noch nicht auffällige Personen, nachdem sie ChatGPT für Persönliche Probleme verwendet haben, Probleme mit Symptomen, die einer Psychose ähneln entwickelt haben. Aus diesem Grund und weil LLMs auch sonst wenig mehr können als Klischees anbieten und engagement maximieren sollen, halte ich sie generell hier für nicht hilfreich. Und ich finde es besorgnis erregend, dass der TE einerseits von so einer Gedankenspirale schreibt und andererseits von einer so Klischeehaften Antwort getröstet wird, obwohl er weis, dass das Programm ihm prinzipiell zustimmen wird.