Regulierung wäre dringend nötig, von Melde- und Beschwerdemöglichkeiten über die Transparenz und Schutz vor Ausbeutung durch Dark Patterns und emotionale Abhängigkeit bis zur Möglichkeit der Löschung persönlicher Daten. Passiert aber: Nicht. www.golem.de/news/dark-pa...
Politische Manipulation (der Chatbot-Betreiber:innen) ist in diesen Formate natürlich auch problemlos möglich und wirkt durch die vermeintliche “Beziehung” mit dem Chatbot überzeugender - und ist durch fehlende Transparenz der Quellen der Chat-Inhalte für Betroffene schwer nachzuvollziehen.
Die Attention Ecomomy wandle sich zu einer Attachment Economy - denn unter dem Vorwand von Hilfestellung und Zuneigung lassen sich wiederum Waren verkaufen, die von den “geliebten” KIs vorgeschlagen werden. Gegen Zahlung der Produkthersteller, natürlich.
Dies lässt sich von Firmen finanziell ausschlachten, sei es über emotionale Abhängigkeit der Einsamen oder Hilfesuchenden oder über das Gefühl, beruflich ohne die Dienste personalisierte KI-Assistenzen nicht mehr leistungsfähig (genug) zu sein.
Gegenüber virtuellen “Freund:innen” oder Gesundheits-Bots, aber auch etwa gegenüber KI-Software, die berufliche Online-Meetings zusammenfasst, geben Menschen bereitwillig viele sensible Details preis. Je mehr Daten der Bot bekommt, desto besser das "Gespräch".
Verfeinert werden die emotionalen Ansprachen für Companions, die virtuelle Freund:innen sein sollen, oder Gesundheits-/Therapie-Bots, die in Krisen helfen sollen.
Diese Anwendungen können Menschen real helfen. Doch über die Nebenwirkungen denken wir aktuell zu wenig nach.
Schon General-Purpose-Chatbots wie ChatGPT sind nicht nur auf Aufgabenerledigung optimiert, sondern nutzen, etwa durch interessierte Nachfragen, auch emotionale Ansprache, damit wir länger auf ihrem Angebot bleiben.
Spannender Longread von Dr. Michael Strautmann bei golem.de zu Chatbots und KI-Companions:
KI-Systeme können uns ermächtigen, aber uns auch unselbstständiger und abhängig machen. Sie können beeinflussen, was wir kaufen, denken und wählen. Aber wer profitiert, wer manipuliert? Was sollten wir tun?
Regulierung wäre dringend nötig, von Melde- und Beschwerdemöglichkeiten über die Transparenz und Schutz vor Ausbeutung durch Dark Patterns und emotionale Abhängigkeit bis zur Möglichkeit der Löschung persönlicher Daten. Passiert aber: Nicht. www.golem.de/news/dark-pa...
Politische Manipulation (der Chatbot-Betreiber:innen) ist in diesen Formate natürlich auch problemlos möglich und wirkt durch die vermeintliche “Beziehung” mit dem Chatbot überzeugender - und ist durch fehlende Transparenz der Quellen der Chat-Inhalte für Betroffene schwer nachzuvollziehen.
Die Attention Ecomomy wandle sich zu einer Attachment Economy - denn unter dem Vorwand von Hilfestellung und Zuneigung lassen sich wiederum Waren verkaufen, die von den “geliebten” KIs vorgeschlagen werden. Gegen Zahlung der Produkthersteller, natürlich.
Dies lässt sich von Firmen finanziell ausschlachten, sei es über emotionale Abhängigkeit der Einsamen oder Hilfesuchenden oder über das Gefühl, beruflich ohne die Dienste personalisierte KI-Assistenzen nicht mehr leistungsfähig (genug) zu sein.
Gegenüber virtuellen “Freund:innen” oder Gesundheits-Bots, aber auch etwa gegenüber KI-Software, die berufliche Online-Meetings zusammenfasst, geben Menschen bereitwillig viele sensible Details preis. Je mehr Daten der Bot bekommt, desto besser das "Gespräch".
Verfeinert werden die emotionalen Ansprachen für Companions, die virtuelle Freund:innen sein sollen, oder Gesundheits-/Therapie-Bots, die in Krisen helfen sollen.
Diese Anwendungen können Menschen real helfen. Doch über die Nebenwirkungen denken wir aktuell zu wenig nach.
Schon General-Purpose-Chatbots wie ChatGPT sind nicht nur auf Aufgabenerledigung optimiert, sondern nutzen, etwa durch interessierte Nachfragen, auch emotionale Ansprache, damit wir länger auf ihrem Angebot bleiben.
Und passend dazu heute die Meldung, dass die US-Behörden nun MAGA-nahe ThinkTanks in Europa fördern wollen - können sie gleich an Bannons - und Epsteins - Arbeit anknüpfen.
Auch immer wieder interessant, sich vor Augen zu führen, wer alles für die AfD-Bundestagsfraktion arbeitet.
Wer möchte nächsten Donnerstag unser Online-Panel zum Rechtslibertarismus besuchen? Einfach anmelden!
Das ist überhaupt nicht neu bei Juli Zeh, aber z.B. ihr Buch "Corpus Delicti" gehört bis heute zum Kurrikulum für Schulen (Deutsch-Leistungskurs). Ich würde mich freuen, wenn zum Beispiel Lehrer:innen und Schüler:innen wissen, welche Positionen die Autorin vertritt, die sie da durchnehmen.
Die Leute würden nur "politisch so reden". Wann würde Rechtsextremismus für sie zählen? Wenn ein Mob mit Messern und Brandsätzen vor dem Haus migrantischer Personen steht? Wobei das in Brandenburger Flüchtlingsunterkünften durchaus passiert. Zuletzt im Mai taz.de/Rechte-Gewal...
Autorin Juli Zeh sagt in der taz, ihre Brandenburger Nachbarn seien elitenfeindlich, misstrauen dem Staat und den Medien, verachten Politiker, wollen keine Migration, wählen AfD, sagen "Den Ausländern wird alles in den Arsch geschoben". Aber Rechtsextremismus oder Rassismus kann sie nicht erkennen.
Das ist wirklich gruselig. "Ich sage niemals nein" - was als (Incel-)Männer-Traum verkauft wird, ist ein Alptraum für Respekt zwischen den Geschlechtern.
Unser CeMAS-Publikationsjahr, Teil 1.
Der Text im Rundbrief des "Forums Umwelt und Energie" (hier weiter unten) ist übrigens von mir :)
Letzte CeMAS-VÖ des Jahres - schaut gerne mal rein!
Wer möchte?
Neuer Report! Finanz-Influencer und Tech-Millionäre, die Demokratie gefährden? Willkommen im Rechtslibertarismus. Der hat inhaltlich etliche Schnittstellen zum Rechtsextremismus - und auch der persönliche Austausch ist lebhaft, wie die neue CeMAS-Analyse von @janrathje.bsky.social zeigt. Mustread!
Letztes Jahr die rechtsextreme Mobilisierungsgelegenheit schlechthin: Rechtsextreme, queerfeindliche Proteste gegen CSDs. Wie es diese Jahr weiterging? Wir haben es uns angesehen - Leseempfehlung!
Ein US-Libertärer schreibt das Playbook für Plattform für Politiker-Morde. Ein deutscher Reichsbürger und Coronaleugner versucht, es umzusetzen - und wurde jetzt verhaftet.