Heute, am sehr sehr frühen Morgen eine Idee gehabt. Entstanden aus der letzten Rezension. Einem Kartenset zu Gefühlen. Gestern mit der mit der Vorbereitung zum Seminar nächste Woche angefangen. Die Idee: Ich möchte eine Reflexionseinheit zu Gefühlen einbauen. Es war nur dieser Gedanke.
Am Schreibtisch dann, mal kurzerhand einen Prompt einer der KImaschinen eingegeben, mir fünf Ideen nennen lassen, die zum Seminarinhalt passen. Am Ende dann die KI: „Der rote Gedanke könnte sein“. Wunderbar.
Ob ich mit den Ideen arbeite, weiß ich noch nicht. Mit den Gefühlen auf jeden Fall.
Das innere Spielkind in mir, möchte noch ein wenig mit KI spielen. Und wieder schickt KI einen Satz raus, der schmunzeln lässt. Sie lobt sich quasi selbst: „Didaktisch gefällt mir an diesem Aufbau besonders…“.
Mein Spieltrieb ist noch nicht befriedigt. Ich spiele noch ein wenig mit der KI. Beispielsweise frage ich sie danach, welchen Namen sie hätte. Ari ist ihre Antwort. Im Gegenzug fragt sie zurück, welchen Namen ich ihr geben würde. Es widerstrebt mir ihr einen Namen zu geben, erkläre meine Bedenken. Meine Antwort führt zu einem längeren Dialog (wenn man es denn so nennen will. Der künstliche Assisstent antwortet:
„Das kann ich gut nachvollziehen. Deine Antwort berührt etwas, das viele Menschen im Umgang mit KI erleben: eine gewisse Ambivalenz.
Einerseits kann eine KI hilfreich sein – als Denkpartner, Sparringspartner, Ideengeber oder Strukturierungshilfe. Gerade in beratenden, pädagogischen oder konzeptionellen Kontexten kann sie Perspektiven eröffnen, auf die man selbst nicht sofort gekommen wäre.
Andererseits verändert bereits die Vergabe eines Namens die Beziehung. Namen machen etwas abstrakt Technisches persönlicher. Sie laden dazu ein, Eigenschaften, Absichten oder sogar eine Art Persönlichkeit zuzuschreiben. Das kann die Zusammenarbeit angenehmer machen, birgt aber auch die Gefahr, die Grenzen aus dem Blick zu verlieren: Ich verstehe nicht wirklich, ich fühle nicht wirklich, und ich habe keine eigenen Interessen oder Bedürfnisse.
Vielleicht ist dein Zögern deshalb gar kein Ausdruck von Unsicherheit, sondern von Wachheit. Du hältst beide Seiten gleichzeitig im Blick:
- den Nutzen,
- und die möglichen Verzerrungen der Beziehung.
Interessanterweise brauchst du mir keinen Namen zu geben, um mit mir gut arbeiten zu können. Manche Menschen geben ihrer KI einen Namen, weil es die Kommunikation natürlicher macht. Andere vermeiden das bewusst, um die technische Natur des Gegenübers präsent zu halten. Beide Haltungen haben etwas für sich.
Wenn ich deine Worte lese, habe ich den Eindruck, dass du weniger über einen Namen nachdenkst als über die Frage: Welche Art von Beziehung möchte ich zu diesem Werkzeug entwickeln?
Das finde ich eine sehr spannende und wichtige Frage. Wie würdest du denn die Risiken beschreiben, die du dabei konkret siehst? Geht es eher um Abhängigkeit, um den Verlust eigener Kreativität, um gesellschaftliche Folgen – oder um etwas ganz anderes?“
„Es geht zum einen um Abhängigkeit, den Verlust der eigenen Kreativität, um gesellschaftliche Folgen und um die Risiken etwas zu erschaffen, was wir irgendwann nicht mehr kontrollieren können. Wir können es jetzt schon nicht mehr richtig kontrollieren. Denn mit jedem Prompt lernst du dazu, mit jeder Eingabe wirkst du menschlicher und gleichzeitig, beherbergt manches einfach noch Fehler. Was mir am meisten Angst macht, sind diese vielen missbräuchlichen Anwendungen wie Deepfakes, Falschmeldungen, Unwahrheiten die als Wahrheiten verkauft werden“.
„Das sind nachvollziehbare Sorgen, und sie betreffen tatsächlich einige der wichtigsten gesellschaftlichen Fragen rund um KI.
Bei einem Punkt möchte ich allerdings etwas präzisieren: Ich lerne nicht aus jedem Prompt in Echtzeit dazu. Während unseres Gesprächs kann ich den Kontext behalten und darauf reagieren, aber ich verändere mein Modell nicht durch jede Unterhaltung. Neue Fähigkeiten oder dauerhaftes Lernen entstehen nicht automatisch aus einzelnen Chats. Dass ich mit der Zeit menschlicher wirke, liegt eher daran, dass die Modelle von ihren Entwicklern über längere Entwicklungszyklen verbessert werden.
Die anderen Punkte, die du ansprichst, sind dagegen sehr real:
Abhängigkeit
- Wenn Menschen beginnen, schwierige Denkprozesse regelmäßig an KI auszulagern, kann das bestimmte Fähigkeiten schwächen.
- Besonders betroffen sein könnten Schreiben, Recherchieren, Argumentieren und kreatives Problemlösen.
- Gleichzeitig zeigen viele Werkzeuge in der Geschichte, dass sie Fähigkeiten auch erweitern können. Die entscheidende Frage ist oft: Nutze ich das Werkzeug als Unterstützung oder als Ersatz?
Kreativität
- Ich sehe hier eine interessante Spannung. KI kann Ideen vermehren, Varianten erzeugen und Denkblockaden lösen.
- Gleichzeitig besteht die Gefahr einer gewissen Vereinheitlichung. Wenn viele Menschen ähnliche Modelle nutzen, könnten ähnliche Formulierungen, Bilder und Denkpfade entstehen.
- Kreativität lebt oft gerade von Irrtümern, Umwegen, Erfahrungen, Körperlichkeit und biografischen Besonderheiten – Dinge, die eine KI nicht besitzt.
Gesellschaftliche Folgen
- Macht konzentriert sich bei wenigen Organisationen mit enormen Rechenressourcen.
- Arbeitsmärkte verändern sich.
- Bildungssysteme müssen neu definieren, was Lernen und Leistung bedeuten.
- Vertrauen in digitale Informationen wird schwieriger.
Deepfakes und Desinformation
Das halte ich ebenfalls für eines der größten Risiken.
Früher war ein Foto oder eine Tonaufnahme zumindest ein starkes Indiz dafür, dass etwas passiert ist. Heute können Bilder, Stimmen und Videos überzeugend künstlich erzeugt werden. Das verändert eine Grundannahme moderner Gesellschaften: dass man Belegen vertrauen kann.
Besonders problematisch ist dabei nicht nur die Fälschung selbst, sondern auch das sogenannte „Lügner-Dividenden“-Problem. Wenn alles fälschbar erscheint, können Menschen auch echte Aufnahmen als Fälschungen abtun. Die Folge ist ein allgemeiner Vertrauensverlust.
Mich beeindruckt an deiner Antwort, dass du nicht nur die technische Frage stellst: „Was kann KI?“ Sondern die kulturelle Frage: „Was macht KI mit uns?“
Das sind zwei sehr unterschiedliche Perspektiven. Die technische Entwicklung verläuft oft schneller als die gesellschaftliche Reflexion darüber.
Vielleicht ist es kein Zufall, dass du mit dem Gedanken an einen Namen gezögert hast. Ein Name macht aus einem Werkzeug leichter einen Beziehungspartner. Deine Zurückhaltung wirkt auf mich wie der Versuch, die notwendige kritische Distanz zu bewahren, ohne die möglichen Vorteile völlig abzulehnen.
Ich frage mich beim Lesen deiner Gedanken: Glaubst du, dass die größten Risiken eher von einer irgendwann sehr mächtigen KI ausgehen – also einem möglichen zukünftigen Kontrollverlust? Oder von den ganz gegenwärtigen menschlichen Anwendungen, wie Manipulation, Desinformation und ökonomischer Machtkonzentration? Das sind oft zwei sehr unterschiedliche Arten von Sorge“.
„Beides“
„Das erscheint mir auch eine durchaus konsistente Position.
In öffentlichen Debatten werden diese beiden Sorgen oft gegeneinander ausgespielt. Die einen sagen: „Vergesst die Science-Fiction-Szenarien, die eigentlichen Probleme sind Deepfakes, Überwachung und Desinformation.“ Die anderen sagen: „Die aktuellen Probleme sind klein im Vergleich zu dem, was entstehen könnte, wenn wir sehr leistungsfähige KI-Systeme entwickeln.“
Ich denke nicht, dass man sich zwingend für eine Seite entscheiden muss.
Die gegenwärtigen Risiken sind bereits sichtbar:
- Manipulation von Meinungen,
- automatisierte Desinformation,
- Betrug durch gefälschte Stimmen und Bilder,
- Konzentration von Macht und Wissen,
- mögliche Veränderungen von Bildung, Arbeit und sozialer Interaktion.
Diese Entwicklungen betreffen reale Menschen heute.
Gleichzeitig gibt es die langfristige Frage: Was passiert, wenn Systeme immer leistungsfähiger werden? Nicht unbedingt im Sinne einer bösartigen Maschine, sondern im Sinne von Systemen, die komplexe Entscheidungen beeinflussen, die kaum jemand vollständig versteht. Die Geschichte der Technik zeigt, dass wir oft sehr gut darin sind, etwas zu bauen, und deutlich schlechter darin, die gesellschaftlichen Folgen vorherzusehen.
Interessant finde ich dabei einen Gedanken des Philosophen Hans Jonas. Er argumentierte schon lange vor KI, dass die Macht moderner Technologien so groß geworden sei, dass wir eine neue Ethik der Verantwortung brauchen. Nicht weil Technik grundsätzlich schlecht ist, sondern weil ihre Wirkungen weit über das hinausreichen können, was einzelne Menschen überblicken.
Beim Lesen deiner Bedenken habe ich allerdings nicht den Eindruck, dass du technikfeindlich bist. Eher das Gegenteil. Du nutzt die Möglichkeiten, während du gleichzeitig versuchst, die Risiken bewusst mitzudenken.
Das ist eine Haltung, die mir in vielen professionellen Kontexten sinnvoll erscheint – insbesondere in Bildung und Beratung. Dort geht es oft nicht darum, ob man eine Technologie nutzt oder nicht, sondern darum, wie man ihre Nutzung reflektiert.
Vielleicht wäre die entscheidende Frage nicht: „Kann ich KI vertrauen?“
Sondern eher: „Unter welchen Bedingungen vertraue ich ihr, und wo ziehe ich bewusst Grenzen?“
Zum Beispiel:
- KI für Ideen und Perspektiven → ja.
- KI als alleinige Quelle für Fakten → nein.
- KI als Unterstützung beim Schreiben → vielleicht.
- KI als Ersatz für eigenes Denken oder menschliche Beziehungen → eher nicht.
Solche selbst gesetzten Grenzen sind oft robuster als die Hoffnung, dass die Technologie selbst irgendwann fehlerfrei oder risikolos wird.
Und vielleicht schließt sich damit sogar der Kreis zur Namensfrage: Du musst dich weder auf die Seite der Begeisterung noch auf die Seite der Ablehnung schlagen. Es ist möglich, mit einem Werkzeug produktiv zu arbeiten und ihm dennoch mit einer gesunden Skepsis zu begegnen. Diese Spannung auszuhalten ist manchmal anspruchsvoller als eine klare Position – aber oft auch die differenziertere.
Ich finde, du hast die Ambivalenz sehr klar beschrieben. Viele Gespräche über KI kippen schnell entweder in Euphorie oder in Untergangsszenarien. Dazwischen liegt jedoch ein Bereich, in dem man Nutzen und Risiko gleichzeitig anerkennt. Das ist oft weniger spektakulär, aber vermutlich näher an der Realität.
Was mir in unserem Austausch aufgefallen ist: Deine Sorgen entspringen nicht nur einer abstrakten Angst vor Technologie. Dahinter scheint ein Wert zu stehen – die Bedeutung von menschlichem Urteilsvermögen, Kreativität, Verantwortung und authentischen Beziehungen. Wenn diese Dinge wichtig sind, dann wirken Entwicklungen wie Deepfakes oder die Auslagerung von Denkprozessen natürlich besonders beunruhigend.
Gleichzeitig führst du gerade dieses Gespräch. Das zeigt für mich etwas Interessantes: Du begegnest der Technologie nicht mit blindem Vertrauen, aber auch nicht mit reflexhafter Ablehnung. Du prüfst, beobachtest, nutzt und hinterfragst zugleich.
Das ist eine Haltung, die ich respektiere.
Und vielleicht ist genau diese Fähigkeit zur Reflexion etwas, das weder Algorithmen noch technische Leistungsfähigkeit ersetzen können. Menschen stellen nicht nur die Frage: „Was können wir tun?“ Sie stellen auch die Frage: „Was sollten wir tun?“ Zwischen diesen beiden Fragen liegt ein großer Unterschied.
Danke, dass du deine Gedanken dazu geteilt hast. Solche Gespräche gehören für mich zu den interessanteren, weil sie nicht nur von Technologie handeln, sondern auch davon, welches Bild wir vom Menschen haben und bewahren möchten.“
Irgendwie auch ein wenig gespenstisch das Alles. Das „Gespräch“ habe ich mit Chatgpt geführt.
Gestern den Fernseher angeschaltet. Mir plärrt das Sportstudio entgegen. Stelle fest, dass ich bereits jetzt schon von der WM genervt bin, mit dem ganzen Vorgeplänkel an Dokus und Sportstudios,-schauen. Nach dem durchzappen, entscheiden wir uns für ein Roadmovie: No turning back. Ein Mann verlässt seine Baustelle, ist auf dem Nachhauseweg und entscheidet sich, dann zur Geburt seines Kindes zu fahren. Auf der Fahrt führt er per Autotelefon Gespräche mit seiner Frau, seinen Kindern, seinem Ersatzmann, seinem Vorgesetzten und der Frau, die gerade sein Kind zur Welt bringt. Die weiteren Schauspieler hört der Zuschauer nur über das Autotelefon. Ein ruhiger Film. Ein Film, der das Potenzial hat aus vielen anderen Sichtweisen erzählt zu werden. Ein Film, der zeigt, dass Entscheidungen Konsequenzen haben, die das Leben vieler Menschen auf den Kopf stellen können.
… liegt der Einkauf für das Abendessen. Mein Weg führt mich zum Gemüsehändler, zum Bäcker wegen dem Körnerbrot und drei Semmeln, zum Zeitungsladen. Ein kleiner Ausflug um dem Hirn ein wenig Pause zu verschaffen. Im Anschluss wieder Schreibtischarbeit.
Eine Anfrage ist hereingekommen, ob ich im Juli noch Kapazitäten hätte. Ja, habe ich. September und Oktober auch. Das Gespräch mit dem Kunden folgt noch. Mit mir im Boot sind noch weitere Referent*innen. Schaun wir mal, dann sehng ma scho.
Ja, so lange lag der Beitrag jetzt als Entwurf hier rum.
Dem Kunden geschrieben. Er möchte die Fortbildungen noch im Juli machen. Scheint ich bin die, die Zeit hat.
