 Jörg Reck | Jörg Reck October 30 2025 03:53:44 PMWenn generative KI-Modelle wie ChatGPT oder Gemini falsche, aber überzeugend klingende Inhalte produzieren, spricht man oft von „Halluzinationen“. Doch dieser Begriff stammt aus der menschlichen Psychologie und beschreibt Sinneswahrnehmungen ohne äußeren Reiz – etwa das Sehen von Dingen, die nicht da sind. Bei KI hingegen liegt kein sensorischer Irrtum vor, sondern ein kognitiver Konstruktionsfehler. 🔍 Warum „Halluzination“ problematisch ist - Anthropomorphisierung: Der Begriff suggeriert, dass KI „wahrnimmt“ oder „fühlt“, was sie nicht tut. Das kann zu falschen Erwartungen führen.
- Stigmatisierung: Er ist emotional aufgeladen und wird mit psychischen Erkrankungen assoziiert.
- Unpräzise: Er beschreibt nicht den eigentlichen Mechanismus hinter den Fehlern – nämlich das plausible Erfinden von Inhalten.
🧩 Konfabulation: Ein passenderer Begriff? „Konfabulation“ stammt ebenfalls aus der Neuropsychologie und beschreibt das Erfinden von Erinnerungen, um Lücken im Gedächtnis zu füllen – oft unbewusst und ohne Täuschungsabsicht. Das passt erstaunlich gut zu dem, was generative KI tut: - Sie füllt Lücken in ihren Trainingsdaten mit plausiblen, aber erfundenen Informationen.
- Sie versucht Kohärenz, nicht Wahrheit.
- Sie täuscht nicht bewusst, sondern folgt statistischen Wahrscheinlichkeiten.
Aljoscha Burchardt vom DFKI und Xenia Kersting von der Universitätsmedizin Mainz plädieren deshalb für den Begriff „Konfabulation“ – als präzisere, entstigmatisierende und technisch korrekte Alternative. 🧠 Was bedeutet das für Entwickler und Nutzer? - Bewusstsein schaffen: Wer KI nutzt, sollte verstehen, dass sie nicht „lügt“, sondern „konfabliert“ – also kreativ ergänzt.
- Fehler besser klassifizieren: Konfabulation erlaubt differenzierte Analysen: Woher stammt der Fehler? Welche Lücke wurde gefüllt?
- Vertrauen stärken: Ein präziser Begriff hilft, Risiken realistisch einzuschätzen und Vertrauen in KI-Systeme aufzubauen.
✍️ Fazit: Worte formen unser Verständnis Die Umbenennung von „Halluzination“ zu „Konfabulation“ ist mehr als ein semantisches Feintuning. Sie ist ein Schritt hin zu klarerem Denken über KI, besserer Fehlerkultur und verantwortungsvoller Kommunikation. Denn wer die richtigen Begriffe wählt, schafft die Grundlage für die richtigen Entscheidungen. Quellen:
Wikipedia: Halluzination (KI)
AFAIK: Konfabulieren statt Halluzinieren
Christian Bürckert: Konfabulieren und Halluzinieren Jörg Reck October 30 2025 11:42:27 AMKommerzielle Spamfilter für Domino-Server sind oft teuer, schwergewichtig und wenig flexibel. Aber was, wenn man sich selbst eine Lösung baut – mit moderner KI, Open-Source-Komponenten und einem Hauch LotusScript-Magie? In diesem Beitrag zeige ich, wie du mit Domino, ElasticSearch und einem schlanken Embedding-Service einen leistungsfähigen Spamfilter realisierst – dockerisiert, semantisch und fast kostenlos.
💡 Warum überhaupt selbst bauen? - 💸 Günstiger: Keine Lizenzkosten, keine Abhängigkeiten.
- 🧠 Lernreich: Du kombinierst klassische Domino-Technik mit moderner KI.
- 🛠️ Flexibel: Du bestimmst, wie Spam erkannt wird – dynamisch und anpassbar.
🔍 Wie funktioniert’s? Jede eingehende Mail wird auf dem Domino-Server abgefangen und an einen Embedding-Service geschickt, der daraus einen semantischen Vektor erzeugt. Dieser Vektor wird mit bekannten Spam-Mustern verglichen, die ebenfalls als Vektoren gespeichert sind. Liegt die Ähnlichkeit über 90 %, wird die Mail als Spam markiert. Das Ganze läuft in Docker-Containern – portabel, wartbar und schnell aufgesetzt.
🧠 Semantik statt Keywords Statt starrer Keyword-Listen setzt diese Lösung auf semantische Ähnlichkeit. Das bedeutet: - ✔️ Auch leicht veränderte Spam-Texte werden erkannt.
- ✔️ Robust gegen Synonyme, Tippfehler und Umgehungstricks.
- ✔️ Kein ständiges Nachpflegen von Wortlisten.
🌟 Vorteile auf einen Blick - 🆓 Open Source: Keine Lizenzkosten.
- 🐳 Dockerized: Schnell deployt, leicht gewartet.
- 🔧 Erweiterbar: Neue Spam-Muster jederzeit integrierbar.
- 🤖 Modern: KI statt Regex – semantische Power statt starrer Regeln.
🧵 Fazit Mit Domino, ElasticSearch und einem Embedding-Service baust du dir einen Spamfilter, der nicht nur effizient und kostengünstig ist, sondern auch technologisch glänzt. Du verbindest klassische Domino-Technik mit moderner KI – und das in einem Setup, das sich sehen lassen kann. Ob für dein Unternehmen, deine Kunden oder einfach zum Lernen: Diese Lösung ist ein Paradebeispiel für smarte, modulare IT – ganz im Sinne von Peanuts-Soft. Comments Disabled Jörg Reck October 23 2025 11:44:46 PM🧠 „Die KI hat gesagt, das geht so.“ 💥 „Und dann ging’s eben nicht.“
Willkommen in der Ära der Halluzinationen – nicht im medizinischen, sondern im maschinellen Sinne. KI-Modelle wie GPT, LLaMA oder Gemini sind beeindruckend, aber sie haben eine Schwäche, die Vibe-Coding zur Stolperfalle machen kann: Sie erfinden Dinge. Und zwar mit Stil.
Was sind Halluzinationen?
In der KI-Welt bedeutet „Halluzination“, dass ein Modell Inhalte generiert, die plausibel klingen, aber faktisch falsch sind. Beispiele: - Eine API-Methode, die nie existierte.
- Ein XML-Attribut, das laut Schema nicht erlaubt ist.
- Ein Sicherheitskonzept, das in der Praxis ein Einfallstor ist.
Diese Fehler sind nicht immer offensichtlich. Sie sind oft elegant formuliert, mit korrekter Syntax und scheinbar logischer Struktur – perfekt für Copy-Paste-Katastrophen.
Warum ist das ein Problem für Vibe-Coding?
Vibe-Coding lebt von Ausdruck, Eleganz und kreativer Dokumentation. Es geht darum, Code nicht nur funktional, sondern auch stilvoll und verständlich zu gestalten. Doch wenn die stilvolle KI plötzlich ein imaginäres Interface beschreibt oder ein nicht existierendes Attribut in Swagger-Dokumentation einbaut, wird aus Vibe schnell Frust.
Gerade in sicherheitskritischen oder regulierten Umgebungen (Stichwort BAFA, ISO, DSGVO) kann ein halluzinierter Parameter zum Audit-Albtraum werden.
Und trotzdem: Ein Booster für Produktivität
Jetzt kommt der Twist: Halluzinationen sind kein Grund, auf KI-gestütztes Vibe-Coding zu verzichten – sondern ein Grund, es bewusst und reflektiert einzusetzen.
Denn trotz (oder gerade wegen) ihrer kreativen Eigenheiten sind KI-Modelle ein massiver Produktivitätsbooster: - ✨ Schneller Einstieg: Statt mit leerem Editor zu starten, liefert die KI sofort einen strukturierten Vorschlag – oft mit Kommentaren, Docstrings und Stil.
- 🧱 Bausteine statt Blackbox: Selbst wenn ein Snippet halluziniert ist, kann es als Inspiration dienen – ein semantischer Baukasten für echte Lösungen.
- 📚 Dokumentation auf Knopfdruck: KI kann repetitive Dokuaufgaben übernehmen – von Markdown-Playbooks bis zu Swagger-Kommentaren.
- 🧠 Sparringspartner statt Orakel: Die besten Ideen entstehen im Dialog. KI ist kein Guru, sondern ein geduldiger Ideengeber.
Fazit: Vibe-Coding mit KI – aber mit Sicherheitsgurt
Halluzinationen sind real. Aber sie sind kein Grund, auf Stil, Ausdruck und kreative Produktivität zu verzichten. Sie sind ein Reminder: KI ist ein Werkzeug, kein Wahrheitsorakel.
Wer Vibe-Coding mit KI betreibt, braucht zwei Dinge: - Technisches Urteilsvermögen – um Fakten von Fiktion zu trennen.
- Dokumentierte Prozesse – um Inspiration in belastbare Lösungen zu verwandeln.
Dann wird aus Halluzination keine Gefahr, sondern ein Katalysator für bessere, schnellere und stilvollere Software.
Wenn du magst, kann ich daraus auch eine zweigeteilte Infografik machen: „Halluzinationen – Risiko vs. Ressource“. Oder einen Prompt-Guide für „sichere Vibe-Coding-Sessions“. Sag einfach Bescheid, wie du’s einsetzen willst. Comments Disabled Jörg Reck October 11 2025 03:06:08 PMIn der modernen Softwareentwicklung ist der Code-Review ein unverzichtbarer Bestandteil des Entwicklungsprozesses. Er dient nicht nur der Qualitätssicherung, sondern auch dem Wissensaustausch im Team. Doch was passiert, wenn der Reviewer kein Mensch mehr ist, sondern eine Künstliche Intelligenz?
Der Aufstieg der KI-Code-Reviewer
Mit dem Fortschritt in der KI-Entwicklung haben sich Tools wie GitHub Copilot, Amazon CodeWhisperer oder DeepCode etabliert, die Entwickler:innen bei der Code-Erstellung und -Überprüfung unterstützen. Diese Systeme analysieren Code, schlagen Verbesserungen vor, erkennen potenzielle Bugs und helfen sogar bei der Einhaltung von Coding-Standards.
Die Vorteile liegen auf der Hand: - Schnelligkeit: KI kann in Sekundenbruchteilen große Codebasen analysieren.
- Konsistenz: Im Gegensatz zu Menschen wird die KI nicht müde oder unaufmerksam.
- Skalierbarkeit: Eine KI kann gleichzeitig viele Projekte unterstützen.
Doch mit dieser neuen Macht kommt auch eine neue Frage auf:
Wer reviewt den Code-Reviewer?
Wenn eine KI den Code überprüft – wer überprüft dann die KI? Diese Frage ist nicht nur philosophisch, sondern hat ganz praktische Relevanz:
1. Vertrauen ist gut, Kontrolle ist besser
KI-Systeme basieren auf Trainingsdaten. Wenn diese Daten fehlerhaft, veraltet oder einseitig sind, kann die KI falsche oder suboptimale Vorschläge machen. Ohne menschliche Kontrolle könnten sich so Fehler oder schlechte Praktiken unbemerkt einschleichen.
2. Bias und Kontextblindheit
KI versteht Code, aber nicht immer den Kontext. Ein menschlicher Reviewer erkennt, warum ein bestimmter Workaround notwendig ist oder warum eine scheinbar ineffiziente Lösung aus geschäftlichen Gründen gewählt wurde. Eine KI hingegen könnte solche Entscheidungen als „falsch“ markieren.
3. Die Rolle des Menschen
Statt die KI als Ersatz für menschliche Reviewer zu sehen, sollten wir sie als Werkzeug betrachten – als eine Art „Junior-Reviewer“, der Vorschläge macht, aber nicht das letzte Wort hat. Der Mensch bleibt in der Verantwortung, die Vorschläge zu prüfen, zu bewerten und im Kontext einzuordnen.
4. Meta-Reviews: KI für die KI?
Ein spannender Gedanke: Könnten wir eine zweite KI einsetzen, um die Vorschläge der ersten zu überprüfen? Oder ein System von mehreren KIs, die sich gegenseitig kontrollieren? Das erinnert an das Prinzip der Gewaltenteilung – nur eben im digitalen Raum.
Fazit: Verantwortung bleibt menschlich
KI kann den Code-Review-Prozess revolutionieren – effizienter, schneller, vielleicht sogar objektiver machen. Doch die Verantwortung für Qualität, Sicherheit und ethische Standards bleibt beim Menschen. Die Frage „Wer reviewt den Code-Reviewer?“ ist also nicht nur eine technische, sondern auch eine ethische. Und die Antwort lautet: Wir alle. Comments Disabled |
|