In dieser tiefgehenden Episode der Klartext KI-Crew beleuchten wir die kritischen Herausforderungen und Risiken, die mit dem Einsatz von Generativer Künstlicher Intelligenz (GenAI) verbunden sind. Wir beschäftigen uns mit KI-Halluzinationen, also der Erfindung von Fakten und Quellenangaben durch die KI, und diskutieren, wie diese in der Praxis zu ernsten Problemen führen können, wie am Beispiel des Beratungsunternehmens Deloitte in Australien geschehen.

Die wichtigsten Themen dieser Folge:

Halluzinationen & Faktenprüfung: Was passiert, wenn KI „statistisch wahrscheinlich klingende“ Antworten generiert, die inhaltlich falsch sind? Wir sehen, dass blindes Vertrauen gefährlich ist und menschliche Überprüfung absolut unerlässlich bleibt.

Praktische Risiken: Neben fehlerhaften Informationen (Fake News, Deepfakes) betrachten wir die Gefahr von Prompt Spoofing (Umgehung von Schutzmechanismen) und das Problem des Bias (Voreingenommenheit in den Trainingsdaten).

Haftungsfragen & Blackbox-Problem: Wer trägt die Verantwortung, wenn durch KI-Fehler oder Manipulation Schäden entstehen? Die Verantwortung liegt immer bei den Entwicklern, Anbietern oder Nutzern, da eine KI keine eigene Rechtspersönlichkeit besitzt. Die mangelnde Nachvollziehbarkeit des Entscheidungsprozesses großer KI-Modelle (Black Box) erschwert die Fehlersuche.

Die Rolle der Regulierung: Wir diskutieren, wie der EU AI Act und die geplante KI-Haftungsrichtlinie die Anforderungen an Anbieter und Nutzer verschärfen und Transparenz sowie KI-Kompetenz im Unternehmen fordern. Verstöße können empfindliche Strafen nach sich ziehen.

Lösung & Fazit: Der Schlüssel zum sicheren Umgang mit GenAI ist die menschliche Überprüfung – das 4-Augen-Prinzip. Trotz aller Automatisierung bleibt der Mensch die entscheidende Instanz, die kritisches Denken und ethische Abwägung einbringt.

Fazit & Ausblick: Generative KI ist ein mächtiges Hilfsmittel, aber kein Ersatz für menschliche Expertise. Unternehmen und Nutzer müssen klare interne Prozesse, Governance-Strukturen und Schulungen etablieren, um die Risiken zu beherrschen und die enormen Chancen der Technologie verantwortungsvoll zu nutzen.

🔗 Weiterführende Links zur Folge

1. https://www.deloitte.com/de/de/issues/innovation-ai/vertrauenswuerdige-generative-ki.html
2. https://www.horsesforsources.com/deloitte-dolittle_100725/
3. https://consulting.tuv.com/aktuelles/ki-im-fokus/eu-ai-act-haftungsrisiken-fuer-unternehmen
4. https://www.moneylife.in/article/fraud-alert-deloittes-us290000-blunder-and-the-rising-risks-of-ai-hallucinations/78620.html
5. https://www.nortonrosefulbright.com/de-de/wissen/publications/64f48ffc/generative-ai-ki-vertrage-rechtssicher-gestalten
6. https://easyrechtssicher.de/ki-generiert-haftung/
7. https://www.cmshs-bloggt.de/rechtsthemen/kuenstliche-intelligenz/pflicht-oder-kuer-ki-kompetenz-gemaess-ki-vo-als-zentraler-bestandteil-der-ki-compliance-im-unternehmen/
8. https://news.it-matchmaker.com/vertrauenskrise-bei-genai-warum-die-qualitaet-generativer-ki-sinkt/

Let's connect: https://www.linkedin.com/company/klartext-ki-der-podcast

In dieser Folge von Klartext KI begrüßen Matúš und Alwine einen gern gesehenen Wiederholungsgast: Jonas.

Jonas nimmt uns mit auf eine Reise durch Europa und zeigt die zwei Gesichter der KI: Einerseits eine katastrophal schlechte, KI-generierte Touristenführung an der Akropolis, die mehr für Lacher als für Wissen sorgt. Andererseits eine beeindruckende KI-Anwendung in der Medizin, die bei der Hautkrebs-Vorsorge hilft und Leben retten kann.

Ausgehend von einem provokanten Meme von Alwine entbrennt eine hitzige Debatte über den Mythos des Fachkräftemangels. Die zentrale Frage: Welchen Weg sollen wir der nächsten Generation empfehlen? Ein klassisches Studium, eine praxisnahe Ausbildung oder eine Kombination aus beidem? Jeder teilt seine persönlichen Erfahrungen und gibt Einblicke, wie sich der Arbeitsmarkt durch KI und wirtschaftliche Unsicherheiten verändert.

Alle Gesprächsteilnehmer sind sich einig: Die Zeiten, in denen ein Abschluss allein einen Job garantiert hat, sind vorbei. Praxiserfahrung, Anpassungsfähigkeit und die Fähigkeit, neue Technologien zu orchestrieren, sind die entscheidenden Kompetenzen für die Karriere von morgen.

00:00 Intro01:21 KI im echten Leben: Jonas' Reiseerfahrungen zwischen Top und Flop16:25 Ankündigung: Das nächste KI-Meetup in München20:40 Hauptthema: Studium oder Ausbildung – Was lohnt sich in der KI-Ära noch?33:02 Persönliche Werdegänge im Vergleich: Uni, Hochschule und Lehre42:25 Die Zukunft der Arbeit: Vom Programmierer zum Orchestrator57:58 Das Fazit: Unsere Empfehlungen für die nächste Generation

🔗 Weiterführende Links zur Folge

- Meetup-Gruppe "Prozesse und AI" in München: https://www.meetup.com/de-DE/munchen-bpm-process-automation-circle/ - Alwines Linkedin Post: https://www.linkedin.com/posts/alwineschultze_fachkraeuftemangel-vomstudiumindiearbeitslosigkeit-activity-7391046371430105089-zxzW - Klartext KI auf LinkedIn: https://www.linkedin.com/company/klartext-ki-der-podcast

Hi, wir sind Matúš und Alwine und wir treffen uns im Podcast mit Freunde und KI-Enthusiasten in lockerer Runde, um die aktuellsten Themen der KI-Welt zu besprechen. Statt trockener Fakten gibt es bei uns authentische Diskussionen, persönliche Einblicke und verständliche Erklärungen. Wir bringen komplexe Entwicklungen auf den Punkt... ehrlich, direkt und immer mit einer Prise Humor.