AI Act verstehen: Was Unternehmen jetzt bei KI-Compliance beachten müssen - mit Thomas Fischer

00:00:00: Der AI Act zwingt uns nicht weniger KI zu nutzen, sondern KI-bewusster und professioneller einzusetzen.

00:00:09: Und genau das ist eigentlich langfristig ein Vorteil für jedes Unternehmen.

00:00:29: Ja, heute haben wir ein Thema mitgebracht das ich würde mal sagen wirklich jeden betrifft und zwar den AI-Act.

00:00:35: Wir haben dazu heute Thomas Fischer eingeladen.

00:00:37: Millie erzählen wir doch mal bisschen was hat er so gemacht?

00:00:39: Ja,

00:00:39: Thomas ist jetzt mittlerweile schon vor zwanzig Jahre knapp bei Datagroup, hat damals vor zwanzig Jahren als Systemengineer für Novelsysteme angefangen.

00:00:47: Wir mussten ja beim Vorgespräch einmal nachfragen was es überhaupt ist dass es der Vorgänger Das Active Directory, seitdem hat sich aber einiges getan.

00:00:55: Thomas war zwischenzeitlich Projekt- und Servicemanager ist dann in die Holding gewechselt und ist jetzt vor allem aber seit zwei Jahren CISO bei Datagrug und genau deswegen der Ansprechpartner heute um über den EU AI Act zu sprechen und uns da mal die Themen aufzuschlüsseln.

00:01:10: Komm lass uns gleich rein springen Millie!

00:01:16: Hi Thomas schön dass du da bist

00:01:18: Ja, hallo.

00:01:19: Danke, dass du dir die Zeit für uns genommen hast ein wenig über den EU-AI Act zu berichten!

00:01:24: Ich glaube als Allererstes sollten wir mal klären was genau ist denn der AI Act der EU?

00:01:29: Der AI Act ist eine EU gesetzt das den Einsatz von künstlicher Intelligenz regelt und eigentlich das Ziel vorgibt Menschen zu schützen und auch das Vertrauen zu schaffen sowie Innovationen auch zu ermöglichen.

00:01:43: oder auch kurz gesagt er sorgt einfach dafür Fliskante KI streng kontrolliert wird und in Anführungszeichen harmlose KI eingeschränkt ist, und in Europa klare Spielregeln für den Einsatz von KI gibt.

00:01:59: Ich würde da vielleicht gleich noch mal ein bisschen tiefer einsteigen.

00:02:02: Vielleicht kannst du uns nochmal einen kurzen Rap abgeben, warum der AI Act aus Compliance-Sicht so besonders ist und warum er vor allem jedes Unternehmen betrifft und nicht nur KI Entwickler?

00:02:12: Das Besondere an dem AI Act ist aus meiner Sicht dass er KI erstmals nicht nur als reine Technik betrachtet sondern als Unternehmensverhalt das Risiko Governance-Thema.

00:02:24: Es richtet sich eben nicht nur an reine Unternehmen, die jetzt irgendwie KI entwickeln sondern auch ganz bewusst an Unternehmen dies einsetzen und das sind ja inzwischen eigentlich wirklich fast alle Unternehmen.

00:02:37: es glaube ich gibt kein Unternehmen mehr der sich stand heute gar nicht mit KI befasst.

00:02:44: Man muss sich vor Augen führen, ob es jetzt automatische Textvorschläge in E-Mail-Programmen oder Chatbots im Kundenservice und einem Servicedesk sind.

00:02:54: Ob das Analysefunktionen im Controlling oder Bewerbertools bei der HR-Abteilung ist – mittlerweile ist die KI schon Teil von jeglicher Software eigentlich wie wenn's normal ist!

00:03:07: Und der AI-Jagd sagt ganz klar, auch wenn die KI nur genutzt wird muss man sich einfach Gedanken machen wo und wofür man sich denn einsetzt.

00:03:17: In welche Auswirkungen das diese KI dann haben kann?

00:03:20: Damit wird die Compliance zum Thema dass nicht nur irgendwelche Techfirmen ganz abstrakt betrifft sondern eigentlich jeden Mittelstand genauso wie jetzt Konzerne oder...

00:03:31: Ja, du hast ja ganz schön das Wort Governance in den Mund genommen.

00:03:34: Wie verändert denn der AII die Art und Weise wie Unternehmen Governance Risiko- und Dokumentationen organisieren müssen?

00:03:41: Er sagt dafür dass Unternehmen KI strukturierter und bewusster einsetzen müssen.

00:03:45: Viele Organisation sind es ja bereits schon seit vielen Jahren gewohnt, Risiken für IT Sicherheit oder Datenschutz betrachten und jetzt kommt als zusätzliche Dimension KI nochmals hinzu.

00:03:58: Und konkret heißt es eigentlich, die Unternehmen müssen genau wissen welche KI setzen sie in welchen Prozessen und auch zu welchem Zweck denn ein?

00:04:07: Es muss dann noch bewertet werden ob daraus Risiken entstehen für Mitarbeiter oder Kunden oder auch Entscheidungen die zum Beispiel automatisiert getroffen werden.

00:04:19: Und Governance heißt hier ganz klar klare Zuständigkeiten nachvollziehbare Entscheidung Und einfache, aber saubere Dokumentation.

00:04:29: Es geht nicht immer zwingend darum dass wir irgendwie alles zerreguliert sondern darum KI nicht einfach unkontrolliert nebenbei laufen zu lassen und dabei ist einfach die Transparenz ein ganz ganz wichtiges Ziel.

00:04:43: Welche Unternehmensbereiche sind denn aus Kompleien sich am stärksten betroffen?

00:04:46: Also es ist tatsächlich die IT oder Fachbereiche Führungskräfte Geschäftsführungen?

00:04:51: Nein ich ganz kurz gesagt alle Aber jeweils in wirklich unterschiedlichen Rollen.

00:04:57: Die IT wird stark betroffen, weil sie die technischen Plattform darzustellt.

00:05:03: Sie müssen Zugänge, Identitäten, Datenflüsse, die Integration das Logging, Security-Kontrollen und vieles mehr umsetzen.

00:05:12: Und die Geschäftsführung ist betroffen Weil Kairisiken schnell zu Reputationshaftungs- und Bußgeldrisiken werden können und weil organisatorische Entscheidungen zum Beispiel welche KI es überhaupt erlaubt, am Ende Managemententscheidungen sind mit großer Tragweite.

00:05:30: Wenn man das in einem Satz sagen kann Fachbereiche treibt.

00:05:34: IT stellt die Betriebssicherheit her und das Management trägt die Verantwortung für die Risikoakzeptanz.

00:05:40: Ja das ist jetzt gut gesagt.

00:05:42: also ich glaube wir müssen uns alle in jedem Bereich wirklich daran halten.

00:05:47: Ich würde jetzt mal so ein bisschen Richtung Pflichten gehen, welche konkreten Pflichte im Bereich Compliance entstehen denn für Unternehmen die KI-Systeme einsetzen?

00:05:54: Also auch wenn sie nur eingekauft werden, weil man es nicht selber hat sondern auch dazu geholt wie du gerade schon ein paar Beispiele genannt hast.

00:05:59: Ja ganz zentraler Punkt ist tatsächlich das Einkaufen und Einkaufen heißt nicht dass man dann aus der Verantwortung raus ist.

00:06:06: Der AI-Jagd macht ganz klar, dass Pflichtene nicht nur bei den Anbietern oder Entwicklern liegen sondern ausdrücklich auch bei den Anwendern von den KI-Systemen.

00:06:16: Und die Verantwortung bleibt also im Unternehmen, auch wenn die KI von außen kommt und eingekauft wird.

00:06:22: Für Unternehmen, die KI einsetzen lässt sich komplex im Kern in drei Aufgabeblöcken gliedern.

00:06:27: Eines ist die Klassifizierung und Zuständigkeit prüfen.

00:06:30: Hier muss zunächst mal geklärt werden wofür die KI eingesetzt wird und ob diese Nutzung zulässig ist.

00:06:37: handelt es sich zum Beispiel um verbotene KI, hochriskante KI oder Umnutzung mit nur Transparenzpflichten.

00:06:45: Eine saubere Einordnung ist die Grundlage für alle weiteren Maßnahmen.

00:06:49: Das zweite ist die sicherer und der Verantwortung volle Betrieb.

00:06:52: Gerade bei hoch riskanter KI gehören dazu Pflichten wie angemessene menschliche Aufsicht eine konkrete und zweckgebundene Nutzung sowie das laufende Monitor.

00:07:02: Die Mitarbeiter müssen informiert sein Ergebnisse dürfen nicht blind übernommen werden und es muss jederzeit möglich sein einzugreifen.

00:07:10: Je nach Einsatzkontext heißt das auch, sicherstellen dass die Eingangsdaten geeignet sind und Fehlentscheidungen oder Verzerrungen erkannt werden.

00:07:19: Und das Dritte ist natürlich die Lieferkette und das Managen von den Nachweisen.

00:07:24: Beim Einkauf Von KI-Systemen müssen Unternehmen vom Anbieter alle notwendigen Informationen, Dokumentation und Nachreise halten.

00:07:32: Ohne diese kann der Anwender seine eigenen Pflichten kaum erfüllen.

00:07:36: Das bedeutet, KI braucht Compliance by Design in Verträgen definierten Anforderungen und klaren Abnahmen und Prüfprozessen.

00:07:46: Aber was heißt jetzt kurz gesagt?

00:07:48: Auch wenn KI eingekauft wird bleibt die Verantwortung für eine zulässige und nachvollziehbare angemessene Nutzung beim Unternehmen.

00:07:56: Und die Entscheidung ist nicht nur, dass eine KI eingesetzt wird sondern wofür und was passiert wenn sie Fehler

00:08:03: macht.".

00:08:04: Du hast jetzt vorhin das Wörting verbotene KI mit eingebaut.

00:08:10: Ich würde jetzt daraus Schluss folgern.

00:08:11: es gibt irgendwie so ne Liste von verbotenen KIs die man nicht einsetzen darf und das wird von dem Ausschluss dieses AI-Acts sozusagen kontrolliert.

00:08:21: Weißt du, was da für verbote KI's drin sind?

00:08:26: Hast du irgendein Beispiel?

00:08:27: Mich würde das einfach mal interessieren.

00:08:28: Ja, verbotene KI ist die zum Beispiel Menschen überwacht, manipuliert, beeinträchtigt oder entmündigt.

00:08:36: Solche Anwendung sind der NDO nicht zulässig, unermägt davon... wie gut sie denn technisch funktionieren.

00:08:42: Du hast jetzt gerade als letzten Punkt schon die Dokumentations- und Nachweispflichten angesprochen, da würde ich jetzt vielleicht trotzdem noch mal näher drauf eingehen!

00:08:50: Wie umfangreich müssen die denn sein?

00:08:52: Der

00:08:52: AI Act verlangt vor allem eins – Die Nachvollziehbarkeit.

00:08:56: Es geht weniger um möglichst viele Dokumente zu produzieren sondern darum dass ein Unternehmen erklären kann warum und wie ein KI System eingesetzt wird.

00:09:08: Bei hoch riskanter KI ist der Dokumentationsumfang natürlich substanziell.

00:09:13: In der Praxis bedeutet das meistens Unternehmen sollten festhalten zu welchem Zweck eine KI genutzt wird, in welchem Prozess wer dafür verantwortlich ist und welche grundlegenden Risiken denn betrachtet wurden.

00:09:26: Wichtig ist außerdem dass klar geregelt ist wie die KI genutscht werden darf und wo menschliche Kontrolle greift also zum Beispiel wann Mitarbeiter Entscheidungen überprüfen oder korrigieren müssen.

00:09:39: Der Umfang der Dokumentation hängt stark vom Einsatz ab, für alltägliche KI-Funktionen in Standardsoft erreicht oft eine überschaubare strukturierte Dokumention etwa bestehender seiner Bewertung der Lieferanten des Herstellers einer Beschreibung des Einsatzes einer einfachen Risikoeinschätzung und klaren Zuständigkeiten.

00:10:00: Man muss keine technischen Details neu erstellen, sondern zilf voll mit den Arbeiten was bereits vorhanden ist.

00:10:06: Etwa Informationen vom Anbieter oder bestehende interne Richtlinien.

00:10:10: Entscheidend ist dass ein Unternehmen im Zweifel sagen kann wir wissen was wir tun und wir tun es bewusst und

00:10:17: verantwortungsvoll.".

00:10:18: Ja das Würding Risiko hast du ja auch jetzt schon mehrfach hinten in den Mund genommen?

00:10:23: Was müssen denn oder wie müssen Unternehmen künftig Risikoanalysen für KI durchführen und welchen Abständen?

00:10:29: Gibt es da auch Vorlagen?

00:10:30: Der AIAC denkt in Risiko-Analysen nicht nur einmal beim Go Live, sondern als laufenden Prozess im Sinne des Risikomanagementssystems für KI.

00:10:41: Und ich empfehle in der Praxis einen dreistiefigen Rhythmus.

00:10:45: Erstens vor der Einführung das Bewerten des Use Cases der Daten der Betroffenheit von Personen, potentielle Fehnentscheidungen oder mögliche Missbrauchsszenarien.

00:10:56: Zweitens bei Änderungen Wenn es mal Modell-Updates gibt, neue Datenquellen kommen ran, veränderte Prozessintegrationen oder alles was das Risikoprofil ändert sollte eine Neubewertung triggern.

00:11:09: Und drittens regelmäßig im Betrieb zum Beispiel jährlich oder halbejährlich und das aber tatsächlich abhängig von der Kritikalität und den Nutzen.

00:11:18: Das Ganze entspricht ja Logik von kontinuerlichen Monitoring unter Nachstörung.

00:11:23: Risikoanalyse ist nicht nur cyber, es geht auch um Fehlerfolgen, Bias, Transparenz menschliche Aufsicht also um einen erweiterten Risikobegriff.

00:11:35: Wenn wir jetzt mal auf den laufenden Betrieb von KI-Systemen gucken was verlangt der AI-Akt in Bezug auf Überwachung, Logging und Transparent?

00:11:43: Ja da

00:11:43: sind zwei Punkte besonders wichtig.

00:11:46: erstens die Transparent.

00:11:48: Die Menschen sollen wissen wenn KI im Spiel ist zum Beispiel bei Chatbots oder automatisierten Antworten.

00:11:54: Und zweitens die Kontrolle im Betrieb, also beobachten ob das System auch zuverlässig arbeitet, ob Fehler auffallen und ob Mitarbeiter eingreifen können.

00:12:06: Unternehmen sollten nicht jede einzelne Entscheidung speichern müssen aber sie sollten erkennen können ob etwas läuft oder ob etwas auf dem Router läuft und dann entsprechend reagieren.

00:12:16: Ja, es ist jetzt auch wichtig dass die Compliance von einem Unternehmen wirklich berücksichtigt wird.

00:12:22: Wie kann man denn dann die KI-Compliance in einem Unternehmen verankern?

00:12:26: Braucht's da Rollen, Prozesse oder sogar ein eigenes KI-Kontrollsystem?

00:12:31: Ich denke das Wichtigste ist KI- Compliance sollte kein Sonderthema oder ein Paralleluniversum im Unternehmen sein.

00:12:40: Die Unternehmen brauchen dafür nicht zwingend ein eigenes großes KI-Kontrollsystem, sondern eine klare pragmatische Einbettung in bestehende Strukturen.

00:12:49: Konkret braucht es eigentlich drei Dinge.

00:12:52: Erstens Eine klare Zuständigkeit.

00:12:54: Es muss nachvollziehbar sein wer für den Einsatz einer KI verantwortlich ist Wer Risiken bewertet und wer Entscheidungen freigibt.

00:13:02: Das kann eine einzelne Rolle sein oder ein bestehendes Gremium das um KI Themen erweitert wird.

00:13:08: Zweitens Einfache, aber verbindliche Prozesse.

00:13:11: Zum Beispiel wie kommt eine KI Anwendung denn überhaupt ins Unternehmen?

00:13:15: Wer prüft den den Zweck?

00:13:17: Wer bewertet die Risiken?

00:13:18: Wer entscheidet über diese Einführung generell?

00:13:21: Wenn diese Fragen einmal geklärt sind wird KI Einsatz beherrschbar.

00:13:25: und drittens braucht es eine Art Kontroll- und Regelrahmen Allerdings kein Stades-Kontrollmonster.

00:13:33: Gemeinsinn klare Leitlinien, Mindestanforderungen und regelmäßige Überprüfungen.

00:13:38: Nutzen wir die KI noch wie vorgesehen?

00:13:40: Gibt es Änderungen oder müssen wir sogar nachsteuern?

00:13:44: Unternehmen, die KI-Komplein zu verstehen als Erweiterung in ihr normales Governance tun sich deutlich leichter.

00:13:51: Dann wird KI nicht ausgebremst sondern strukturiert ermöglicht.

00:13:55: Und welche Verbindung siehst du jetzt zwischen AI Act, Compliance und schon bestehenden Strukturen wie ISMS Datenschutz oder GRC Systemen?

00:14:05: Die Verbindung ist eigentlich extrem eng und das auch die gute Nachricht.

00:14:09: man muss nämlich bei Null anfangen.

00:14:12: der AI Act verlangt Governance Risiko Management Dokumentation und Nachweis.

00:14:18: genau das ist die DNA von ISMS und GRC.

00:14:22: Datenschutz bleibt parallel relevant, sobald KI personenbezogene Daten verarbeitet, greift weiterhin die Datenschutzanforderungen der DSGVO.

00:14:33: Der AI-Akt ersetzt das nicht, sondern ergänzt es.

00:14:37: In der Praxis kann man vieles wiederverwenden – Risikomethodik, Assetinventar, Lieferantenmanagement, Change Management, Incident Management.

00:14:47: und ergänzte KI spezifische Kriterien wie die Risikoklasse, die Transparenzpflichten, die technische Dokumentation oder Herstellernachweise?

00:14:57: Ja.

00:14:58: Man wird ja auch bei Verstoß gerade beim Thema zur Kasse gebeten weil es ja hohe Bußgelder gibt.

00:15:03: Welche typischen Risiken siehst du aktuell bei Unternehmen und wo besteht der größte Handlungsbedarf aus deiner Sicht?

00:15:09: Bußgeler sind tatsächlich ein echter Weglop-Call für bestimmte Verböse.

00:15:15: mit bis zu fünfunddreißig Millionen oder sieben Prozent des weltweiten Jahresunsatz möglich.

00:15:20: Oh,

00:15:21: das ist ganz schön hoch!

00:15:22: Ja die typischen Risiken, die ich aktuell sehe sind weniger böswillig sondern eher organisatorisch.

00:15:29: zum Beispiel kein KI-Inventar.

00:15:31: man nutzt KI weiß es aber nicht systematisch und kann deshalb nicht klassifizieren.

00:15:37: Oder Schatten AI.

00:15:40: Fachbereiche setzen Tools ein ohne IT oder Compliance einzubinden.

00:15:45: Oder es fehlen die Nachweise, selbst wenn man eigentlich sauber arbeitet, fehlen Dokumentationen, Versunierung oder auch Entscheidungsprotokolle.

00:15:54: und das Letzte ist noch die Lieferantenblindheit.

00:15:58: Man kauft ein Tool aber bekommt die erforderlichen Informationen nicht und fragt sie auch nicht verbindlich ab.

00:16:04: Die größte Handlungsbedarf ist deshalb pragmatisch Transparenz- und Prozess.

00:16:10: Erst wenn ich weiß welches System ich habe und wie es eingesetzt werden kann kann ich kontrollieren, nachweisen und verbessern.

00:16:17: Du

00:16:17: hast jetzt ja ganz schon das Wording Schatten AI mit reingenommen.

00:16:21: Jetzt haben wir doch viele Mitarbeiter in dem Unternehmen Arbeitshandys.

00:16:26: Kann man sowas überhaupt kontrollieren?

00:16:28: Ob die jetzt da zum Beispiel angenommen TGPTs nicht erlaubt ob sie das dann auf dem Handy haben weil dass es ja eigentlich auch dann würde das da auch drunterfallen?

00:16:37: Weil ich fahre das Wort jetzt einfach so passend weil ich glaube schon, dass man da... Dass das oft ein Problem sein könnte.

00:16:44: Also man kann feststellen, wenn es ein dienstliches Handy ist, was auch im MDM-System, also im Mobile Device Management System eingeschrieben ist.

00:16:53: Dann kann man feststellen Wenn es solche Apps auf den mobilen Endgeräten gibt.

00:16:59: Die Frage ist natürlich immer Was ist der Umgang?

00:17:02: Und das war weiter vorne schon mal angesprochen.

00:17:05: Man muss sich natürlich immer fragen Welche Informationen und welche Daten gibt man denn grundsätzlich in einen KI-Ssystem ein Zum Beispiel unternehmensbezogene Daten oder auch personen bezogene Daten sind, sollte man immer nur ein KI-System wählen was definitiv vom Unternehmen freigegeben ist und sichergestellt wird dass die Daten die man eingibt nicht für Trainingszwecke freigegeben wird.

00:17:31: Wenn wir jetzt zum Beispiel ChatGPT auf seinem Mobilgerät verwenden würde und man lasst meine Textkorrektur, wo es keinen Kontext zum Unternehmen oder keinen Kontex zum personenbezogene Daten gibt.

00:17:43: Dann kann man das auch durchaus einsetzen.

00:17:46: Man sollte aber immer tatsächlich klug wählen.

00:17:49: was mache ich denn mit dem System gerade?

00:17:51: In allen Security Bereichen einfach wichtig Awareness zu schaffen.

00:17:55: Gut, dass wir das jetzt hier mit unserer Folge auch machen.

00:17:58: Da müssen unsere Zuhörerinnen und Zuhörer hoffentlich keine teuren Bußgelder bezahlen.

00:18:02: Thomas letzte Frage an dich.

00:18:04: Welche Compliance-Herausforderung im KI-Umfeld hatte ich zuletzt am meisten überrascht?

00:18:08: Ganz egal ob positiv oder negativ!

00:18:10: Überrascht hat mich am stärksten wie schnell KI in alles so reingerutscht ist gerade bei Standardsoftware.

00:18:19: Früher war KI eher ein Projekt So ein Feature-Update in der Software.

00:18:26: Das macht Compliance herausfordernd, weil man plötzlich eine hohe Änderungsfrequenz im kritischen Prozessen hat.

00:18:32: Ja positiv überrascht mich aber dass viele Unternehmen inzwischen verstanden haben das Ki-Compliance nicht nur eine Bremse ist sondern Qualität erzeugt bessere Daten oder klarere Prozesse saubere Verantwortlichkeiten und am Ende auch weniger operative Risiken.

00:18:51: Wenn man das mit bestehenden ISMS oder GAC-Mechanismen koppelt, wird es auch beherrschbar.

00:18:57: Ja ist es Arbeit aber kein Chaos wenn man strukturiert vorangeht und vielleicht zusammengefasst der AI Act zwingt uns nicht weniger KI zu nutzen sondern KI bewusster und professioneller einzusetzen Und genau das ist eigentlich langfristig ein Vorteil für jedes Unternehmen.

00:19:17: Ja, das hast du

00:19:17: jetzt aber wirklich gut auf den Punkt gebracht – einfach die Awareness für alle!

00:19:22: da nochmal zu aktivieren.

00:19:23: Vielen Dank, Thomas für deine Informationen aus dem AI Act!

00:19:26: Also ich selbst habe mich noch nicht so extrem mit denen beschäftigt aber ich fand es jetzt super dass du uns da einmal abgeholt hast.

00:19:32: Dann sind wir auf jeden Fall vorbereitet, Melly und sollten uns dröhn überlegen ob wir auf dem Arbeitshandicett GPT nutzen oder nicht?

00:19:38: Absolut danke, Thomas!

00:19:40: Gerne!

00:19:41: Tschüss

00:19:41: bis zum nächsten Mal!

00:19:42: Ja tschau!

00:19:43: Tschüs!

00:19:47: Also mein meistes Learning heute ist auf jeden fall... Der bewusste Umgang mit KI.

00:19:52: Also das war so das größte Learning für mich, mir lief wie was bei dir?

00:19:55: Ja, absolut.

00:19:56: Ich glaube das ist ja in allen KI und Security-Themen immer einfach super wichtig!

00:19:59: Und Schulung der Mitarbeiter bei uns ja auch ständig gang und gäbe.

00:20:03: also muss ich glaube jeder einmal auf die Fahne schreiben.

00:20:06: Ja, ich hoffe ihr da draußen konntet alle ganz viel mitnehmen.

00:20:09: Wenn ja freuen wir uns wenn ihr uns Feedback da lasst.

00:20:11: Wir sind wie immer zu finden auf allen gängigen Podcastplayern.

00:20:14: Lasst uns da gerne ein Abo da.

00:20:16: Wir freuen uns darauf dass hilft uns weiterhin so spannende Gäste mit an Bord zu holen und ansonsten würde Wir hören uns in zwei Wochen wieder.

00:20:24: Weiter geht's mit unserer Compliance-Staffel.

00:20:26: und ja, bis bald oder Froni?

00:20:29: Bis dann!

00:20:31: Tschüss!