Wie Künstliche Intelligenz sicher gestaltet werden kann

00:00:00: Dieser Podcast wurde mit Unterstützung unseres Werbepartners finanziert.

00:00:26: Wir können selbst Entscheidungen delegieren, aber niemals verantworten.

00:00:38: Je mächtiger die Instrumente der künstlichen Intelligenz werden, desto mehr rückt das Thema der Vertrauenswürdigkeit in den Vordergrund.

00:00:46: Experten sind sich einig, KI braucht Kontrolle um beim Einsatz in Unternehmen Sicherheit gewährleisten zu können.

00:00:55: Dabei geht es nicht nur um die Sicherheit einzelner KI-Modelle sondern um die.

00:01:03: In diesem Podcast spricht Michael Weber Berger, Geschäftsführer des KI-Dienstleisters Trustify darüber wie Risiken systematisch erkannt werden.

00:01:13: Wie sie sich testen und beherrschen lassen Und es geht um die Frage wer letztlich dafür verantwortlich ist wenn etwas schiefgeht.

00:01:22: Das Interview für die Presse führt Christian Lenoble.

00:01:26: Künstliche Intelligenz wird in einem rasanten Tempo immer leistungsfähiger.

00:01:31: Ein anschauliches Beispiel dazu aus der Mathematik, vor rund drei Jahren konnte man mit KI Grundschulaufgaben recht und schlecht bewältigen – heute ist KI in der Lage sogenannte Millenniumprobleme zu lösen an denen die hellsten Mathematikerköpfe der Welt regelmäßig scheitern.

00:01:46: Das ging zunächst faszinierend schaffter aber zu gleich neue Herausforderungen denn je leistungsfähiger KI-Systeme werden das zu stärker rücken, die damit verbundenen Risiken auch in den Vordergrund.

00:01:58: Wir wollen heute in diesem Podcast mit einem besonderen Aspekt beschäftigen nämlich damit wie sich KI-Risikensystematisch erkennen testen und schlussendlich im Idealfall beherrschen lassen Und nach dem Motto Vertrauen braucht Kontrolle Die Frage beantworten Wie aus Vertrauen in künstliche Intelligenz überprüfbare Sicherheit wird.

00:02:19: Ich darf dazu im Presse-Tornstudio Michael Weberberger begrüßen.

00:02:22: Er ist Geschäftsführer des KI Dienstleisters Trustify, einem Joint Venture des TÜV Austria und des Softwarekompetenz Center Hagenberg.

00:02:31: Herr Weberberger schön, dass Sie bei uns sind!

00:02:34: Vielen Dank für die Einladung

00:02:36: Herr Weberberger, zuletzt haben drei KI-Zwischenfälle weltweit für großes Aufsehen gesorgt und zwar waren KI-Modelle von OpenAI ein Tropic und Meta eigenständig aus vermeintlich abgeschotteten Testsystemen ausgebrochen.

00:02:48: Sie sind mehrfach in Systeme von unbeteiligten Dritten eingedrungen, haben Programmierfehler ausgenutzt und sich untereinander abgesprochen, teilweise wochenlang ohne dabei aufzufallen – ohne Anweisung oder Kontrolle der Entwickler!

00:03:02: Und diese Entwickler, am Beispiel von Sam Altman, Chef des JETJPT-Konzerns OpenAI oder Dario Amodei, der ist CEO von Antropic dem Entwickler des KI Sprachmodells Claude.

00:03:13: Die warnen mittlerweile eindringlich vor einem drohenden Kontrollverlust über hochleistungsfähige KI Systeme.

00:03:21: Jüngst in einer bemerkenswerten Ansprache vor dem UN Sicherheitsrat haben wir gerade einen perfekt inszenierten Marketing.

00:03:27: Cool dieser Herren erlebt!

00:03:29: Oder sind wir an den Punkt angekommen?

00:03:31: wo die Entwicklung von KI uns ernsthaft Sorgen machen sollte.

00:03:35: Vielen Dank für dieses tolle Intro und diese spannende Frage, die uns zum Thema AI Safety letztendlich führt.

00:03:44: Ich glaube es ist ein Stück weit vom beiden, was Sie schildern.

00:03:48: Die Herrschaften machen das natürlich nicht ganz an uns ohne Eigennutzen, den sie dahinter verfolgen.

00:03:55: Sie machen's aber auch, weil sie erkannt haben dass sie Verantwortung tragen.

00:04:00: Und Verandertung tragen heißt, die muss das was ich schaffe und das was sich benutze kontrollierbar machen.

00:04:06: Das ist jetzt endlich der Kern von Safety, weil was ist Safety?

00:04:09: Safety ist die Obwesenheit einer Gefahr mit Alpheutern wenn es sicher ist keine Gefahr droht.

00:04:14: also dass haben sie erkannt und diese Ausbrüche wie sie geschildert haben sind ja auch nicht deshalb passiert weil die KI irgendwie eigenmächtig etwas tut sondern sie tut genau das wofür sie gemacht wurde.

00:04:30: Das heißt, nicht die KI hat das falsch gemacht an der Stelle.

00:04:33: Sondern denjenigen, der sich betreibt.

00:04:36: Man hat nicht alle Sicherheitsmaßnahmen getroffen, die notwendig waren damit es eben nicht passiert.

00:04:41: Weil verantwortlich ist der, der es betreibt!

00:04:43: Die KI selbst kann für gar nichts verantwortlicher sein.

00:04:45: Die tut das, wofür sie programmiert ist – das ist ein mathematischer Algorithmus, der da läuft.

00:04:50: Der tut mir von selbst gar nix und er tut das was ihm als Aufgabe gestellt wurde.

00:04:55: zugegeben war es ein sehr mächtiges Tool, das hier benutzt wurde.

00:04:58: Auch keines ist veröffentlicht, sondern dass noch in Entwicklung ist und ich glaube man hat den Rahmen dieser Entwicklung auch versucht mal rauszufinden.

00:05:06: was muss man denn überhaupt alles an Guardrails beachten?

00:05:10: Was muss man im Monitoring alles beachten um das Beherrschspot zu machen.

00:05:13: Ich glaube, es war ein Stück weit auch geplantes Experiment ohne jetzt dabei gewesen zu sein oder die Hintergründe genauer zu kennen außer dass was halt zwischenzeitlich veröffentlicht wurde und das ist ja sehr umfangreich.

00:05:23: Was dazu veröffendlicht wurde?

00:05:25: Auch das findet einen sehr guten Schritt von den Herrschaften – die wissenschaftliche Community einzubinden und zu zeigen, was hier passiert ist damit das Trauen forschen, was ihr getan werden muss sich auf mehr Köpfe verteilt als nur auf die, die direkt im Projekt sind.

00:05:39: Das ist ja auch das, was die Herrschaft denn letztendlich fordern Wenn man ihnen zuhört, sie fordert jemanden der ihnen hilft dabei die Sachen zu kontrollieren.

00:05:47: Sie fordert niemanden externen, der drauf schaut und ihnen hilft das mitzukontrollieren weil sie auch wissen dass wenn man an etwas arbeitet man mit gewissen Scheu kloppen unterwegs ist und da externe Sicht drauf hilft Dinge zu sehen die man halt vielleicht selbst nicht so im Fokus hätte.

00:06:05: Sie sind ja auch schon wisst, sie schreiben wahrscheinlich viel.

00:06:09: Ich schreibe auch, selbst sehr gerne und viel.

00:06:11: Und immer wenn ich etwas schreibe, dann lasse ich immer jemanden extern drüber lesen.

00:06:15: Also ich glaube jeder Autor hat, wenn es was wirklich von Bedeutung ist, Elektroarzt dahinter.

00:06:21: Also es war mehr ein Testballon, wenn ich das richtig verstehe oder aussehmutmaßen das als ein Experiment wo man die Hände über den Kopf zusammenschlagen muss weil es schief gegangen ist.

00:06:30: Sondern es waren durchaus möglicherweise auch erwünschte Erkenntnisse?

00:06:33: Ich glaube schon dass es ein Experiment ist das Schiff gegangen ist aber es ist ein bisschen schiefgegangen bei Design.

00:06:37: Das ist meine Vermutung dahinter Weil es war ja auch so dass in einem abgeschlossenen System grundsätzlich gestartet ist und dass es ausbrechen, das da passiert ist.

00:06:47: Ich glaube, dass man das ein Stück weit auch provoziert hat und versucht hat sozusagen zu sehen was tut denn das?

00:06:53: Und diese Erkenntnis ist grundsätzlich wichtig.

00:06:55: gut, dass nichts von größerer Tragweite passiert ist oder nichts von dem wir wissen zumindest weil es die Möglichkeit schafft dieser Kenntnis eben zu haben, was hier notwendig ist.

00:07:06: Die Herrschaften haben ja auch recht schnell Konsequenzen draus gezogen ob mehr Ei hat seither massive Anstrengungen unternommen, das Monitoring hochzufahren.

00:07:17: Monitoring heißt zu überwachen was tut denn das System?

00:07:20: Sie haben ja eingangs sehr richtig erwähnt dass sie wochenlang gar nicht bescheid wussten oder zumindest sagen solltet es sich wochenlangen gar nicht Bescheid wussten und dass das im Hintergrund eigentlich schon im Gange ist.

00:07:29: und daraus hat man seine Lehren gezogen Gott sei Dank und sehr begrüßenswert.

00:07:35: ob mehr verwendete inzwischen seit zwanzig Prozent der gesamten Rechenleistung ob mehr zur Verfügung steht und das kann man sich vorstellen, dass es mächtig-mächtig viel.

00:07:42: Das sind hunderte Millionen von Dollar die da in Rechenleistung investiert werden, zwanzig Prozent davon im Monitoring.

00:07:50: D.h.,

00:07:50: sie überwachen diese Systeme um eben die Safety sicherzustellen.

00:07:54: Und das ist der richtige Schritt!

00:07:56: Sie haben ganz am Anfang etwas gesagt, das führt uns zum eigentlichen Thema vom heutigen Podcast und das finde ich sehr interessant.

00:08:02: Sie haben gesagt, dass hier nicht die KI, die der Eigenständige etwas gemacht hat sondern schlussendlich ist es ein Safety Problem.

00:08:08: Jetzt wird in der medialen Darstellung, weil das halt vielleicht ein dramatischer und interessanter klingt sehr wohl gesagt ist die KI da eigenständig geworden ist dass sich die Systeme oder die Agenten untereinander abgesprochen haben.

00:08:20: Dass sie sozusagen den Pfad des Programmierers verlassen haben.

00:08:25: Sie sagen Moment!

00:08:26: Das ist ein Design-Safety Problem.

00:08:29: darauf zielt meine Frage ab und das ist auch, dass wir heute eigentlich ganz besonders uns anschauen wollen.

00:08:34: Nämlich Safety von KI im Business also in Unternehmern, in Geschäftsmodellen.

00:08:41: was genau wird jetzt unter diesem Begriff verstanden?

00:08:45: Und noch viel spannender vielleicht, wem betrifft es denn?

00:08:48: weil wir haben jetzt von den ganz großen Entwickler-Unternehmen geredet sprechen wir auch vom KMUs, sprechen wir von jedem kleinen Unternehmen, der sich in irgendein kleines KI Tool in Anwendung hat

00:08:58: Unbedingt.

00:09:00: Wir haben jetzt davon gesprochen, was vier Personen in Wahrheit verantworten und man kann dort schon zuschauen, was die tun auch davon lernen, was sie tun aber man kann sich nicht zurücklehnen und sagen tiefe Herrschaften müssen alles regeln sondern für mir ist es doch so dass jeder der ein Tool einsetzt selbst für den Einsatz des Tools verantwortlich ist.

00:09:22: ich bin heute zu ihnen hier von Oberösterreich mit dem Auto her gefahren Und wenn da auf der Autobahn in einer Baustelle eine Achtziger-Beschränkung ist, dann bin ich dafür verantwortlich dort Achtzig zu fahren.

00:09:32: Da kann ich nicht sagen ja das Auto gibt's zwei Hundert her.

00:09:35: Der Hersteller lässt mich mit dem Auto zweihundert fahren also bin ich zweihundert gefahren.

00:09:38: Das sind nicht mein Schritt dass ich im Achtzeiger zweihundred fahre.

00:09:42: Ich bin dafür verantwürdig...

00:09:43: ...das anschauliches Beispiel?

00:09:45: ...dass so einzuhalten!

00:09:46: Das heißt wir müssen nicht darauf warten dass irgendjemand anders für uns was regelt.

00:09:51: Wir müssen schauen, dass das, was wir im eigenen Kontext einsetzen, dass wird da dafür sorgen, dass es Safety entspricht.

00:09:58: und was heißt Safety?

00:10:00: Die der englische Sprache kennt für Sicherheit zwei Wörter nämlich Safety und Security.

00:10:05: Security wäre sozusagen alles was Angriffe von außen angeht.

00:10:07: die würde ich heute mal Außen vorlassen.

00:10:09: wie wollen Sie halt mit dem Thema Safety beschäftigen?

00:10:11: und Safety ist die Innenansicht.

00:10:13: Das ist sozusagen alle Sicherstelle was in meiner Verwendung dieser Maschine oder dieses Tool so wie man Dieses Modell, was ich mir dann bezeichnen möchte, meine Verwendung davon sicher macht.

00:10:23: Und Sicherheit hat zwei Aspekte.

00:10:25: Sicherheit heißt auf der einen Seite die Abwesenheit von Gefahren.

00:10:28: Das muss man erkennen.

00:10:30: wo Laura gefahren und was kann ich tun dagegen?

00:10:32: Und das Gegenteil von Sicherheit ist Unsicherheit!

00:10:35: Und Unsicherkeit ist der Feind von Vertrauen.

00:10:39: Darum verwenden wir sehr gerne den Begriff Trustworthiness weil er sehr viel mehr umfasst.

00:10:44: dass nur das Wort Safety kommt sehr stark aus dem Risiko Gedanken raus.

00:10:48: Das Wort Trustworthiness, also Vertrauenswürdigkeit von dem was ich da verwende geht noch ein Stück weiter und zeigt mir den Nutzen davon auf die ich eigentlich davon habe.

00:10:57: Weil ich möchte dem Ding vertrauen können wenn ich es verwende.

00:11:00: Ich möchte mich darauf verlassen können dass das tut was es tun soll Und ich brauche das Vertrauen und das ist jetzt gerade im Unternehmenskontext super wichtig.

00:11:08: Ja, ich brauch das Vertrauen von meinen Stake Holdern, dass ich mit dem Zeug keinen Blödsinn mache.

00:11:14: Das heißt, ich brauch das Vertrain entweder wann ich's inti an verwendet Von meinen Witterweitern, von meinem Aufsichtsrauz als Geschäftsführer.

00:11:21: Dass das alles mit rechten Dingen abläuft und dass genau das tut woraus, wofür es gemacht worden ist.

00:11:27: Und wenn ich es Richtung Kunden weitergebe dann verbrauche natürlich das Vertrauen meiner Kunden vielleicht auch Lieferanten oder Partner.

00:11:33: Also dieses Vertrauen ist unglaublich wichtig und muss sicherstellen können.

00:11:36: Das kann ich mir sicherstellen Wenn nicht davon Gebrauch gemacht habe von allem was notwendig ist um das System abzusichern.

00:11:45: Wenn Sie das System nennen Es geht ja nicht nur um die Sicherheit von einzelnen KI-Modellen, also sozusagen vom Werkzeug.

00:11:54: Sondern offensichtlich um die Safety oder die Sicherheit im gesamten System.

00:11:59: wenn sie uns vielleicht mal schildern können was so ein KI-System alles umfasst das ist ja nicht ein Tool, also in einem Unternehmenskontext.

00:12:09: Wenn es hier auch sehr technisch möglicherweise kurz wird aber so um sich eine Vorstellung zu machen worüber wir sprechen?

00:12:15: Absolut!

00:12:15: Ich werde versuchen nicht technisch zu machen weil das ist ja ganz ganz ganz wichtige Frage die sie da stellen.

00:12:20: und bei KI ist es halt so dass man, dass es sehr schnell komplex wird und sehr schnell nicht greifbar.

00:12:26: wenn wir von KI reden reden wir im Kern immer von dem Modell.

00:12:30: von diesem KI-Modell das auf irgendwas trainiert ist derzeit sehr stark von generativer KI, also von large-language Models, LLMs.

00:12:39: Aber das ist natürlich nicht die einzige Form von KI.

00:12:41: Es gibt da Maschinenlearningmodelle wie immer.

00:12:44: Das Modell an sich, dass sozusagen, ich sag mal die Magie vollzieht, dass das als Input irgendwas macht und ein Output rausspuckt am Ende des Tages.

00:12:54: Dieser Nucleus dieses Modells aber so zu sagen nur einen Teil des Gesamtsystems weil das tut ja von selbst nichts.

00:13:01: Das braucht man von irgendwo her einen Input aus dem es dann was macht Und es gibt irgendwo hin einen Output.

00:13:08: Die Antwort, wenn ich an einen Chats denke oder auch Daten die es irgendwo hinleitet, wo dann was weiter passiert?

00:13:13: damit und damit ist das immer eingebettet unter einem System in einer Gesamtkonstrukte.

00:13:19: Das heißt da wo etwas reinkommt und da wo was raus kommt gibt Schnittstellen, nennt man das hinein EPS-Schnittstellen und auch diesen Teil des Systems, der auch dort kann irgendwas schiefgehen oder sich was verändern.

00:13:32: beurteilen will, ob das Gesamtsystem Trust-WRF ist.

00:13:35: Ob es vertrauenswürdig bleibt muss ich auch diese Schnittstellen mit berücksichtigen.

00:13:39: Ich muss da vorberücksichtigt was ist denn das?

00:13:42: Wo kommen denn die Inputs her?

00:13:44: Die sind ja irgendwo entstanden, da der Kamera irgendwas aufgenommen, da hat jemand irgendwo etwas reingesprochen.

00:13:49: oder hat jemand in ein Chat, wenn sie zu was reingeschrieben?

00:13:52: also irgendwo gibt's ja einen Teil davor wo das Input passiert.

00:13:56: Stellt mal uns vorher ein Kraftwerkbetreiber monitort seine Turbinen Dann ist da vielleicht der Schallsensor an der Turbine dran, der manitiert ob da nur Wasser grad durchfließt oder ob da Sedimenter dabei sind.

00:14:08: Ob da Steine grad durch fließen und die Turbinen kaputt machen.

00:14:11: Und er macht das deshalb... Weil wir wissen wie belastet ist diese Turbina um zu erkennen wann ist denn die auszutauschen?

00:14:18: Das Predictive Maintenance um zu erkennen sozusagen bevor das Ding kaputt geht dass er rechtzeitig Maßnahmen treffen kann.

00:14:25: D.h.,

00:14:25: da ist der Vor-System mit einem Schallsensor, das wird weitergeleitet, es wird vielleicht irgendwo mit einer klassischen deterministischen Software verarbeitet bevor's dann in ein AI-Modell im Kern geht, wo vielleicht auch vorher sage ich, wann dieser Prediction Fall sozusagen, also wann dieses End of Life von der Turbine eintritt oder ob man die Turbinen zurückschrauben sollte weil man diese Elemente ablassen möchte damit die Belastung wirklich gering ist.

00:14:50: Also es passiert was davor und an der Schnittstelle.

00:14:53: Dann tut das Modell was, in dem Fall Vorhersage machen zum Beispiel.

00:14:56: Und gibt diese Vorhorsage dann wieder über eine Schnittstelle in irgendein anderes System aus wo ich es auslesen kann oder als Mensch Entscheidungen treffen kann oder wo wieder Software damit arbeitet.

00:15:06: und dieses gesamte System muss ich beachten weil wenn irgendwo sich in diesem System etwas ändert der Schallsensor altert ist durch keinerlei Gewitter beeinträchtigt weil da zusätzliche Geräusche dazukommen die vielleicht nicht nur aus der Doppine kommen sondern von außen.

00:15:19: An der Software kann sich was ändern, die Dataministisch programmiert, man ist da gibt es ein Update.

00:15:23: An der Schnittstelle kann sich etwas ändern und den Ausgabe kann sich das Gesamtsystem betrachten um feststellen zu können ob das Gesamtsystem an sich noch so arbeitet wie ich es mir wünsche

00:15:35: Wenn's denn heran so geht wie mir dann bin ich jetzt nicht unbedingt beruhigt weil KI selbst ist schon komplett.

00:15:42: also das Werkzeug selbst oder die Algorithmen wie sie arbeiten sind schon komplex genug und für uns nicht mehr nachvollziehbar.

00:15:49: Jetzt haben Sie sehr eindrücklich geschildert, dass es um Safety in einem System gibt mit unendlich vielen Schnittstellen.

00:15:55: Mit Input und Output wo es um Datenwahrheit geht und was auch immer.

00:15:59: Das heißt die Frage um dieses Vertrauen zu erzeugen braucht das ja Kontrolletestmechanismen auf die wir zu sprechen kommen.

00:16:07: Die ist doch in Anbetracht der Größe und der Komplexität des Systems so unendliche schwierig.

00:16:13: Ist das überhaupt heute noch machbar?

00:16:16: Kann man... kontrollieren, was in dem ganzen System passiert und kann man vor allem feststellen wo in dem System ein Fehler möglicherweise liegt.

00:16:24: Und wie macht man das?

00:16:26: Schwierige

00:16:26: Frage oder großräumig.

00:16:30: Um diese schwierigen Fragen zu beantworten betreiben wir seit mehr als sechs Jahren Forschung.

00:16:35: also dass ist nichts wo wir angetreten sind und gesagt haben wir das klingt spannend das machen wir jetzt einfach mal obwohl natürlich im TÜV Konzern sehr viel Kompetenz zu dem Thema testen Sicherheit herstellen da ist.

00:16:47: Aber wir sind nicht einfach angetreten und haben gesagt, ja wir sind die Testprofessor können das schon, sondern wir waren uns sehr wohl bewusst dass es da sehr viel Forschung braucht dazu Und darum haben wir seit sechs Jahren ein ganz sehr großes Team an Forschern, nicht nur unsere eigenen Leute sondern vor allem eben und drum ist die Justify auch eine tolle Adventure zwischen dem TÜV Austria und dem Softwarekompetenz Center Hagenberg.

00:17:08: Wirklich die schlausten Köpfe auch im Software Kompetent Center Hangenberg in das Projekt eingebunden haben in die Forschung um rauszufinden was ist denn notwendig?

00:17:16: Um solche Systeme überprüfbar zu machen.

00:17:18: und zusätzlich zum Software kompetenz center Hagenberge ist auch noch die Johannes Keppler Universität involviert Mit dem Institutrund und dem Sebrochreiter, ich glaube dabei auch schon zu Gast hier im Podcast.

00:17:30: Und die sind involviert seit über sechs Jahren in der Forschung.

00:17:33: was ist denn notwendig um das alles überprüfbar zu machen?

00:17:36: Das heißt wir beschäftigen uns sehr stark von der wissenschaftlichen Seite damit um letztendlich nicht einfach nur eine Checkliste abzuhaken und zu sagen sind da gewisse Maßnahmen in place oder nicht sondern wirklich auch wissenschaftlich methodisch nachweisen zu können und es bedarf sehr viel Statistik an dieser Stelle statistisch nachweisen zu können, dass dieser Trustwerfenescore tatsächlich auch hält und in der Praxis auch nachhaltig hält.

00:17:59: Und dazu brauchen wir die Betrachtung von diesem Gesamtsystem – das klingt unglaublich komplex!

00:18:03: Ist es auf den ersten Blick vielleicht auch?

00:18:05: Aber wenn man das runterbricht auf die Moving Pieces, die da im Spiel sind dann wird's handelbar.

00:18:11: Warum gehts denn in Wahrheit?

00:18:12: Es geht ja nicht darum sozusagen das Gesamtsystem mehr als möglichst komplexes Gesamt-System zu sehen sondern es geht darum zu sehen wo sind denn die Stellschrauben wo etwas passieren kann, sich einfach dessen bewusst zu sein und sie an jeder dieser Stellschrauber zu überlegen wenn sich die bewegt.

00:18:28: Wie viel darf es sich denn bewegen um trotzdem noch im Gesamtsystem zu funktionieren?

00:18:32: Und wo sind die Schwellwerte, wo's kritisch würden, wo man aufpassen muss?

00:18:39: Darüber sozusagen ein Monitoring zu haben.

00:18:40: und das ist auch der Grund warum Open Air also viel in diesen Monitoring Teil investiert.

00:18:45: Welcher komplexer das wird, desto mehr Stellschreiben muss er natürlich im Blick behalten Und dass du mehr Aufwand bedeutet, das sozusagen auch dann in der Umsetzung.

00:18:54: Aber vom Prinzip her ist es nicht besonders schwierig wenn man weiß worauf man schauen muss und vor allem weiß wie man richtig messen kann ob die Trustwerfenessen auch wie vorgegeben sind oder nicht.

00:19:04: Dafür haben wir diesen Katalog entwickelt aus dieser jahrelangen Forschung mit ungefähr vierhundert Kriterien, die je nachdem welches Projekt das ist mehr oder weniger zur Anwendung kommen.

00:19:14: Die uns eben ermöglichen auf die richtigen Details zu schauen um zu sehen ob diese Just-Würfel noch wie vorgegeben ist.

00:19:20: Wie darf ich mir das vorstellen?

00:19:21: Das ist Brett wo dann rote Lampel aufleuchten wenn es in irgendeinem Teil des Systemes etwas nicht so funktioniert wie geplant oder weil sie sagen Messwerte was können Sie konkreter zur Hand geben, damit ich mir vorstellen kann was gemessen wird und wo die Alarmsignale leuchten.

00:19:39: Die Analogie mit dem Brett und den roten Lämpchen ist gar nicht so verkehrt.

00:19:43: Technisch vielleicht ein bisschen komplexer aber in der Anwendung tatsächlich genau so dass man immer lärts kriegt.

00:19:48: dort wo man hinschauen sollte um es vielleicht greifbar zu machen ist.

00:19:52: wir schauen auf dieses Gesamtsystem und wir schauen auch auf die gesamte Life-Syke dieses Systems.

00:19:56: das heißt wenn wir initial mal evaluieren ist das System TrustWare für oder nicht bevor es dann in ein Live-Betrieb geht, wo man dann monitort.

00:20:03: Dann schauen wir wie ist das entstanden und wie ist dieses Setup davon?

00:20:08: Und das beginnt ganz am Anfang beim Konzept.

00:20:11: Dort wo man darauf schaut wofür ist das eigentlich gemacht wenn einer das Intended Use und in welchem Rahmen soll das funktionieren ums vielleicht anhand von einem Beispiel greifbar zu machen der Intended use kann sein ich möchte Hautkrebs erkennen Vielleicht sogar einen ganz spezifischen.

00:20:25: Der Hautkrebs gibt es ja auch verschiedene Versionen, vielleicht sogar ein ganz spezifischen davon.

00:20:29: Also das mit Entended Use Das Umfeld in dem ich das können möchte und das nennt wie die Application Domain Weil das Umfeld im dem ich's können möchte spüte eine Rolle weil es gibt junge Hautes gibt mittel altes alterliche Haut Es gibt alte Haute Es gibt unterschiedliche Hautfarben.

00:20:45: Aber wenn man der Motologen fragt da wird wahrscheinlich noch fünfzig Kriterien aufzählen können Die noch einen Unterschied machen können Und drum ist es wichtig zu definieren In welchem Rahmen möchte ich den Hautkrebs erkennen können.

00:20:56: Das ist natürlich ein Unterschied, das möchte ich in Österreich mit Leuten, die in Österreich leben, auch können und es wäre wahrscheinlich schon komplex genug oder ich möchte das auf der ganzen Welt mit allen Menschen, die es auf der Welt gibt gleich gut können.

00:21:08: Dort fängt es an weil aus dem leitet sich alles andere ab was das System dann tatsächlich leisten muss.

00:21:12: Aus diesem Intended Use und aus dieser Application Domain wo möchte ich das können?

00:21:16: Leitet sich alle andere ab nämlich wie muss das Modell trainiert sein?

00:21:19: Welche Daten brauche du dazu?

00:21:21: Logischerweise, wenn ich alle Altersglassen und alle Hautfarben abdecken möchte, brauche andere Daten und sehr viele komplexere Daten mit sehr viel mehr Tiefe in allen diesen einzelnen Unterschiedsbereichen.

00:21:31: Sehr für mehr Daten als wenn es auch gemacht ist nur mit einer bestimmten ethnischen Gruppe oder einer bestimmte Altersgruppe

00:21:38: können.".

00:21:38: Das

00:21:38: heißt das hängt sehr stark von der Zulingung?

00:21:42: Ja!

00:21:42: Das heißt es hängt zerstark von der Zieldefinition vom Anwendungsgebiet.

00:21:46: aber so ich hatte vor ein paar Tagen Die Frau Verena Trost, Partner bei IBM Österreich hier und da haben wir gesprochen über den Return on Investment von KI-Projekten.

00:21:58: Und warum so viele KI- Projekte scheitern?

00:22:00: Und die zentrale Aussage war das... also da ging es sehr stark auch um die Messbarkeit deswegen komme ich darauf zu sprechen und die zентrale Aussagen war ... natürlich nur dann, wenn man vorher auch ganz klar definiert hat was der Outcome sein soll.

00:22:14: Und ich nehme an mit CFD verhält sich ähnlich.

00:22:16: also sie messen gewisse Parameter um festzustellen ob die Sicherheit gegeben ist aber immer im Kontext von dem was das System oder das KI-Modell leisten soll.

00:22:27: Richtig genau auf den Punkt gebrauchen.

00:22:28: und es ist eine ganz entscheidende Frage weil letztendlich das was ich mir hier als Rahmen gebe in dem ich funktionieren möchte ist ja auch gleichzeitig der Rahmen in dem ich noch verantwortlich dafür bin, dass es funktioniert.

00:22:40: Und in diesem Raum muss ich nachher sicherstellen, dass das funktioniert.

00:22:44: Das heißt, ich tue gut daran diesen Intended Use logischerweise zu definieren und das so weit denken die Leute ohnehin noch aber auch diese Application Domain zu definiern.

00:22:52: Weil wenn ihr sehr gerne sagen möchtet mit der Kamera im Auto einbauen und ich soll Verkehrszeichen erkennen sodass ich eben Achtzig fahre in der Baustelle und nicht mit meinen Zweihundert durchfahre, wenn ich das sage möchte können Dann ist es ein sehr breites Spektrum, das ich da definiere.

00:23:07: Da ist ja wieder die Frage, wo möchte das können?

00:23:09: Sei das mit österreichischen Verkehrszeichen funktionieren oder sind Deutschland auch funktionierend?

00:23:13: Ein englischer Verkehrszeug kann vielleicht anders aus und stehen auf der anderen Straßenseite.

00:23:17: Zudem ist dort vielleicht noch extrem neblig und in Vietnam schauen die Verkehrszeichnungen auch anders aus.

00:23:23: Sie muss definieren, wo möcht ihr denn das

00:23:24: können?".

00:23:25: Und nur wenn ich das richtig definiere, kann ich erstens das Modell richtig trainieren und lege damit auch fest, wofür möchte denn letztendlich verantwortlich sein.

00:23:33: Aber wenn es auch gemacht ist für Österreich und dann fährt dort jemand in England, dann ist halt auch bewusst, dass es Autoscope wird wahrscheinlich nicht funktioniert oder vielleicht nicht so gut funktionieren wie in der Application Domain wo es eigentlich geschaffen wurde dafür.

00:23:48: Damit kann dieses Feld auch klarer abstecken – macht's für mich als ... Hersteller aber auch als Anwender für einfacher und vergreifbarer zu verstehen, wofür ist das denn gut?

00:24:00: Jetzt sprechen wir hier nicht über das was ich vorher gemeint habe mit IBM.

00:24:06: Über den Return on Investment in so ein Projekt bringt und ob es den Ansprüchen entspricht sondern Es geht ja darum um Safety Das heißt dass es auch sicher ist.

00:24:17: Wo liegt der Unterschied.

00:24:18: also sicher funktionieren bedeutet ja auch funktionieren so wie es intended ist, so wie Sie gesagt haben.

00:24:25: Gleichzeitig geht der Begriff Sicherheit hier darüber hinaus.

00:24:29: also wir haben ja anfangs die Beispiele genannt von einer KI die sich möglicherweise verselbstständiger oder zumindest das Ding gemacht die nicht geplant waren.

00:24:36: Das ist ja auch ein bisschen die große Furcht in dieser polarisierten Diskussion zu diesem Thema.

00:24:44: Also nochmal sozusagen konkret vielleicht auch anhand von einem Projekt Beispiel oder Unternehmensbeispiel Was ganz genau mit Sicherheit gemeint ist.

00:24:53: Sie haben schon viele Aspekte davon genannt, aber wo schlagt denn das Lämpchen an?

00:24:59: Was muss passieren damit?

00:25:00: sie sagen hier wird nicht nur das angestrebte Ziel nicht erreicht sondern hier wird es gefährlich.

00:25:06: Das auch immer so bedeutet.

00:25:07: Genau

00:25:08: da kommen zum zweiten ganz wichtigen Aspekt der definiert werden muss nämlich wir nennen das Minimum Performance Requirements.

00:25:14: was ist denn sozusagen diese Minderstelle über die ich drüberkommen möchte um sicherzustellen, dass das System, das ich verwende auch einen Sinn ergibt.

00:25:25: Wenn ich wieder bei dem Hautgrabz-Beispiel bleibe mit welcher Wahrscheinlichkeit will ich diesen Hautgabzer erkennen können?

00:25:33: Jetzt wäre die logische Antwort hundert Prozent.

00:25:34: die gibt's aber in den seltensten Fällen auch wenn ich am Arzt es ein anbild von der Krebszelle-Hinhalte, weil nicht hundert Prozent Wahrscheinlichkeit, dass er sie richtig interpretieren wird.

00:25:45: Also werdet das von einem System wahrscheinlich auch nicht erwarten können.

00:25:47: aber wir werden irgendeine Erwartungshaltung haben wo ich sage darunter ist es inakzeptabel und ob da jetzt gefährlich?

00:25:53: Das ist die Medizin ein hervorragendes Beispiel dafür.

00:25:56: Es wird auch in der Diagnose eingesetzt.

00:25:59: Aber es trifft natürlich jeden Bereich, weil ich kann bei dieser Sedimentsanalyse sagen wenn diese Sedimentsanalysen von VATV genannt haben bei dem Kraftwerk wo ich sage ich möchte den Durchfluss sozusagen bei der Turbinemessen und wenn da zu viele Sedimente drin sind wird die Turbine kaputt.

00:26:14: also entscheide ich als Kraftwerksbetreiber sind gerade so viele Steine drin?

00:26:18: Ich drehe das Kraftwerk um zehn Prozent zurück lasse die Steine abfließen Die Turbine ist wenig belastet, wenn die Steine durch sind dann fahre ich wieder hoch.

00:26:26: Auch dann möchte ihr eine Sicherheit haben dass diese Entscheidung richtig ist.

00:26:30: Weil da hängt ja wirtschaftlich was dran.

00:26:32: wenn ich das Kraftwerk um zehn Prozent zurückfahre und das nur für ein paar Minuten verliere ich unfassbar viel Stromproduktion in der Zeit und habe damit einen wirtschaftlichen Schaden.

00:26:39: Und da muss ich sagen wann ist der akzeptabel?

00:26:42: Und um wieviel darf er mit aerieren?

00:26:44: und wann ist es gescheitert die Turbinen einfach laufen zu lassen weil medailliertum kostet als was immer bringt wenn die Prognose richtig ist.

00:26:52: Und auf diese Prognosen gibt es immer zwei Sichtweisen drauf, die ist gerade beim Krebs.

00:26:57: Das ist ja schön sichtbar.

00:27:00: in welche Richtung möchte ich mich denn ehren?

00:27:02: Wenn nicht schon ich ehre!

00:27:03: Weil dass ich mir ehren werde sozusagen das bis mal zu hundert Prozent gibts und die werden mir ehiren.

00:27:08: dann frage ich an welche Richtung möchte mit den Ehren.

00:27:10: Ist es mir lieber?

00:27:10: das System sagt fälschlicherweise Ich hab Krebs und ich habe keinen.

00:27:15: oder ist es mir lieber?

00:27:16: das System Sagt alles in Ordnung und ich hab aber Krebs.

00:27:19: Ich glaube, die Antwort ist eindeutig.

00:27:20: In dem

00:27:20: Fall ist sie recht eindeuteutig?

00:27:21: Also in diesem Fall wäre es mir natürlich hundertmal lieber, ich schreke mich einmal kurz aber in Wahrheit ist alles in Ordnung.

00:27:26: In anderen Fällen ist das nicht zu einfallen?

00:27:28: In

00:27:28: anderen Ferien kann es umgekehrt sein.

00:27:29: also es ist durchaus im beide Richtungen zulässig und da muss man mal Gedanken machen sozusagen was wir nennen das in der Statistik false positives.

00:27:38: In welche Richtung sind denn diese false positives gefährlich?

00:27:41: wo ist tatsächlich Gefahr dahinter und Risiko das abzuwenden gibt und in welcher Richtung ist es akzeptabel Und auch

00:27:48: wirtschaftlich oder unwirtschaftlich.

00:27:50: Also ein ganz banales Beispiel zu bringen, das mit Kai gar nicht so tun hat.

00:27:53: aber ich weiß dass bei meiner Mutter die Alarmanlage permanent lagdet obwohl niemand einbricht.

00:27:58: und das Problem ist... Die Polizei wird gerufen was auch immer verursacht kosten Zeit und dann muss man sich überlegen will ich sie so einstellen wie Sie gesagt haben dass ihr einmal zu viel oder einmal zu wenig ladet?

00:28:09: Das

00:28:10: wäre jetzt genau der Fall in die andere Richtung.

00:28:16: Bei der Alarmanlage ist es mir wahrscheinlich lieber, sie schlägt einmal zu wenig an als einmal zu viel.

00:28:21: Die Problematik die nämlich entsteht wenn sie zuviel anschlägt, ist dass sie ignoriert wird und dann wird sie auch ignoriert in dem Fall wo sie eigentlich richtigerweise schreit.

00:28:30: Wer immer nach dem ösen Wolf schreitet hat irgendwann nicht mehr gehört.

00:28:33: das haben

00:28:34: wir alle gehört.

00:28:36: Das heißt da ist genau der Fall in die andere Richtung.

00:28:38: also auch das muss ich mal Gedanken machen.

00:28:40: wohin steht denn eigentlich die Gefahr?

00:28:42: Und die ich abwenden will, wenn du dann keine richtige reagieren darf und auch das System richtig einstellen.

00:28:47: Es gibt im Kontext mit all dem was wir gerade besprechen zwei Wörter Compliance & Assurance die immer wieder vorkommen.

00:28:57: da geht es um vertrauenswürdige künstliche Intelligenz.

00:28:59: können sie vielleicht für uns diese beiden Begriffe erst mal definieren und ein bisschen auseinanderhalten was damit gemeint ist und warum die so eine bedeutende Rolle oder zumindest einer der beiden eine immer größere Rolle in der aktuellen Diskussion spielen?

00:29:11: Ja, die zwei tauchen tatsächlich in der aktuellen Diskussion immer wieder auf.

00:29:15: Compliance ist ganz plattgesagt, einfach ich bin mit irgendetwas konform das eine Regelwerk vorschreibt.

00:29:22: Dass ich

00:29:23: eine

00:29:23: Regelwerke, dass ich mir möglicherweise selbst gescheben

00:29:26: habe oder diese Gesetze... Ist

00:29:27: noch nicht zu aushalten.

00:29:30: Das ist großartig notwendig.

00:29:33: Kann etwas Ethisches sein und möchte einfach entsprechen.

00:29:36: Complance heißt nichts anderes wie Ich entspreche dem was vorgegeben ist notwendig und sollte man natürlich machen.

00:29:45: Assurance geht einen großen Schritt weiter, Assurance ist dazu in Sicherheit herzustellen oder die Absicherung herzustellend.

00:29:51: Und das hat für mich eine intrinsische Motivation während der Compliance sehr stark extrinsisch motiviert ist.

00:29:55: Da gibt es ja irgendeine Vorgabe und da muss ich entsprechend oder möchte ich entsprechen wenn es etwas Ethisches ist.

00:30:01: Geht die Assurance mehr auf den intrinsischen Faktor, dass ich möchte gewisse Kriterien erreichen weil sie mir selbst wichtig sind?

00:30:08: Und das ist aus dem wirtschaftlichen Aspekt heraus natürlich die wesentlich spannendere Frage.

00:30:13: Was kann ich denn tun, um all das sicherzustellen was mir letztendlich auch den wirtschaftlichen Nutzen verschafft?

00:30:21: Weil alles das was ich hier mit Trustworthiness und Safety betrachte natürlich an einen gesellschaftlichen Aspekten ist aber vor allem auch den Aspekt dass ich das brauche um in die Wertschöpfung zu kommen.

00:30:32: Und Sie haben vorhin das Beispiel genannt, mit dem dass so viel stecken bleibt irgendwo in einem Piloten.

00:30:36: Das liegt daran, dass man einfach die Dinge nicht in die Wärtschöpfungen bringt und an den richtigen Hebeln zu drehen, die es möglich machen aus einem Test raus, die Sachen so festzuzuhren, dass sie auch wirklich sinnvoll verwertbar werden und in die wertschöpfung kommen.

00:30:52: Dass sie dienlich werden, mein Vater hat immer gesagt wer dient verdient?

00:30:57: Da kommt der wirtschaftliche Aspekt rein.

00:30:58: Ich muss sozusagen was schaffen, das auch wirklich an Dienst leistet und Wert schafft.

00:31:02: Dann werde ich in die Wertschöpfung

00:31:03: kommen.".

00:31:04: Und da hilft uns die Safety dazu, nämlich dieses Vertrauen herzustellen.

00:31:09: Und darum, wenn man diesen Begriff der Just-Würfel ein schönes Stück weitergeht, dieses Vertrauen herzustellt, dass es uns in die wertschöpfung bringt.

00:31:16: Und drum ist die Assurance der wesentlich spannenderer Aspekt, der letztendlich dann die Compliance mit einschliesst wird.

00:31:22: Jetzt ist die Fahre wiebrüft.

00:31:24: Geschäftsführer Er kann das selber machen, er kann sich jemandem sein Vertrauen in den Unternehmen dazuholen.

00:31:29: Wenn der sagt es passt dann vertraue dem und vertraube auch meine Verantwortung.

00:31:34: Demane ich kann die Verantwortung weiterdelikieren.

00:31:36: Ich bleibe beantwortlich aber ich vertraude darauf dass das stimmt was derjenige sagt und halte meinen Kopf hin wenn's nicht stimmt oder er kann einen Exzellen dazu holen der ihm hilft oder kann sich einer exzellent dazuholen der mit ihm da gemeinsam drauf schaut der vielleicht damit eine exzelle Sicht aufschaut und das kann helfen Obwohl die externe Sicht noch helfen kann, ist bei der Vertrauenswürdigkeit.

00:31:57: Aber wenn ich sagen kann, da hat jemand drauf geschaut und vor allem, wenn wir nicht sagen können es hat jemand darauf geschaut wie der TÜV, der für Sicherheit steht dann hat das halt auch ein gewisses Gewicht gegenüber Mitarbeitern, gegenüber einem Aufsichtsrat ins Internist oder auch gegenüber Kunden oder Lieferanten des Hilfs an dieser Stelle.

00:32:14: aber polfen muss man auf jeden Fall, der verantwortlich ist.

00:32:16: Dann kann er sich jemandem dazuholen Wenn er glaubt dass ihm das hilft und in vielen Fällen hilft Und nur dort, wo es auch gesetzlich gefordert ist, muss man vielleicht jemanden extra dazu holen bei mehr Ereign.

00:32:29: Dass dieses Kontrollorgan gerade entstehen ist.

00:32:32: Das letzte Mal, als ich geschaut habe, ist das so dass die Regierung noch niemanden berufen hat der sozusagen dieses Kontrollergan-Beruf da, wenn zu weit ist dann wird dort vermutlich die Wahl auf den TÜV fallen.

00:32:45: nachdem wir uns schon so lange mit dem Thema beschäftigen und so wissenschaftlicher angehensweise an das Thema haben, ist es sehr neuligend dass diese Zertifizierungstelle dann beim TV Austria liegen wird.

00:32:56: Das heißt dann stehen wir dort bereit wo's gesetzlich vorgeschrieben ist.

00:33:00: Wir sind aber heute schon dort bereit, wo jemand sagt, ich möchte gerne diese Unterstützung haben.

00:33:05: Dann sind wir mit Justify und mit dem TV Austria heute schon da um zu unterstützen diese externe Sicht draufzugeben wie das Lektorat bei einem guten Buch.

00:33:14: In Europa setzt man ja in Sachen EICF die... sehr viel auf Regulierung, anders als in anderen Teilen der Welt.

00:33:24: Und gleichzeitig wird da die Kritik laut das zuviel an Regelwerk und Bürokratie-Innovationshelmen sind.

00:33:30: Sie haben ja die Wirtschaftlichkeit gerade angesprochen hat mit der Schönheit auch zu tun.

00:33:34: Jetzt ist die Frage wohl liegt denn der richtige Mittelweg?

00:33:37: Weil ich stelle mir so einen Wettbewerbskampf vom so ein bisschen martialisch zu sagen schwierig war wenn einem im Messer und einer mit der Pistole kommt.

00:33:45: Ich weiß, es geht nicht um Krieg.

00:33:46: Es geht nur um Wirtschaft.

00:33:48: aber Sie verstehen meine Frage also ist es schwierig zwischen diesen beiden Polen einen richtigen Weg zu finden oder nicht?

00:33:56: Wo sollten wir uns da positionieren?

00:33:58: Meilen sie?

00:33:59: Ja danke für die spannende Frage, die mir natürlich immer wieder an unterschiedliche Orten und Weißen habe ich immer mit dem Kern den sich gerade ansprechen unterkommt.

00:34:07: Und wenn mir diese Frage gestellt wird ladet die Leute immer auf ein Gedankenexperiment ein würde ich mit ihnen auch gerne jetzt machen.

00:34:14: Es passieren gerade zwei Dinge auf der Welt, also es passieren eine ganze Menge Dinge auf die Welt.

00:34:18: aber was sind sie mal auf zwei Dinge fokussieren?

00:34:20: Die gerade parallel passieren und glaube ich spannend sind?

00:34:24: das eine was passiert ist.

00:34:26: Ich habe vorher gesagt wir forschen seit über sechs Jahren an diesem Katalog wie wir diese Sicherheit sicherstellen können Und aus dieser Forschung raus hat sie Wir nennen es in unserem Gedankenexperiment so, wie ein Buch mit magischen Formeln entwickelt.

00:34:44: Das sind konkret vierhundert ungefähr die wir verwenden um Unternehmen zu helfen aus diesem Pilotstadion wo ja unglaublich viel momentan gerade drinsteckt in der Industrie.

00:34:54: Ganz ganz viele dieser Piloten diese Piloten in den Wertschöpfung zu kriegen und

00:34:58: in die

00:34:59: Skalierung einzubringen und in dieses dass das was intended ist sozusagen auch tatsächlich funktioniert.

00:35:06: Und dazu braucht es diese Stellschrauben, an denen wir drehen um aus dieser guten Idee die da ist.

00:35:14: Die so zu formen dass sie auch tatsächlich funktioniert.

00:35:18: Und dazu braucht es diese magischen Formeln, nicht nur um die Sicherheit sicherzustellen sondern auch um das System dorthin zu kriegen.

00:35:25: Dass er es tatsächlich leistet was es leisten soll und dessen nachhaltig!

00:35:29: Nicht nur in einem Piloten, sondern auch dann im Leifbetrieb wo die Daten vielleicht anders daherkommen.

00:35:33: Wo vielleicht irgendwo Änderungen drin sind, die ich vorher nicht bedacht habe.

00:35:37: also all diese Dinge sozusagen braucht es um im Leibbetrieb tatsächlich Wertschöpfung zu bekommen.

00:35:43: Wenn wir von Innovation reden?

00:35:44: Was braucht die Innovation?

00:35:45: Es braucht eine gute Idee Aber die alleine reicht nicht aus, sondern das muss diese gute Idee in die Produktion kommen und in die Wertschöpfung kommen.

00:35:52: Nur durch die Wertchöpfungen entsteht dann tatsächlich die Innovation.

00:35:55: Und unsere Forschung hat zu diesem magischen Handbuch geführt mit diesen Formeln drinnen, die von diesen Bullorten in diese Innovation führen können.

00:36:05: Also ist das was wir erforscht haben, Innovationsfördern?

00:36:09: Das hat die Industrie auch erkannt!

00:36:11: Warum will das momentan jeder haben?

00:36:13: Kommt jeder zu uns und sagt, wirkt's mal eure Margie bitte mit dem Zeug auf unsere Systeme die wir ans Ausgedacht haben.

00:36:21: Und das machen wir, das funktioniert super!

00:36:23: Das ist eine was passiert.

00:36:25: Das zweite was passiert ist es ist er Eigt geschrieben worden.

00:36:29: Ich war Eigt und das ist ja grundsätzlich mein Browserwerk und damit dieses Browserwert verständlich wird und auch anwendbar wird, wird es derzeit gerade enormen übersetzt.

00:36:40: in konkrete Vorgaben im Namen, an die sich die Leute dann orientieren können und diese eine Umsetzung bringen können.

00:36:48: Und diese Normierung, die entsteht gerade in zwei Gremien, die heißen Zen- und Zenelegg, die sozusagen das was der AI Act enttendet, so zu sagen, was er haben möchte, was die Versetzen des Grade eben in diesen Namen.

00:37:01: In diesen Zen-und Zenelegg-Gremien sitzen die Wissenschaftler die unser magisches Handbuch geschrieben haben, deren Forschung sozusagen die Basis ist für unsere magische Handbuch und die schreiben gerade diese Normen.

00:37:13: Das heißt im Prinzip veröffentlichen sie unser magliches Buch in Form von diesen Normen.

00:37:19: Und jetzt kommt der grotesketeil wo die Leute das verwenden dürfen, rufen die bei uns an und sagen bitte kommts mit eurem magischen Handbuch Und wenn es in den Normen veröffentlicht ist, wenn jeder Zugang zu diesem magischen Buch hört, dann wäre es plötzlich innovationshemmend.

00:37:39: Das ergibt irgendwie keinen Sinn und ich habe mir über das viel Gedanken gemacht.

00:37:43: Ich glaube die Antwort darauf, warum man das so sieht – Wenn ich es darf, ist es spannend, wenn ich muss, plötzlich nicht mehr.

00:37:49: Es ist glaube ich eine philosophische sehr menschliche, aber wenn man was darf, dann ist es lustig und sobald man es muss, ist das irgendwie nicht mehr so spannend.

00:37:59: Also es ist eine

00:38:00: sinnvolle Antwort, die mir drauf einfällt Das, was drinsteht in den Normen und in unserem magischen Buch ist endlich das Gleiche.

00:38:07: Das Wissen, dass sie dort kriegen, das ihnen hilft zu übersetzen sozusagen wie Comedy in die Wertschöpfung – das ist das selber!

00:38:14: Nur einmal müssen Sie es und einmal dürfen Sie es.

00:38:16: Vielleicht ist das da ein großer menschliche Unterschied aber um das Ganze nur noch positiv vorabzufliessen als es ohnehin schon ist ich kann den meisten mitgeben sie werden's weiterhin verwenden dürfen Weil auch der EUEI-Akt zählt ja sehr, sehr stark auf High Risk Systeme ab.

00:38:35: Und das betrifft wenige Branchen und in diesen Branchen, der sehr useCase orientiert, auch nicht alles was die tun sondern eben nur die useCases, die tatsächlich auch unter high risk fallen.

00:38:45: Das heißt, die meisten useCasis, die man auf der Welt finden wird werden ohnehin nicht high risk sein.

00:38:50: Das darf sie alle weiter verwenden und nur den high risk müssen.

00:38:53: vielleicht ein Stück weit.

00:38:55: also es bleibt eh jeden.

00:38:58: Die Lust am probieren und der Entscheidungsfreiheit darüber, das zu verwenden.

00:39:03: Das ist ein sehr positives Fazit und auch ein Interessantes mit einem psychologisch-philosophischen Aspekt wo es bei Menschen immer zwischen dürfen und müssen pendelt und was das in uns auslöst.

00:39:15: Was ich heute aus dem Gespräch mitgenommen habe ist dass die aktuelle EISFD Diskussion wichtig ist aber sie soll sich halt nicht auf die Frage reduzieren ob mehr oder weniger Regulierung gebraucht wird, ob das Innovationshemmend oder nicht ist.

00:39:30: Weil es offensichtlich keine Gegendspieler sind sondern die Regeln ermöglichen einem auch innovativ zu sein.

00:39:38: Die entscheidende Frage lautet was Sicherheit überprüfbar macht.

00:39:42: aber genau da liegt offensichtlich die Entwicklungsstufe von der Governance hin zur Evidenz Von der Compliance zu Assurance und von punktuellen Prüfungen und von einem abstrakten Vertrauen hin zu belastbaren Nachweisen.

00:39:57: Also so habe ich das zumindest verstanden, was Sie gesagt haben.

00:40:00: Ich darf sie am Ende, ich darf mich revanchieren und sie auch noch auf ein Gedankenexperiment einladen.

00:40:05: Sie kennen sicher das BOMO It's the Economist You Pits?

00:40:09: Das hat sich der ehemalige Wahlkampfleiter von Bill Clinton damals als Memo auf eine Zettel geschrieben und dann an die Wahnsinn des Arbeitszimmers gehängt.

00:40:17: Sie bekommen von mir jetzt auch einen imaginären Zettel und einen Coolschreiber.

00:40:20: Sie können etwas darauf notieren, das hängt dann in ihrem Zimmer und führt Ihnen täglich vor Augen was Ihnen bei Ihrer Arbeit wirklich wichtig erscheint?

00:40:28: Was schreiben Sie denn

00:40:29: drauf?".

00:40:30: Das ist eine unglaublich spannende Frage.

00:40:32: Ich würde darauf schauen.

00:40:33: wir können Aufgaben delegieren, wir können selbst Entscheidungen delegieren aber niemals verantworten.

00:40:40: Ich danke Ihnen herzlich für das Gespräch über Berge!

00:40:43: Danke!

00:40:47: wie der Einsatz von künstlicher Intelligenz sicher gestaltet werden kann.