00:00:01: Erfahren Sie, wie eine gelungene Datenstrategie Ihren Unternehmenserfolg nachhaltig steigert?

00:00:12: Einblicke, Erfahrungswerte und Tipps gibt es von den Datenexperten Michael Jungschläger und Sven Göllner.

00:00:30: Willkommen zu einer neuen Folge Podcast Wertgeschätzt, grüß dich Michael.

00:00:35: Hi Sven!

00:00:35: Na?

00:00:37: Was hast du Spannendes für uns dabei?

00:00:40: AI Harness.

00:00:42: Harness?

00:00:42: Harness.

00:00:43: Nehmen wir den Harness Alles klar Ja AI Harnes was soll das jetzt sein?

00:00:51: Da reden wir heute drüber.

00:00:53: Okay Warum das wichtig ist und warum man das Ganze

00:00:58: einsetzen sollte Und in welchem Kontext es wichtig ist.

00:01:00: Genau Und deshalb, also jetzt muss man ja den Hinweis geben wir würden das anhand unserer Software mal zeigen.

00:01:07: Wir blenden jetzt hier auch die Folien entsprechend ein aber es macht einfach Sinn dass wir es anhand unseres Software zeigen weil dann können wir die Funktion noch viel viel besser erklären weil draußen ist natürlich unterschiedliche Ansätze gibt.

00:01:20: Das war die Grundidee.

00:01:21: Vielleicht kann man noch mal mitgehen und die Abgrenzung machen, warum sollte man das AI Harness einsetzen oder auch nutzen?

00:01:30: Wenn wir uns die klassischen LMMs anschauen, CPT, Claude und Gemini und

00:01:34: Co.,

00:01:35: dann ist es das klassische Gehirn und sich.

00:01:40: aber das AI Hannes ist letztendlich wie die Nervenbahn alles drum herum also ähnlich wie bei menschlichen Körper.

00:01:49: Du hast zwar oben das Gehirn, aber alles andere muss ja im Zusammenhang funktionieren und betrieben werden.

00:01:55: Sonst klappt es ja nicht!

00:01:56: Und darum solls heute gehen warum das wichtig ist?

00:01:59: Warum man sich Gedanken machen sollte?

00:02:02: Wir gehen einfach mal anhand unserer Plattform das Ganze durch und erklären die ganzen Komponenten.

00:02:07: Das lässt sich dann nutzen um sein eigenes AI-Harness aufzubauen.

00:02:12: Ja,

00:02:12: heißt ja übertragbar für jede andere Software, die damit arbeitet.

00:02:15: Und dann hoffen wir, dass das zur Aufklärung und aber zu sauberen Darstellungen wie Architektur weiterhilft.

00:02:22: Wenn man sich mit solchen Themen beschäftigt die Wissensdatenbanken aufzubauen?

00:02:26: Wie kann man das dann einsetzen?

00:02:27: Wie können sie zum Beispiel in Element verknüpfen?

00:02:30: Deswegen hat aus meiner Sicht keinen Sinn gemacht, dass wir uns irgendwelche Tools jetzt rausnehmen, Obsidian oder weiß was es gibt ja ganz viele oder einen Nacht-N.

00:02:39: Das machen wir an unserer Software, dann ist es auch viel einfacher für uns zu erklären.

00:02:44: Ihr müsst dann für euch entscheiden oder ich gebe gerne mit welchen anderen Komponenten man das auch machen könnte aber so macht's einfach mehr Sinn.

00:02:53: Sollen wir noch mal ganz kurz erklären?

00:02:56: Unser Modul heißt der bimano-Kontext was das nochmal ist.

00:03:00: oder wie würdest du das für die Zuschauer zusammenfassen?

00:03:05: Also ich würde es jetzt schon so zusammenfassen, dass wir den harnis ja brauchen oder erharnis.

00:03:08: Sobald du halt irgendein lm zur Verfügung stellst damit das halt das ganze drum herum hat.

00:03:13: also ist ja vollkommen egal in welchem kontext du ansetzt.

00:03:16: also wenn ich eine mlm einsetze und jetzt im Kontext einsetzen von Ich möchte gerne Datenanalysen fahren.

00:03:22: Ich möchte Inhalte aus Daten möchten mehr Werte aus Daten generieren und so weiter dann brauche ich ja quasi diesen Rahmen sag ich jetzt einfach mal, womit das läuft.

00:03:30: Und das ist ja erstmal unabhängig davon welches Modul, es geht einfach um wenn ich so aus Ansätze gaube, ah ja hier ist GPD, Cloud wie noch immer.

00:03:37: Sobald ich den auf meine Daten los lasse brauche ich Regeln und eine Engine sage ich mal die jetzt ganze steuert.

00:03:44: Darum gehts, es kann man schon zusammenfassen geht's um das Regelwerk... ...und natürlich um gewisse Funktionen.

00:03:52: weil Wenn wir uns die Folie anschauen, das sind zum Beispiel unsere Modelle, die wir anschließen können.

00:04:00: Das sind ja erst mal nur Modellkataloge und jedes für sich arbeitet auch erstmal alleine.

00:04:05: Ich könnte auch einen Chlor nehmen und einen Co-Work dafür allein.

00:04:10: Das ist aber dann auf deinem Rechner lokal installiert und hier geht es ja darum wie kann ich halt das komplette Unternehmenswissen Zentral in einer Architektur zur Verfügung stellen, sodass alle Mitarbeiter Zugriff haben und dass da nicht einzelne Insellösungen entstehen.

00:04:26: Das ist ja das Regelwerk und die Architektor, die wir hier mitgeben wollen.

00:04:30: Das heißt, wir wollen uns auch nicht festlegen welches LMM das Ganze ist.

00:04:34: also hier haben wir die Möglichkeit beispielsweise automatisch uns das je nach Fragestellung auszuwählen oder wie ordnen ein Modell sauber schon fest zu.

00:04:44: Das ist ja, also das ist alles was ich jetzt schon berichtet, es ist ja das AI-Harnis.

00:04:49: Also wir bauen ja einen Betriebssystem, da kann man ja auch noch mal besetzen eine Art Betriebsystem dahinter,

00:04:53: ne?

00:04:54: Genau!

00:04:54: Die Modelle sind austauschbar und haben keinen Einfluss darauf auf die Architektur, die die hintersteckt.

00:04:58: Richtig!

00:04:59: So und die einzelnen Steuerungselemente, da gehen wir jetzt gleich mal bisschen genau drauf.

00:05:03: aber was wichtig nochmal ist und das sieht man hier in dem Bereich Governance sind genau diese vier Punkte, die wir dort haben.

00:05:10: Das erste ist natürlich das Reuen- und Benutzerkonzept, weil wenn ich jetzt ... Ich nehm mir das Beispiel.

00:05:16: Ich hab mein Claude und lasse es dann zu, dass sich bestimmte Systeme miteinander verbinde.

00:05:26: Dann ist es natürlich sehr schwierig, die zu kapseln oder berechtigen.

00:05:31: Und wenn ich Pech habe, hab' ich ein Konnektor und der hat Zugriff auf alles.

00:05:35: Also ich nimm das Beispiel... Wir haben HubSport als CRM und natürlich nutzen wir auch solche... Aber wenn ich das einen Mitarbeiter gebe, dann hat er natürlich komplett Zugriffs auf alles!

00:05:47: Ich geb einmal den Konnektor frei, ich gebe die Berechtigung an.

00:05:50: dem Konnector gibt Bereiche frei oder nicht, dann würde das aber für mich genau so werden.

00:05:57: Ich kann es nicht anhand von Rollen fest definieren.

00:06:00: Das ist halt die Schwierigkeit und deswegen ist das schon mal super dass ich hier ein sauberes Rollenbenutzerkonzept festlegen kann wer welche Daten sieht, wie man es halt auch aus der klassischen Datenplattform oder BI-Plattform kennt.

00:06:13: Dass wir über ein Rollenbenutzerkonzept nachdenken.

00:06:16: Meistens ist ja die Organisationsstruktur.

00:06:18: Wir haben Fachbereiche in den Fachbereichen gibt es entsprechende Rollen, Ansichten, Berichtsentwickler und solche Dinge.

00:06:26: so was

00:06:27: kann man genauso hinterlegen?

00:06:29: Und das Konzept fände ich schon mal super damit wir da einmal die gewisse Zugriffssicherheit und dass da keiner auf einmal auf Daten zugreifen kann, die abziehen kann oder sonstiges.

00:06:37: Ja, elementare Bestimmteile.

00:06:39: So ISO Zertifizierung ja das ist jetzt nur bei uns gegeben.

00:06:43: Das ist wie gesagt nicht verpflichtend.

00:06:45: aber unsere Kunden fordern das halt und deswegen haben wir uns auch damals entschieden.

00:06:49: in diese Richtung zu gehen Ist für uns einerseits wichtig um die Prozesse hier sauber zu dokumentieren einzuhalten weil Wir arbeiten in der Cloud Und wollen auch einfach sicher gehen, dass Mitarbeiter und Kunden wirklich ein gesichertes Verfahren haben.

00:07:06: Dafür haben wir uns damals entschieden, dass das ganz sauber abgebildet wird.

00:07:10: Da wurden ja auch im zugedessen Standardprozesse definiert und da fallen natürlich auch automatisch Roll- und Benutzerkonzepte hinter.

00:07:18: Auch mit welchen ... Wir nutzen ja auch Softwaresysteme vom Microsoft von Snowflake.

00:07:22: Auch die Verwandtenbewertungen.

00:07:24: Das spielt alles hiermit rein.

00:07:26: Der nächste Punkt AI Act.

00:07:31: konform haben wir auch.

00:07:34: Das heißt, wir speichern alle Metadaten die wir haben.

00:07:38: Wir haben ja noch ein reines Machine Learning-Modul.

00:07:41: da kann man es finde ich immer am besten erklären weil das hatte ich letztens im Verkaufsgespräch wieder dass dann niemand gesagt hat für einen Bemach Machine Learning und damit nur die Frage stellt um wie ist das wenn ihr neues Modell nimmt oder es kommen frische Daten rein wird das protokolliert?

00:07:57: Ja, das müsst ihr nachweisen.

00:07:59: Zu welchem Zeitpunkt habt ihr die Daten verwendet?

00:08:03: Welches Maschinenleunen-Modell ist zum Einsatz gekommen?

00:08:06: Das machen eine saubere Registry für die Modelle, für die ganzen Ergebnisse von Trainingsdaten und das muss nachvollziehbar sein.

00:08:12: Genau!

00:08:12: Und das

00:08:12: haben wir auch hier in unserem Bereich wie mal ein Kontext dass das auch nochmal sichergestellt ist.

00:08:18: welche Abfragen, welche Fragen wurden gestellt, welches Modellwert wurde aus.

00:08:22: also diese ganzen Metadaten sind ja abgelegt.

00:08:26: Wenn wir nochmal auf die Modelle kommen, wir haben ja unterschiedliche Preismodelle jeweils hin.

00:08:30: Das muss jetzt aber abgebildet werden, dass der User nicht fünf verschiedene Rechnungen bekommt sondern wir übersetzen das Ganze in einer Abrechnung.

00:08:38: auch das spielt eine Rolle.

00:08:39: und der wichtigste Punkt ist hier unten keine Trainingaufkundendaten.

00:08:44: So!

00:08:46: Das hätt ich zwar hier auch wenn je nach Lizenzmodell.

00:08:50: Aber

00:08:51: es geht auch darum, dass sie nicht temporär irgendwo auf den Server liegen oder so.

00:08:54: Ich meine ich muss ja trotzdem welches nicht lokal habe, gehen die Daten mir trotzdem irgendwo nach wenns gespeichert werden.

00:08:58: aber wir sind erstmal weg oder werden zum Teil dafür verwendet und das ist natürlich wichtig, dass das da mal nicht passiert.

00:09:03: Ja oder du hast die Situation, du gibst zum Beispiel im Unternehmen Open AI frei und der Mitarbeiter sagt ja ich hätte doch also gefällt mir nicht.

00:09:11: Ich komme mit Geminal viel besser klar.

00:09:13: Man nimmt sich die Daten und gibt die daut rein und hat dann...

00:09:15: Das ist natürlich auch ein Prozess hier in meinem Unternehmen.

00:09:17: aber ja das ist natürlich eine andere Thematik.

00:09:20: Oder man gibt es gar keinen Mitarbeiter frei, die sagen aber ich muss meine Arbeit trotzdem irgendwie machen und nehmen dann diese Daten in Form von der Excel-Datei und kippen das rein.

00:09:28: all das gehört auch mit dazu, dass wir hier das im Zugriff haben und ein sauberes Betriebssystem letztendlich dann noch haben.

00:09:35: Also finde ich ganz wichtig, dass der Governance-Bereich abgewählt wird.

00:09:40: Jetzt haben wir die Modelle LMMs und jetzt ist ja du stellst deine Frage also wo sind unsere Umsatzpotenziale?

00:09:48: welche ABC Produkte oder welche Produkte sind unsere A-Produkte, Rennapenalist und alles Mögliche.

00:09:56: Können wir ja hier stellen?

00:09:58: Jetzt gehen wir hier mal rüber.

00:09:59: Wir haben jetzt hier mehrere Schichten aufgesetzt also ich fange mal von oben an.

00:10:05: Da haben wir nochmal das Thema Rollen und Berechtigung.

00:10:07: Haben wir gerade noch einmal drüber gesprochen.

00:10:09: Das ist genau der Punkt.

00:10:10: Genau!

00:10:11: Wir unterteilen aber hier noch einmal dass wir hingehen und nochmal den Unternehmenskontext mitgeben bestimmte Regelwerke die für das Unternehmen wichtig sind Vielleicht auch gewisse... Ich möchte externe Daten mit reinnehmen, Websuche.

00:10:23: Dann möchte ich sagen bitte nur für die spezielle Branche also hier alles was Regelwerke und übergreifen.

00:10:29: Die würden wir genau über diesen Agentheit abbilden.

00:10:33: Links da drüber.

00:10:35: Also daneben haben wir einen Agent der verantwortlich ist dass er diese Frage dann in eine Datenbankabfrage übersetzt.

00:10:43: das wir nicht die LMMs Das überlassen, wie gerechnet wird durch den Python Skript sondern die Frage wird gestellt.

00:10:51: Wie viel Umsatz mache ich im Quartal vier?

00:10:53: Dann geht diese Frage umgewandelt in eine sogenannte SQL Datenbankabfrage und er wird gezwungen diesen Weg einzuschlagen.

00:11:01: So dann geht es in die Datenabfrage gibt's auch wieder zwei Strenge, die wir da haben einmal die strukturierten Daten dann geht der in die Relationalen Datenbank rein.

00:11:10: Da kommt natürlich der Oberster Elgin für SQL zum Einsatz Und das nächste kann aber auch sein, dass man unstrukturierte Daten hat.

00:11:18: Also PDF-Dateien, Bilddateien und das muss natürlich sichergestellt werden, dass die Frage, die ich hier oben stelle genau weiß sind es dann strukturierte oder sind es unstrukturierten Daten?

00:11:30: So, das ist jetzt eine Besonderheit von BIMANU, dass wir hier unten sagen Wir haben ja zwei der

00:11:34: letzte Layer mit

00:11:35: der Kontext der Unternehmenswissen Das sind letztendlich unsere unser Datenfundament, was wir haben auf der linken Seite.

00:11:44: Also sagen wir mal mit den rechten Seiten hier kombinieren wie alle daken zielos also ich habe Warnwirtschaft Finanzen Produktion und führe diese zusammen, also unser klassisches Data Warehouse falls ihr das schon mal gehört.

00:11:58: Das ist hier abgebildet.

00:12:00: Das wird wiederum genutzt wenn der Kunden Anwendungsfälle hat für Machine Learning dass wir diese Daten nehmen und trainieren.

00:12:06: da die Machine Learning Modelle.

00:12:08: Moment genau vielleicht nochmal ganz kurz unterteilen weil es ja oft Synonym verwendet wird AI und ML.

00:12:13: Also bei dem was jetzt wenn er zählt unter dem

00:12:17: Maschinen-Learning,

00:12:18: genau bei den Ergebnissen dann geht es wirklich darum dass wir ganz klassische Analysen.

00:12:24: Prognosen.

00:12:25: Genau, also prognosene Klassifizierungen und ähnliche Themen einfach durchmachen.

00:12:28: Also ganz klassisch Statistische Auswertung im Endeffekt.

00:12:33: Was nichts mit LMMs zu tun hat ist ja ein Modul was sie über uns auch mitbringen.

00:12:37: Ja

00:12:38: das wird gespeist aus dem klassischen Data Ware aus von uns in der Bimano Foundation ... die Daten werden genutzt und trainieren.

00:12:44: Und diese Daten werden auch wieder zurückgeschrieben, ähnlich wie wenn ihr das kennt.

00:12:48: Ihr habt auch Race-Daten... ... und habt Plandaten und gewisse Szenarien.

00:12:53: Das nutzen wir als Unternehmenswissen.

00:12:55: Und so ist das Ganze miteinander quasi das Nervensystem um das Gehirn, die LMMs entsprechend sauber zu bedienen?

00:13:06: Genau!

00:13:06: Also das Herzstück haben wir letztmal schon mal so gesprochen von der Contextual Intelligence Plattform.

00:13:11: Ist genau dass der zentrale Knotenpunkt, wo alles dann zusammenfließt.

00:13:16: So und weil manchmal kam ja die Frage okay das könnte ich auch mit einem LMM direkt machen haben wir ja auch noch mal eine separate Folge gemacht solltet ihr euch mal anschauen warum eine Contextual Intelligence Plattform Sinn ergibt da mehr unterschiedlichen Szenarien vielleicht das Video dazu aufhören?

00:13:31: Das ist aber auch einer.

00:13:32: also jetzt gehen man natürlich ein bisschen unter die Haube dass wir gesagt haben das AI-Harnis ist relativ wichtig ist es Betriebssysteme und dann sieht man einfach schon allein die einzelnen Schichten, die wir haben.

00:13:44: Das Governance, das Thema Benutzung und Sicherheit.

00:13:47: Wie wichtig ist es sich nicht nur auf diese Elemente zu verlassen?

00:13:51: Und man muss sagen, dass das Betriebssystem so aufgebaut ist, dass uns das völlig egal ist welches Element.

00:13:57: Weil manchmal ist es ja so, ob eine Eier vorne ist dann kommt wieder Cloud oder wer weiß was in zwei drei Jahren ist, was Neues gibt.

00:14:03: Dann will man das hier alles nicht wieder wegschmeißen.

00:14:06: Deswegen jetzt noch mal der Bezug vielleicht nach draußen wenn man sagt okay ich will das selber aufbauen.

00:14:10: also ihr müsst selber schauen, dass ihr so ein Art Betriebssystem für euch aufbaut.

00:14:16: Es gibt gewisse Werkzeuge die wir nutzen können also Wissensdatenbanken gibt es ja auch nochmal Notion Obsidian oder zum Beispiel eure M-MD Files ablegen könnt.

00:14:27: Das was wir heute erklärt haben war ja nur bezogen auf wie kann ich Unternehmensdate sauber dort abbilden?

00:14:32: Also im Kontext der Datenanalyse

00:14:35: Genau

00:14:36: das war AI Harnes Ja, ist ja wichtig.

00:14:42: Also ich fand das gut dass wir das beim Damien sauber ausgearbeitet haben weil die Fragestellung kommt ja... Die Technik oder der IT-Bereicher stellen müssen wie ist das Ganze aufgebaut?

00:14:53: und das Thema Security Governance finde ich muss aber abgebildet sein und es darf kein Wilder Westen sein noch so

00:14:59: ein.

00:15:03: Dann würde ich sagen bis zum nächsten

00:15:05: Mal.

00:15:06: Alles klar!

00:15:06: Bis dann!

00:15:07: Ciao

00:15:11: Jetzt schnell noch abspeichern und dann direkt mehr Wissensschätze finden.