Wie Ontologien und LLMs die KI-Zukunft prägen

Wolfgang: Willkommen bei Digital Future, dem Podcast über Technologie,

Wolfgang: Zusammenarbeit und Unternehmenskultur.

Wolfgang: Ich bin Wolfgang Schoch und ich bewege mich seit vielen Jahren durch die IT.

Wolfgang: Als Agile Coach, Entwickler, Suchtechnologie-Nerd, Berater und auch mal im Vertrieb.

Wolfgang: Kurz, ich kenne die Branche aus mehr als nur einer Perspektive.

Wolfgang: In diesem Podcast spreche ich mit Kolleginnen und Kollegen aus unterschiedlichsten Bereichen.

Wolfgang: Menschen, die täglich an realen Problemen arbeiten, technisch,

Wolfgang: organisatorisch und kulturell.

Wolfgang: Gemeinsam schauen wir hinter die Kulissen. Wie arbeiten wir eigentlich?

Wolfgang: Was funktioniert gut und was nicht?

Wolfgang: Und was bedeutet moderne Technologie in unserem Alltag wirklich?

Wolfgang: In dieser Folge spreche ich mit Hans-Peter Zorn. Hans-Peter ist Teil unserer

Wolfgang: CTO-Teams und in dieser Rolle beschäftigt er sich natürlich viel mit Technologie und Trends.

Wolfgang: Er hat aber auch eine Vergangenheit im Bereich der Ontologien und in dieser

Wolfgang: Folge bringen wir beides zusammen.

Wolfgang: Ich selbst habe nämlich vor rund 20 Jahren auch mal mit Ontologien gearbeitet

Wolfgang: und gemeinsam sprechen wir in dieser Folge darüber, was Ontologien eigentlich

Wolfgang: sind und welche Rolle sie im Kontext der aktuellen KI-Entwicklung spielen können.

Wolfgang: Los geht's, viel Spaß beim Zuhören.

Wolfgang: Hallo Hans-Peter, du bist kein Unbekannter hier im Podcast und ich habe gerade

Wolfgang: überlegt, wie oft du schon da warst, also mindestens einmal,

Wolfgang: da kann ich mich noch sehr, sehr gut dran erinnern, da haben wir über,

Wolfgang: LLMs gesprochen, ich glaube, das ist vielleicht so drei Jahre her, vier Jahre.

Wolfgang: In der Zwischenzeit ist viel passiert, ist auch viel im Bereich der KIs passiert.

Wolfgang: Heute, man kann keine Zeitung mehr lesen, kein Online-Medium mehr irgendwie

Wolfgang: lesen, ohne über irgendwelche KI-Themen zu stolpern. Und man kann heute sicherlich

Wolfgang: sagen, gefühlt steckt KI überall drin.

Wolfgang: Aber KI ist ja nichts Neues. Das gibt es ja nicht erst seit fünf Jahren,

Wolfgang: sondern KI reicht ja weit, weit, weit zurück, viele Jahrzehnte.

Wolfgang: Und wir wollen uns heute ja ein kleines bisschen auf den Weg in die Vergangenheit

Wolfgang: begeben, nicht viele Jahrzehnte, aber vielleicht das eine oder andere,

Wolfgang: um über ein spannendes Thema zu sprechen,

Wolfgang: das für uns in unserem früheren Berufsleben mal sehr wichtig war und das anscheinend

Wolfgang: jetzt wieder wichtig wird.

Wolfgang: Zumindest, wenn ich dir zuhöre, Hans-Peter, wie du über Ontologien sprichst.

Wolfgang: Aber bevor wir da das Gespräch aufnehmen, würde ich mich freuen,

Wolfgang: wenn du dich mal ganz kurz vorstellst für alle, die dich noch nicht kennen.

Gast: Genau, hallo, ich bin Hans-Peter, ich bin seit 13 Jahren schon bei InnoVex oder

Gast: irgendwie sowas in der Richtung.

Gast: Ich habe vor langer Zeit mal Computerlinguistik studiert, habe mich viel mit

Gast: Sprache beschäftigt und dann eben auch mit Ontologie, kann ich ein bisschen

Gast: später noch was dazu erzählen,

Gast: und habe dann bei InnoVex viel Big Data gemacht.

Gast: Und irgendwann habe ich mir gedacht, eigentlich könnte es sein 2018,

Gast: dass KI wieder so ein Thema werden könnte.

Gast: Und kümmere mich seither so ganz grob unter, wie ich es damals schon noch genannt

Gast: habe, KI, was auch immer man darunter versteht.

Gast: Was eine sehr wichtige Einschränkung ist, da jeder was anderes darunter versteht.

Wolfgang: Oh ja.

Gast: Genau, zudem kümmere ich mich mit dem Dominik zusammen so ein bisschen um die

Gast: Technologie, Strategie und Weiterentwicklung bei Unwax.

Gast: Genau, und ich freue mich total

Gast: heute, hoffentlich mit dir nicht nur in Nostalgia zu sich zu smudeln.

Gast: Also ich habe immer so wichtig das schlechte Gewissen und ich versuche mich

Gast: auch immer zu hinterfragen, Ist das, was ich da gerade tue,

Gast: was ich interessant finde, spannend finde, ist das echt oder ist das eher so ein Nostalgie-Gefühl?

Gast: Und ich glaube, es ist was dran.

Gast: Es ist nicht nur Nostalgie. Trotzdem macht es ja auch Spaß, mal ein bisschen

Gast: nostalgisch zu sein und vielleicht fangen wir ja damit einfach mal an.

Wolfgang: Absolut. Also du hast es gerade schon gesagt, ich habe es auch schon mal erwähnt,

Wolfgang: wir möchten heute über Ontologien sprechen und da muss ich mal ganz kurz auch

Wolfgang: ein kleines bisschen ausholen,

Wolfgang: denn ich habe in meinem ersten Job und auch in meiner Diplomarbeit mit Ontologien zu tun gehabt.

Wolfgang: Ich habe die Diplomarbeit damals bei einer Firma hier in Karlsruhe geschrieben.

Wolfgang: Die haben sich mit Semantic Web beschäftigt. Das war damals so in den frühen

Wolfgang: 2000ern noch ein wirklich cooles Thema, ein cooler Begriff.

Wolfgang: Und diese Firma hat sich auch mit Ontologien beschäftigt.

Wolfgang: Und Hans-Peter, ich könnte mir vorstellen, dass uns Leute zuhören,

Wolfgang: die jetzt vielleicht nicht so ganz genau wissen, was eine Ontologie ist.

Wolfgang: Deswegen glaube ich, wir sollten da mal ganz kurz erklären, was verbirgt sich

Wolfgang: hinter diesem Begriff, wenn wir jetzt in der Informatik unterwegs sind.

Gast: Genau, es sind unterschiedliche Begriffe, je nachdem, in welchem Bereich man

Gast: ist in Informatik, hat das eine ganz klare Bedeutung.

Gast: Und da muss ich jetzt aufpassen, insbesondere bei einem Zyntologen zuhören,

Gast: weil wenn ich jetzt Zyntologie falsch definiere, was...

Gast: Was durchaus passieren kann, weil ich die Sache sehr pragmatisch angehe,

Gast: dann bin ich natürlich voll in der Domäne der Ontologen, weil das ist ja quasi

Gast: jetzt Meta, weil die Ontologie als Methode bezieht sich ja auf die richtige,

Gast: Definition, auf die Semantik,

Gast: auf die Bedeutung von Begriffen und von Konzepten.

Gast: Und wenn ich jetzt hier das Konzept selbst falsch definiere,

Gast: dann wäre das natürlich ein selbstreferentieller Fauxpas.

Wolfgang: Genau. Hat natürlich jetzt niemand verstanden, was du eigentlich erklären wolltest.

Wolfgang: Aber ich kann nur dazu sagen, Hans-Peter, dir sitzt ja ein Ex-Ontologe gegenüber,

Wolfgang: der jetzt ganz genau zuhört.

Gast: Genau. Also im Prinzip geht es bei Ontologien um ein...

Gast: Ein festgelegtes und übertragbares Vokabular.

Gast: Das heißt, wir reden über Dinge, du und ich, und sagen, okay,

Gast: da draußen ist die Bank. Und da stimmst du mir zu, da ist wahrscheinlich die Bank. Ja.

Gast: Aber dir ist vielleicht nicht klar, ob ich jetzt da draußen die Sitzbank,

Gast: Kleinmannschen Friedhof meine oder eben in die andere Richtung die Volksbank, die da ist.

Gast: Und um dieses Problem zu lösen, definiert man sich Vokabulare,

Gast: also das ist wie ein Lexikon, das ist die eine Ebene.

Gast: Und dadurch weiß jeder, worüber man spricht.

Gast: Wenn ich jetzt sage, ich habe ein Konzept, das ist die Bank 1 und die hat bestimmte

Gast: Eigenschaften und damit ist eben die Sitzbank gemeint.

Gast: Und wenn ich dir jetzt als Programm das Symbol Bank 1 rüberschiebe und nicht

Gast: einfach nur das Wort Bank, dann weißt du genau, was ich meine,

Gast: weil wir haben uns darauf geeinigt,

Gast: dieses Konzept, dieses Symbol hat diese Bedeutung. oder gibt es keine Missverständnisse.

Gast: Sprache an sich ist nämlich mehrdeutig, ambig.

Gast: Und Ontologien in ein Teil des,

Gast: Vokabulare können diese Ambiguität klären sozusagen.

Gast: Und der zweite Schritt ist, wenn du jetzt diese Konzepte definiert hast,

Gast: also die Dinge, die es gibt,

Gast: dann kannst du auch deren Eigenschaften definieren.

Wolfgang: Ja.

Gast: Sagen, wie gehören die zusammen? Zum Beispiel eine Bank ist irgendwas,

Gast: wo man Geld einzahlen kann. Oder eine Bank kann auch ein Gebäude sein.

Gast: Das ist vielleicht dann wieder ein anderer Begriff von Bank.

Gast: Und ein Gebäude hat bestimmte Eigenschaften. Da kann man reingehen, kann man rausgehen.

Gast: Und das Ganze, man merkte schon, sind Beziehungen, Relationen. Das heißt, man hat...

Gast: Entitäten, Dinge, also das kann man dann auch als Knoten in so einem Graph sich

Gast: vorstellen, das heißt, ich habe, und dann habe ich quasi einen Pfeil,

Gast: eine Beziehung zu einer anderen Entität, zum Beispiel zum Geld,

Gast: zum Mensch, der da reingeht und kann sagen, hier, Bank hat einen Angestellten.

Gast: Und dann verweise ich auf eine andere Entität, ein Angestellter,

Gast: eine Person und eine Person hat wieder Eigenschaften.

Gast: Und so kann ich mir quasi ein Modell der Welt bauen, indem ich genau weiß, wie,

Gast: stehen denn die Dinge in der Welt untereinander in Beziehung und wie können

Gast: sie auch miteinander in Beziehung stehen und was geht vielleicht auch nicht.

Gast: Also nach dem Motto, eine Sitzbank hat jetzt keine Property, kein Fly oder sowas.

Wolfgang: Höchstwahrscheinlich nicht. Und ich glaube, man kann da auch sich sehr einfach

Wolfgang: diesem Thema nähern, wenn man sich mal einfach umschaut.

Wolfgang: Wo ist man jetzt gerade? Ich bin jetzt hier mit dir im Konferenzraum und wir haben hier viele Dinge.

Wolfgang: Wir haben hier Stühle, wir haben hier Tische, wir haben hier so ein Sideboard,

Wolfgang: wir haben eine Tür und so weiter.

Wolfgang: Und das sind alles Dinge. Und wenn ich jetzt irgendwie fünf Stühle hier habe,

Wolfgang: dann ist es trotzdem halt mal ein Ding, der Stuhl, aber ich habe fünf Exemplare.

Wolfgang: Und diese Eigenschaften, die kann man sich ja auch ganz gut ableiten.

Wolfgang: Der Stuhl hat beispielsweise eine Farbe, der hat ein Material oder auch vielleicht viele Materialien.

Wolfgang: Der hat, ich habe gerade nachgeschaut, diverse Tischbeine und Stuhlbeine hat

Wolfgang: der Stuhl, der Tisch hat Tischbeine und so weiter.

Wolfgang: Du als Mensch hast auch Eigenschaften, du hast einen Namen, du hast ein Alter,

Wolfgang: über das wir jetzt nicht sprechen, du hast eine Größe und so weiter und so fort.

Wolfgang: Und wenn man das jetzt alles mal aufmalt, dann kriegt man, wie du es gesagt

Wolfgang: hast, so eine richtige netzartige Grafenstruktur hin, wo man Dinge beschreiben kann.

Wolfgang: Und wenn wir in der Software sind, beispielsweise als Analogie,

Wolfgang: da kennen wir solche Strukturen ja auch.

Wolfgang: Wir kennen die, wenn wir ein Datenbank-Schema modellieren. Also hat man damals

Wolfgang: im Studium gelernt, ich weiß nicht, ob man es heute immer noch so macht,

Wolfgang: aber damals so ERM-Models, da hat man wirklich sicher überlegt,

Wolfgang: wie sieht meine Domäne aus

Wolfgang: und welche Objekte gibt es in meiner Domäne und dann hat man es ja auch modelliert

Wolfgang: und da hatte man ja dann auch Beziehungen zwischen einzelnen Datenbank-Tabellen.

Wolfgang: Und beim klassischen Design von Software, da überlege ich mir ja auch,

Wolfgang: wie sieht meine Domäne aus, was brauche ich da für Klassen später,

Wolfgang: wenn man das Ganze objektorientiert angeht.

Wolfgang: Und dann hat man ja auch so eine Entsprechung von der Realität,

Wolfgang: die natürlich ein bisschen abstrahiert ist, weil letztendlich hat wahrscheinlich

Wolfgang: jedes Objekt in der Realität vielleicht unendlich viele Eigenschaften,

Wolfgang: wenn man noch genauer reinschaut.

Wolfgang: Ich habe hier das Material, das Material besteht aber vielleicht auch nochmal

Wolfgang: aus einzelnen Bestandteilen und so weiter.

Wolfgang: Aber wir haben eine Modellbildung einfach, so dass wir da ein bisschen abstrahieren, aber.

Gast: Das Wort endlich war tatsächlich jetzt ein bisschen schon ein Hinweis,

Gast: warum das vielleicht auch ab und zu nicht so gut funktioniert hat.

Gast: Aber vielleicht können wir erstmal noch ein bisschen konkreter werden und erzählen,

Gast: wie hat man das damals eingesetzt. Also es gab so eine Hochzeit, das war eben diese Zeit.

Gast: Das war ja nicht nur, man kann das modellieren, da weiß man Bescheid,

Gast: sondern die Hoffnung war ja, da auch wirklich Anwendungen zu schaffen.

Wolfgang: Absolut.

Gast: Und ein Beispiel wäre jetzt ein Forschungsprojekt, wo sich dann auch wieder

Gast: hier die Brücke schlägt, weil tatsächlich deine damalige Firma auch Teil von

Gast: diesem Forschungsprojekt war, in dem ich gearbeitet habe.

Gast: Da ging es darum, quasi einen Digitalassistenten zu bauen.

Gast: Das war noch vor den Smartphones, vor Siri und so weiter. Das war die Zeit der,

Gast: Weltmeisterschaft 2006 und ich habe damals auch in einem Forschungsinstitut

Gast: in Heidelberg gearbeitet und,

Gast: Und dort gab es ein Konsortium, das nannte sich SmartWeb. Und was wir da gebaut

Gast: haben, war auf einem, das kennt wahrscheinlich jetzt wirklich nur noch drei

Gast: Prozent unserer Zuhörer,

Gast: ein Gerät, das hieß damals Telekom MDA, das sagt dir glaube ich tatsächlich was.

Wolfgang: Ja, das kenne ich noch.

Gast: Das war so der Vorläufer vom Smartphone. Da konnte man dann reinsprechen und

Gast: Fragen stellen zur Domäne Fußball.

Gast: Und man konnte so komplexe Fragen stellen, ich bin kein Fußballexperter,

Gast: aber man konnte sowas fragen wie,

Gast: wer hat denn bei einer WM zwischen 1954 und 1972 im Viertelfinale mehr als vier

Gast: rote Karten bekommen oder sowas.

Gast: Das heißt, es ist eine relativ komplexe Frage und das ist ein Punkt,

Gast: der vielleicht schon ganz spannend ist, was,

Gast: Ontologien und Inferenzmaschinen angeht und die wurden beantwortet aus einer

Gast: Faktenbasis, die aus Wissen extrahiert wurde.

Gast: Das heißt, erst, wir haben gerade gesagt, wurde ein Schema erstellt,

Gast: der Ontologie, da haben sich Leute hingesetzt, haben wirklich lange gedacht,

Gast: was ist denn ein Fußballspieler, was,

Gast: ist eine Instanz von Mendes,

Gast: der spielt in der Mannschaft, also die Mannschaft wiederum hat einen X-Fußballspieler,

Gast: die Mannschaft hat auch einen Trainer, es gehört zum Land.

Gast: Ein Fußballspieler hat in bestimmten Spielen gespielt, das heißt,

Gast: es gibt dann auch ein Konzept namens Spiel und dann eine Fußballbeamte besteht

Gast: aus verschiedenen Spielen und so weiter und so fort.

Wolfgang: Ich glaube, an der Stelle ist aber wichtig, Hans-Peter, A, das war für eine

Wolfgang: abgeschlossene Domäne, in dem Fall Fußball oder auch Fußball-Weltmeisterschaft

Wolfgang: und das war ja mehr oder weniger eine Fleißarbeit von Expertinnen,

Wolfgang: die sich mit Fußball auskennen.

Wolfgang: Die Leute haben sich hingesetzt und haben dann wirklich gemeinschaftlich hoffentlich

Wolfgang: überlegt, wie ist die Struktur, wie sieht die Ontologie aus hinter dem Konzept

Wolfgang: Fußball-Weltmeisterschaft und dann hat man vielleicht 30, 40 oder auch 100 solche Konzepte,

Wolfgang: die mit solchen Relationen miteinander verbunden sind und die repräsentieren

Wolfgang: dann letztendlich ja die Struktur von so einer Fußball-WM.

Gast: Genau, damals, die Ontologen sind gut und gerne mal dann mittags durch den

Gast: Park gelaufen und haben, wenn man sich so Philosophen vorstellt,

Gast: überlegt, was ist denn richtig, also wie modelliere ich eine bestimmte Sache, weil das ist durchaus,

Gast: nicht unbedingt immer klar.

Gast: Es gibt immer verschiedene Modelle von der Welt, man kann das verschieden machen,

Gast: es war eine Intellektuelle Aufgabe, das zu tun, aber natürlich auch nicht besonders

Gast: schnell und es gab nämlich, und das

Gast: finde ich ganz spannend, es gab einen Begriff für diesen Prozess,

Gast: für dieses Problem und das war das sogenannte Knowledge Acquisition Bottleneck.

Gast: Das heißt, es gibt nicht genügend Menschen, die Lust wandeln im Park und sich diskutieren, da die

Gast: auf diese Art und Weise das Wissen dieser Welt formalisieren können,

Gast: in einer Form, dass man daraus eine KI bauen kann.

Gast: Und das war im Prinzip so das Problem, warum diese symbolische KI irgendwann

Gast: an ein Limit gestoßen ist, weil einfach dieser Prozess, das Wissen zu formalisieren,

Gast: Menschen gemacht haben und da gab es einfach ein oberes Limit, was da möglich war.

Wolfgang: Ja klar, vor allem, wenn wir beide uns jetzt über Fußball unterhalten würden,

Wolfgang: dann wäre es wahrscheinlich auch schwierig, dass wir uns auf eine eindeutige

Wolfgang: Repräsentation einigen können.

Gast: Das würden wir wahrscheinlich hinkriegen, weil ich habe keine Ahnung vom Fußball. Ich auch nicht.

Gast: Dann würden wir uns schnell einig werden, aber es hätte nicht viel mit der Welt

Gast: zu tun, was natürlich auch ein Problem ist.

Gast: So, und jetzt sage ich aber, und jetzt kommen wir in die Gegenwart.

Wolfgang: Ja, warte ganz kurz, bevor wir in die Gegenwart gehen. Wir haben also diese

Wolfgang: Struktur, wir haben die Ontologie, die die Struktur repräsentiert.

Wolfgang: Aber um jetzt so einen, wie du es gesagt hast, bei Smart Web so eine Applikation

Wolfgang: zu bauen, die dir Fragen beantwortet, da brauchen wir nicht nur die Struktur,

Wolfgang: weil sonst könnte ich ja nur fragen, wie viele Trainer hat eine Mannschaft?

Wolfgang: Und dann kommt vielleicht raus, oh ja, eins oder so.

Wolfgang: Aber wir möchten ja konkrete Sachen haben. Und da kommen wir jetzt zu dem Thema,

Wolfgang: dass wir Fakten brauchen. Das heißt, wir brauchen Namen von Fußballspielern.

Wolfgang: Wir brauchen irgendwelche Spielstatistiken etc. pp.

Wolfgang: Und diese Daten, die gibt es ja in der Regel. Also du hast vielleicht irgendwelche

Wolfgang: Datenbanken, Fußball-Datenbanken. Da sind die ganzen Leute drin.

Wolfgang: Dann die Zeit, bei welcher Mannschaft war jetzt jemand wie lang.

Wolfgang: Und der Clou war ja dann, du hast diese handgemachte Ontologie,

Wolfgang: die quasi so Manufrakturarbeit ist.

Wolfgang: Auf der anderen Seite hast du aber schon fertig irgendwelche Fakten,

Wolfgang: die du vielleicht im Unternehmen in deiner Datenbank hast, Produktdaten,

Wolfgang: Transaktionsdaten etc.

Wolfgang: Und dann gab es ja so diesen Schritt, dass man sich herangesetzt hat mit spezialisierten

Wolfgang: Tools und so eine Art Mapping vorgenommen hat. Dass man gesagt hat,

Wolfgang: okay, in dieser Tabelle hier, das sind Fußballtrainer.

Wolfgang: Und die Fußballtrainer, das steht hier drin, in welcher Mannschaft die wann tätig waren.

Wolfgang: Und das hier in der anderen Tabelle, das sind jetzt Fußballspielerinnen oder Spieler.

Wolfgang: Und da steht aber auch dran, die waren auch in der Mannschaft.

Wolfgang: Und dann kann man natürlich sagen, okay, wenn der Spieler und der Trainer gleichzeitig

Wolfgang: für die gleiche Mannschaft tätig waren, dann war das wahrscheinlich auch der

Wolfgang: Trainer von dieser Person.

Gast: Genau. Und die Ontologie alleine hat dann ja auch nicht gereicht,

Gast: um die Fragen zu beantworten oder die Fakten, sondern du brauchtest dann eben

Gast: eine Software, die in der Lage war, in einer hohen Geschwindigkeit auf dieser Faktenbasis anhand,

Gast: der Relation in der Ontologie Schlüsse daraus zu ziehen.

Gast: Und das war ja das Produkt dann von Onto-Preis am Ende.

Wolfgang: Beim On-Top-Broker hat man da intern dann mit Prolog gearbeitet.

Wolfgang: Das ist ja auch so eine Wissensrepräsentationssprache, die man aus dem Studium kennt.

Wolfgang: Und ich erinnere mich noch an das ganz klassische Beispiel.

Wolfgang: Und das Beispiel sah so aus, man kann jetzt mit so einer Wissensrepräsentation

Wolfgang: quasi sagen, Sokrates ist ein Mensch und Menschen sind sterblich.

Wolfgang: Und man kann dann quasi eine Anfrage stellen und kann fragen,

Wolfgang: ist Sokrates sterblich?

Wolfgang: Und dieser Fakt, der steht ja nirgends so klar drin, aber man kann es ableiten.

Wolfgang: Genau. Und das hat eine Inferenzmaschine letztendlich gemacht und du konntest

Wolfgang: dann halt solche Fragen stellen.

Wolfgang: Und das ist schon eigentlich ganz cool.

Gast: Genau, ist auch heute noch cool. Da werde ich nachher mit dem Beispiel darauf zurückkommen. Ja.

Gast: Genau. Vielen Dank.

Gast: Genau, vielleicht können wir jetzt, also wie gesagt, also die Idee war im Prinzip,

Gast: damals mit SmartTriple, ich hatte diesen Handheld,

Gast: da gab es dann einen Parser, der hat eben dann meine sprachliche Eingabe übersetzt

Gast: in diese ontologischen Konzepte.

Gast: Dadurch konnte man die dann matchen auf,

Gast: welches System kann das jetzt beantworten und konnte daraus eine Query an eben

Gast: diesen Broker machen und dann kamen dort eben diese Fakten wieder raus und die

Gast: wurden dann wieder in Sprache übersetzt und ausgegeben.

Wolfgang: Und jetzt fragt man sich aber vielleicht, Hans-Peter, warum sprechen heute alle

Wolfgang: Leute über LLMs und Chat-GPT und warum spricht heute so in der breiten Masse

Wolfgang: niemand über Ontologien?

Gast: Weil diese Ontologie natürlich...

Gast: In der Masse nie wirklich funktioniert haben, in der Breite,

Gast: aus verschiedenen Gründen. Das eine haben wir ja schon genannt.

Gast: Es ist einfach notwendig,

Gast: sowohl die Ontologie, also das Schema, als auch die Fakten aufzuschreiben,

Gast: zu sammeln, zu kuratieren und auch aktuell zu halten.

Gast: Also dadurch, dass das so langsam ging, hatte man natürlich häufig den Effekt,

Gast: dass wenn du fertig warst, modellieren die Welt sich schon wieder geändert hat. Zudem,

Gast: hat die Sprache natürlich die Eigenschaft der Amoguität und das ist ein Fluch und ein Segen.

Gast: Dadurch ist die Sprache die natürliche Sprache viel expressiver ich kann mit

Gast: viel weniger Worten etwas ausdrücken weil ich Dinge weglassen kann und,

Gast: die Bedeutung ergibt sich aus dem Kontext von ganz alleine und damit konnte

Gast: die Sprachverarbeitung früher nicht so richtig umgehen das war ein großes Problem,

Gast: die Wörzense, Disapplication und ähnliche Dinge aber.

Gast: Und das können LLMs plötzlich ganz gut.

Gast: Und dadurch ist ein Vorteil der Ontologien so ein bisschen relativiert,

Gast: nämlich dieses, ich weiß, worüber ich rede, ich meine dasselbe,

Gast: weil bei Speedbank,

Gast: das Wort alleine ist am Bieg, weiß ich nicht, aber sobald ich sage,

Gast: ich gebe mein Geld in die Bank, weiß ich sofort, welche Bank gemeint ist.

Gast: Und dass dieser Kontext desinvigriert. Und wenn du halt Sprachmodelle hast,

Gast: die einfach sehr viel Kontext gesehen haben, sehr viele Wörter im Zusammenhang

Gast: gesehen haben, sind die halt schlau.

Gast: Und dadurch kann ich eben Dinge auch in natürlicher Sprache inkodieren und sie

Gast: sind trotzdem wertvoll für den

Gast: Rezipienten, weil er eben den Kontext mit analysieren kann mit dem LLM.

Gast: Genau. Und allein die Masse an Daten ermöglicht halt auch diese,

Gast: da existiert dieses Bottleneck halt nicht.

Gast: Das ist alles automatisch, wird alles gelernt, semi-supervised aus großen Textmengen.

Gast: Das skaliert einfach nur mit der Menge Text, die eben da ist.

Gast: Also dieses Problem haben wir nicht.

Gast: Und ja, gut, das ist cool, also die LLAMs können da eigentlich das alles beantworten.

Gast: Oder tun, was man sich früher davon erhofft haben oder vielleicht auch nicht.

Gast: Also ich bin mir nicht sicher, was so ein reines Sprachmodell ohne Suche oder

Gast: Datenbank dahinter antworten würde, wenn ich ihn fragen würde,

Gast: welche Mannschaft oder welcher Spieler hat zwischen 1954 und 1972 mehr als vier,

Gast: rote Karten, gelbe Karten in einem Viertelfinale erhalten.

Gast: Das würde mir das Sprachmodell höchstwahrscheinlich nicht beantworten können,

Gast: weil möglicherweise das zu viel Detailwissen ist, was so ein bisschen dann,

Gast: also ein Sprachmodell muss komprimieren.

Gast: Ja, das heißt...

Gast: Das Welchwissen, was jetzt inhärent in dem Sprachmodell ist, ist nicht 100% exakt.

Gast: Es ist ein gutes Modell der Welt, aber ich kann nicht jedes Detail exakt dort reinschreiben.

Gast: Und der Prozess, diese komplexen Zusammenhänge zusammenzubringen,

Gast: der ist nicht drin. Das ist eigentlich ein nächster Prediktor.

Gast: Man kann über Reasoning einiges da machen, aber das ist sehr kompliziert.

Gast: Das ist so, wie wenn du dich als Mensch dann überlegst, ich überlege mir das

Gast: mal, habe ich das irgendwo aufgeschrieben? Ja, ja, da ist der,

Gast: es gab die und die Spiele, dann mache ich das und so weiter,

Gast: das ist nicht besonders effizient.

Gast: Also diese Art von Queries kann ein Sprachmodell ohne Tooling,

Gast: und da kommen wir gleich dazu, nicht gut beantworten.

Gast: Und da setze ich natürlich die Frage, kann ich das irgendwie kombinieren und,

Gast: der schöne Effekt ist nämlich auch, auf der einen Seite,

Gast: Sind die Sprachmodelle super mächtig, man kann damit alles machen,

Gast: Agenten bauen und so weiter und so fort.

Gast: Das heißt, diese alte symbolische KI hat ja eh nicht funktioniert,

Gast: bis auf die Tatsache, dass genau

Gast: diese LLMs zu weiten Teilen das Knowledge Acquisition Bottleneck auflösen.

Gast: Weil ein LLM weiß, wie ich solche Fakten formuliere, es weiß,

Gast: wie so eine Notologie aussehen.

Gast: Muss und ich muss dann jetzt nicht mehr stundenlang durch den Park wandeln,

Gast: sondern ich kann sagen, hier, liebes LLM, ist ein Buch,

Gast: lese das mal durch und mach mir da eine Ontologie draus oder extrahiere mal

Gast: alle Fakten, die in dem Buch stehen, als Trippel für meine Referenzmaschine.

Gast: Und das LLM spuckt dann diese Trippel mit 300 Token pro Sekunde aus.

Wolfgang: Ja, aber ganz kurz, damit auch alle hier folgen können, ein Trippel,

Wolfgang: das ist ein neuer Begriff hier.

Wolfgang: Trippel bedeutet, es sind einfach zwei solche Konzepte oder Objekte,

Wolfgang: über die wir gesprochen haben, die durch eine Relation miteinander verbunden sind.

Gast: Es sind Aussagen, das ist so ein typischer Satz, Subjekt, Prädikat,

Gast: Objekt, zum Beispiel Wolfgang,

Gast: Wach-Podcast. Ja, das ist der Aussage über Wolfgang, da gibt es das Konzept

Gast: Wolfgang und diese drei.

Wolfgang: Das ist so die gängige Repräsentation von solchem Wissen.

Wolfgang: Ja, jetzt muss ich natürlich direkt fragen, Hans-Peter. Am Anfang haben wir

Wolfgang: gesagt, okay, das Wissen wurde von Menschen quasi modelliert und da hat man

Wolfgang: auch viel Arbeit reingesteckt, um am Schluss sicher zu sein, okay, das passt so.

Wolfgang: Das ist ein Modell von der Wirklichkeit, auf das wir uns einigen können.

Wolfgang: Wenn wir jetzt aber dem LLM sagen, hey LLM, erzeuge mir so ein Modell von der

Wolfgang: Wirklichkeit und die LLMs, die sind super schnell und so, alles klar.

Wolfgang: Aber wie stelle ich ihn dann sicher, dass das auch korrekt ist?

Wolfgang: Weil wenn ich jetzt das LLM frage, sage, hey, 1954, wer hat denn da,

Wolfgang: keine Ahnung, drei rote Karten bekommen?

Wolfgang: Dann bekomme ich natürlich ein Ergebnis, aber das ist entweder richtig oder

Wolfgang: falsch. Hast du ja gerade schon ausgeführt. Das müsste ich als Mensch natürlich

Wolfgang: nochmal verifizieren, ob es richtig ist. Weil bei den Details sich das Modell einfach schwer tut.

Wolfgang: Wenn ich jetzt aber sage, bitte erstelle mir die Ontologie, dann kommt es bei

Wolfgang: dieser Ontologie ja auch auf die Details an.

Wolfgang: Was wäre dann deiner Meinung nach ein Weg, um zu verifizieren,

Wolfgang: dass dieses Modell auch gut bzw. gut genug ist?

Gast: Gut genug ist der richtige Begriff. Natürlich verliere ich etwas,

Gast: wenn ich sage, hier probabilistisches Modell,

Gast: erzeuge mir meine Fakten, wobei die Modelle ja schon sehr gut sind und so eine

Gast: reine Extraktion ist auch in der Regel richtiger als eine komplexe Fragebeantwortung.

Gast: Also wenn ich dem Modell sage, hier hast du Text, extrahiere mir mal einfach

Gast: die Fakten daraus, dann ist das so eine Art Copy-Paste aus dem Kontext für das Modell.

Gast: Das ist qualitativ gar nicht schlecht, was daraus kommt. Das ist ein Unterschied

Gast: zu einer Situation, wo ich das Modelldinge frage, die es vielleicht nicht kennt.

Gast: Das ist so der häufigste Fall, wo es anfängt zu halluzinieren,

Gast: also wenn man dann die Information nicht hat und versucht, das trotzdem zu beantworten.

Gast: Aber wenn die Aufgabe quasi ist, hier, mach mal ganz stupide,

Gast: geh da durch jeden Satz und mach mir dann dieses Format, dieses Triple-Format

Gast: raus, dann ist das schon mal gar nicht so verkehrt, was dabei entsteht.

Gast: Das zweite ist, ja, du solltest es verifizieren,

Gast: du kannst es auch verifizieren, da gibt es dann Tools zu.

Gast: Du verlierst natürlich die Skalierung, wenn du sagst, du musst dann alles verifizieren.

Gast: Das heißt, du würdest das dann ein bisschen, wie sagt man, in verschiedenen

Gast: Schichten machen. Manche Sachen sind jetzt einfach Fakten, wo du sagst,

Gast: okay, das habe ich irgendwo gelesen.

Gast: Und vielleicht kann das Modell nämlich gleich die Quelle noch dazuschreiben.

Gast: Da kommen wir auch gleich dazu.

Gast: Und dann kannst du es nämlich auch bei Bedarf verifizieren.

Gast: Also du kannst sagen, okay, ich prüfe vielleicht nicht alles,

Gast: aber ich speichere meine Fakten so ab, dass ein weiterer Fakt darauf verweist,

Gast: wo habe ich das denn extrahiert und das kann sogar dann am Ende,

Gast: deterministisch passieren.

Gast: Zum Beispiel habe ich ein Skript, jetzt mal ganz konkret, verifiziert,

Gast: Eine Idee oder eine Umsetzung, die wir gemacht haben hier oder die ich gemacht

Gast: habe für Innevex, wir haben Mitarbeiterprofile,

Gast: das ist sowas wie ein Lebenslauf,

Gast: in unserer Branche relativ üblich, da stehen halt so die Projekte drin,

Gast: die man gemacht hat im Laufe der Zeit.

Gast: Und eine und wir haben die natürlich irgendwo, wir können danach suchen und

Gast: wir suchen natürlich, wenn wir ein Projekt machen wollen, nach Menschen,

Gast: die sich damit auskennen und du kannst du das suchen.

Gast: Manchmal willst du halt auch komplexere Suchen machen, zum Beispiel,

Gast: zu sagen, okay, wer hat denn mit.

Gast: Spark gearbeitet und gleichzeitig in der Energiebranche.

Gast: Und das vielleicht so ein bisschen, erinnert so ein bisschen an die Fußballfrage,

Gast: es ist mehrere Constraints, die gleichzeitig erfüllt werden müssen.

Wolfgang: Ja.

Gast: Und das ist genau, wo so ein Graph sehr gut ist.

Gast: So, jetzt habe ich ein Skript, da nehme ich ein Sprachmodell,

Gast: das zieht, das analysiert, die Profile, zieht mir die Triple raus,

Gast: aber ich habe auch Python-Code rum, der schreibt da einfach noch ein Triple

Gast: raus und sagt, das steht in der Datei X.

Gast: Da hilft mir ein Trick aus der Modellierung, das nennt sich,

Gast: ich weiß nicht, ob du dich darauf gerade erinnerst, Reifizierung.

Gast: Und das ist etwas, dass da werden deine Triples, also diese Aussagen,

Gast: selbst zu Entitäten oder zu, das heißt, ich kann Aussagen über Aussagen machen.

Gast: Das heißt, ich habe plötzlich, ich habe jetzt dann die Aussage,

Gast: Wolfgang kennt sich mit Ontologien aus und dann weiß ich, aber diese Aussage hat auch eine ID.

Gast: Und dann habe ich eine Aussage, Aussage 43, das ist die, Wolfgang kennt sich

Gast: mit der Deutologie aus habe ich extrahiert mit Methode X,

Gast: am Datum Y aus Datei und das kann ich dann zur Pferi-Zeit wieder ausgeben und

Gast: kann sagen ich habe diese Antwort,

Gast: die Leute die sich mit Deutologie auskennen ist zum Beispiel eben der Wolfgang,

Gast: das weiß ich weil das wurde extrahiert am Sonntag,

Gast: mit Algorithmus X aus dieser Datei und wenn ich dem nicht traue kann ich ja

Gast: nochmal nachschauen, zum Beispiel.

Wolfgang: So eine Information wäre dann aber wahrscheinlich irrelevant,

Wolfgang: wenn du so ein System benutzt und du,

Wolfgang: arbeitest damit und machst eine Suche und du schaust dir das Suchergebnis an

Wolfgang: und merkst, boah, das ist eigentlich Quatsch, das stimmt gar nicht,

Wolfgang: dass du dann eventuell das irgendwie so als Audit-Log oder als Debug-Information

Wolfgang: hast, um dann dein System einfach zu verbessern.

Wolfgang: Und was du gerade so erzählst, ist genau eins dieser großen Produkte,

Wolfgang: die wir damals bei der Firma hatten.

Wolfgang: Unser Produkt hieß damals Semantic Miner, also kam so ein bisschen aus dem Bereich

Wolfgang: Data Mining und das war letztendlich so eine Art Intranet-Suchmaschine und wir

Wolfgang: hatten damals auch Ontologien für Unternehmen gebaut auf Basis,

Wolfgang: ja beispielsweise was für Kunden gibt es dort, aus was für Branchen kommen die

Wolfgang: und so weiter und so fort.

Wolfgang: Und dann konnte man auch zu einem Bereich oder zu einem Thema was suchen und

Wolfgang: dann fand man auch Menschen, die jetzt beispielsweise an Projekten gearbeitet

Wolfgang: haben, die mit dem Thema zu tun hatten und das war auch ganz, ganz spannend.

Wolfgang: Und das war schon damals ein ziemlich cooles Projekt und.

Wolfgang: Das hat auch viele Kunden gehabt, die damit echt sehr zufrieden waren.

Wolfgang: Und wir haben da natürlich noch so ein paar coole Sachen für,

Wolfgang: also cool für die 2000er eingebaut, wie zum Beispiel so Synonym-Suche.

Wolfgang: Das heißt, du hast nach WLAN gesucht und beim Kunden stand in den technischen

Wolfgang: Dokumenten aber nicht WLAN, sondern WLAN drin.

Wolfgang: Dann hat man es trotzdem gefunden und das war in so mancher Firmenpräsentation reinste Magie.

Gast: In dem Graph steht das dann auch. Unsere Skills typischerweise sind,

Gast: du kennst ja auch unser anderes Tool, die sind auch sehr wild,

Gast: wenn wir unsere Skill-Taxonomie da haben, da gibt es auch sehr viele Synonyme

Gast: für dasselbe und das ist auch in dem Knowledge Graph repräsentiert quasi,

Gast: dass es eben verschiedene Wörter für dasselbe gibt.

Gast: Genau, also das ist ein Weg, wie du eben nicht sicherstellen kannst,

Gast: aber eben, dass du gehen kannst, dass du ein Mining eben auch Unsicherheiten beinhaltet.

Gast: Der zweite Vorteil ist, wenn du das über eine Ontologie machst,

Gast: auch das garantiert dir nichts, aber du hast zumindest eben dieses Schema,

Gast: diese Ontologie, gegen die du verifizieren kannst.

Gast: Das ist ja wie ein Schema. Wir haben vorher gesagt, da steht drin,

Gast: ein Fußballspieler spielt bei einer Mannschaft, hat ein Land und so weiter und so fort.

Gast: Und wenn jetzt mein LLM,

Gast: da einen Fakt reinschreiben will.

Wolfgang: Der Fußballspieler,

Wolfgang: spielt in zwei Mannschaften parallel.

Gast: Genau, könnte ja passieren, gibt es glaube ich sowas. Okay, das war gefährliches

Gast: Halbwissen. Aber darauf will ich hinaus.

Gast: Wenn die Extraktion etwas extrahiert, was eben nicht dem Schema entspricht,

Gast: was man Weltmodelle nicht entspricht, zum Beispiel,

Gast: die Bank kann fliegen oder sowas, dann würde das eben zurückgewiesen und du

Gast: könntest das gar nicht abspeichern.

Gast: Da hast du zumindest eine gewisse Konsistenz, die du bekommst,

Gast: gegen die du verifizieren kannst. Je mehr du modellierst, desto komplexer wird

Gast: auch das Modell. Das heißt, du hast mehr, gegen das du checken kannst.

Wolfgang: Würdest du sagen, Hans-Peter, dass so dieser Ansatz, den du da jetzt beschreibst,

Wolfgang: ist es deiner Meinung nach ein Ansatz für überschaubare Domänen,

Wolfgang: also Unternehmen beispielsweise?

Wolfgang: Oder sind wir jetzt wieder bei dem Punkt von der Weltontologie,

Wolfgang: die wir, glaube ich, auch schon mal vor 30 Jahren hatten.

Wolfgang: Gibt es dieses Projekt eigentlich noch mit der großen Weltontologie? Wie ist das ZYG.

Gast: Glaube ich? Also die Firma ZYG gibt es, glaube ich, tatsächlich noch.

Gast: Und es gibt auch, glaube ich, noch ZYG. Da arbeiten Leute dran.

Gast: Die Welt ist ja immer noch nicht komplett drin.

Wolfgang: Glaube ich.

Gast: Ich weiß auch nicht, ob die mittlerweile LLMs benutzen, um da was reinzupumpen.

Gast: Ich könnte mir vorstellen, ja. Ich habe tatsächlich noch gar nicht nachgeschaut.

Gast: Nee, das ist nicht mein Ziel. Ich denke, es geht darum, wo uns das helfen kann,

Gast: konkrete Domänen zu modellieren.

Gast: Sehr unterschiedliche Kunden aus unterschiedlichen Branchen,

Gast: die haben Wissen über ihre Branche und das ist auch das,

Gast: wovon sie leben, was ihr Spezialwissen ist, was auch so ein bisschen ihr USP ist.

Gast: Und für diese Art von Wissen, von Spezialwissen wäre es ja echt doof, wenn irgendwie,

Gast: ein Tropic oder die großen Modellprovider irgendwann das könnten.

Gast: Da wäre das Problem gelöst, wenn die diese ganzen Prozesse wirklich im Detail

Gast: genauso gut könnten wie der Spezialist.

Gast: Das wäre natürlich aus KI-Perspektive ganz schön, aber für den Mittelständler

Gast: wäre es ein bisschen doof, weil da hätte er,

Gast: sein USP oder sein Spezialwissen verloren. Das heißt.

Gast: In diesem Fall ist es natürlich super interessant zu sagen,

Gast: ich versuche dieses Wissen, was in den ganzen Dokumenten oder auch in den Köpfen vorhanden ist,

Gast: in so einer Ontologie, in so einem Wissensgraf explizit zu machen und das bei mir zu behalten.

Gast: Und selber zu kuratieren, das ist dann meins sozusagen. Und ich kann darauf

Gast: basierend dann meine Prozesse automatisieren.

Wolfgang: Aber dann wäre doch die Erstellung und auch die Wartung, sage ich mal,

Wolfgang: von der Ontologie dann doch maximal so ein teilautomatisierter Prozess.

Wolfgang: Denn wenn wir wirklich darüber sprechen, dass wir hier in einer geschlossenen

Wolfgang: Domäne sind und wir können ja als Beispiel den Kunden nehmen,

Wolfgang: den Mittelständler, der sein ganzes Fachwissen hat,

Wolfgang: Dann ist es doch auch so, dass da definitiv viel Wissen im Kopf drin ist und

Wolfgang: um jetzt wirklich auch einen richtig coolen Mehrwert für diesen Mittelständler

Wolfgang: oder für diesen Kunden zu haben, bräuchte man natürlich schon eine Ontologie,

Wolfgang: auf die man sich verlassen kann.

Wolfgang: Wenn die jetzt irgendwie automatisiert erstellt wird oder zumindest initial

Wolfgang: erstellt wird, könnte ich mir vorstellen, dass das mal eine gute

Wolfgang: Basis ist, um dann wirklich mal so auf dem Klemmbrett oder vielleicht auch noch

Wolfgang: moderner als auf dem Klemmbrett durch die Abteilung mal zu laufen und mit den Leuten zu sprechen.

Wolfgang: Also ich kenne es beispielsweise so aus meinem Arbeitsalltag.

Wolfgang: Ich hatte in der letzten Zeit ab und an mal auch mit Prozessen zu tun bei Kunden,

Wolfgang: wo es darum ging, hey, wir müssen mal eine Bestandsaufnahme machen,

Wolfgang: wie können wir Prozesse optimieren etc.

Wolfgang: Und da hatten wir auch Dokumentationen natürlich und mit denen sind wir dann

Wolfgang: aber zu verschiedenen Fachabteilungen gegangen, zu den Stakeholdern und haben

Wolfgang: gesagt, hey, lasst uns mal gemeinsam draufschauen. Passt der Prozess eigentlich für dich?

Wolfgang: Haben wir hier vielleicht schon so einen kleinen Gap zwischen Dokumentation und gelebtem Prozess.

Wolfgang: Kleiner Spoiler, ja, das gibt es fast überall. Und ja, es ist wichtig,

Wolfgang: da immer wieder drüber zu sprechen, um halt entweder die Dokumentation nachzuziehen

Wolfgang: oder halt auch den gelebten Prozess nachzuziehen.

Gast: Wie du sagst, das ist nichts Neues. Das hat man früher auch schon hier und da

Gast: mal Knowledge Engineer genannt.

Gast: Oder, wie heißt es, ein Zwischendinger als Business Analyst,

Gast: Consultant, Knowledge Engineer, also ein Mensch, der halt quasi in die Domäne

Gast: reingeht, versucht, sich,

Gast: zu durchdringen, Interviews führen gleichzeitig, aber auch zu verstehen,

Gast: wie man sowas dann modelliert.

Gast: Und ich glaube, das wird dann auch wieder kommen mit neuem Tooling.

Gast: Das geht vielleicht ein bisschen effizienter, weil man andere Werkzeuge hat,

Gast: um das zu machen, wenn man sagt, okay, ich schaue für Interviews,

Gast: aber ich speise dann nochmal Confluence rein und schaue, was dabei rauskommt.

Gast: Also dieses neue Tooling, neue Welt, glaube ich, wird diese Profession auch wieder beleben,

Gast: und ich sehe da auch für uns tatsächlich Chancen, dass wir genau das mehr tun

Gast: werden in Zukunft. Ich glaube, so die Prozesse.

Gast: Die Basics, wenn wir jetzt im Bereich Data Engineering, Data Science usw.

Gast: Machen, da wird viel automatisiert werden.

Gast: Die Plattformen, die wir dort nutzen, werden immer komplexer,

Gast: mächtiger, user-freundlicher, aber auch benutzerfreundlicher.

Gast: Also kein Mensch beauftragt uns aktuell mehr, um Hadoop-Cluster hinzustellen

Gast: und da ewig feinzuschrauben. und der war sonst kurz zu dem auch mit dem Debuggen,

Gast: sondern da gibt es einfach Produkte, die gut sind.

Wolfgang: Ja, klar.

Gast: Das heißt, die Arbeit verschiebt sich in der Value Chain weiter nach oben.

Gast: Das heißt, man rückt stärker an den Business, das Business ran.

Gast: Das heißt, Herr Öchel versteht das Business vom Kunden, modelliert das und kann

Gast: eben dadurch auch neue Use Cases umsetzen, die einfach,

Gast: viel näher an der richtigen Business, an der Value Chain vom Kunden dran sind.

Wolfgang: Ja, also sehe ich ähnlich wie du. Also durch die ganze Technologie,

Wolfgang: die heute zur Verfügung steht, ist es natürlich einfacher und auch schneller,

Wolfgang: so eine Wissensstruktur zu erstellen, weil du kannst dir einfach so eine Baseline

Wolfgang: auch mal aus vorhandenen,

Wolfgang: Dokumentationen, Dokumenten oder vielleicht auch Transkripten von irgendwelchen

Wolfgang: Gesprächen, kannst du dir schon mal schnell eine Baseline erstellen lassen und

Wolfgang: kannst mit der dann einfach arbeiten.

Wolfgang: Das heißt, da hast du schon einfach viel schnellere Iterationen,

Wolfgang: die da halt möglich sind.

Wolfgang: Das ist auf jeden Fall eine gute Sache und damit kannst du mich auf jeden Fall schon mal abholen.

Wolfgang: Aber spannend, Hans-Peter, finde ich eher so diesen anderen Teil und zwar die

Wolfgang: ganzen Fakten, die wir brauchen.

Wolfgang: Denn wenn ich zurückdenke, das Erstellen von Ontologien für irgendwelche Domänen,

Wolfgang: ja, das war schon so ein bisschen Fitzelarbeit, sage ich mal,

Wolfgang: wir hatten damals auch ein Tool auf Basis von Eclipse und,

Wolfgang: Ja, das Tool war halt auf Basis von Eclipse. Mehr sage ich da gar nicht dazu.

Wolfgang: Das war so ein Modellierungstool. Kutsche.

Wolfgang: Nee, wir haben Unterstudio.

Gast: Ach, das war euer Ding.

Wolfgang: Wir haben ein eigenes Tool gehabt. Man konnte natürlich aber auch die Ontologie

Wolfgang: von Hand schreiben im Texteditor. Das war dann so ein bisschen Hackermäßig, war auch ganz cool.

Gast: Aber die Zeiten sind nicht vorbei. Wenn du ein VSCode hast, geh mal in eine

Gast: Extension rein und gib RDF ein oder OBL.

Gast: Da kommt eine Liste von Erweiterungen.

Gast: Das ist erstaunlich.

Wolfgang: Sehr cool. Aber wie gesagt, das Erstellen von einer Ontologie,

Wolfgang: klar, das hat Zeit in Anspruch genommen. Und es war auch wichtig,

Wolfgang: dass jemand verantwortlich ist, dass das Ding aktuell bleibt.

Wolfgang: Wir haben auch teilweise von Ontology Gardening gesprochen. Wir haben die Gärtner,

Wolfgang: die Gärtnerin, die sich darum kümmert, dass es kein Wildwuchs gibt,

Wolfgang: dass das Unkraut gejätet wird und die neuen ontologischen Rosen da gegossen werden.

Wolfgang: Aber da kann man, glaube ich, einen Haken dran machen. Das geht heute schneller.

Wolfgang: Die menschliche Interaktion ist immer noch wichtig. Ich glaube,

Wolfgang: die ist vor allem auch wichtig,

Wolfgang: um auch Prozesse zu verbessern einfach, weil du hast was, über das du sprechen

Wolfgang: kannst und dann stellt vielleicht irgendjemand fest, ah, okay,

Wolfgang: so sieht das eigentlich aus. Aus meiner Perspektive wusste ich das gar nicht.

Wolfgang: Ja, das müssen wir anders machen, das ist ja komplett unnötig.

Wolfgang: Also das ist cool, Haken dran.

Wolfgang: Und dann war es bei uns früher so, das Riesen-Bottleneck, das waren Fakten.

Wolfgang: Denn wenn man jetzt eine Tabelle hat, wo lauter Fußballer und Fußballerinnen

Wolfgang: drin sind, das ist halt easy. Du hast eine Tabelle, machst ein Mapping, super cool.

Wolfgang: Bei Volltext hatten wir damals halt riesengroße Probleme. Wir hatten damals

Wolfgang: eine Kooperation mit der University of Sheffield.

Wolfgang: Da gab es ein Forschungsprojekt, da gab es so eine Workbench,

Wolfgang: wo man halt so Text bearbeitet und versucht automatisiert Fakten zu extrahieren aus Text.

Wolfgang: Und ja, es gibt ja ein paar Methoden, auch ein paar alte Methoden,

Wolfgang: mit denen man gut beispielsweise so Named Entities erkennen konnte,

Wolfgang: also Personennamen, Ortsnamen, Zeitangaben.

Wolfgang: Damit habe ich auch in manchen Projekten damals schon gearbeitet.

Gast: Aber das macht doch den LLM super gut, oder?

Wolfgang: Was ist denn so deine Einschätzung, wie gut ist da die Qualität?

Wolfgang: Weil wenn wir jetzt gerade so Sachen haben wie die Bank oder wir haben irgendwelche

Wolfgang: Konzepte oder wir haben es vielleicht auch in irgendeiner Domäne,

Wolfgang: eine bestimmte Art und Weise, wie da gesprochen wird, wie können wir denn sicher

Wolfgang: sein, dass da eine hohe Qualität irgendwo,

Wolfgang: vorhanden ist, wenn solche Texte irgendwie annotiert werden?

Wolfgang: Also wenn jetzt am bestehenden Text, würde ich, gesagt wird,

Wolfgang: okay, dieser Begriff hier, den hänge ich jetzt in meiner Ontologie an dieses Konzept dran.

Gast: Das ist nicht perfekt. Es ist erstaunlich gut, würde ich sagen.

Gast: Das ist allemal so gut, wie wenn du das einfach direkt fragst.

Gast: Also wenn du stattdessen ein Rack-System hast, wo du halt deine Dokumente hinten

Gast: dran hast, also quasi das Chunkst.

Gast: Also sagen wir, wir haben zwei Szenarien. Wir haben hier eine Haufen Dokumente.

Gast: Da wollen wir Fakten daraus extrahieren und ich habe zwei Möglichkeiten.

Gast: Ich pumpe diese Dokumente alle in eine Vektordatenbank oder ich lasse das LLM

Gast: drüber laufen über ein paar Tage und erzeuge mir Fakten für,

Gast: meine Ontologie, für mein Retriebsystem oder meine Inferenzmaschine oder mein

Gast: Sparkle Endpoint oder was.

Wolfgang: Ganz kurz, Hans-Peter, weil du so ansprichst, Sparkle kennen vielleicht auch

Wolfgang: nicht alle Leute, die hier zuhören. Ich kenne es noch.

Wolfgang: Es ist kein Gemüse, das im Frühsommer geerntet wird, sondern was ist Sparkle?

Gast: Ja, es ist eine Anfragesprache für Graphen, für Ontologien, also,

Gast: ist SQL auch als Buchstaben mit drin, also man kann das vergleichen mit SQL,

Gast: für relationale Datenbanken, ist das eben dann die Anfragesprache für solche Faktenbasen,

Gast: worüber man eben komplexe Relationen dann ausdrücken kann. Ja.

Gast: Genau, es ist genauso gut oder so schlecht, beziehungsweise wahrscheinlich sogar

Gast: besser, weil das bei der, wie ich schon sagte, bei der Extraktion aus den Dokumenten

Gast: kannst du ja danach nur verifizieren.

Gast: Du hast DAP gleich zum Schema, du kannst Teile vielleicht sogar deterministisch extrahieren.

Gast: Wenn du jetzt dieselben Dokumente in deine LLM-basierte Suchmaschine schmeißt, es,

Gast: kommen wieder Fachbegriffe, dann wirst du das wahrscheinlich vorher zanken,

Gast: das heißt in kleine Abschnitte einteilen. Da ist die Frage, habe ich das richtig gemacht?

Gast: Ich kondensiere natürlich meine Frage dann wieder in den semantischen Raum.

Gast: Da geht wieder Information verloren.

Gast: Dann stelle ich diese Frage, bekomme eine Liste von Kandidaten,

Gast: über die ich dann meine Antwort generiere.

Gast: Dabei ist ich auch nicht 100% sicher, ist der Recall gut genug,

Gast: habe ich in meinen Top-Dokumenten wirklich die Antwort drin gehabt.

Gast: Das heißt, nein, ich kann nicht garantieren, dass meine,

Gast: Fakten dann korrekt sind, weil ich habe sie mit einem probabilistischen System

Gast: extrahiert, aber verglichen mit

Gast: dem rein probabilistischen System bin ich wahrscheinlich nicht schlechter.

Wolfgang: Okay, dann lass uns das doch mal kurz vielleicht in einem konkreten Beispiel

Wolfgang: aus der Praxis oder Also wie es in der Praxis aussehen könnte,

Wolfgang: mal durchspielen, damit man es vielleicht ein bisschen besser greifen kann.

Wolfgang: Und ich glaube, ein gutes Beispiel ist vielleicht sowas wie... Ich hätte auch eins.

Wolfgang: Du hast eins? Ja, dann gerne mit deinem Beispiel, dann brauche ich mir nichts ausdenken.

Gast: Genau, das ist ein Beispiel, was glaube ich den Wert von so einem Schema nochmal klar macht.

Gast: Und eine Sache, die ich gerade auch besonders verfolge, weil ich dann sehr hohen

Gast: Wert drin sehe. Es benötigt aber jetzt von geneigtem Lörder eine kleine Schrift,

Gast: weil es geht jetzt tatsächlich nicht mehr.

Gast: Um Menschen, die Fragen an so einen Graf stellen, sondern es geht um Agenten. Und,

Gast: der Bereich, in der die KI ja gerade so ein bisschen wie so ein Wirbelsturm durch,

Gast: die ganze Branche geht, was man vielleicht vor ein paar Jahren sich hätte denken

Gast: können, aber viele gar nicht so direkt assoziiert haben, Und dass das so.

Gast: Die Hauptprofession sein wird, die von KI betroffen wird, ist die Softwareentwicklung.

Gast: Das heißt, die KI ist super gut im Softwareentwickeln. Und wir haben die ganzen Agenten wie,

Gast: Claude Groth und wie man sie alle kennt, die wirklich mittlerweile echt sehr coole Dinge tun können.

Gast: Also du gibst deine Anforderungen rein, dann rüttelt er dabei,

Gast: startet irgendwelche Superagenten und am Ende fällt mittlerweile,

Gast: was ich von Treffel ja auch nicht

Gast: so gedacht hätte, wirklich weit geht das raus, was du dir erhofft hast.

Wolfgang: Absolut beeindruckend, ja.

Gast: So, was da so ein bisschen allerdings fehlt, ist die Verfolgbarkeit und die

Gast: Steuerbarkeit. Das heißt, ich habe ja gesagt, ich schmeiße das da rein und irgendwas kommt raus.

Gast: Aber warum hat das Modell jetzt irgendwas wie entschieden und kann ich das ein

Gast: bisschen vorgeben, was er denn wie implementieren soll? Vielleicht habe ich

Gast: ja Konventionen, Architekturkonventionen und Ähnliches in meinem Unternehmen,

Gast: die befolgt werden sollen.

Gast: Da wird es dann schwierig du kannst das zwar alles in den sogenannten MD-Files,

Gast: definieren das ist einfach Text ähm,

Gast: Da kannst du einiges reinschreiben und der Agent befolgt das dann, wenn er Lust hat.

Wolfgang: So ein bisschen dieses Harness-Engineering, über das wir auch sprechen.

Gast: Genau. Ja, genau, da kommen wir so ein bisschen dahin. Aber worauf ich hinaus

Gast: wollte, wir haben genau dieses Chinese-Bispaus-Problem, über das wir gerade

Gast: gesprochen hatten vorher bezüglich der natürlichen Sprache.

Gast: Du hast zwar deinen Code und die Spezifikationen für den Agenten,

Gast: die in Text geschrieben sind, Aber dadurch, dass das eben textnatürliche Sprache ist,

Gast: bei dem sich die Bedeutung immer aus dem Kontext ergibt, hast du das Problem,

Gast: dass je mehr Iterationen dieser Agent macht und je mehr dazukommt und je mehr

Gast: er dazuschreibt, verschiebt sich natürlich auch der Kontext rund um die Wörter herum.

Gast: Das heißt, plötzlich verschiebt sich vielleicht auch die Bedeutung dessen, was da steht,

Gast: abgesehen davon, dass der Agent doch so ein bisschen auf diese Lost-Sinnense-Mittel-Problematik

Gast: hat, das heißt, er hat irgendwie tausend,

Gast: Anweisungen mittlerweile und pickt sich dann so ein bisschen das raus,

Gast: was ihn vielleicht interessiert, abgesehen davon, dass sich vielleicht über

Gast: die Zeit diese ganzen Sachen auch widersprechen.

Gast: Und jetzt ist natürlich die Idee, okay, wir haben diesen Agenten,

Gast: der schreibt Text und der Text verliert seine Bedeutung. Ah,

Gast: da hatten wir doch was dagegen.

Gast: Wir zwingen den Agenten, das auszudrücken, was er sich da ausgedacht hat,

Gast: in einem Trippel oder in einem Faktenraum.

Gast: Und das hat aus meiner Sicht wirklich große Vorteile.

Gast: Einerseits löst du so ein bisschen on the fly, da brauchst du keine Katalogie

Gast: dazu, aber das Problem ist auch gelöst, das Agent Memory. Das heißt, man,

Gast: Ich stelle meinem Agenten über

Gast: ein Werkzeug, das heißt MCP, das ist quasi wie so ein API für Agenten.

Gast: Stelle ich den Zugang zu einem Knowledge Graph, zu einem Sparkle Endpoint zur Verfügung.

Gast: Das heißt, der Agent ist in der Lage, da Queries hinzustellen.

Gast: Das heißt, er kann zum Beispiel fragen, was habe ich denn zuletzt gemacht?

Gast: Oder er kann fragen, was ist der nächste Schritt oder er kann sagen,

Gast: schreib mir mal in den Knowledge Graph eine Lesson rein, die ich gerade gelernt

Gast: habe weil was schief gegangen ist und in der nächsten Literation kann er dann,

Gast: eine Quere stellen habe ich irgendwelche Lessons, die zusammenhängen mit dem was ich hier gerade tue.

Gast: Das ist so ein bisschen die grobe Architektur Ich habe einen Agenten,

Gast: und der Agent implementiert Dinge und er hat die Möglichkeit,

Gast: mit einem Knowledge Graph zu kommunizieren, sowohl da Sachen reinzuschreiben

Gast: als auch wieder rauszuziehen.

Wolfgang: Wo wäre da jetzt der große Benefit im Vergleich zu der Agent schreibt sich diese

Wolfgang: ganzen Dinge im Textfile, was halt heute so der Standard ist?

Gast: Genau, da komme ich, da wollte ich jetzt auch genau drauf raus.

Wolfgang: War nicht abgesprochen.

Gast: Ja, dadurch, dass der Agent seine Entscheidung und seine Architektur und alles,

Gast: in einer formalen Repräsentation formulieren muss, bin ich in der Lage,

Gast: das, was er da schreibt, auch deterministisch, logisch zu verifizieren. Beispíl,

Gast: die Sagend,

Gast: Also zunächst, diese Pipeline, die ich da habe, geht von Lastenheft oder Idee,

Gast: also je nachdem, in welchem Paradigmen man arbeitet, bis zum Deployment.

Wolfgang: Okay.

Gast: Und wir sprechen jetzt nur über einen Zwischenschritt, der ist das Architekturdesign.

Gast: Für die Architektur gibt es eine Ontologie, die beschreibt Softwarearchitektur.

Gast: Ja, wie habe ich die erstellt?

Gast: Ich habe gesagt, hier gibt es verschiedene Standards, deren ISO-Nummer ich jetzt

Gast: auch schon wieder vergessen habe, aber es gibt Archimate,

Gast: es gibt UML logischerweise, es gibt Curricula wie ISAQB und so weiter.

Gast: Aus all diesen klosaren Dokumentationsspezifikationen.

Gast: Ähm.

Gast: Wurde oder haben wir eine Ontologie erstellt, die diese Domäne spezifiziert.

Gast: Da gibt es Komponenten, Komponenten können aufeinander zugreifen,

Gast: es gibt irgendwelche Beziehungen, Interests, es gibt API-Aufrufe,

Gast: alles Mögliche ist spezifiziert in dieser Ontologie.

Gast: Das heißt, ich kann, wenn jetzt der Agent in einem Schritt...

Gast: Seine Architektur erstmal so spezifizieren muss, bevor er anfängt,

Gast: sie runterzucke. Und kann ich mir eine Webseite aufrufen, die mir das erstmal rendert als Diagramm.

Gast: Weil er muss.

Gast: Seinen Architekturentwurf als Fakten formulieren. Und das ist dann ein Graph.

Gast: Und diesen Graph kann ich darstellen als Komponentendiagramm, Sequenzdiagramm.

Gast: Und das ist schon mal eine schöne Sache.

Gast: Es ist eine einzige Wahrheit. Normalerweise habe ich in der Softwarearchitektur

Gast: diese verschiedenen Diagramme, die male ich mir auf,

Gast: Die sind aber nicht unbedingt konsistent, weil sie alle eigene Modelle sind.

Gast: In diesem Formalismus kann das nicht passieren, weil es gibt nur eine Wahrheit,

Gast: und diese verschiedenen Diagramme sind Ausprägungen von diesem Graph.

Gast: Das heißt, er muss es da reinschreiben. Dadurch wird das, was er da tut,

Gast: schon erstmal nach dem Schema abgeglichen, ob das dem entspricht.

Gast: Das heißt, das ist der erste Qualitätscheck.

Wolfgang: Aber du musst doch dann aber auch, oder wie machst du das dann, dass dieser Agent diese,

Wolfgang: ganze Überlegung zur Architektur auch in genau diesem Format dir anzeigt,

Wolfgang: wie du dir das gedacht hast, beziehungsweise wie es deine Ontologie vorgibt.

Wolfgang: Das heißt, sagst du dann dem, in Anführungszeichen, sagst du dem Agenten dann,

Wolfgang: hey, schau mal, hier ist erst mal die Ontologie, hier sind die Regeln,

Wolfgang: hier sind die ganzen Konzepte, also nimm jetzt mal deine Überlegungen und faszinierend.

Gast: Das ist das Faszinierende und warum ich sage, plötzlich funktioniert das alles.

Gast: Ja, das ist das Faszinierende, ja, das funktioniert. Ich sage ihm das,

Gast: hier ist die Ontologie und er sagt, ah, cool, ich habe ja eine Ontologie,

Gast: die schreibt bei der Architektur.

Gast: Ja klar, dann treffe ich hier diese Trippel, die das beschreiben,

Gast: was ich hier gerade will.

Gast: Und es geht auf andere. Also da bin ich selbst überstaunt, wie stark diese Modelle mittlerweile sind.

Gast: Es ist nicht so, dass der jetzt tausend Versuche macht und dem dann den Architekturentwurf

Gast: schickt und der sagt, nee, Serverfehler stimmt alles nicht und entspricht nicht dem Schema oder so.

Gast: Normalerweise macht er zack und dann ist es drin.

Gast: Ähm, so das hat aber noch einen schönen Vorteil, äh, denn ähm,

Gast: wir hatten es ja vorhin von den, äh, Reasonern und Inferenzmaschinen und von Prolog ja, ähm,

Gast: Das Ganze ist ja also nicht nur.

Gast: Eine Ontologie, darüber haben wir jetzt noch gar nicht gesprochen,

Gast: so ein bisschen am Rande, als du von F-Jolgic gesprochen hast,

Gast: sondern die formalen Ontologien, sowas wie OBL,

Gast: ist eigentlich eine andere Sicht auf logische Fakten.

Gast: Das ist ein formales System,

Gast: ein logisches System. Das heißt, das ist das, was du vorhin gesagt hast,

Gast: Sokrates und so weiter und so fort.

Gast: Und das wiederum hat den Vorteil, dass du sogenannte Constraints auf deinem

Gast: Modell definieren kannst.

Gast: Du kannst zum Beispiel sagen, so eine Architektur, wenn ich da jetzt zum Beispiel

Gast: ein Storage-Bucket habe, dann habe ich den Constraint, da sollten nicht mehr

Gast: als fünf Producer draufschreiben.

Gast: Oder ich habe ein System, das das Quality Goal Scalability hat oder Resilienz.

Gast: Und ich habe hier ein Architekturmodell, das hat keine Renundanz.

Gast: Das ist zum Beispiel in meiner Autologie eine Komponente und es gibt nur eine

Gast: davon. Das kann ich in einer Regel entweder in Datalog oder in einem System, nennt sich Shackle.

Gast: Das gab es zu dem Zeitpunkt noch nicht, als wir, Suckel gab es nicht.

Gast: Wir haben uns damals ein bisschen was abgebrochen mit Meta-Ontologien,

Gast: die solche Shapes definiert haben, was ganz cool ist, von ungefähr 2018.

Gast: Damit kannst du so Constraints auf deinem Graphen definieren.

Gast: Das heißt, mein System, wenn er ergänzt, diese Architektur schreibt,

Gast: dann habe ich hier so mein, ich male gerade in den Raum so ein Quadrat,

Gast: das sieht der geneigte Führer jetzt nicht.

Gast: Also du hast quasi in der Applikation, die mir jetzt zum Beispiel das Architektur-Design

Gast: visualisiert, hast du nebendran so Validation-Checks.

Gast: Da ist einfach eine Liste von Überprüfungen, wo du sagst, das ist Best Practices,

Gast: das habe ich mal gelernt, das ist vielleicht auch Illurex Wissen.

Gast: Also man könnte sich zusammensetzen und sagen, das sind so Sachen,

Gast: das denken wir, das ist gut.

Gast: Das ist eine gute Art von Architektur.

Gast: Das sammle ich mal und formalisiere mir das als solche Constraints auf diesem Graphen.

Gast: Und plötzlich habe ich einen Agent, der schreibt das, bekommt Feedback.

Gast: Nee, also was du mir jetzt da abgeliefert hast, das hat die und die Fehler.

Gast: Und mit solchem Feedback wiederum können Agenten super gut arbeiten.

Gast: Also Feedback ist für die super, das mögen die total.

Gast: Weil wenn sie so Feedback bekommen, können dann weiter darüber reden.

Wolfgang: Das mögen wir doch alle Hans-Peter.

Gast: Ja, genau. Manchmal mehr, manchmal weniger.

Wolfgang: Ja, und du hast da für dich ein Demosystem entwickelt?

Gast: Genau, ja. Ja, ja, ja. Und das teste ich gerade relativ ausführlich.

Gast: Wir haben jetzt auch einen Student, der soll, das ist auch eine Sache,

Gast: die betrifft nicht nur dieses Thema, sondern ist auch allgemein interessant.

Gast: Die Frage ist natürlich, das klingt jetzt alles ganz fancy und auch.

Gast: Logisch, die logisch klingt, das ist super und das ist alles sehr nachvollziehbar,

Gast: wenn ich das jetzt hier so begeistert darstelle, aber bringt das halt überhaupt irgendwas?

Gast: Und das ist natürlich noch nicht gezeigt und deswegen, wenn wir jetzt mit Studis

Gast: mal so Evolutionsframeworks,

Gast: für Architekturen bauen, wo du halt ein bisschen quantitativ,

Gast: an Beispielen oder an der Ground Truths evaluieren kannst, ob jetzt so ein Agent,

Gast: der sich an so ein formales System orientiert, versus,

Gast: ein Plane Cloud da irgendwas bringt.

Gast: Die Herausforderung ist natürlich, die Dinger werden auch massiv besser.

Gast: Du hast Harness Engineering genannt, das geht so ein bisschen in die Richtung tatsächlich.

Gast: Das frustriert die Leute aber gerade sehr, die dieses Harness Engineering oder

Gast: Skill Engineering machen, weil,

Gast: Du steckst da vier Grips rein und dann kommt die nächste Klo-Version und dann

Gast: sagt er, es ist schon drin, das kann ich einfach besser.

Gast: Also alles, was du dir ausgesagt ist, ist sehr schön und du kannst einen Vortrag

Gast: bei mir draus machen, aber vergiss es, das brauchst du jetzt eigentlich nicht.

Wolfgang: Hans-Peter, ich habe Java 1.3 programmiert früher. Also da brauche ich über

Wolfgang: Frustration, braucht mir da gar keiner was erzählen.

Wolfgang: Ich finde das sehr spannend. Gibt es dann auch so eine Zusammenarbeit mit den

Wolfgang: Kollegen im Haus, die sich dann auch gerade architekturmäßig mit dem ISAQB-Thema

Wolfgang: stark beschäftigen? Ja, sehr cool.

Gast: Mit dem Markku zum Beispiel.

Wolfgang: Ja, also finde ich interessant, gerade weil du halt Letzteres,

Wolfgang: was du noch erwähnt hast, gerade auch das mit der Frustration,

Wolfgang: dass viele Dinge, wo man sich jetzt

Wolfgang: vom Kopf zerbricht, dass man es dann irgendwann gar nicht mehr braucht.

Wolfgang: Also ich kann mich erinnern, als es angefangen hat, ganz stark mit diesem Agantic

Wolfgang: Coding, da hat man ja am Anfang so seine ganzen Claude-MD-Files gehabt und hat

Wolfgang: da ganz viel reingetippert und irgendwann habe ich mal einen Artikel gelesen vor,

Wolfgang: wenigen Wochen oder ein, zwei Monaten, wo letztendlich auch drin stand,

Wolfgang: ja, bringt eigentlich gar nichts mehr.

Wolfgang: Also das Modell ist so out of the box, Vanilla ist einfach schon so gut,

Wolfgang: du brauchst dir da nichts mehr abbrechen, gib drei, vier Rahmenparameter ein,

Wolfgang: dann passt das eigentlich schon so weit.

Gast: Genau, aber das ist schon, das ist ein bisschen frustrierend,

Gast: aber man darf sich da auch nicht kirre machen lassen.

Gast: Also ich glaube, Persistenz und sagen, ich habe eine gute Idee oder ich finde

Gast: das logisch, man muss auch ein bisschen dranbleiben und sich nicht komplett

Gast: immer dann frustrieren lassen.

Gast: Also wir haben das Problem jetzt ja gerade diese Woche im Bereich Mathematik,

Gast: wo er irgendwie 200 Beweise von irgendwelchen mathematischen Problemen rausgehauen hat.

Gast: Da werden sich hunderte Doktoranden jetzt an den Kopf fassen und sagen,

Gast: warum mache ich denn das?

Gast: Überhaupt.

Wolfgang: Ja, aber bald da.

Gast: Jetzt wartest du einfach mal ein paar Tage ab und die ersten Leute schauen da

Gast: ein bisschen genauer drauf und dann merkst du auch, ja, dass,

Gast: mit der KI und der Mathe vielleicht sind wir dann doch noch nicht ganz da,

Gast: wo wir keinen Grips mehr brauchen und,

Gast: aufhören können zu denken.

Gast: Weil alles davon ist einfach nur Sinn.

Wolfgang: Ich bin immer ein bisschen skeptisch bei den ganzen Sensationsmeldung,

Wolfgang: egal ob es in diese Richtung geht, was so die Mathe-Geschichte angeht oder den

Wolfgang: Untergang der Menschheit, das ist halt ganz viel lautes Blabla.

Wolfgang: Ich glaube, das ist vor allem halt extrem gut für die Aktienkurse,

Wolfgang: aber auch bei diesen ganzen mathematischen Beweisen.

Wolfgang: Ich habe mich da auch mit ein paar Leuten aus der Mathe-Bubble so ein bisschen

Wolfgang: unterhalten und da sagte man mir halt auch, ja, der Beweis,

Wolfgang: ob das jetzt wahr oder falsch ist, whatever, das ist ja so das eine,

Wolfgang: Aber der Erkenntnisgewinn, das ist ja nochmal ein ganz anderes Thema.

Wolfgang: Und wenn du jetzt irgendwie so einen automatisierten Beweis hast mit irgendwie,

Wolfgang: was weiß ich, wie viele Tausend oder wie viele Millionen Axiomen, wie bei,

Wolfgang: was war das neulich, was es da gab, ich glaube so ein Hilbert-Problem,

Wolfgang: was irgendwie gelöst wurde oder auch vermaßletzter Satz, wo es nochmal einen

Wolfgang: automatisierten Beweis gab,

Wolfgang: Ja, aber was fängst du denn damit an? Dann weißt du, okay, es stimmt oder es

Wolfgang: stimmt vielleicht auch nicht, aber der Erkenntnisgewinn, der bleibt auf der Strecke.

Gast: Auf der anderen Seite stimme ich dir absolut zu und das ist ein großes Problem

Gast: in der Wissenschaft, weil einfach dann die Motivation fehlt,

Gast: den Dingen trotzdem auf den Grund zu gehen.

Gast: Man kann sagen, okay, höre ich auf, KI hat ja irgendwas zusammengebaut,

Gast: und scheint ja dann so zu sein und warum soll ich mich da noch irgendwie damit beschäftigen?

Gast: Und da stimme ich dir völlig zu, das ist eine große Gefahr. Jetzt,

Gast: bei meinem äh, bei meinem,

Gast: Bei dem, wo wir gerade vorher drüber gesprochen haben, ist es natürlich ein

Gast: bisschen anders, weil wir als Projekthauswärter jetzt für Erkenntnisgewinn nicht direkt bezahlt.

Gast: Also wir müssen schon gucken, ist das eine jetzt wirklich, bringt das jetzt

Gast: was und wenn wir das so machen,

Gast: oder nicht und das müssen wir schon noch herausfinden.

Wolfgang: Ja, also was ich da so im Hinterkopf habe und das ist vielleicht auch mal noch

Wolfgang: ein Thema für ein Follow-up, wenn es um so Ontologie-Geschichten geht,

Wolfgang: wenn sowas gut funktioniert, dass man automatisiert Fakten extrahieren kann

Wolfgang: aus Dokumenten, dann ist man vielleicht wieder an dem Punkt,

Wolfgang: wo man eine spannende technologische Lösung für Intranetsuche einfach hat.

Wolfgang: Weil die großen Unternehmen, auch unsere Kunden, die haben natürlich alle enorm

Wolfgang: große Datenmengen, die teilweise über Jahre und Jahrzehnte angehäuft wurden.

Wolfgang: Und wenn man diese Daten neu nutzbar machen kann, neu erschließen kann, das ist gut.

Wolfgang: Und letztendlich, vielleicht kommt man ja auch zu einer Lösung,

Wolfgang: wo man sagt, okay, man nutzt LLMs hier für die Extraktion von irgendwelchen

Wolfgang: Fakten, kann danach vielleicht eine Suche auf ontologischer Basis durchführen

Wolfgang: und die ist halt schneller und billiger.

Gast: Und vor allem billiger und verbraucht vielleicht auch nicht so viele Ressourcen.

Gast: Das heißt, du hast zwar in dieser neuen Welt dann immer noch das Problem,

Gast: dass du diese großen Modelle trainieren musst und dadurch eben auch den Ressourceneinsatz brauchst.

Gast: Aber in der Anwendung, wenn du es in dieser Form machst und das gelingt,

Gast: dann brauchst du das Modell ja nur einmal und dann läuft der Inferenz erhoffener CPU ab.

Wolfgang: Ja klar, oder hast du vielleicht irgendwie eine Anwendung, eine lokale Anwendung

Wolfgang: für unterwegs, irgendwie auf dem Mobiltelefon.

Gast: Genau, und wenn dir ein Tropik dann später das, oder irgendein anderer Probeier,

Gast: ich will niemand auf die Füße treten, sagt, oder irgendein geopolitischer Mensch.

Wolfgang: Wir haben heute, fürs Protokoll, wir haben heute den 9. Oktober 2026,

Wolfgang: der Nobelpreis wurde heute verliehen und er ging wieder nicht an Donald Trump,

Wolfgang: also es ist gut möglich, dass uns Europäern alles abgetreten wird.

Gast: Da sagt er, finde ich jetzt nicht gut, dass wir in Europa dieses Modell haben,

Gast: und du hast halt vorher deine Daten damit aber schon extrahiert.

Gast: Dann hast du da natürlich das Problem, dass du es nicht mehr aktualisieren kannst,

Gast: aber zunächst mal ist es deins.

Gast: Und bei dieser reinen Faxen-Extraktion habe ich schon was gesagt.

Gast: Faxen-Extraktion. Wie ich sagte, der Task ist auch, wenn du das gut vorgibst

Gast: und die Art der Dokumente kennst, da brauchst du kein super starkes Modell.

Gast: Das kann auch ein europäisches Modell sein, ein kleineres Not-Modell, mit dem du das tust.

Wolfgang: Ja, du brauchst vor allem wahrscheinlich im Jahr 2027, reichte dafür wahrscheinlich

Wolfgang: dann auch ein 2025er Modell noch, weil es jetzt kein Rocket Science Task ist,

Wolfgang: wenn es ausreichend gut funktioniert.

Wolfgang: Hans-Peter, jetzt haben wir noch den Bogen über die Politik,

Wolfgang: haben wir den Bogen jetzt noch zur...

Gast: Die Philosophie, Mathematik, haben eigentlich alles.

Wolfgang: Und jetzt sind wir bei der europäischen digitalen Souveränität.

Wolfgang: Also ich glaube, wir haben alle wichtigen Passwörter damit abgefrühstückt für heute.

Gast: Genau, und wir treffen uns im Jahr wieder und dann schauen wir,

Gast: ob jetzt dann die Semantik Web-Renaissance angefangen hat oder nicht.

Wolfgang: Ja, und ich schreibe bei LinkedIn jetzt gleich mal mein Profil,

Wolfgang: dass ich Ontologe bin. Also so wie bei meinen Sprachkenntnissen teilweise könnte

Wolfgang: ich bei Ontologie hinschreiben, reaktivierbare Grundkenntnisse.

Wolfgang: Hans-Peter, mir hat es Spaß gemacht, nach so vielen Jahren mal wieder zu fachsimpeln

Wolfgang: über Ontologien und ich habe auch während des Gesprächs nachgedacht,

Wolfgang: wann war denn mein letztes Mal,

Wolfgang: Ontologie und ich kann mich erinnern, dass ich vor sicher zehn Jahren war hier

Wolfgang: bei Inovex mal bei einem Vorstellungsgespräch für einen Kollegen,

Wolfgang: der jetzt auch schon gute zehn Jahre bei uns arbeitet.

Wolfgang: Und der hatte in seiner Bewerbung, hatte der stehen, dass er was mit Ontologien gemacht hat.

Wolfgang: Und da habe ich mich sehr gefreut, ihn da ausführlichst, aber nur aus Neugierde,

Wolfgang: ausführlichst darüber zu befragen.

Wolfgang: Und ich glaube, ihm war das dann total unangenehm, weil er das halt da drinstehen

Wolfgang: hatte, aber da halt auch aus dem Thema schon raus war.

Wolfgang: Aber Forschungsgespräch lief gut und der begleitet uns jetzt schon sehr,

Wolfgang: sehr lange. Also wenn er hier zuhört, dann weiß er, wer gemeint ist.

Gast: Okay, kann ich ja gleich auf ihn zugehen, wenn wir diese Skills wieder brauchen.

Wolfgang: Stimmt, er ist dein Team, Hans-Peter.

Gast: Sehr schön.

Wolfgang: Mich hat es gefreut, war ein schönes, spannendes Thema. Ich hoffe,

Wolfgang: die Leute konnten uns folgen, als wir vielleicht ein bisschen arg in die Thematik

Wolfgang: ausgeschweift sind. Aber ich fand es sehr interessant.

Gast: Ups, aber wir hatten es Spaß. Hans-Peter, danke schön.

Wolfgang: Das war mein Gespräch mit Hans-Peter. Danke fürs Zuhören.

Wolfgang: Wenn ihr Feedback oder Fragen habt, dann schreibt mir gerne an podcast.innovex.de.

Wolfgang: Die nächste Folge von Digital Future kommt bald und bis dahin macht's gut und bleibt neugierig.