In der 6. Folge von HSG Research Insight wird der Einfluss von KI auf das Rechtssystem eingehend diskutiert. Wo stehen wir aktuell? Welche rechtsphilosophischen Fragen wirft KI im Rechtssystem auf? Werden Richter:innen irgendwann überflüssig? Was geht verloren, wenn juristische Texte zu Programmcode werden?

Host Daniel Sager beleuchtet mit den beiden Gästen Prof. Dr. Simon Mayer und Dr. Aurelia Tamò-Larrieux die verschiedenen Epochen der Automatisierung des Rechts und die Herausforderungen, die sich daraus ergeben haben. Simon Mayer ist Professor an der School of Computer Science der HSG (SCS-HSG) und Aurelia Tamò-Larrieux ist Assozierte Rechtsprofessorin an der Universität Lausanne. Beide verbindet bereits eine längere Forschungszusammenarbeit, woraus das Buch "AI and Law" entstanden ist, das sie zusammen mit Dr. Clement Guitton, ebenfalls von der SCS-HSG, geschrieben haben.

HSG Research Insight, ein Wissenschaftspodcast der Universität St.

Gallen.

Hast du auch schon bei ChatGPT juristischen Rat eingeholt und dich dann gefragt, wie zuverlässig diese Auskunft wohl ist?

Digitalisierung und künstliche Intelligenz machen auch vor dem Rechtssystem nicht halt.

Doch diese Entwicklung wirft viele ethischen und rechtsphilosophischen Fragen werden Richter innen irgendwann überflüssig und alle Urteile von einer KI gefällt?

Wäre das wirklich wünschenswert?

Was geht verloren, wenn aus juristischen Texten Programmcode wird?

Während aktuell viel über die gesetzliche Regulierung von KI diskutiert wird, wollen wir in dieser Folge den Zusammenhang von Recht und KI aus der umgekehrten Perspektive betrachten, nämlich welchen Einfluss denn die KI auf unser Rechtssystem hat.

Dazu spreche ich mit zwei Personen, die sich in ihrem Buch AI and law genau dieser Frage widmen.

Simon Meier ist Professor an der School of Computer Science an der HSG und Aurélia Tamaularie ist Rechtsprofessorin an der Universität Lausanne.

Aurelia und Simon, schön, dass ihr hier seid.

Ihr habt jetzt ja ein Buch herausgegeben, das sich eben mit dem Einfluss von KI auf das Rechtssystem befasst.

Was war bei euch so der Aha Moment, wo ihr gemerkt KI wird das Rechtssystem grundlegend verändern?

Dani, vielen Dank für die Einladung.

Ich glaube, für uns war es eigentlich weniger ein aha Moment.

Es ist jetzt schon eine lange kontinuierliche Arbeit und eine Annäherung gewesen unserer zwei Felder.

Das Thema Automatisierung des Rechts ist eigentlich nicht ein neues Thema, aber es ist jetzt viel greifbarer geworden für die Leute.

Insbesondere mit ChatGPT und anderen LLMs kann man ja auch rechtliche Fragen stellen.

Und es ist viel mehr klar geworden, auch inwiefern das recht automatisiert werden kann.

Weil du nach dem Aha Moment gefragt hast, oder?

Ich finde das unheimlich bereichernd für mich als Informatiker, mit diesem Feld zu arbeiten, mit diesem Feld, mit Aurelia als Person auch oder mich auseinanderzusetzen.

Für mich ist so, für mich fängt das erstmal naiv an, weil ich kam damals aus der Robotik, aus der industriellen Automatisierung und für mich fing das recht naiv an mit der Interpretation von Recht durch den Roboter oder wie könnt ihr dem Roboter beibringen, was gerade erlaubt ist und was nicht erlaubt ist?

Und dann könnt ihr Roboter sich ja danach richten.

Und so haben wir auch damals, das war dann ein paar Jahre später, haben wir den ersten Prototyp in die Richtung gebaut.

Leider können die Zuseher nicht sehen, aber der schaut so aus.

Er ist so ein kleiner Roboter, der so rumfährt und Fotos macht.

Der Punkt ist genau der, ich habe es naiv gesehen.

Ich habe gesehen, hey, das ist einfach das Recht, das interpretiert jetzt die Maschine so und fertig oder end.

Of story.

Und jetzt habe ich ein Automatisierungssystem, das richtet sich nach dem Recht.

Aber in Wirklichkeit ist dieses Thema, und das kommt meinem aha Moment am nächsten, in Wirklichkeit ist dieses Thema viel, viel größer, als ich eigentlich gedacht hatte.

Weil diese Interpretation, diese Automatisierung der Interpretation, man muss sich ja da die Frage stellen, ob das überhaupt grundlegend aus Rechtssicht, nicht aus Automatisierungssicht vernünftig ist.

Ich meine damit, wir kommen später bestimmt noch zu Pitfalls oder zu Problemen, die Automatisierung des Rechts mit sich bringt, aber ist das denn überhaupt sinnvoll, dass ich so einen Roboter baue, der sich nach dem Recht richtet?

Soll der sich nach dem Recht heute richten oder nach dem Recht vorgestern?

Inwieweit kann ich denn beweisen, dass der sich nach dem richtigen Recht richtet?

Und ich schalte ja da einen, also für mich, das ist für mich ein ganz gutes, greifbares Ding, glaube ich.

Was ich ja technisch mache, ist, dass ich jemanden, der programmiert, zwischenschalte zwischen das Recht und die Ausführung.

Das heißt, diese Person, die da programmiert, die kriegt so eine Art Agency, so eine Art rechtliche Agency, die aber nicht demokratisch abgestützt ist.

Oder wer den Code, den können die meisten Leute in der Schweiz nicht lesen.

Und das hat für mich dieses Tor aufgemacht, dass man sich, wenn man das recht automatisiert, auseinandersetzen muss mit den Grundlagen des Rechts und nicht eben nur mit den Grundlagen der Automatisierung.

Das heißt mit rechtsphilosophischen Grundlagen, mit der Entstehung von Recht, mit mit demokratischen Prozessen in der Schweiz.

Das, was für mich so ein Aha, es ist nicht so einfach und so eindimensional in dem Sinn eben.

Du hast schon angesprochen, die Automatisierung des Rechts, das ist nicht jetzt etwas, das es erst seit ChatGPT und LLMs gibt.

Wenn man da mal ein bisschen historisch noch zurückschaut, ihr beschreibt im Buch dann auch diese drei Wellen der Automatisierung des Rechts.

Was war denn da die erste Welle?

Ja, es gibt, wie du sagst, es wird oft mit diesen drei Wellen eigentlich erklärt.

Und die erste Welle ist vielleicht ein bisschen fast zu banal.

Also es ist wirklich auch etwas, das wir jetzt schon seit langem kennen.

Und hier geht es wirklich nur darum, die Digitalisierung von Dokumenten.

Aber das ist schon noch ein wichtiger Schritt.

Also die Digitalisierung von Rechtstexten, von Rechtstexten.

Von Urteilen, von Dokumenten, die es braucht, um diese überhaupt zu automatisieren.

Und deswegen meine ich auch, diese erste Welle scheint heutzutage gar nicht mehr so quasi, wie soll ich sagen, vielleicht nicht mehr, die scheint fast zu banal, oder?

Aber das ist natürlich eine wichtige Evolution, dass wir digitalen Zugriff haben auf die Dokumente, die es braucht.

Das ist so die erste Welle.

Nun ist das natürlich im Rechtssystem.

Die haben dort nicht so richtig so einen Open Source Zugang zu den Geschichten.

Das war für mich eine neue Sache.

Ich war ja naiverweise davon ausgegangen, dass eigentlich alle Urteile und irgendwie auch Interpretationen von Urteilen und so öffentlich zugänglich sind.

Stellt sich heraus, dass das nicht so ist.

Jede Rechtsstudentin weiß das, weil Informatiker wissen das nicht.

Die könnten da durchaus was anderes annehmen.

Das ist alles zugänglich.

Also genau wie Aurelia sagt, die Digitalisierung ist nicht so weit.

Es gibt große Plattformen in der EU, es gibt große Plattformen in einzelnen Ländern, die viele Dokumente bereitstellen und auf denen basieren auch diese Szene heute.

Aber selbst das ist noch nicht abgeschlossen.

Ein wichtiges Umsetzungsproblem ist die Anonymisierung.

Und es ist nicht so einfach, dass man einfach die Namen und Geburtsdaten rausstreicht oder wenn dort steht, wo jemand wohnt oder was der als Arbeit macht oder so, dann ist das ja auch potenziell de anonymisierbar.

Also das ist nicht so einfach, wie es erst mal scheint.

Und deswegen läuft dieses ganze Ding auch immer noch.

Aber was diese erste Welle macht, ist, die ist ja die Grundlage dafür, dass Menschen und auch Maschinen das Ganze interpretieren können und das Ganze den Zugriff haben.

Also auch Menschen haben ja dadurch erst Zugriff, dass man Zugang zu diesen Dokumenten hat.

Und jetzt hat man, ich komme zur zweiten Welle von diesem Ablauf, oder jetzt folgt das recht synchron der Entwicklung von Automatisierung, von künstlicher Intelligenz in anderen Bereichen auch.

Und da haben wir in den er er Jahren haben wir eine starke Welle gesehen.

Das waren sogenannte Expertensysteme.

Das waren Systeme, denen man Regeln beigebracht hat, wie sie gewisse Daten verarbeiten sollen.

Und die haben diese Regeln dann angewendet, oder das waren dann Systeme, da hat man sich überlegt, die könnten jetzt automatisch philosophieren oder die könnten jetzt automatisch mathematische Beweise führen, weil sie ja auf Axiomen basieren und weil der Rest ja Logik ist.

Das war so die Herangehensweise bei Expertensystemen.

Realität basierte Systeme.

Und jetzt konkret im Recht, wie wurde das da angewendet?

Ja, z.B.

also ich meine, das Beispiel, das eigentlich immer genommen wird oder oft zitiert wird, geht es um Bürgerrechtsentscheidungen, weil dort hast du relativ klare Strukturen.

Ob jetzt jemand, also das Beispiel, das genommen wird, ist jetzt aus England, ob jetzt dort jemand die britische Staatsbürgerschaft erhalten soll, ja, nein, hat mit der Mutter zu tun, ob sie von der UK ist oder nicht, mit dem Vater, wo das Kind geboren wird etc.

Also man hat relativ logischer Ablauf von Fragen, die man stellt, bis man den Entscheid fällen kann, der ja entweder hat man die Staatsbürgerschaft oder nicht.

Und das ist deswegen auch sein Beispiel, das relativ schnell intuitiv ist, dass man dort versuchen würde, das viel logischer aufzubauen.

Und man kann sich das dann so vorstellen, dass das wie ein Entscheidungsbaum dahinter ist, den man durchfolgt und dann kommt man zu einem Resultat und das ist dann so ein rechtliches Expertensystem, dass es automatisch abläuft.

Aber auch dort, auch deswegen ist das Beispiel eigentlich mit der Staatsbürgerschaft so spannend.

Ja, das kann man gut durchspielen.

Man kann sich gut vorstellen, wie man hier mit einem Entscheidungsbaum zu seinem Ergebnis kommt.

Aber z.b.

war dort im Gesetz stand, man musste ein level of english, irgend sowas war der Term.

Also man muss ein angemessenes Niveau von Englisch beherrschen für die Staatsbürgerschaft.

Und da stellen sich schon die ersten ja gut, was heißt jetzt angemessen?

Genau mit solchen Themen oder Wörtern, die eben Interpretierung bedürfen, die rechtsgängig sind, dort wird es schwierig und dort haben auch solche Expertensysteme dann schnell mal Probleme oder brauchen mehr Kontextualisierung, einfach als Beispiel.

Aber das Beispiel, was man jetzt genannt hat, das war schon in den er er Jahren.

Nein, vor 40 Jahren oder so.

Also das war, das Paper stammt von glaube ich, den er Jahren nach 86 oder so, das Beispielspaper, das immer genannt wird.

Und für unser Buch haben wir das schweizer Bürgerrecht genommen, in einem Beispiel, das wir schön groß ausführen und wo wir, weil das zeigt so ideal, wo die Probleme lauern.

Also für mich als Informatiker das richtig gut gezeigt, wo die Probleme dauern.

Das kommt, das kommt relativ, relativ harmlos daher.

Da steht, dass man halt Eltern haben muss und die mindestens irgendwie einer davon muss irgendwie schweizer oder Schweizerin sein.

Und die Formulierung, wenn man jetzt hergeht, was wir im Buch machen ist, wir reformulieren, dass als Code, weil am Ende, wenn eine Maschine das interpretieren soll, dann muss irgendwo im Laufe des irgendwo im Laufe des Prozesses muss mal ein Prozessor mit Nullen und Einsen oder muss das mal ausführen und dem Prozessor muss ich also irgendwie erklären, was das alles heißt.

Und das interessante, was wir jetzt im Buch ausführen, wir nehmen den schweizer Gesetzestext, wir bauen den um in Python Code, wir kompilieren den runter oder wir interpretieren den runter, sodass der auf einem Prozessor laufen kann.

Und dann nehmen wir den Code und übersetzen ihn wieder zurück in menschliche Sprache, um zu demonstrieren, wie viel jetzt eigentlich verloren ging aufgrund des.

Wie soll ich das nennen?

Aufgrund der unzureichenden vielleicht kulturellen Passung des Programmierers.

Siehst du, wie ich das meine?

Kannst du ein Beispiel nennen?

Was ging da verloren?

Gerne.

Die Geschlechter der Eltern z.B.

die gehen verloren.

War das recht, war das schweizer Bürgerrecht so gemeint, dass das Kind eine Vater und eine Mutter Mutter haben muss, oder reicht es, dass es zwei Eltern hat?

So, das ist die Frage, oder?

Jetzt steht da drin Vater in der Mother.

Vater und Mutter.

Also wir haben die englische Version von dem Ding, oder?

Das heißt, wenn ich das strikt interpretiere, muss es Vater und eine Mutter haben.

Dort gehen wir jetzt also in eine kulturell flexiblere Definition von Familie rein, die aber in das Recht rein codiert wird.

So, was passiert jetzt, wenn ich jetzt einen Informatiker oder eine Informatikerin nehme und die Person hinsetze und sage, bitte übersetzt das mal in Code.

Das geht schon, aber die Person muss Entscheidungen treffen, die möglicherweise so nicht intendiert waren.

Und das führt zu einem Problem, das mir Aurelia beigebracht hat.

Das Problem ist das Freezing of the law.

Und was ist jetzt aber, wenn sich die Kultur unter dem Recht wegbewegt?

Solange ich das nicht codiert hatte, konnte ich reinterpretieren, ein Richter kann reinterpretieren, aber ein Assembly Code, der am Ende im Prozessor ausgeführt wird, der kann das nicht.

Und das fand ich total spannend.

Oder es sind kleine Dinge, die passieren, wie das Alter.

Es muss ein Child sein.

Child, was ist denn das?

Ein Child?

Ist das jeder unter 18?

Oder ist das jemand, der nicht straffähig ist oder nicht strafmündig ist?

Was bedeutet das?

Dein Kind, das kann ich definieren, das kann man als Technicality abtun, das sind 18 Jahre.

Und wenn es mal nicht mehr 18 Jahre sind, 16, dann ändere ich den Parameter.

Aber was ich nicht als Technicality abtun kann, ist so innere Definitionen wie, was ist denn eigentlich eine Familie?

Aber dass es eine Familie ist, das ist Teil des Rechts.

Ja, ich glaube, was auch mega spannend ist hier, ist zu sehen, es gibt halt ein bisschen unterschiedliche Seiten.

Es gibt Teile, die.

Es gibt Momente, an denen man versucht, das Gesetz logischer zu schreiben oder eben durch kontrollierte Sprache ein bisschen einzuengen, damit man es einfacher interpretieren oder verstehen kann.

Und das führt dazu, dass, wie Simon sagt, Nuancen im Recht allenfalls verloren gehen oder als verloren gehen müssen fast, weil man es sonst nicht umformulieren kann.

Hat Momente, wo das vielleicht gar nicht so schlecht ist, weil man sich dann ein bisschen mehr überlegen muss, ja, was wollte man eigentlich in diesem Gesetz wirklich haben?

Und es gibt so viele schöne Beispiele, wo.

Das beste Beispiel ist ein Oxford Komma, das irgendwie 1 Million gekostet hat am Schluss in einem Streitfall, weil man wusste nicht, ob es eins hätte haben sollen oder nicht.

Und ein Komma veränderte eben halt einen Satz.

Und in diesen Fällen wäre eigentlich sich mal hinzusetzen und das ein bisschen logisch durchzudeklinieren oder vielleicht sogar versuchen zu kodieren, gar nicht schlecht gewesen, weil solche Fehler fallen dann einem.

Auf der anderen Seite hat es eben viel, und das ist auch, auf was Simon hinaus wollte, wo es ein politischer Prozess ist, ein Recht auszuhandeln, ist halt ein politischer Prozess, wo man diese Ambiguität auch drin haben wollte, weil man weiß ja nicht genau, wie sich die Gesellschaft entwickelt, wohin man will, etc.

Und wo das eigentlich gewollt war.

Aber gibt es nicht auch Ansätze, die versuchen eben diese kulturellen Verschiebungen, die dann eben, dass ein festgeschriebenes Gesetz dann auch irgendwie anders auslegbar machen, dass diese kulturellen Verschiebungen auch digital abgebildet werden können?

Das ist witzig.

Das fügt sich jetzt in ein Problem ein, das dem Ganzen zugrunde liegt.

Ja, das kann man vermutlich so lösen, das würde benötigen, dass wir uns kulturell einigen, wie unsere Kultur in Bits ausgedrückt wird.

Das ist vermutlich nicht praktikabel, aber das könnte man theoretisch durchspielen.

Aber das Problem liegt ja eigentlich woanders.

Das Problem liegt in der Person, die das dann macht oder die das dann in Code umwandelt.

Weil das Problem ist der Gesetzestext, Artikel A, schweizer Bürgerrecht, dieser Artikel ist von einer normalen Person, von einer durchschnittlichen Person mit einer durchschnittlichen schweizer Schulbildung verständlich, der Code aber nicht mehr so, wo ist jetzt hier die Grenze?

Oder was darf man jetzt und was darf man nicht?

Darf diese Person jetzt Code schreiben, der für 99 % der Schweizer nicht mehr verständlich ist, der aber ihr Leben bestimmt zu einem gewissen Teil?

Und wenn du das jetzt, wenn wir das macht, was du vorgeschlagen hast, das kann man schon auf die Metaebene hochziehen und kann dann auch noch den kulturellen Prozess in einer Art techno, in einer massiven technokulturellen Herangehensweise, da kann ich das auch noch definieren, aber das verschlimmert mir nur das Problem.

Das heißt, ich definiere dann unsere gesamte Kultur und kulturelle Errungenschaften, kulturelle Fortschritte, definiere ich dann in einer hart logisch interpretierbaren Art und Weise.

Und das ist, ich würde, ich würde kein Kulturwissenschaftler, ich würde mal annehmen, dass das nicht gewollt ist.

Nicht mal für recht wollen wir es, oder?

Aber wenn ja, dann nur ein Richter, auch auf Basis seiner individuellen Überzeugung, wie sich jetzt die Kultur dahinter irgendwie gewandelt hat, dann ein Gesetz auslegt, dann hast du ja das gleiche Problem.

Ein Richter, der Rechenschaft schuldig ist und den ich befragen kann zu dem Thema, oder?

Aber das Problem ist ja eher, dass wenn ich den Coach habe, der bleibt im Hintergrund.

Also im ersten Schritt müsste man diese Code zugänglich machen, öffentlich.

Erster Schritt Transparenz.

Aber das hilft ja gar nicht, weil die meisten den ja gar nicht lesen können.

Also müsste ich in einen zweiten Schritt wieder rückübersetzen in Recht, oder?

Und dann kommt gerade das raus, was wir vorher meinten.

Ich habe inzwischen hier die Acquisition by dissent von diesem Bürgerrecht.

Also die Klausel lautet A child whose parents married to each other and whose father or mother is a suicidus.

Okay, jetzt kommen hier die parents vor und father or mother.

Aber die kulturelle Verbindung zwischen den Konzepten, zwischen den kulturellen Konzepten parents und Mother und Father, die ist nicht geklärt.

Und das ist auch nicht der Zweck vom schweizer Bürgerrecht ist nicht zu erklären, was eine Familie ist.

Trotzdem kommen aber diese Konzepte vor, weil sie ja ausreichend definiert sind, oder?

Ich habe das mal vor ein paar Jahren, habe ich das mal, das hat mich mal so geärgert in der Implementierung.

Ich habe gesagt, ihr im Recht, ihr habt ja einfach einen Luxus der Wagheit.

Ihr könnt einfach vage bleiben.

Und alles, was ich hier nicht definiere, das macht dann halt der Richter zur Laufzeit.

Als Informatiker in einem typischen System hat man diesen Luxus nicht.

Ich muss vor der Laufzeit festlegen, was passieren soll.

Das weicht sich derzeit etwas auf, weil wir durch generative KI z.B.

Übergeben wir Laufzeitkompetenzen, Laufzeitentscheidungsfähigkeiten.

Das weicht das natürlich auf, aber prinzipiell bleibt es immer noch dasselbe Problem.

Als Informatiker bin ich gewöhnt, dass ich zur engineering time, zur Design Time eines Systems festlege, wie es sich verhalten soll, während eine Juristin gewohnt ist, dass man etwas ausreichend definiert.

Und die fehlenden Aspekte, die werden zur Laufzeit eingefügt, wenn es mal dazu kommt.

Und das ist auch richtig, wenn jemand über eine rote Ampel fährt, dann kann ich den nicht automatisch sofort einsperren.

Vielleicht hat er einen guten Grund gehabt und vielleicht hat er niemanden gefährdet, wo er über die rote Ampel gefahren ist.

Das sollte ich kontextualisiert erklären.

Und dafür ist ein Richter halt ein deshalb ein gutes Werkzeug, weil der eine reasoned opinion geben wird.

Der wird nicht einfach sagen, die Person ist schuldig, sondern wird sagen, die Person ist schuldig, weil.

Und dann kommt eine lange Begründung und die Begründung ist lesbar für den souverän, für das Volk.

Eben.

Aber jetzt hast du ja auch schon die LLMs, generative KI angesprochen.

Die könnte ja das eigentlich auch.

Also der könnte man ja dann auch irgendeinen Fall vorlegen und die würde dann auch irgendwo ein bisschen abwägen und dann eine Entscheidung rauslassen, die sie auch begründet.

Damit wären wir glaube ich, bei der dritten Welle, die auch im Buch beschreibt.

Vielleicht könnt ihr zuerst gerade noch sagen, was ist die dritte Welle in der Automatisierung des Rechts?

Ja, das ist eigentlich eben genau diese dritte Welle, wo es genau darum geht, ein bisschen mehr datengetrieben quasi vor allem eben solche Entscheidungen zu fällen.

Und eben hier wird jetzt auch die Forschung immer mehr.

Es gibt immer mehr Forschung darüber, wie kann man LLMs jetzt rechtlichen Bereich auch gut nützen und hier vielleicht verschiedene Sachen.

Aber zum ersten, was sicher schon viel gemacht wird, das ist eben quasi das Benutzen von LLMs, um auf rechtliche Fragen Antwort zu geben.

Und was hier gemacht wird, ist dann zu ja gut, wir brauchen aus dieser ersten Welle all diese digitalisierten Daten, Gesetze, Urteil, damit wir diese in eine Datenbank einfließen können und somit auch einerseits die Modelle zu trainieren, aber andererseits auch quasi Rückgriffe auf diese verschiedenen Gesetze, Urteile etc.

Zu nehmen.

Und dann ein Problem.

Aber hier ist ja gut, nur aufgrund dieser Daten heißt es noch nicht, dass man eine gute Antwort bekommt.

Vieles hat auch damit zu tun, wie man diese Systeme promptet.

Der Prompt, den man schreibt, um auf eine Antwort zu kommen, spielt eine recht große Rolle.

Inwiefern das System für die Qualität der Antworten.

Also du sprichst jetzt von Systemen, wo jetzt Bürger irgendwie eine Rechtsfrage haben, dann fragen sie dieses generative Modell und dann kriegen sie irgendeine rechtliche Auskunft davon.

Genau, z.B.

wenn jemand kommt und ich habe eine Frage bezüglich Mietrecht oder Strafrecht etc.

Mir ist das und das vorgefallen, wäre ich schuldig, was habe ich für Möglichkeiten?

Dann kann man, man kann das auch schon ChatGPT fragen, ich weiß gar nicht, wie gut das hier schon funktioniert, aber es gibt danach natürlich Modelle, die trainiert sind, spezifisch auf Rechtsfragen, die man anfragen kann.

Und Ein solches Modell z.B.

ist auch Open Justice und dort kann man eben auch entscheiden, ja gut, in welchem Rechtssystem sind wir?

Sind wir in der Schweiz, sind wir in USA, Kanada etc.

Damit man schon weiß, damit das Modell schon weiß, auf welches Rechtssystem muss ich jetzt hinaus.

Aber das Problem auch hier ist, für einen Laien ist es oft sehr schwierig, diese prompts gut zu schreiben oder so zu schreiben, dass man zu einem qualitativ hochwertigen Ergebnis kommt.

Und hier gibt es dann so Schnittstellen, wo Leute mit etwas mehr Rechtsexpertise diese Prompts im Hintergrund eigentlich generieren können.

Sie generieren das anhand von, was sie jetzt z.B.

bei diesem Open Justice Modell Dialog Flows nennen, wo wir wieder bei diesen Entscheidungsbaum Struktur sind, das ich vorher erwähnt habe, in der zweiten Welle, wo es darum geht, quasi Modelle durch die Logik des Rechts schon mal durchzudenken zu lassen.

Also quasi welche Schritte, was die Abfolge von rechtlichen Schritten ist, also wie ein Anwalt dahinter gehen würde, um ein Problem zu lösen.

Und anhand von diesen Dialog Flows, die so aussehen wie große Entscheidungsbäume, kann man und den richtigen Datensatz, kann man eigentlich schon um einiges hochwertige Antworten bekommen.

Also das gibt es schon solche Systeme, die dann wirklich ziemlich verlässliche Antworten liefern.

Ja, verlässlich, das ist was, was man halt am testen ist.

Und das ist genauso ein bisschen der Punkt, zu schauen, wie gut diese sind.

Das ist eine Folge von Benchmarking und Validierung.

Und das ist gar nicht so einfach, dass da hier gute Benchmarks und Tests für diese Validierungsschritte zu entwickeln.

Und das ist in der Forschung sicher jetzt etwas, wo wir alle uns am überlegen sind, wie wir das gut machen können.

Das Ding ist doch das, oder wenn ich ein statistisches System verwende, wenn ich ein System verwende, das auf einer Datengrundlage Entscheidungen trifft, dann bin ich darauf angewiesen, dass diese Datengrundlage sämtlichen relevanten Kontext beinhaltet.

Das ist in jedem Feld das gleiche Problem, nicht nur in der Rechtsprechung.

Das ist auch der Hauptunterschied zwischen symbolischen Automatisierungssystemen wie regelbasierten Systemen, wo ja der kulturelle Kontext in die Regel reinfliesst, und solche statistischen Systeme, wie die wir seit 12 Jahren jetzt so stark sehen, wie z.B.

große Sprachmodelle.

Aber ich hänge davon ab, dass das System den Kontext mit einbezieht.

Und das ist gleichzeitig die große Stärke von den Dingern und gleichzeitig eine große Schwäche davon.

Und das wird insbesondere im Rechtssystem sichtbar, weil deine Frage von vorhin, die ging ja stark in Richtung Nachvollziehbarkeit.

Das war ja schon, das war schon wie warum glaube ich denn eigentlich dem System?

Oder warum soll denn das recht haben?

Aurelia hat schon gut gesagt, dass dass das ja nicht so einfach ist.

Was heißt denn eigentlich recht haben?

Was heißt denn, dass dieses Sprachmodell die korrekte Antwort gibt?

Es muss ja nicht nur die logisch korrekte Antwort sein, gegeben das Rechtssystem, es muss ja auch die kulturell korrekte Antwort sein, gegeben den Kontext des Rechtssystems.

Und jetzt hat dieses System natürlich viele Bücher gelesen, viele englischsprachige Bücher, viele von den Büchern, die online verfügbar sind, wenige von den Büchern, die nicht online verfügbar sind.

Das heißt, das hat eine besondere Sicht auf die Menschheit.

Vielleicht fehlt dieser Sicht etwas, was relevant ist für den kulturellen Kontext, für die Interpretation von dem Recht.

Und das finde ich so spannend an der Sache, oder?

Und das führt uns direkt zu der Nachvollziehbarkeit.

Was mir gut gefällt, ist diese Selbstfindung, die wir als Menschen derzeit durchlaufen, um zu sehen, welche Anforderungen geeignet an ein System stellen, das sich so ähnlich verhält wie ein Mensch, zumindest oberflächlich, und welche Anforderungen wir eigentlich an einen anderen Menschen stellen.

Weil ich würde ja Nachvollziehbarkeit.

Ich würde jetzt bei einem Menschen das nicht machen, oder ich würde bei einem Menschen wenn ein Mensch mir was sagt, auf welcher Ebene muss denn das jetzt nachvollziehbar sein für mich?

Ich frage den Menschen ja nicht nach seiner neuronalen Konfiguration.

Und wenn du mir sagst hey, ich war gestern, ich war gestern Skifahren, da sage ich ja nicht erklär mir mal, wie jetzt deine Neuronen konfiguriert sind, so dass ich das auch nachprüfen kann.

Vielmehr vertraue ich dem Gesamtsystem oder ich habe ich vertraue dir auf deinen Erfahrungen.

Ich sage du weißt, was Skifahren ist, du weißt, was gestern ist, du kennst die Konzepte und benutzt sie gleich wie ich.

Und daher.

Und daher vertraue ich diesen ganzen.

Und jetzt vertrauen wir ja Maschinen eher weniger, oder zumindest wenn wir danach gefragt werden, vertrauen wir Maschinen weniger als vertrauten Menschen.

Aber das scheint ja weniger relevant, denke ich mir.

Vorhin habe ich mir überlegt, wenn ich auf einer Suchmaschine die Resultate sehe, dann frage ich ja typischerweise nicht, warum etwas jetzt an dritter Stelle steht oder an fünfter.

Das heißt, ich vertraue dem Gesamtsystem.

Ich sage einfach hey, das System, die Vertrauenswürdigkeit ist ein Trade off mit der Nachvollziehbarkeit.

Und ich fordere weniger Nachvollziehbarkeit, wenn ich in das System als gesamtes Vertrauen habe.

Und jetzt trifft diese Idee auf das Rechtssystem, das Nachvollziehbarkeit irgendwie als Kernelement hat.

Deswegen gibt es ja so lang artikulierte Urteile.

Genau, um die Nachvollziehbarkeit herzustellen.

Und dort finde ich, also aus meiner Sicht ist das ein Problem, das uns noch lange beschäftigen wird.

Nicht so sehr auf der technischen Ebene.

Auf der technischen Ebene könnte ich irgendwo ja, ist okay, das ist dieses System, das ist jetzt nachvollziehbar genug.

Aber auf der prinzipiellen Ebene fordern wir hier jetzt zu viel von den technischen Systemen oder zu wenig, oder haben wir für die Menschheitsgeschichte zu wenig gefordert von Menschen?

Das sind so die Dinge, die ich mich da jetzt frage.

Und das ist kein schnelles, keine schnelle Entscheidung.

Aber bei Richtern schaut man ja dann schon auch darauf, dass eben irgendwo verschiedene politische Hintergründe ja irgendwo vertreten sind, die dann eben die Entscheidung ja auch mit beeinflussen.

Und deshalb ist es ja für mich schon auch naheliegend, dass man irgendwie wissen will, auf welcher Basis entscheidet dann eben so eine KI.

Ist das nicht extrem spannend?

Was heißt denn das?

Wenn man jetzt deine Idee hier überträgt auf ein künstliches Rechtssystem, auf ein künstlich datengetriebenes Rechtssystem, dann bräuchte ich verschiedene Sprachmodelle nach heutiger Technologie, die nach unterschiedlichen politischen Richtungen trainiert sind, unterschiedliche politisch philosophische Literatur gelesen haben und dementsprechend zu unterschiedlichen Entscheidungen kommen.

Das ist doch extrem spannend, oder?

Die einfach alles gelesen haben.

Alles verfügbare.

Alles verfügbare.

Eventuell ist die menschliche Kultur nicht gesamthaft niedergeschrieben.

Aber ich glaube, Kultur spielt ja wirklich eine große Rolle.

Auch hier.

Vertrauen ist so oder so ein riesiges Forschungsfeld und gar nicht so.

Es ist gar nicht so einfach zu verstehen und zu testen, was jetzt genau zu mehr Vertrauen führt und weshalb jetzt Leute teilweise sogar sagen, sie vertrauen einer KI mehr als Menschen, je nachdem, was es dann wirklich auch für Aufgaben sind, die eine KI oder KI unterstützt gemacht werden.

Aber dennoch, ich glaube, Kultur spielt schon auch einen wesentlichen Faktor und ich glaube, das sieht man auch, wenn man sich ein bisschen global umschaut, was dann bezüglich KI und recht gemacht wird, auch in anderen Ländern und wo vielleicht andere Faktoren, wie z.b.

wenn man jetzt an KI bei Richtern und eben in the judiciary denkt, dort sieht man schon auch sehr viele Entwicklungen in Brasilien, wo es auch sehr viele große Backlog gibt von Entscheidungen oder Entscheidungsfindung geht halt dort auch sehr lange und man muss sich schon ja gut, es gibt auch eben positive Aspekte, die hier KI unterstützt gemacht werden können und Kultur spielt hier ein großer oder ein wichtiger Teil, zu schauen, ob man das wirklich akzeptiert oder nicht.

Und ich glaube, das muss auch jedes Land auch für sich selber dann entscheiden.

Jetzt gerade das Beispiel Brasilien.

Kannst du das noch mal ein bisschen genauer ausführen?

Also wie wird jetzt dort KI eingesetzt im Rechtssystem?

Ja klar, also Brasilien ist relativ bekannt dafür, dass irgendwie, ich weiß nicht, irgendwie über 150 Projekte haben, oftmals in Kollaboration mit Universitäten und verschiedene datengetriebene Systeme eingeführt haben bei Richten in unterschiedlichen, in unterschiedlichen Staaten.

Ein häufig genanntes Beispiel ist Viktor beim brasilianischen obersten Gerichtshof.

Und dort, das wird eigentlich benutzt zur Analyse von verschiedenen Gerichtsdokumenten und diese dann automatisch zu klassifizieren und dann zu prüfen, ob eine Klage dann durch das oberste Gericht geprüft werden muss oder dass dies erforderlich ist.

Und das hat halt auch damit zu tun, dass viele dieser Klagen gar nicht angeschaut werden können.

Also es gibt viel mehr Klagen, die kommen, als Leute, die überhaupt daran arbeiten können, das durchzusehen, sich dies zu überlegen, klassifizieren.

Und wenn man fünf bis 10 Jahre warten muss, eine Antwort eines Gerichtshofs, dann führt das auch nicht zu sehr viel Akzeptanz oder Vertrauen in ein System.

Selektierung von gewissen Fällen, ja, z.B.

aber jetzt noch nicht, dass eine KI dann wirklich über einen Fall entscheidet.

Ja, es gibt ganz viele unterschiedliche Systeme.

Wir haben auch schon viel gehört über eben solche KIs, die dann über kleinere oder sehr spezifische Fälle Entscheidungen treffen können, die man dann nochmal anfechten kann, wenn man es will.

Aber der Punkt hier war mir eigentlich auch zu zeigen und eben auf Simons Punkt zu verknüpfen, dass auch so kulturelle oder soziale Akzeptanz halt auch ein wesentlicher Faktor ist, den man noch recherchieren und erforschen muss, um zu verstehen, wieso sich KI in einigen Rechtssystemen viel mehr verankert worden ist als in anderen.

Z.B.

und diese Metaebene ist total interessant, oder?

Weil genauso wie unterschiedliche Länder unterschiedliche politische Systeme haben, können wir uns genauso vorstellen, dass in der Zukunft unterschiedliche Systeme unterschiedlich konfigurierte, automatisierte Rechtssysteme haben werden.

Und wesentlich ist aus meiner Sicht der passende Einsatz des passenden Werkzeugs für die passende Aufgabe.

Ich kann statistisches Werkzeug gut dort einsetzen, wo ich den gesamten Kontext datengestützt abdecken kann.

Ich kann ein nicht statistisches, semantisch orientiertes, symbolisches Werkzeug dort einsetzen und wo ich absichtlich manuell Wege bestimmen möchte oder wo ich z.B.

aufgrund der Nachvollziehbarkeit, z.B.

aufgrund des expliziten Encodings von kulturellen Hintergründen und ich kann ein menschliches System oder einen Menschen kann ich dort einsetzen, wo ich vermutlich eine Mischung von den beiden Dingen haben möchte, oder?

Also so irgendwie, oder wo ich, oder wo ich auch, wo ich auch projizieren will, wo ich eine Art, eine Art mensch basiertes Vertrauen projizieren will.

Aber das Rechtssystem per se wird eine Konfiguration sein aus diesen Aspekten, aus verschiedenen künstlich intelligenten Systemen und verschiedenen natürlich intelligenten Systemen, die in unterschiedlichen Ländern unterschiedlich zusammenspielen werden.

Ich glaube nicht, dass es ein Land geben wird, das gar keine Automatisierung verwendet auf Dauer.

Ich glaube auch nicht, dass es ein Land gibt, das alles automatisieren wird, oder wir haben gerade vor einem guten Monat haben eine Studie durchgeführt, um zu sehen, was eigentlich von Menschen akzeptiert werden würde, in welchen Bereichen.

Also vielleicht macht es ja einen Unterschied, ob jemand, oder wir haben uns die Frage gestellt, macht es einen Unterschied, ob ich das Steuerrecht automatisiere oder Menschenrechte automatisiere oder die Polizei automatisiere, also irgendwie Strafrecht automatisiere in die Richtung.

Und da zeigen sich natürlich Unterschiede, oder?

Vermutlich werden viele Leute, ich denke mal so, vermutlich werden viele Leute damit einverstanden sein, dass man Teile des Verkehrsrechts, Teile des Strassenverkehrsrechts automatisiert das tun wir ja effektiv schon über Blitzer.

Was kam bei der Studie raus, was am meisten akzeptiert wäre?

Das, was du jetzt erwartest oder je mehr Automatisierung, desto skeptischer sind die Personen?

Deutlich.

Es gibt Unterschiede bezüglich dessen, wie die Daten zur Verfügung gestellt werden.

Oder es macht für Leute einen Unterschied, ob die Daten aus einem System gelesen werden über sie, ob sie die Daten aktiv bereitstellen oder ob sie die Daten bereitstellen und danach überprüft das noch jemand manuell.

Also das akzeptierteste in dem Fall ist für die Kohorte, in der wir das getestet haben, für die kulturelle situierte Kohorte.

War das in der Schweiz oder wo war das?

In Frankreich?

Für diese Kohorte ist das Annehmbarste das, was am wenigsten automatisiert ist.

Und selbst dort, selbst dort kann man jetzt die Skepsis anbringen, ja, das sagen die, aber verhalten die sich dann auch dementsprechend oder?

Also wenn ich das System jetzt einfach einführe als Land, ist das dann wirklich so, dass das abgelehnt wird oder oder haben wir ein ähnliches Problem wie bei Privatsphäreneinstellungen, dass Leute zwar sagen, sie würden gerne ihre Privatsphäre schützen, aber sie tun es ja doch nicht, sobald es einen Aufwand bedeutet.

Aber da ist ja häufiger ein Zwang, ein stiller Zwang irgendwie auch da, weil man sonst den Service gar nicht nutzen.

Kann oder eine Hürde einfach eine Benutzungshürde auf diese Dinge.

Also mein Punkt war ja, unterschiedliche kulturelle Hintergründe werden unterschiedliche Automatisierungskonstellationen des Rechtssystems bedingen.

Und deswegen bringt auch eine Frage nach, was ist denn das Richtige?

Das bringt in dem Sinn nichts.

Das muss ja angepasst sein an die Menschen.

Gut, jetzt habt ihr auch schon ein paar Dinge erwähnt, wo ihr jetzt schon auch Potenzial seht in der Einführung von KI im Recht.

Also eben die Zugänglichkeit, dass jedermann sich dann irgendwie auch schnell informieren kann über das Recht.

Eben das Beispiel in Brasilien, dass man viele Daten oder Aktenberge schneller verarbeiten kann.

Seht ihr da sonst noch irgendwelche Chancen?

Ja, absolut.

Also dieses eben access to justice ist so ein bisschen der Titel hier quasi, an dem eben auch sehr viel geforscht wird.

Aber das ist so ein bisschen eine Hoffnung oder eine Chance, die man sieht, zu sagen, ja gut, Recht war schon immer sehr schwierig zu verstehen.

Für viele Leute ist es einfach etwas, mit dem man sich gar nicht auseinandersetzt.

Hat eben ein bisschen mit der Sprache zu tun und mit der Systematik, wie das Recht oder die Gesetze aufgebaut sind und zu sagen, mit solchen Tools können Leute, die Fragen haben, zumindest eine Antwort erhalten.

Es ist dann aber noch nicht damit getan, eine Antwort zu haben.

Man muss sie auch noch irgendwie ausführen können.

Also es muss noch irgendwie greifbarer sein.

Man spricht hier von Action Ability, dass man ja gut, man weiß jetzt vielleicht, wie sich eine Situation, wie man eine Situation interpretieren kann.

Aber was sind jetzt die konkreten Schritte, die ein Mensch oder eine Person wirklich machen kann?

Das sind auch dann noch offene Fragen.

Also kannst du ein Beispiel nennen?

Als Beispiel kann man bestimmte Abzüge verlangen.

Wir können von Steuerabzügen sprechen oder es kann Studiendarlehen sein, die man beziehen kann etc.

Und man weiß zwar oder das System oder ein Modell kann einem sagen, dass man Anspruch darauf hat, aber wenn man dann nicht genau weiß, was man damit tun muss, an wen man sich wenden muss, welches Formular ausfüllen muss, wie man wirklich konkret dann an seinem Recht und ich setze jetzt das in Anführungszeichen, das sieht man zwar nicht auf einem Podcast, aber wenn man nicht weiß, wie man das Recht kommt, dann nützt es ja ein wenig.

Dann hat man vielleicht besser access to justice.

Nur in der Theorie, aber es ist eben nicht actionable.

Also man kann nicht wirklich was damit machen.

Aber ich kann mir vorstellen, LLMs, die können einem dann auch gleich sagen, was man machen muss, oder?

Ja, also mit diesen KI Agenten, das ist ja jetzt der neue Trend, dass man gerade direkt auf die richtige Webseite landet und das Formular direkt ausgefüllt wird.

Ja, also wenn man von Chancen und Hoffnungen spricht, dann natürlich.

Das sind solche Visionen.

Und.

Wo seht ihr die größten Risiken dieser Entwicklung?

Wir haben auch im Buch produzieren wir eine Liste von 13 Issues, die wir identifizieren oder 13 Issue Types, die wir identifizieren.

Und viele davon haben wir jetzt zumindest eingeschnitten in dem Teil Transparenz haben wir schon besprochen.

Dieses Lack of Interdisciplinarity, das wir ansprechen, das haben wir z.B.

mit diesem Beispiel vorher mit der mit der Codierung von Recht gehabt.

Oder wenn das einfach nur durch einen Ingenieur gemacht wird, dann fehlt da etwas.

Mein persönlicher Liebling deshalb, weil ich nicht erwartet hatte am Anfang, das war noch der Issue type Natural Pace.

Das hat mir gut gefallen, weil es unerwartet kommt.

Eine automatisierte Entscheidung wird in den meisten Fällen schneller erfolgen als eine manuelle Entscheidung.

Und das ist auch durchaus in vielen Fällen so gewollt, oder wir haben vorher redet ja vor die Rückstaus besprochen.

Also häufig wollen wir das, aber ein Projekt, das automatisiert, sollte sich überlegen, ob es in diesem Projekt tatsächlich gewollt ist.

Es gibt Literatur aus dem Strafrecht und aus der Psychologie, wo gezeigt wird, dass es durchaus sinnvoll ist, dass traumatisierte Personen über einen längeren Zeitraum sich mit einem mit einem strafrechtlich relevanten Fall in dem Fall auseinandersetzen.

Dass also diese häufigeren Anhörungen nachhaltiger sind, als wenn nach zwei Mikrosekunden eine Entscheidung getroffen worden wäre.

Also jetzt aus Sicht des Richters, dass das für den Richter für die Entscheidung dann besser ist?

Ne, aus Sicht der Betroffenen Person.

Aus Sicht des Opfers.

Siehst du, man hat es ganz minimal, ganz minimal hat man das manchmal, wenn man online Formulare ausfüllt.

Ich hatte das dreimal, das will ich natürlich nicht vergleichen, aber um das greifbarer zu machen, man füllt ein Formular online aus und kriegt innerhalb von Millisekunden ein Ja oder Nein zurück.

Dann weiß ich, das hat kein Mensch angeschaut und das könnte mein Vertrauen in das System untergraben.

Wenn ich von Deuter auf so einen traumatisierenden Fall schaue, also nicht auf dieses einfache Beispiel, dass ich da täglich erlebe oder dass ich da, dass ich da mal bei mir zu Hause lebe, aber auf den traumatisierenden Fall schaue, dann hat es ja nicht nur das funktionale Ziel, dass das Prozess, dass der Prozess outcome erreicht wird, dass ein Schuldspruch oder ein Freispruch erreicht wird, sondern der Prozess selbst hat ja das Ziel, dass es eine Art, eine Art, einen Vergleich gibt oder einen Interessensausgleich irgendwo gibt zwischen den beteiligten Teilen, inklusive des Opfers.

Und da zeigt die Literatur, dass ein Opfer von einer unfairen Handlung, das muss nicht unbedingt eine Gewalthandlung sein, aber dass ein Opfer das besser verarbeitet, wenn es nicht unmittelbar eine Entscheidung gibt, sondern wenn man sich über mehrere Wochen damit beschäftigt.

Und das war für mich etwas, was ich gar nicht erwartet hatte, weil Geschwindigkeit, höhere Geschwindigkeit wird recht, wird recht eindimensional als positiv betrachtet bewertet.

Und genau aus der Ecke kommt dann Argument Hey, vielleicht sollten wir uns überlegen, ob wirklich die höhere Geschwindigkeit vernünftig ist, ob der Machine Pace angemessen ist für ein bestimmtes Projekt.

Genau.

Jetzt haben wir auch verschiedene mögliche Anwendungen von KI im Rechtssystem diskutiert.

Jetzt wurde ja auf EU Ebene der AI Act verabschiedet.

Wäre denn auf Basis dieses Gesetzes, wäre es da überhaupt zulässig, dass KI z.B.

urteile fällt im Rechtssystem?

Ja, im Mai Act haben wir eben einen risikobasierten Ansatz mit quasi unterschiedlichen Praktiken, die wir verbieten, wo wir gesagt haben, das ist einfach zu großes Risiko, das wollen wir gar nicht sehen.

Ein solches Beispiel hier wäre Social Scoring Systeme, also solche Systeme, die oftmals wird auf das Modell in China quasi verwiesen, wo Leute kontinuierlich getrackt werden und unterschiedliche Scores erhalten, je nach ihrem Verhalten.

Und so möchte man soziale Verhalten in einer Gesellschaft quasi lenken.

Solche Systeme sind eben verboten in der EU.

Also wenn sich ein Recht, also wenn man daran anknüpfen, würde und an einem Social Scoring System bzw.

Steuerabzüge oder Studenten Darlehen anknüpfen würde.

Das wäre verboten.

In Bezug auf deine Frage, insbesondere der Anwendung von KI in der Justiz, diese Systeme, die wir vorhin mit Simon auch erwähnt haben, das würde eher dann unter einem hohen Risiko fallen.

Also die zweite Kategorie Kategorie im AI Act quasi dargestellt wird und erläutert wird.

Und solche hohen Risiken oder High Risk Systems haben dann unterschiedliche Auflagen, die sie erfüllen müssen.

Man spricht auch von technischer Dokumentationen.

Das wäre sicher eine Anforderungen, Transparenz, Pflichten, Informationspflichten bezüglich wie diese Systeme eingesetzt werden, aber auch die Pflicht oder diese Obligation zu Human Oversight, dass man auch hier eben, dass es nicht unbedingt nur vollständig automatisch entziehen wird, aber man auch ein Mensch über solche Entscheidungen schaut.

All das sind dann solche Requirements, solche Auflagen, die es dann im AI Act gibt, die da auch eine Rolle spielen würden.

Welche Fähigkeiten sollten denn aus eurer Sicht Juristinnen und vielleicht auch Richterinnen in Zukunft haben?

Das ist genau der Punkt, oder?

In einem Umsetzungsprojekt brauche ich typischerweise jemanden, der versteht, wie die Technologie funktioniert.

Und ich brauche jemanden, der versteht, wie das Feld funktioniert, in dem die Technologie eingesetzt werden soll.

Und dann muss ich noch schauen, dass die beiden dieselbe Sprache sprechen, weil sonst geht an der Schnittstelle das Ding kaputt.

Und daher brauchen wir das auf beiden Seiten.

Oder wir brauchen für diese Ausgestaltung eines kulturell passenden teilautomatisierten Rechtssystems brauchen wir auf der rechtlichen Seite Juristinnen und Juristen, die verstehen, welche Art Automatisierung für welche Art Aufgabe geeignet ist.

Umgekehrt brauche ich auf der technischen Seite Informatikerinnen und Informatiker, die verstehen, welches ihrer Tools aus ihrem Werkzeugkasten zu welcher gesellschaftlichen Aufgabe passt.

Das ist genau dieselbe Frage aus unterschiedlichen jetzt wird es vermutlich nicht klappen oder nur für sehr wenige Personen klappen, dass wir ausgezeichnet, dass wir in derselben Person vereinen, eine ausgezeichnete ausgebildete Informatikerin und eine ausgezeichnete ausgebildete Juristin.

Das wird möglicherweise nicht klappen, weil die Fächer für sich ja heute schon groß sind, sind beides ja schon große Studienprogramme.

Daher brauche ich auch Zusammenarbeitskompetenz.

Ich muss anderen Leuten zuhören.

Ich muss, ich muss bereit sein, meine Vokabeln anzupassen und ich muss bereit sein, Common Ground zu finden im Verständnis.

Und das dritte ist etwas, was wir ohnehin gesellschaftlich sagen, dass das zunehmend wichtiger wird für eine ausdifferenzierte Gesellschaft oder dass man miteinander sprechen kann und will.

Und das andere sind disziplinare Fähigkeiten, die übergreifen zwischen diesen beiden Disziplinen von beiden sind.

Und es ist ja auch mega spannend zu sehen.

Also wenn du ein bisschen in neue Forschungsprojekte, neue Forschungsprojekte schaust, dann siehst du, dass genau solche interdisziplinäre Teams eigentlich ganz anders an die Umsetzung und die Automatisierung des Rechts hingehen.

Also es gibt wirklich auch Studien, die zeigen, wenn man nur Juristen an sein Automatisierungsproblem setzt oder nur Informatiker, kommen ganz, ganz unterschiedliche Sachen dabei heraus.

Einige sagen, das geht gar nicht, andere versuchen und machen irgendwas.

Aber dann, wenn man interdisziplinäre Teams hat, sieht man, dass da viel eigentlich die spannenderen und viel angepassteren Entwicklungen oder zumindest Ideen und Prototypen hergestellt werden.

Und ich glaube, das sind eigentlich gute, das zeigt eigentlich sehr schön auf, inwiefern das auch wichtig ist.

Aber wie Simon sagt, das ist gar nicht so einfach.

Einerseits, weil quasi auch Universitäten in disziplinären silos arbeiten, andererseits, weil es auch für uns ein sehr langer Prozess ist, war und immer noch ist und kontinuierlich sein wird, diese Annäherungen, diese Anknüpfungspunkte wirklich zu finden.

Gut, wenn wir zum Schluss vielleicht noch in die Zukunft schauen, was dann aus dieser wichtigen interdisziplinären Zusammenarbeit vielleicht dann irgendwann rauskommt.

Was wäre eure Vision für die Zukunft des Rechts unter dem Zeichen der KI?

Ich habe keine Visionen, ich habe mögliche Szenarien, wie das ausgehen könnte.

Aus meinem Hintergrund.

Ich beschäftige mich mit der, also in der disziplinärwissenschaftlich, in der Informatik beschäftige ich mich mit der Durchdringung unseres Alltags durch Computer, mit ubiquitous oder pervasive computing.

Und aus der Sicht heraus sehe ich die Möglichkeit einer Ultra Kontextualisierung des Rechts und des Rechtssystems.

Was ich damit meine ist, je mehr ich messe in einer zunehmend durch Computer durchdrungenen Welt, desto mehr könnte ich das Recht kontextuell anpassen.

Und das kann jetzt positiv und negativ ausgehen, oder?

Deswegen mache ich diese Szenarien.

Also ein positives Szenario und für mich durchaus positives Szenario, das wäre, dass ich bei mir zu Hause das recht ultra kontextualisieren kann und bei mir zu Hause über das schweizer recht hinausgehende Normen setzen könnte.

Da könnte ich zu Hause sagen, hier bei mir gibt es kein Social Media, so was auf die Art.

Oder es gibt hier keine Videoaufnahmen zwischen zwischen 5 Uhr und 8 Uhr früh, sowas auf diese Art.

Das ist interessant, das finde ich durchaus interessant.

Das heißt, ich passe so fast schon personalisiert, weil personalisiertes Recht ist ein überladenes Konzept, deswegen benutze ich es nicht, aber ich passe mir das Recht an, ich überdefiniere das Recht für die Kontexte, wo ich es gerne hätte.

Also für mich ein positiver Ausgang, oder?

Das hat bestimmte praktische Probleme, wie man das jetzt konfiguriert oder wie genau das technisch abläuft, aber das finde ich durchaus interessant.

Umgekehrt könnte sich das recht jetzt aber auch bösartigerweise auf Einzelsituationen adaptieren oder es könnte so rauskommen, dass Personen vielleicht auf statistischer Basis vielleicht dann so, dass ich auf der Autobahn nur 80 fahren darf, du aber 120, weil du schon ein.

Gewisses Alter dann hast und nicht mehr so gut siehst.

Genau, weil das System weiß, schlecht sehe oder weil das System weiß, dass ich, dass ich älter bin.

Und da könnten ganz furchtbare Diskriminierungen rauskommen, die wir wiederum kulturell vermutlich ablehnen oder viele davon würden wir ablehnen.

Andere Länder nicht.

Andere Länder nicht, aber wir hier in diesem mitteleuropäischen Raum würden vermutlich viel ablehnen.

Das denke ich mir, das würde ich durchaus erwarten, so eine Ultrakontextualisierung.

Das könnte schon sein.

Persönlich.

Ich finde eben diese Ultra Kontextualisierung kann eben auch Angst machen, wie das zweite Szenario, das Simon genau sagt.

Aber ich glaube schon auch eben diese Begriffe wie Access to justice, die wir auch vorhin schon erwähnt haben, und diese Möglichkeiten, Recht zu demokratisieren in diesem Sinne, dass eigentlich mehr Leute verstehen können, was wir in diesen Gesetzen wirklich haben und wie man an sein Recht wieder in Anführungszeichen hier kommen kann.

Ich glaube, das ist für mich eine positive Vision, das Recht zu sagen, ja gut, vielleicht ist es neu, vielleicht kriegen wir das nicht hin.

Aber wenn man es hinkriegen könnte, mehr Leute auch auf ihr Recht zugreifen können und ihre rechtlichen Fragen stellen können und hier Antworten kriegen können, die sie auch umsetzen können.

Das wäre eigentlich schön.

Wir arbeiten auch an diesen Themen.

Es gibt viele Bereiche, wo vor allem auch Leute, die im Leben weniger Glück hatten als wir und halt schwierige Lebenssituationen haben, darüber hinaus kommt es noch, dass sie sich mit dem Rechtssystem vielleicht in einem Land nicht gut auskennen.

Insbesondere dort sehen wir schon Möglichkeiten, anhand von unterschiedlichen Tools ihr Leben Ein bisschen zu vereinfachen oder das Leben von Leuten, die in solchen pro Bono Organisationen arbeiten und die Leute ohne rechtlichen Kenntnisse unterstützen.

Gut, ich denke, das wäre ein gutes Schlusswort.

Aurelia und Simon, ich danke euch ganz herzlich für das Gespräch.

Danke dir vielmals.

Danke dir.

HSG Research Insight, ein Wissenschaftspodcast der Universität St.

Gallen.