Anne Mareike Schlinkert ist eine Expertin auf dem Gebiet der KI und ihrer Überschneidung mit dem Datenschutz bei der Datennutzung. Anne beschäftigt sich seit über 15 Jahren mit der Rolle von KI bei der Lösung komplexer industrieller Herausforderungen.

Sie ist Mitbegründerin und COO der Katulu GmbH, einem Unternehmen, das für die Entwicklung von Technologien bekannt ist, die es Unternehmen ermöglichen, von KI zu profitieren, ohne die Datensicherheit zu gefährden.

Sie arbeitet aktiv an Lösungen, die es Unternehmen ermöglichen, Peer-Daten zu nutzen, um Probleme effizient zu lösen, ohne dabei Zugang zu geheimen Informationen zu gewähren.

Anne ist außerdem Mitglied der "Next Generation" beim Stifterverband und Mitglied des Exzellenzbeirats der Universität Hamburg, und hatte verschiedene Funktionen in Unternehmen inne, die sich mit der nachhaltigen Nutzung von KI und Daten beschäftigen.

Kapitel:

00:10 Entdeckung eines interessanten Musters

02:27 Alternative Lösungen durch KI

04:43 Kontrolle über Datenfluss und Sicherheit

08:30 Herausforderungen beim Datenaustausch über Ländergrenzen

13:01 Rechtliche Überlegungen und Sanktionen

13:43 Mangel an dedizierten Data Scientists in Unternehmen

16:34 Privacy Preserving und Datenschutztechnologien

19:04 Implementierung und Infrastruktur für Wissensaustausch

23:00 Optimierung von Wertschöpfungsketten ohne Datenzugriff

24:11 Bedeutung von Vertrauen in KI-Technologien

34:08 Technologische Innovationen und Unternehmensmut

41:10 Vom Windenergie-Chaos zur datengetriebenen Effizienz

46:22 Teambuilding und Vertrauen in Unternehmenskulturen

51:39 Regulierung von KI und die Schwierigkeit der Bias-Erkennung

56:14 Geheimnisse und komplexe Technologien

01:03:09 Wettbewerbsfähigkeit und Zukunftsaussichten

01:13:25 Nachhaltigkeit und Effizienz durch KI

Also tatsächlich, was wir damals gemacht haben, wir haben Industriemaschinen,

die bereits im Feld sind, weltweit

angeschlossen und haben dabei ein ganz interessantes Muster entdeckt.

Und zwar war es so, dass kleinere Kunden total gerne Teil der Lösung wurden

und wir aber festgestellt haben, größere Kunden, also die,

die man wirklich dabei haben möchte, die man ans Netz bringen möchte,

so als Anbieter, die haben sich geweigert.

Und zwar haben die gesagt, die Daten, die wir sehen als Anbieter von denen,

die geben so viel Aufschluss über Geheimnisse, die in so einer Fabrik zum Beispiel

passieren, dass sie nicht bereit sind, diese Daten zu teilen.

Und dann haben wir uns gedacht, das ist doch etwas, was uns noch lange Zeit

beschäftigen wird, denn letztendlich, wir werden ja alle immer digitaler.

Und die Frage ist, wie gehen wir dieses Thema Data Governance,

so könnte man das bezeichnen, an?

Also gibt es einen Weg, dass wir tatsächlich gemeinsam lernen,

ohne die Daten, die darunter liegen, miteinander zu teilen?

Also können wir Geheimnisse geheim halten, aber trotzdem einander Erkenntnisse

zuspielen, die uns gegenseitig helfen, besser zu werden?

Was ist das grundsätzliche Problem, was das beinhaltet?

Man könnte jetzt als naiver Beobachter sagen, ja gut, dann werden die Daten

halt irgendwie verschlüsselt, hin und her geschickt und gut ist der Lack sozusagen.

Ist das zu einfach gedacht?

Ja, also Verschlüsselungstechnologien gehören tatsächlich auch mit dazu.

Man kann quasi sagen, das ist ein bisschen wie so eine Staffelung.

Man geht so eine Leiter hoch.

Man sagt, je nachdem, wie geheim die Daten sind, auf denen man lernen darf,

desto mehr Techniken kann man anwenden.

Tatsächlich von der initialen Idee, und das ist etwas, was wir auch per se sehr,

sehr gut finden, wenn man sich jetzt mal vorstellt, so eine Fabrik produziert,

eine moderne Fabrik, ungefähr 2000 Terabyte Daten im Monat.

Und um jetzt einen sinnvollen Anwendungsfall zu haben für eine Firma,

die intern ihre Werke miteinander verbinden möchte, würde das bedeuten,

dass all diese Daten oder ein großer Teil dieser Daten in die Cloud gepumpt werden. Genau.

Und an für sich wissen wir alle, das ist keine Cloud, das ist keine Wolke,

die da oben hängt, sondern das ist ein anderes Rechencenter,

wo die Daten dann entsprechend wieder lagern.

Und das ist ein unglaublicher Footprint, den so eine KI-Lösung damit hat.

Und das ist genau das, was wir nicht möchten. Wir möchten diesen Fortschritt

durch KI haben, aber es gibt tatsächlich bessere Mechanismen.

Und der erste Mechanismus, den wir anwenden, ist, dass wir nicht die Daten zu

KI schicken, sondern die KI zu den Daten.

Denn damit ist sie vor Ort, wo die Daten sich ja bereits befinden und deswegen

ist der erste Schritt, den wir nutzen, eine sogenannte Datenminimierungsstrategie sozusagen.

Anstatt diese 2000 Terabyte zu verschicken, kommen wir dann mit Veränderungen

von Modellen, die wir austauschen. Klar, das sind dann Kilobyte, die wir austauschen.

Und da kann man sich vorstellen, das ist schon mal der allererste Schritt,

dass man sagt, um überhaupt dieses Lernen sicherzustellen, die unterliegenden

Daten, das ist gar nicht wichtig.

Das ist wie, ja, wenn man sich das früher in der Schule vorstellt,

am Ende kommt ein X raus und wir tauschen einfach das X raus. Mhm.

Können wir das vielleicht als Beispiel mal irgendwie oder ein Beispiel bringen,

wo man das ein bisschen besser verständlich hat?

Also ich würde es so begreifen, dass ihr eine Firma habt, die hat unterschiedliche

Dependancen in der Welt und will sozusagen Verbesserungen haben oder die Verbesserungen

auch in die anderen Firmen hineinschicken, dass das alles ähnlich läuft.

So ist die Grundlage vielleicht erstmal. Und dann ist die Idee von euch nicht,

sozusagen die Firmen zu fragen online und die Information zu bekommen,

was da bei denen abgeht, sondern ihr schickt sozusagen einen KI-Agenten dahin,

der das Wissen sammelt und sozusagen die Verbesserung mit im Rucksack hat.

Genau. Das ist tatsächlich eine ganz gute Zusammenfassung, glaube ich,

für den Einstieg, um überhaupt dieses Prinzip mal zu erklären.

Das ist eine Form von Schwarm von Agenten, die wir rausschicken.

Die müssen sich alle autorisieren, wenn die an der Datenquelle ankommen,

klopfen die erstmal an, zeigen quasi ihre ID und dürfen dann nur gewisse Informationen mitnehmen.

Aber genau so funktioniert der Mechanismus letztendlich, weil wir dadurch erstmal

sicherstellen können, dass nur autorisierte Agenten überhaupt in dieses System gelangen.

Wir müssen ja schauen, dass wir eine Form von geschlossenem System für zum Beispiel

eine Firma haben, die Fabriken weltweit hat. Da dürfen ja keine...

Also feindlichen, keine Poison Data nennen wir das Ganze auch.

Also man darf keine falschen Daten in dieses System einschleusen.

Es muss ja trustworthy sein, also wir müssen Vertrauen für die Lösung aufbauen

und der allererste Schritt ist, dass es so geschlossen ist, dass keine falschen

Informationen reinkommen können.

Dann gibt es tatsächlich einen zentralen Punkt.

Normalerweise wird das zum Beispiel im Headquarter sein, dieser Firma.

Und da sitzt ein Data Scientist und der schickt diese Agenten los.

Zum Beispiel mit einer speziellen Frage. Zum Beispiel sagt er, wenn das Material,

was wir jetzt zum Beispiel im Elektronikbereich aufdrucken, auf einer Temperatur

von 35 Grad aufgedruckt wird und die Luftfeuchtigkeit zum Beispiel 62 Prozent oder was auch immer ist,

wie ist dann bei einem Auftrag von so und so viel Gramm einer Paste das Qualitätsresultat?

Also letztendlich, was wir zum Beispiel für eine Fabrik machen,

sieht man jetzt, ein ganz besonderer KPI für Firmen ist, dass die Qualität richtig

ist am Ende des Prozesses.

Nun gibt es unterschiedliche Arten, das Ganze anzugehen. Aktuell wird es häufig

so gemacht, dass am Ende des Prozesses überprüft wird, ist die Qualität richtig, ja oder nein.

Damit vergibt man unglaublich viele Chancen. Denn wenn man dieses Produkt,

während es produziert wird, bereits im Prozess begleitet,

dann kann man schon vorher eingreifen und quasi sagen, ich kann hier schon sehen,

nach ein Drittel des Prozesses, dass am Ende des Prozesses die Skala,

wo dieses Produkt landen muss, nicht getroffen wird.

Und dann kann man den Prozess da bereits abbrechen.

Denn am Ende des Tages, ein produzierendes Gewerbe wird daran gemessen,

wie viele perfekte Produkte am Ende des Prozesses prozentual ankommen.

Denn alles andere, was man zwischendurch aufträgt, ist letztendlich Abfall.

Okay, und das heißt, diese Prozessbegleitung wird schon mit KI gemacht,

dass da immer geguckt wird, ob die Zielparameter irgendwie zu sehr abweichen

und man dann irgendwie was ändern muss.

Genau, also wir begleiten diesen Prozess mit Daten, wir erheben Daten an unterschiedlichen

Stellen in dem Prozess und daraus haben wir einen Algorithmus erhoben und der testet dann und testet.

Der hat an für sich zwei Komponenten. Eine Komponente schaut sich den Prozess

an, während etwas produziert wird.

Also ein Teil wird jede Sekunde produziert. Der muss relativ schnell mitentscheiden.

Wird das gut, wird das nicht gut. Und der zweite Teil, der nimmt zusätzliche neue Daten auf.

Das ist ja ein lernendes System. Es geht ja kontinuierlich weiter.

Es gibt immer wieder Variablen, die verändert werden.

Manchmal gibt es einen neuen Lieferanten für etwas.

Das kennen wir jetzt alle. seitdem in den letzten Jahren auch mal ein paar Supply

Chains zusammengebrochen sind zum Beispiel, dass Prozesse sich verändern zum

Beispiel oder das Wetter hat einen Einfluss, wenn das Team sich verändert,

solche Dinge können Einfluss auf den Prozess haben und trotzdem sollte der immer

möglichst nachvollziehbar reproduzierbar sein.

Und diese Informationen, die kommen in dieser zweiten Komponente zum Tragen,

die erfasst letztendlich, was macht diesen Prozess eigentlich erfolgreich.

Also wann können wir sagen, am Ende kommt da die richtige Qualität raus.

Und das System lernt das mit und kann diese Lernerfahrung, das Wissen darüber,

dann wieder woanders weitertragen, damit die Prozesse eher zum Ziel führen.

Genau, dann hat man diesen Prozess zum Beispiel nicht nur in einer Fabrik,

sondern tatsächlich weltweit in vielen Fabriken.

Und da gibt es im Bereich Elektronikfertigung zum Beispiel auch ein paar Aspekte,

die es gar nicht so einfach machen, Daten zu teilen.

Also wir hatten jetzt gerade diesen Aspekt, manchmal haben wir den Fall,

es gibt unglaublich viele Daten und dann ist der günstigere und Weg,

also Cloud hat ja auch immer Kosten und auch der, der besser ist für unsere

Umwelt, dass diese Daten tatsächlich gar nicht zentral gesammelt werden,

sondern auch dezentral nutzbar gemacht werden können.

Aber ein weiterer Weg ist, oder ein weiterer Aspekt ist, es dürfen gar nicht

alle Daten ausgetauscht werden. Also wenn man sich auf diesen Weg macht,

KI zu nutzen, stellt man plötzlich fest, über Ländergrenzen hinweg Daten auszutauschen,

ist manchmal gar nicht so einfach.

Da gibt es nämlich Exportkontrolle, sogenannte Dual Use.

Es gibt gewisse Produkte im Bereich Elektronik, die im Militärbereich eingesetzt

werden können, die in Raumfähren eingebaut werden könnten.

Und das bedeutet, dass dann Fertigungsdaten tatsächlich auch diesen Kontrollen

unterliegen und damit können sie in einem lebenden System gar nicht so einfach

ausgetauscht werden miteinander.

Sprich, über Ländergrenzen hinweg dürfen diese Daten nicht miteinander getauscht werden.

Und da kommt dann wieder der Agent ins Spiel. Denn wenn der gelernt hat,

das Gelernte, was er in der Welt verteilt, also in seinem Rucksack mit sich

trägt, das war ein schönes Bild, was du gerade gebracht hast,

das darf ausgetauscht werden über Ländergrenzen hinweg.

Und so kann man es möglich machen, dass wenn man sagt, wir haben jetzt eine

Verbesserung in einem Werk, zum Beispiel in China erreicht, und die möchten

wir aber sofort für alle anderen Werke weltweit verfügbar machen.

Das ist ja an und für sich, wenn man sich vorstellt, man hat 50 Werke weltweit,

die das Gleiche produzieren, dann macht es Sinn,

diese Verbesserung direkt überall mit aufzunehmen. Und dafür braucht es dann eine KI.

Gleichzeitig ist die KI auch so aufgebaut, dass sie...

Custom-Modelle baut, also letztendlich die Modelle, die sich in der Fabrik weiterentwickeln,

die sind schlau genug zu entscheiden, ist dieser Prozess ein Prozess,

der hier bei uns vor Ort überhaupt durchgeführt wird oder nicht.

Also wenn es zum Beispiel ein Produkt gibt, was jetzt nur in China gefertigt

wird, dann übernehmen andere Modelle in einer Fabrik in anderen Teilen der Welt

diese Informationen überhaupt nicht, sondern nur für das, was tatsächlich in

der Fabrik vor Ort gefertigt wird.

Und dieses Lernen machen sie dann verfügbar.

Wenn ich mir jetzt vorstelle, diesen Aspekt, dass bestimmte Daten über Ländergrenzen

hinweg nicht geteilt werden dürfen, wer kontrolliert das denn eigentlich?

Also ist das ein automatischer Prozess, der sozusagen den Datenstrom kontrolliert

oder wie kann man sich das vorstellen?

Ich würde so eher naiv vermuten, man kann ja hin und her schicken,

was man will, wer kann das da kontrollieren?

Also das ist tatsächlich relativ stark reglementiert.

Wenn wir uns jetzt mal anschauen, du hast bestimmt mitbekommen,

dass der AI Act jetzt bald kommt.

Es wird zukünftig tatsächlich Behörden geben, die sich genau um solche Aspekte, KI,

ob KI entsprechend der Gesetze ausgeführt wird, die sich um solche Aspekte kümmern.

Gut, ich bin jetzt gespannt, inwiefern wir Experten finden, die sowohl dieses

sehr spezialisierte technische Know-how haben und dann aber auch das rechtliche Know-how.

Wenn man sich große Unternehmen anschaut, die haben tatsächlich Abteilungen,

die dafür verantwortlich sind, sicherzustellen, dass zum Beispiel Gesetze zur

Exportkontrolle eingehalten werden.

Und aktuell wäre das ein Bereich, der bei denen liegt.

Okay, das klingt noch ein bisschen kompliziert, das irgendwie auch umzusetzen.

Ja, da kommt wieder die Bürokratie auch ein wenig ins Spiel,

dass man tatsächlich, wenn man so etwas aussetzt, sich ganz genau überlegen

muss, wie strukturiere ich das überhaupt?

Und wie ist das wirklich zu erkennen und wie lassen sich denn auch Sanktionen

da irgendwie durchsetzen, oder, bei bestimmten Firmen?

Das ist tatsächlich ein ganz neues Thema.

Also ich würde davon ausgehen, es gibt jetzt noch nicht so viele weltweite KI-Systeme

in dem Bereich, die sich da durchsetzen. Ein Bereich, den wir,

glaube ich, ganz gut sehen können, ist der Teil, der sich auf unseren Mobiltelefonen abspielt.

Denn da ist es ja zum Beispiel so, dass Daten auch zwar auf unserem Telefon

verarbeitet werden, das ist der gleiche Mechanismus, und die Erkenntnisse werden ausgetauscht.

Aber da sehen wir immer wieder, dass gerade die EU jetzt zum Beispiel voranschreitet

und tatsächlich auch sehr genau beobachtet,

was dort passiert und dass sehr teure Sanktionen gegen vor allem US-amerikanische

Konzerne erhoben wurden, die auch genau in diesen Bereich gehen.

Also tatsächlich, wenn man sich nicht proaktiv als Unternehmen um so etwas kümmert,

dann kann es sein, dass man dafür erhebliche Summen entrichten muss.

Aber natürlich nur, wenn man entsprechend erwischt wird.

Also dadurch, dass es noch ein relativ neuer Bereich ist, gibt es in vielen

Unternehmen dafür noch gar keine dedizierten Abteilungen.

Also die meisten, wenn wir uns das anschauen, so im Bereich Mittelstand und

so viele Unternehmen haben heutzutage noch keinen dedizierten Data Scientist,

der sich um solche Aspekte kümmert und häufig ist sowas auch eher in der Rechtsabteilung

anzusiedeln als jetzt im technischen.

Du hast ja ganz am Anfang so ein bisschen dargestellt, was ihr für ein Problem

gesehen habt, das ihr gelöst habt mit der Anwendung, die ihr jetzt sozusagen anbietet bei Cthulhu.

Kannst du nochmal sagen, unter welchem Begriff man das fassen würde?

Ja, das sind tatsächlich Privacy Preserving Technologies oder Privacy Enhancing Technologies.

Also im Bereich KI gibt es sowohl Technologien, wo Daten offen geteilt werden.

Es gibt aber auch Technologien, die dediziert dafür aufgesetzt sind,

dass genau Aspekte, die man selber definiert, geheim gehalten werden.

Darunter fällt das. Und einige der Technologien, die wir zum Beispiel einsetzen,

wenn wir da ein bisschen technischer werden dürfen, ist das föderale Lernen.

Also tatsächlich, wir sind ja auch im Föderalismus, das kann man sich genauso

vorstellen. Leider, wie einige sagen.

Ja, das bleibt jetzt jedem selber überlassen, wie er das so sehen möchte. Ja,

genau, dass letztendlich alle Parteien gleichgestellt sind von ihren Interessen

und es dann gewisse Bereiche gibt,

in denen zusammengearbeitet wird sozusagen und das ist dann genau dieser Mechanismus,

wo Erkenntnisse zusammengeführt werden und im Rest von der Idee her diese Parteien aber unabhängig sind.

Und dann gibt es noch weitere Technologien, wie zum Beispiel Differential Privacy.

Das ist eine Form von mathematischem Nebel, könnte man sagen,

den wir auf die Daten draufgeben können, entweder bevor wir sie verarbeiten.

Dadurch wird das Endergebnis nicht verändert.

Aber es kann kein sogenanntes Reverse Engineering betrieben werden.

Also man kann nicht zurückverfolgen, welche Daten tatsächlich genutzt wurden,

um das Modell weiter zu trainieren. Also auch eine Art von Verschlüsselungssystem.

Genau, das ist tatsächlich dann eine Verschlüsselung. Das ist in Amerika damals

im Zensus erfunden und genutzt worden und das ist aktuell die beste Technologie,

um es erstmal nicht zu kompliziert zu machen,

also da wird ja auch immer Rechenkapazität entsprechend genutzt und gleichzeitig

aber genau das zu erreichen, was man möchte.

Man kann das dosieren, also man kann sagen, da gibt es dann natürlich diesen

Trade-off, das ist immer eine Balance.

Je mehr Anonymisierung da drauf kommt, desto weniger Anonymisierung.

Und Nutzen hat letztendlich der Algorithmus auch. Es ist jetzt nicht so,

dass man sagt, man kann einfach alles verschlüsseln und am Ende kriegt man etwas

raus, was genauso gut ist. Nein, da muss man dann wirklich schauen.

Das muss dosiert werden, dass man sagt, wie wichtig ist es, was genau muss verschlüsselt werden.

Und am Ende des Tages beeinflusst das dann auch das Ergebnis.

Die Problemlösung, die ihr gefunden habt, habt ihr da ein Alleinstellungsmerkmal?

Gibt es viele Firmen, die sowas anbieten wie ihr?

Wie kann man das einordnen, was ihr da macht?

Also von der Grundtechnologie her gibt es einige, unter anderem die Technologie

Federated Learning wird von quasi allen großen US-amerikanischen Unternehmen,

die man so kennt, den FANG, eingesetzt.

Die Art und Weise, wie wir das Ganze umsetzen, da haben wir tatsächlich ein

Alleinstellungsmerkmal, weil wir einen Weg gefunden haben. Wir haben also,

die Technologie wird aktuell primär auf Mobiltelefonen eingesetzt und dort haben

wir ein homogenes Umfeld.

Das bedeutet also, die Telefone werden meistens kontrolliert und es handelt

sich um sehr ähnliche Typen.

Also Software, die Daten schnittstellen, können sehr gut von den Anbietern kontrolliert werden.

Zum Beispiel von Apple auf dem eigenen Telefon oder auch Google nutzt es auf dem G-Wort.

Das ist die Wortvorschlagfunktion, die du vielleicht kennst und die ist auch

für dich personalisiert und da dürfen aber auch keine persönlichen Daten dein

Telefon verlassen, weshalb so eine Technologie angewandt wird.

Wir machen das jetzt in einem Bereich, der ziemlich heterogen ist.

Man denkt immer so von außen, jede Fabrik...

Wird einfach so repliziert im Rest der Welt. Aber es ist tatsächlich überhaupt nicht so.

Das ist ein, wir nennen das das Uniqueness Nightmare.

Also jede Fabrik ist einzigartig. Verstehe. Und das ist eine Schwierigkeit für so ein Modell.

Wenn man sagen möchte, als Data Scientist, man möchte das gleiche Modell mit

ganz unterschiedlichen Datenquellen trainieren, dann braucht man Transformation.

Und was wir gemacht haben, wir haben einen Mechanismus erfunden,

mit dem es möglich ist, den nennen wir Portable Pipeline, Genau diese unterschiedlichen

Datenquellen nutzbar zu machen für das gleiche Modell.

Und deswegen ist es ja in vielen Bereichen sehr gut einsetzbar,

wenn wir sagen, das sind ähnliche Prozesse. Wir wissen, dass die voneinander

lernen könnten und diese Transformation muss geleistet werden.

Ja, dann haben wir in dem Fall dieses Alleinstellungsmerkmal. Ja, okay.

Wenn ich mir versuche, das praktisch vorzustellen, ihr habt eine Anfrage einer

Firma, ihr seid euch einig, dass dann diese Transformation umgesetzt wird.

Wie genau wird das implementiert? Was ist dafür notwendig? Muss es dafür,

ich sag mal, naiverweise wie ein Server implementiert werden,

ein ganzes kleines Rechenzentrum?

Ist das nur eine Software? Du hast ja ein Riesenteam, was da ein paar Monate

vor Ort die Firma sozusagen auf den Kopf stellen muss, um alle Prozesse zu verstehen,

so ein bisschen diesem Anwendungs-Nightmare zu haben oder Unique-Nightmare gerecht

zu werden. Wie kann man sich das vorstellen?

Tatsächlich ist da ziemlich viel Teamarbeit dabei und was sich viele immer nicht

vorstellen können, wir gehen tatsächlich gar nicht in die Fabrik rein,

sondern wir machen das wirklich aus dem Büro raus.

Das ist eine Software, eine Infrastruktur, da installieren wir dann letztendlich

einen Connector, wir setzen auf einer Datenschnittstelle auf normalerweise, wir mögen es gerne,

was du gerade beschrieben hast, ist tatsächlich genau richtig,

wenn es zum Beispiel bereits Hardware gibt.

Die performant genug ist, dass wir darauf trainieren können.

Das bedeutet, wir brauchen eine gewisse Power auch dahinter.

In vielen Bereichen aber selbst ein modernes Mobiltelefon reicht für kleinere

Modelle heutzutage schon.

Also setzen wir zum Beispiel auf einem existierenden Server auf.

Teilweise arbeiten wir auch in der Cloud, wenn die verfügbar ist und machen das nutzbar.

Oder es gibt sogenannte Edge-Devices, das sind wie so Minicomputer,

die man in die Fabrik hängen kann, wo man dann wirklich sagen kann,

alles, was an Daten erhoben wird und auch verarbeitet wird, bleibt dann genau

auf diesem Edge-Device.

Und davon gibt es dann auch wieder ganz viele in der Welt und die können wir,

das ist ein bisschen wie mit dem Mobiltelefon, dann auch miteinander synchronisieren.

Das Gelernte, was darauf passiert. Aber tatsächlich probieren wir,

also wir haben ja auch immer den Anspruch, da hatten wir eben schon mal drüber

gesprochen, dass wir relativ grün unterwegs sind, sofern man das sein kann mit

diesem Thema KI, dass das einfach auch wichtig ist, dass wir sagen, wir gucken,

was verfügbar ist und teilweise können wir sogar auf einer Steuerung lernen.

Ich hoffe, dass.

Das geht ja auch um Themen, letztendlich großes Thema, was du da letztendlich

ansprichst, würde ich übersetzen Datenschutz, Vertrauen,

Angst vor Industrie, Spionage.

Das ist vielleicht so die grundsätzlichen Sachen.

Wenn ich mir vorstelle, da ist eine Firma, die möchte das gerne implementieren,

die ist davon überzeugt und fragt euch an, müsst ihr euch vertrauen?

Also habt ihr Zugriff auf die Daten, wo man sagen kann, ja, weiß ich,

ob Cthulhu vielleicht mit einem russischen Geheimdienst zusammenarbeitet oder sowas?

Ist das ein Problem? Müsst ihr irgendwelche Leute überzeugen oder macht ihr

das sozusagen ohne Zugriff wirklich selber auf die Daten zu haben?

Das finde ich eine mega spannende Frage von dir. Tatsächlich,

also erstmal würde ich sagen, dass Vertrauen die Grundvoraussetzung ist für

alles, was wir menschlich tun.

Also viele reden ja über KI, aber am Ende sind es immer noch Menschen,

die entscheiden, was da passiert.

Und wir haben tatsächlich mal ein Missverständnis gehabt mit einem Kunden,

wo wir gesagt haben, wir können auf unsichtbaren Daten trainieren.

Und die haben uns dann beim Wort genommen und die haben dann gesagt,

das ist ein Material, das ist so eine halbe Milliarde wert ungefähr.

Und entweder versichert ihr das, falls es dann doch irgendeinen Leak gibt,

also wenn dann doch irgendwie Daten geteilt werden, die nicht geteilt werden

sollen, dann müsst ihr dafür gerade stehen oder ihr dürft diese Daten gar nicht erst sehen.

Und tatsächlich haben wir dann gesagt, naja, wir sind Startup, kleine Firma,

dann nehmen wir doch den technologisch schwierigeren Weg und haben es tatsächlich

so gemacht, das ist ein Anwendungsfall, da geht es über Wertschöpfungsketten.

Also viele Wertschöpfungsketten können tatsächlich optimiert werden.

Eine Herausforderung ist da wieder, man möchte sich nicht gegenseitig in die

Fabrik schauen lassen, denn das sind ja auch wieder Kunden-Lieferanten-Beziehungen.

Und da haben wir genau das gemacht.

Wir haben, ohne die Daten zu sehen, letztendlich anhand der Muster eine Optimierung

über diese Wertschöpfungskette herbeigeführt.

Also ja, im Ernstfall, wenn uns jemand sagt, das geht nicht anders,

wir sind hier die Bundesbank oder wer auch immer, wir haben ganz besonders wertvolle

Daten, dann können wir tatsächlich auch diese Infrastruktur aufsetzen,

ohne dass erstmal wir die Daten sehen,

aber unterschiedliche Parteien auch voneinander gar nicht die Daten sehen.

Also für mich am Anfang war das wirklich auch so ein bisschen, da habe ich gedacht...

Jetzt wird es richtig verrückt, aber technisch ist das tatsächlich möglich.

Und gleichzeitig, glaube ich, ohne Vertrauen geht das auch nicht.

Also man möchte ja auch erstmal, da sind jetzt für viele Unternehmen sind es

auch gerade so die ersten größeren Schritte mit der Technologie.

Wir müssen erstmal sehen, das Thema gibt es zwar schon lange,

das Thema KI, aber dass es wirklich jetzt populär geworden ist und dass viele

von uns sich damit beschäftigen und auch sehen, dass wir selber es nutzbar machen können.

Das ist ja ein bisschen mehr als ein Jahr her, dass wir anderthalb Jahre ungefähr,

ich würde sagen, ja, November vor anderthalb Jahren war es ungefähr so, dass man sagen kann,

das wird eine wichtige Technologie, die kann viele Herausforderungen lösen,

aber ohne das Vertrauen zwischen Menschen geht es nicht.

Ohne hochwertige Daten, aber zum Beispiel auch nicht. Ich glaube,

da gehen wir ein ziemlich wichtiges Thema an, dass wir sagen,

das kriegen wir auch alle überall mit.

Ich meine, wir sind die Erfinder des Datenschutzes hier in Europa.

Wir müssen eine Lösung finden, dass auch Europa an diesem Thema partizipiert

und Lösungen umsetzt, die mit unseren eigenen Werten.

Uns helfen, gewisse Bereiche zu automatisieren, die Arbeit einfacher zu machen für Menschen.

Und das muss natürlich jetzt auch per Gesetz in einem gewissen Rahmen passieren.

Ja, auch ohne wirtschaftlich abgehängt zu werden. Das ist ja auch das Spagat,

was man da irgendwie gehen muss.

Und ich kann mir vorstellen, wenn es um das Thema Daten an sich geht und Vertrauen

zu Daten und Datenweitergabe, gibt es wohl vielleicht auch Daten,

wo ich mir vorstellen könnte, Das möchte man als Firma auch gar nicht dann einen Blick haben,

weil man dann in eine bestimmte Richtung geht, wo man nachher irgendwie anderen

Kräften wieder ausgesetzt ist.

Wenn du das sagen kannst, du magst, welche Art von Daten werden dann verarbeitet?

Also um welche Branchen geht es da?

Hauptsächlich kann man das sagen? Ist das so breit gefächert,

dass das nicht geht? Wie ist das?

Ja doch, da gibt es schon einige Branchen, die Vorreiter sind.

Also der Elektronikbereich.

Das ist einfach ein Bereich, wenn wir auch schauen, da gibt es jedes Mal,

wenn etwas optimiert wird und da ist KI jetzt tatsächlich das Mittel der Wahl

oder das Werkzeug dafür, kann man damit mehr verdienen.

Schauen wir uns zum Beispiel mal Chips und so weiter an. Das,

was gerade produziert wird, wird einem aus den Händen gerissen.

Also je besser man am Ende dieses gute Produkt gefertigt hat innerhalb des Prozesses.

Das ist eine Industrie, die Automobilindustrie fängt auch an in dem Bereich

und ansonsten der Bereich Healthcare.

Also alles, was tatsächlich auf Geräten auch unter anderem passiert,

für die medizinische Diagnosen wichtig sind, wo Ärzte unterstützt werden können.

Da gibt es ganz viele tolle Techniken, wo man auch auf den Geräten lernen kann.

Zum Beispiel Muster erkennen.

Zur besseren Diagnostik. Zur besseren Diagnostik von Krebs und so weiter.

Ich meine, wir kennen das alle. Wir haben auch mal einen schlechten Tag und

wir möchten natürlich trotzdem eine möglichst gute Diagnose.

Und da einfach diese Hilfestellung zu haben, durch einen Assistenten letztendlich,

der auf ganz vielen Geräten weltweit gelernt hat und der sagen kann,

hey, da vorne ist ein Schatten, den solltest du dir noch mal genauer anschauen.

Und das geht natürlich dann nur zusammen mit dem Arzt, der letztendlich da am

Ende des Tages immer noch die verantwortliche Instanz ist.

Aber diese Hilfestellung dadurch auf medizinischen Geräten, die kann durch KI erfolgen.

Und das ist etwas, was heutzutage auch bereits gemacht wird.

Hast du dann einen Einblick bekommen, welche Entwicklungen es da jetzt im letzten

Jahr gab, die dich beeindruckt haben in der Richtung?

Es passiert so viel, was mich wirklich beeindruckt hat.

Nein, da weiß ich jetzt gar nicht ein einziges. Also ich glaube,

ein paar Dinge, die mich beeindruckt haben, sind tatsächlich auch so größere

Geschichten, wo Unternehmen mal gesagt haben, es ist gar nicht so einfach.

Also ich glaube, von außen denkt man immer, man drückt dann einen Knopf und

dann passiert einfach etwas und dann funktioniert das schon. So ist das gar nicht.

Also ich finde es zum Beispiel sehr, sehr mutig, den Weg, den einige amerikanische

Unternehmen, die wir so gesehen haben, gegangen sind, dass die gesagt haben,

so, das ist jetzt nicht fertig.

Wir stellen das in den Markt, alle können das ausprobieren und dann lernen wir

quasi am sich verändernden Objekt.

Und dann sehen wir so gewisse Themen, ja, für uns in Europa ist die Automobilindustrie

ja zum Beispiel immer relativ wichtig und da wirklich zu sehen,

wie schwierig es auch ist, einer KI gewisse Aspekte beizubringen.

Ich glaube, das ist tatsächlich eher das, was mich fasziniert.

Teilweise im Bereich Vision, so Erkennung von gewissen Objekten.

Da hat man meistens gar nicht den Einblick.

Dann ist es wirklich so, dass Bilder gelabelt werden, also wirklich von Menschen,

die dahinter sitzen, von Hunderten, Tausenden von Menschen, die dann wirklich

sagen, das ist eine Katze, das ist keine Katze.

Und wie weit die Technologie jetzt mittlerweile gekommen ist,

wo sie diese ersten Grundzüge, sage ich mal, gelernt haben, die heutzutage ein

Zweijähriger beurteilen kann.

Ja, ich glaube, was mich tatsächlich fasziniert zu sehen, auf der einen Seite

technologisch viele Dinge sind schon möglich und viele Dinge,

die ein Zweijähriger heutzutage kann, sind auch noch nicht möglich.

Und was wir als Menschen manchmal als ein Bias, als Diskriminierung empfinden,

hat viel mit den Daten zu tun, den so eine KI gesehen hat.

Wir hatten jetzt vor ein paar Wochen ein ganz interessantes Beispiel.

Da wurde gefragt, generiere mal das Bild von einem CEO für eine Tamponfirma.

Und tatsächlich, dieses Bild, am Ende ist ein Mann rausgekommen.

Weil die KI sich natürlich anschaut, wie viele Bilder gibt es da draußen im

World Wide Web und wie viele CEOs sind letztendlich Männer.

Und letztendlich wird ja nur vorhergesagt, was die Wahrscheinlichkeit dahinter ist in dem Moment.

Also ja, das ist etwas. Ich weiß nicht, hast du was gesehen im letzten Jahr,

in den letzten anderthalb Jahren, wo du sagen würdest, so im Bereich KI,

das hat dich unglaublich beeindruckt?

Ja, gesehen schon. Ich weiß nicht, ob das schon so funktioniert,

wie das angepriesen ist.

Aber ich sehe schon die Entwicklung, die ich jetzt auch ein wenig im Podcast

so mitverfolgen will. Darum geht es nämlich auch.

Zum Beispiel, dass man viele Gesundheitsdaten am Gesicht ablesen kann.

Dass es KI-mögliche oder KI-gestützte Software gibt, die dann anhand deiner

Gesichtsdaten, also auch des Blutflusses, den man im Gesicht sehen kann,

Blutdruck feststellen können. Was ich total beeindruckend finde, sowas.

Und natürlich Emotionen dann zu erkennen und je nachdem, wo das Blut hinfließt

und ob die Lippen oder die Wangen rot werden, wie das dann interpretiert wird.

Das finde ich total spannend.

Und natürlich, was du ansprichst, Diagnostik.

Ich komme ja eher so aus dem...

Nicht physisch-medizinischem Bereich her, sondern eher aus der Psychologie und

Psychotherapie und mit Leuten sozusagen da mentale Bestärkungen hinzukriegen.

Ich finde diesen Bereich noch viel zu wenig diskutiert, aber ich kann mir da

sehr gut vorstellen, dass da auch viele neue Innovationen kommen.

Ich habe schon so ein bisschen beobachtet, dass es da einige Artikel gab,

wo man anhand eines Textes schon relativ gut die Persönlichkeit der Person,

des Klienten erfassen kann und dann dementsprechend Hinweise gibt,

wie die Behandlung dann zu erfolgen hat. Und da wird das sicherlich auch weitergehen.

Was, wenn wir schon so ein bisschen auch vielleicht ein Resümee ziehen oder,

nicht Resümee, aber so ein bisschen gucken, wie das jetzt war und wie das das

letzte Jahr war, die Entwicklung und dann vielleicht auch dahin gehen, wie die Zukunft,

wie wir uns das vorstellen, wie du dir das vorstellen kannst,

was da noch so möglich ist und wie das weitergeht und wie schnell.

Lass uns noch mal da bleiben, wie das jetzt gerade ist und wie die Entwicklung vom letzten Jahr war.

Also ich fand das Thema KI immer schon interessant, aber ich muss zugeben,

es war nichts, wo ich dachte, das steht vor der Tür, das ist so was ganz Besonderes.

Das kam erst wirklich durch Chat-GPT, wo viele Leute gemerkt haben,

okay, das ist jetzt weiter, als man vermuten würde, als man vermutet hatte.

Und ich glaube, viele Leute kriegen das auch gerade mit, aber sind immer noch

sehr auf Distanz, weil sie nicht einschätzen können,

was das alles bedeutet und nutzen das gar nicht und nutzen das vielleicht nur

in einer bestimmten Richtung und können sozusagen nicht beurteilen,

welche Auswirkungen das auf so viele Bereiche hat.

Wie hast du das erlebt, sozusagen die Einführung von ChatGPT 3 und dann 4 und

die anderen Modelle, die entstanden

sind von Gemini, Mistral und Cloud und was es da jetzt alles gibt?

Warst du überrascht von der Entwicklung? Hast du da auch gleich versucht,

irgendwie Zugang zu finden?

Du bist ja sozusagen auf dem Gita vorher schon sehr eine große Expertin gewesen.

Wie bist du damit umgegangen? Wie hast du das erlebt?

Also, dass es möglich ist in der Form, war, glaube ich, vielen von uns bewusst.

Was ich so aus der Szene gehört habe, ist, dass es schon auch ein Zufallprodukt tatsächlich war.

Also, ich glaube, selbst OpenAI ist davon überrascht gewesen.

Wir alle sind davon überrascht gewesen. Also, auch wenn es dann nach außen hin

nachher so dargestellt wurde, klar, wir wussten, dass wir auf diesem Weg sind,

dass es so in der Form für Menschen greifbar wird.

Und letztendlich, was wichtig ist, nicht nur die Technologie dahinter,

sondern dass sie es auch geschafft haben, es ganz vielen Menschen gleichzeitig bekannt zu machen.

Ich glaube, das war tatsächlich etwas. Also viele wissen, was möglich ist mit

KI, aber tatsächlich dieses Interesse von so vielen Menschen dafür zu wecken,

das ist etwas, was tatsächlich begeistert hat.

Wir sehen natürlich viel, ja, was da schon möglich ist, aber tatsächlich,

was du gerade so ein bisschen durch die Blume angesprochen hast,

es ist nach wie vor eine Technologie, die menschengetrieben ist und da ist wirklich

die Frage, wie sehr beschäftigen wir uns damit und lernen auch.

Auch da habe ich jetzt einige interessante Diskussionen in den letzten Wochen gehabt.

Zum Beispiel, wenn man sich jetzt vorstellt, ich habe früher mal im Bereich

Marketing gearbeitet, für so eine kleine blaue Dose Nivea, da war das damals so.

Da hat man ein Jahr vorher angefangen, ein Fotoshooting zu planen,

am Ende der Welt, wo das Licht ganz besonders gut ist.

Zum Beispiel in unserem Fall Südafrika auf einem Schiff.

Und wenn man sich jetzt anschaut, was heutzutage mit so einer Technologie möglich

ist, Man kann quasi mehr oder weniger alles am Computer entwickeln und weiterentwickeln,

das Licht dahinter verändern.

Also unglaublich viele Dinge, die möglich sind.

Wir müssen nicht mehr um die Welt reisen, diese Dinge zu tun.

Und ja, das ist tatsächlich etwas, also da lege ich jedem ans Herz,

sich intensiver damit zu beschäftigen.

Wir nutzen solche Technologien ja schon länger, besagte Technologien tatsächlich

auch für unterschiedliche Aspekte. Die können jetzt schon unglaublich viel Arbeit abnehmen.

Also mich selber begeistert, wie kreativ ChatGPT unter anderem sein kann.

Und ja, man kann ja tatsächlich auch Diskussionen führen, also was auch immer

es ist. Also ich habe mir zum Beispiel einen Assistenten entsprechend gebaut für gewisse Aspekte.

Und diese Technologie wird viel von unserer Wissensarbeit abnehmen können.

Und das bedeutet, dass wir Zeit haben, uns auf andere Dinge zu konzentrieren, zu fokussieren.

Ja, gut. Ich bin jetzt natürlich Teil dieser, ich würde fast sagen,

Bubble wahrscheinlich. Also Menschen, die sich damit beschäftigen.

Wenn man sich nicht damit beschäftigt, hat man, glaube ich, einen großen Nachteil.

Weil dadurch so viele Dinge sich in den nächsten Jahren verändern werden.

Und ich sehe bei vielen noch diese Angst ein Stück weit, sich mit,

und das ist ja eigentlich nur ein Computerinterface, sich damit zu beschäftigen.

Ja, es ist etwas Neues für viele und das bedeutet gerade deswegen,

neugierig sein und sich damit beschäftigen und wirklich schauen,

was man damit selber machen kann und das Ganze anwendbar machen.

Haben das Aufkommen dieser Large Language Models, wie ChatGPT ist,

eigentlich für euch noch einen zusätzlichen Nutzen gehabt?

Oder ist das etwas eine parallele Entwicklung von KI, die du vielleicht interessant

findest, aber nicht wirklich eine Auswirkung auf eure Arbeit hatte?

Ja, Gen-AI ist schon interessant. Also es hat dahingehend eine Auswirkung gehabt,

dass plötzlich das Thema KI in aller Munde war.

Und jetzt tatsächlich, egal wo man hingeht, auf jeder Konferenz immer wieder

dieses Thema angestoßen wird.

Und auch wenn wir eigentlich eher im Bereich ML, maschinelles Lernen unterwegs

sind und dann ja noch mit dem Focus Privacy Preserving Technologies,

das ist schon ein anderer Bereich, wenn man sich das jetzt so genauer anschaut.

Aber es hat einfach zu einer unglaublichen Aufmerksamkeit für das Thema und

auch zu Fantasie in den Köpfen von vielen Menschen geführt, die plötzlich KI

als eine Möglichkeit sehen, Dinge zu verbessern, wo vorher so gesagt wurde, so ah, ja,

vielleicht nicht. Also in dem Sinne auf jeden Fall.

Wie bist du zu dem Thema KI eigentlich gekommen, wenn du sagst,

du warst eher Marketing für Nevea und du hast ja auch eine interessante Lebensgeschichte,

was auch die räumlichen Wege angeht.

Du hast in vielen Ländern Erfahrungen sammeln können.

Wie war das Thema für dich immer schon da? Und ist das erst gekommen?

Also mit Daten arbeite ich schon länger.

Selbst Marketing ist ja häufig ein sehr datengetriebener Bereich idealerweise.

Das war noch im Studium, als ich mein Praktikum damals gemacht habe. So als Beispiel.

Ich habe 2008 angefangen, in einem Bereich zu arbeiten, der Daten nutzen musste.

Und zwar war das im Bereich Windenergie.

Und wir haben damals diese großen Windturbinen aufs Wasser gestellt,

obwohl sie eigentlich technologisch gesehen noch nicht bereit dafür waren.

Das waren unterschiedliche Großkomponenten,

die zusammengekauft wurden aus unterschiedlichen Bereichen.

Und es hat dazu geführt, dass die andauernd still standen.

Und das ist sehr teuer. Das hat fast zum Bankrott geführt.

Und tatsächlich standen wir dann damals vor der Entscheidung.

Entweder das war es und wir sagen jetzt, okay, wir kriegen das nicht hin.

Oder wir machen es irgendwie möglich, diese Maschine zu überwachen,

sodass wir bereits vorhersagen können, dass da was kaputt gehen wird und vor allem auch was.

Damit wir, wenn wir aufs Wasser fahren, diese Komponenten direkt dabei haben.

Denn hinzufahren, um nachzuschauen, sondern was gerade nicht funktioniert,

um dann wieder hinzufahren und das Ersatzteil mitzubringen, ja,

ist einfach nicht besonders effizient.

Und von daher habe ich bereits 2008 angefangen, mit Daten zu arbeiten.

Und es ist so, dass zum Beispiel dieser Bereich Offshore-Wind,

der mittlerweile subventionslos auch gemacht wird, nur möglich ist aufgrund

der starken Vernetzung.

Da haben wir an einer Turbine teilweise 200, 300 Sensoren, die permanent die

Vitalfunktionen überwachen und die dazu führen, dass man Monate vorher sagen

kann, da klingt gerade was nicht so gut oder da sehen wir eine Anomalie.

Die haben wir da und da schon mal gesehen.

Und entsprechend, da kommt dann auch KI zum Tragen, wenn man so eine Anomalie,

ja, im besten Fall 20, 30 Mal gesehen hat oder mehr, dann kann man mit einer

sehr großen Wahrscheinlichkeit sagen,

was die Konsequenz davon ist und was gemacht werden muss.

Und von daher ist das ein Thema, ja, was mich jetzt schon länger begleitet und

tatsächlich auch eine gewisse Faszination, was Daten uns helfen,

über unsere Umwelt zu verstehen.

Also wir haben damals zum Beispiel auch in der inneren Mongolei Turbinen gehabt

und es gab nur einen einzigen Typ, der bei minus 40 Grad noch funktioniert hat.

Und diese Technologie, dadurch, dass wir diese Erkenntnis hatten,

dass die noch funktionieren überhaupt, da musste niemand auf den Berg klettern

und gucken, was dreht sich denn jetzt bei diesen Temperaturen noch,

wenn man gar nicht mehr rausgehen möchte,

die konnten wir nutzbar machen, um in Skandinavien, das ist ein Markt,

der bis dato untergenutzt war, was Wind angeht, weil so vier Monate im Jahr

konnte man eigentlich keine Windturbinen laufen lassen.

Da ist die Eisbildung so groß, dass man sagen konnte, das lohnt sich einfach

nicht, da gibt es keinen Business Case dahinter.

Diese Technologie aus der Inneren Mongolei konnten wir mitnutzen,

um für den skandinavischen Markt Verbesserungen zu erzielen,

die dann dazu geführt haben,

dass es auch dort heutzutage viel Wind als Energieform gibt.

Und überhaupt zu sehen, die Kundenzufriedenheit, die hat immer korreliert mit

gewissen Aspekten aus dem Feld von den Turbinen, die wir sehen konnten.

Ja, von daher war mir damals schon bewusst, wenn wir Zugang zu Daten haben oder

solche Erkenntnisse für uns nutzbar machen können, dann haben wir einen Vorteil.

Ein großer Vorteil, den die Windindustrie für sich geschaffen hat,

ist, dass wir von den Bauernhöfen, so vor 20, 30 Jahren standen ein paar Turbinen

hinten auf einem Feld bei einem Bauernhof in den meisten Fällen.

Und was wir aber wirklich wollten, ist große Windparks entwickeln,

skalierende, um wirklich die Energiewende mit voranzutreiben.

Und ein Aspekt da war, dadurch, dass wir die Daten erfassen konnten,

konnten wir das Risiko für wirklich große Kunden, wie zum Beispiel Rückversicherer,

Pensionsfonds, die sich mit Windenergie überhaupt nicht auskennen,

aber wir konnten das Risiko rausnehmen.

Wir konnten sagen, wir können für diesen speziellen Fall hier,

wir haben alle Daten verfügbar, wie viel Wind hier normalerweise geerntet werden kann.

Wir können euch garantieren, dass in 99,8 Prozent der Fälle,

wenn der Wind weht, diese Turbine sich dreht.

Das ist das, wofür ihr bezahlt. Also dann sind quasi die Hersteller der Windturbinen

dafür verantwortlich, dass die...

Immer operabel ist, also Wartung erfolgt, wenn kein Wind zum Beispiel gerade weht.

Und dann kann man das Geschäftsrisiko für Kunden minimieren.

Das, was die tragen müssen am Ende des Tages, ist das Risiko,

weht der Wind oder nicht.

Und damit macht man so ein Geschäft viel attraktiver für externe Investoren.

Verstehe. Und das hat auch wieder mit den Daten dahinter zu tun. Ja.

Wenn man das Ganze automatisieren kann, ein entsprechendes Verständnis davon

hat, Und das liefert einem unter anderem auch so einen Algorithmus.

Dann macht es das einfacher. Das heißt, wenn ich viele Daten sammle und auch

damit umgehen kann, das wäre der zweite Schritt, auch sozusagen Muster zu erkennen,

mithilfe von KI und Vorhersagen, Prognosen treffen kann. Das ist das Entscheidende.

Und mich hat das gerade so ein bisschen erinnert, was du über die Windturbinen

gesagt hast, dass es ja letztendlich auch in Richtung Healthcare ähnliches Ding

ist, dass man sozusagen überwachen machen kann,

über Tracking-Systeme, über Armbänder, was auch immer, bei Menschen und dann

schon frühzeitig gucken kann,

dass da vielleicht bald nicht mehr was gut funktioniert und da schon frühzeitig eingreifen kann.

Das ist so ein bisschen gleiches Verständnis. Genau, ja.

Kannst du deine Rolle ein bisschen

beschreiben? Du bist ja in diesem Exzellenzbeirat der Uni Hamburg.

Was das genau ist, was du da machst, was da diskutiert wird?

Also das, was ich teilen darf, ja. Ja, natürlich. Ja, die Uni Hamburg ist ja

eine der Exzellenz-Unis Deutschlands und die haben sich einen Beirat aus ganz

unterschiedlichen Experten zusammengestellt.

Und ein Aspekt, der glaube ich ganz besonders meine Arbeit jetzt auch repräsentiert,

hat erstmal mit dem Bereich Startups zu tun.

Sie möchten gerne, da haben wir ja ein paar Leuchtturmprojekte oder unter anderem

ein Leuchtturmprojekt im Süden mit der TUM.

Sie möchten gerne mehr Ausgründung haben. Also der Bereich Innovation soll gestärkt werden.

Und jetzt ist die Frage, wie schafft man es, dass mehr Studierende Startups gründen?

Gerne auch in Bereichen, in denen wir jetzt zum Beispiel tätig sind,

wie maschinelles Lernen, KI, diese Themen. Also überhaupt diese Startup-Kultur.

Und du kennst den akademischen Bereich ja auch sehr gut. Das ist schon eine ganz andere Welt.

Von daher, ich bin letztendlich auch mit dabei, um Feedback aus der realen Welt zu geben.

Also wie schafft man es überhaupt, mehr Menschen für Unternehmertum zu begeistern

und sie in diesen Bereich reinzubringen?

Und dann haben wir natürlich eine sehr spannende Technologie.

Da wird gerade tatsächlich auch ein Lehrstuhl aufgebaut in dem Bereich und die

sind unter anderem auch mit Medizintechnik beschäftigt. Da haben wir dann noch

einen weiteren Bereich.

Und letztendlich finde ich ganz spannend, was auch an der Uni Hamburg gerade

passiert, dass dieses Thema, also ein Bereich, mit dem wir uns ganz intensiv

beschäftigt haben, wie...

Wie schafft man eine Unternehmenskultur? Und die Uni Hamburg ist auch gerade

dabei, ihre Unikultur zu verändern.

Wie schafft man es, dass Mitarbeiter zum Beispiel Verantwortung für Bereiche

übernehmen und wie kann man sich nochmal ganz anders organisieren,

dass man nicht hierarchisch von oben nach unten, sondern tatsächlich eher so

einen Bottom-up-Approach hat.

Und dass man gegebenenfalls für Themen Cluster bildet, solche Aspekte.

Und ja, da gibt es ganz spannende Ideen und das sind Dinge, mit denen wir uns

tatsächlich als kleines Unternehmen auch beschäftigen.

Wie wir Dinge messbar machen, die für viele aktuell vielleicht noch nicht messbar sind.

Von daher haben wir da tatsächlich einen sehr tollen Austausch auf Augenhöhe.

Und noch dazu sind natürlich unglaubliche Experten aus ganz vielen Bereichen mit dabei.

Und ja, das ist ein sehr spannendes Forum für diesen Austausch.

Ich glaube, es lebt sehr von der Diversität, die wir da mit reinbringen.

Das geht ja in so Richtung Teambuilding, letztendlich wie man da in der Unternehmenskultur

sozusagen auch da ein Vertrauen schafft und andere Strukturen.

Wenn du mich fragst, hat ja Training, Atmung und Kälte einen großen Einfluss,

aber das ist jetzt meine Perspektive.

Das erlebe ich bei Teams halt sehr häufig, dass sich dadurch viel verändert,

dass man da ein bisschen offener und angstfreier wird, was einen großen Einfluss

hat, weil häufig ist ja Angst auch ein großes Thema, wenn man nicht vertraut,

dass man halt misstraut deswegen.

Wenn du ein bisschen,

darüber nachdenkst, was du für Diskussionen im letzten Jahr oder in den letzten

zwölf Monaten geführt hast über das Thema KI, gerade mit den neuen Entwicklungen

von den LLMs und so weiter.

Auch vor dem Hinblick, dass wenn man auf die normalen Kanäle guckt,

auf YouTube, ist es halt immer wie so ein Newsletter oder Verlautbarung,

welche 20 neue KI-Tools jetzt in der Woche wieder erschienen sind.

Das ist ja explodierend eigentlich, was da passiert. jetzt und ich denke,

viele Firmen werden ja auch gleich wieder verschwinden, weil das Marketing kann

nicht für alle funktionieren, dass da alle sozusagen davon profitieren.

Was für Diskussionen und Debatten werden darüber geführt in den Kreisen, wo du dich bewegst?

Wenn du die Leute kennenlernst, ist die Bedenkenträgerei noch sehr groß?

Teilst du das zum Teil, dass man in Richtung Eindämmung von diesen Modellen

denken muss oder ist das eher Richtung Innovation?

Also was für Diskussionen werden da geführt?

Das ist eine sehr große Frage, tatsächlich. Ich glaube, die müssen wir in mehreren

Bereichen... Welche Diskussionen hast du geführt, die du spannend fandst oder beobachtet?

Also tatsächlich, ich glaube, das Allerwichtigste ist erstmal,

ganz häufig werden wir angesprochen, wird so gefragt, oh, was macht ihr denn

an KI, wie können wir das machen?

Darum geht es eigentlich gar nicht. sondern es geht es muss immer

davon ausgehen welche herausforderung welches

problem hast du welchen schmerzen customer

pain den ki lösen könnte und dann schauen wir ob das ganze passt also viele

laufen im moment rum und sagen so hier sind ja überall ki sachen die ich ausprobieren

kann das ist nicht der richtige weg so schaffen wir es nicht mehr wert in der

realen welt zu kreieren ein bereich den ich aktuell.

Ja, noch etwas skeptisch sehe, es gibt noch sehr viele Zuschauer.

Was du eben schon gesagt hast, diese Angst einfach.

Da gibt es viele wirklich relativ sichere Räume, wenn man sich einmal darauf

vorbereitet, welche Daten man bereit ist zum Beispiel zu teilen mit so einem

Interface wie ChatGPT, dass man sich das vorher einmal bewusst macht.

Also, ja, persönliche Fotos und so weiter.

Also, es gibt ja auch die Möglichkeit, dass man nur noch lokal auf dem eigenen

Rechner trainiert, dass man quasi sagt, meine Daten dürfen gar nicht mehr geteilt

werden. History disabled.

Solche Aspekte sind wichtig. Und dann gibt es natürlich einen,

okay, jetzt muss ich nochmal zwei Schritte zurück. Es ist wichtig,

dass wir Wert in der realen Welt damit kreieren.

Und da fehlt vielen gerade noch die Fantasie. Und ich glaube,

es wird einfacher, wenn man sich damit beschäftigt.

Dann kann man solche Mehrwerte für sich selber herausfinden.

Der dritte Aspekt, den ich da sehe, und das ist etwas, was da glaube ich so

ein bisschen mit reinklingt, ist Regulation, die Gesetzgebung.

Ich sehe das tatsächlich skeptisch, was in dem Bereich passiert.

Also wir durften auch Feedback geben in diesem ganzen Prozess der Gesetzeserstellung

und aktuell, gerade was technologisch schon möglich ist,

konnte von vielen Experten auf EU-Ebene noch nicht in der Form durchdrungen

werden, wie es eigentlich der Fall sein müsste, wenn man so etwas reglementiert.

Also anfänglich, wir haben einige Gesetze,

kommentiert, wo klar war, dass das in der Form aktuell, selbst in der Forschung,

noch nicht möglich ist, also noch keine Ansätze dafür verfügbar sind.

Zur Reglementierung oder von dem Inhalt, was da gemacht wird,

was reglementiert werden soll, noch gar nicht da ist?

Genau, da ging es unter anderem um solche Systeme wie unsere zum Beispiel und

Bias, wie der da drin erkannt werden muss.

Und zum Beispiel hatten wir eben das Thema, wenn man an unsichtbaren Daten,

auf unsichtbaren Daten lernt, das ist dann ja auch wieder so ein großes verteiltes

System, wo Daten geheim gehalten werden.

Wie erkennt man dahinter Bias, sogenannten Bias, der mit eingeschleust werden

kann? Und es gibt tatsächlich gewisse Setups, wo das heutzutage nicht möglich

ist, aber auch per Design.

Man soll ja nichts erfahren über die Daten, die nutzbar gemacht werden.

Und genau das würde verlangen, dass man zum Beispiel sagt, hier am Anfang sind

bei den CEOs halt 80 Prozent Männer mit dabei im Trainingsraum und nur 20 Prozent

Frauen. Und genau diese Information würde man einander ja nicht zur Verfügung stellen.

Also da gibt es gewisse Aspekte, wo ein Stück weit das Wissen auch fehlt.

Also ich meine letztendlich Menschen, die sich mit diesen Themen auskennen,

ja, sind jetzt auch nicht wie Sand am Meer unterwegs. Und die muss man halt

dediziert dafür mit einbringen.

Und da sind auch viele Anstrengungen unternommen worden, um Professoren und

so weiter zu interviewen.

Aber es ist natürlich ein sehr komplexes Thema, so etwas zu reglementieren und

auch jetzt für die nächsten Jahre tatsächlich Dinge vorauszusehen in einem Bereich,

wo selbst viele Experten aktuell noch nicht sagen können, was wird sich da wirklich entwickeln.

Also wir haben teilweise Professoren gesehen, bei denen sind ganz viele Doktorarbeiten vorhanden.

Eingestampft werden, weil die Praxis diese Doktorarbeiten überholt hat.

In der Praxis gibt es mittlerweile bessere Voraussetzungen als an der Uni,

um gewisse Erkenntnisse zu treffen.

Ja, aber wenn wir jetzt zu den Gesetzen zurückkommen, es ist wichtig, dass KI,

Systeme vertrauen.

Also, ja, das ist eine Form von Siegel, von Label, was auch immer gibt,

also, dass man beurteilen kann, ob man diesem System vertrauen kann oder nicht.

Und da habe ich jetzt schon unterschiedliche Herangehensweisen gesehen,

zum Beispiel im asiatischen Raum ist es so, in China muss draufgeschrieben werden,

was mit KI generiert wird.

Dann gibt es dann so eine Art Label, denn heutzutage, wir haben jetzt alle selber

so ein paar Bilder gesehen, wenn man jetzt plötzlich Frau Merkel im Bikini am

Strand sieht, weiß man nicht, ist das jetzt ein echtes Bild oder nicht.

Ich glaube, das ist echt, aber kann mich auch irren.

Klar, natürlich, und auch da darf man wieder seinen gesunden Menschenverstand

natürlich nicht vernachlässigen.

Also Vertrauen ist wichtig und es darf auch keinen Missbrauch geben.

Und das ist natürlich schwer, so etwas zu reglementieren.

Letztendlich KI ist vor allem dann gefährlich, wenn Menschen mit einer Missbrauchskrise.

Einer negativen Intention ein System missbrauchen und für sich nutzbar machen.

Das sehen wir ja zum Beispiel im Wahlkampf und in anderem Rechner gab es viele Beispiele dafür.

Wir als europäische Region haben einen Nachteil von dieser Reglementierung.

Also ein Stück weit schränkt es natürlich auch den Marktzugang für andere Player

ein, aber wenn man sich jetzt anschaut, gerade so Startups und das Innovationssystem,

das kleine, Wir müssen uns jetzt noch mit ganz vielen neuen Themen beschäftigen

und tatsächlich unsere Kunden,

die KI nutzen wollen,

müssen sich auch erst nochmal mit vielen Themen beschäftigen.

Das verzögert also wieder diesen ganzen Prozess dahinter.

Das macht es viel komplexer und das, was du eben schon beschrieben hast,

man hat Angst, dass man vielleicht was falsch macht.

Da können große Geldsummen dahinter stecken, die man gegebenenfalls falsch investiert

oder die man vielleicht als Strafe zahlen muss am Ende des Tages.

Es macht diesen Bereich komplexer und in der Praxis werden wir wahrscheinlich

dadurch Verlangsamung sehen.

Wenn ich das nochmal ein bisschen paraphrasieren darf.

Und du kannst mich ja gerne korrigieren, ob ich das richtig verstanden habe,

dann ist es so, dass du denkst, die Entwicklung ging jetzt auch so schnell und

es gibt im Grunde so wenig Experten, dass dieses AI Act Gesetz da von dir noch kritisiert wird,

dass das sozusagen noch nicht wirklich durchdrungen werden kann für die Anwendung.

Das habe ich so ein bisschen mitbekommen.

Also dass es im Grunde die Entwicklung so schnellt, dass man das,

wenn man Reglementierung macht, im Grunde noch nicht alles verstanden hat,

wie man es und was man da wirklich reglementiert.

Und dann andererseits oder gar nicht andererseits, aber fortführend diesen Gedanken,

dass es ja auch immer um Wettbewerbsfähigkeit geht.

Und wenn man Technologien und Industrien sozusagen dann etwas,

da etwas die Handschellen anlegt oder ein bisschen knebelt,

dann werden andere Firmen kommen, die in anderen Ländern sitzen,

die das nicht haben, die dann überholen.

Das ist natürlich für unsere Wirtschaft und Wirtschaftsstandorte nicht gut.

Andererseits kann ich mir vorstellen, gerade aus diesem Aspekt handeln viele

Firmen vielleicht vorschnell, weil sie ein bisschen Angst haben,

da irgendwo hintendran zu sein und lassen sich auf Technologien ein,

die vielleicht gar nicht so vertrauenswürdig sind, sicher sind.

Könnte man das so sagen?

Ja, das kann man so sagen, klar.

Also natürlich, wir brauchen in einer gewissen Form einen Rahmen,

mit dem wir diese Technologien besser für uns verständlich machen, erfassbar machen. Ja.

Und da stecken viele Geheimnisse drin.

Also jetzt selbst für uns.

Man kann ja natürlich immer wieder Dinge verändern, Parameter beobachten und

auch schauen, dass man einen Rahmen steckt.

Aber in ihrer Komplexität und das, was sie lösen können, sind sie einfach deutlich

performanter als ein menschliches Gehirn.

Glaubst du, dass Firmen wie OpenAI ihre Modelle wirklich komplett verstehen

und sozusagen die Reglementierung auch so einfügen können, wie das notwendig ist?

Oder gibt es immer noch Aspekte, die unerklärlich sind, wie sozusagen die Outputs entstehen?

Und ist das ein Hebel für Leute, die quasi Jailbreaks machen wollen?

Das ist eine interessante Frage. Jeder würde, glaube ich, gerne mal in dem Labor sitzen.

Ich glaube, nicht in der Tiefe. Da wird es auch kein Individuum geben.

Ja, die Frage ist jetzt, wie die Modelle weiterentwickelt werden.

Also aktuell, wenn man wirklich über ein großes Modell entsprechend dahinter

redet, dann glaube ich nein, dass das nicht notwendig ist, dass das menschlich nicht erfassbar ist.

Ja, also wenn ich mit dem Thema schon früher zu tun hatte, dann war es sicherlich

nicht auf der Schiene von Informatik oder Maschinenlernen,

sondern eher vielleicht in Richtung Bewusstseinsphilosophie,

was Bewusstsein ist, ob künstliche Intelligenzen gleich sind.

Und das berührt natürlich auch ein bisschen die Frage, es gab mal so einen Fall,

wo der Entwickler meinte, das wäre, die KI hätte Bewusstsein und die dürfte

man sozusagen, müsste man Rechte geben.

Ich weiß nicht, wie du das Thema siehst, Was du für Erfahrungen gemacht hast

in der Hinsicht? Ist das eine Vermenschlichung, die wir da überstülpen, wo nichts ist?

Oder glaubst du, das würde irgendwann durchaus möglich sein,

dass sowas entsteht, dass das eine eigene Art von Bewusstsein hat?

Das finde ich eine sehr große Frage, die mir jetzt auch immer häufiger gestellt wird.

Aktuell, aus meiner Perspektive, sind wir nicht an diesem Punkt.

Gut. Gut, wir sind jetzt natürlich auch im Bereich maschinelles Lernen unterwegs

und da ist es wirklich die Inputs, die wir geben und es gibt ja auch einen An-

und Ausknopf sozusagen,

wo man entsprechende Maschinen ausstellen kann.

Ob wir da hinkommen werden, ich weiß es nicht, tatsächlich.

Also ich finde sehr spannend die Diskussion, die sich da im letzten Jahr dazu ergeben hat.

Ich glaube, das, was wir da gesehen haben, hatte mehr mit Marktdominanz zu tun

als mit anderen Aspekten, aber das ist jetzt meine ganz persönliche Meinung.

Ich weiß nicht, wie hast du die Diskussion damals?

Darf ich noch kurz, was meinst du mit Marktdominanz, also wie ist das zu verstehen?

Ja, in dem Bereich sind sehr schnell große Fortschritte gemacht worden.

Und wenn man jetzt zum Beispiel den Bereich Open AI sieht, wir haben alle mitbekommen,

dass Elon Musk Open AI verklagt und sagt,

Open AI entspricht nicht mehr dem, also für die Menschheit wird nicht mehr offen gelernt.

Also unter anderem sind ja die Modelle gar nicht offen zugänglich,

was ich von den Investorengeldern, die da reingeflossen sind,

ja, auch ein Stück weit verstehen kann.

Das hat ja auch wieder viel mit Trustworthiness, mit Explainable,

AI und so weiter zu tun. Was steckt da letztendlich drin?

Es ist ein Wettrennen, wenn man sich anschaut, allein das Bewusstsein bei vielen

von uns, welche Rolle KI einnehmen könnte zukünftig, wenn wir Menschen es zulassen.

Viel im Bereich Digitalisierung also es ist eigentlich wie in unserem Bereich

eine neue Revolution nicht 4.0, sondern nochmal was ganz Neues,

so der Beginn des Internets nur gegebenenfalls noch etwas schneller,

jetzt die nächsten Schritte sind erstmal noch nicht so schnell,

viele in diesem Bereich gehen davon aus, dass wir in einigen Jahren unglaubliche

Auswirkungen sehen könnten,

wenn wir entsprechende Schritte gehen Und das hat viel mit Wertschöpfung zu

tun, also auch im unternehmerischen Sinne.

Wer stellt zum Beispiel dominante Technologien dafür zur Verfügung?

Jetzt haben wir schon viel über Chat-GBT gesprochen.

Gleichzeitig sehen wir, dass es auch hierzulande, hierzulande,

hier, man muss ja eigentlich schon fast von unserem Kontinent sprechen,

in der EU auch diverse Unternehmen gibt, die genau so etwas erreichen möchten.

Nämlich ein Modell, was von der Wertperspektive eher der europäischen Mentalität

entspricht, zum Beispiel dann auf,

unterschiedlichen Sprachen trainiert wurde.

Und ich glaube, darum geht es letztendlich auch ein Stück weit.

Es ist ein Werteverständnis, was in so einem KI-Modell wiedergespiegelt wird,

aber letztendlich auch die Frage, wer hat zukünftig, wer partizipiert an dieser

Wertschöpfung, die damit erreicht wird.

Wenn wir uns anschauen, also unsere Industrie zum Beispiel, da sind wir in der

Vergangenheit oder auch heute sind wir noch stark, was viele Aspekte so mechanisch,

elektronisch und so weiter angeht.

Aber neue Aspekte, wie zum Beispiel ein Auto sich von vorherigen Modellen unterscheidet,

hat viel mit der Software zu tun, die darauf läuft.

Also wie kann ich mittlerweile mit meinem Auto interagieren?

Ich fahre mittlerweile zum Beispiel ein Auto, was mit auf die Straßenverhältnisse

achtet und zum Beispiel stoppt oder nicht. Und die Frage ist,

wie differenzieren sich solche Produkte, die wir herstellen, zukünftig?

Und ist das etwas, von dem Kunden sagen, das ist für mich so wichtig,

diese zusätzlichen Möglichkeiten, die Software mir bietet in einem Auto,

dass sie bereit sind, dafür mehr zu bezahlen?

Und da haben wir jetzt schon gesehen,

hiesige Konzerne nutzen mittlerweile Technologien amerikanischer Natur.

Und das ist per se jetzt erstmal total in Ordnung.

Aber die Frage ist, wie wird sich dadurch die Wertschöpfungskette verändern? dann.

Also am Ende des Tages gibt es ja immer Abhängigkeiten und Unternehmen,

die Innovationen anführen und viel werden wir in diesem Bereich sehen und ich

glaube, da geht es dann wieder zurück zu einem Aspekt, den du eben genannt hast.

Wie möchten wir uns wirtschaftspolitisch aufstellen in der Zukunft,

um Teil dieser Wertschöpfung, die wir von KI durchaus erwarten dürfen, zu sein.

Und das funktioniert auch wieder nur, indem wir das Ganze mitgehen.

Also auch ein bisschen, wie ich das richtig verstanden habe,

du siehst auch so die Gefahr der Monopolisierung, also welche Firmen sozusagen

kontrollieren das und wo sitzen die und welche Ideen und Ideologien stecken dahinter?

Absolut, wenn wir uns jetzt anschauen, wie OpenAI sich weiterentwickelt hat,

die haben bereits jetzt in den nächsten, in den letzten Zyklen ganz viele der

Unternehmen, die ursprünglich auf sie als Geschäftsmodell gesetzt haben,

eigentlich absorbiert sozusagen.

Ganz viele Geschäftsmodelle sind obsolet geworden. Ja.

Und ja, da finde ich wichtig, dass wir uns die Frage stellen,

wo möchten wir zukünftig stark sein und wo möchten wir mitspielen?

Und als europäischer Kontinent können wir nicht in allen Bereichen mitspielen und diese Stärke haben.

Und wir sehen auch wieder den First Mover, also OpenAI mit ChatGPT hat jetzt den Vorteil gehabt,

die haben einfach, die stehen jetzt ein bisschen wie Tempo für Taschentücher

steht, stehen sie für diese LLM-Technologie und auch wenn wir hierzulande einige

Mitbewerber haben, ist die Frage, werden die es schaffen,

ein Modell, ein Geschäftsmodell vor allem dahinter zu bauen,

was so interessant ist, dass sie ChatGPT ablösen können.

Ja, daran anknüpfen, du hast mich gefragt, wie ich das sehe,

wir haben ja uns unterhalten auch kurz vorher so ein bisschen und kamen dann

zu dem Thema, ob da wirklich ein Bewusstsein entstehen kann und was da so der Hintergrund ist.

Ich bin mir da nicht so sicher, ich glaube auch, wenn ich mit Leuten diskutiere,

dann geht es häufig darum, wie war das in der Vergangenheit,

du hast so die Industrielle Revolution genannt und die Umwälzung und auch Internet.

Ich bin, so wie ich das verstanden habe, der Meinung, das ist etwas ganz anderes,

was völlig Neues, was beispiellos ist, wo man vielleicht nicht anknüpfen kann,

wie schon mal was gewesen ist, sondern was ganz Neues entsteht.

Deswegen finde ich diese Vergleiche, wir werden schon irgendwie klarkommen und

das wird so ähnlich sein wie vor 100 Jahren mit anderen Umwälzungen,

finde ich vielleicht ein bisschen zu kurz gegriffen.

Und ich denke auch, dass wir als Menschen, das ist vielleicht so ein bisschen

meine psychologische Perspektive, häufig dazu neigen, sehr überheblich uns als

die Krone der Schöpfung zu sehen, auch geistig und glauben, da die Intelligentesten zu sein.

Und dass wir uns da auf was einstellen müssen, was dann halt ebenso intelligent

ist, vielleicht eine andere Art von Bewusstsein besetzt oder eine andere Art

von Intelligenz, die mit uns zwar nicht zu vergleichen ist,

die auch vielleicht die Tests nicht so besteht, wie wir das wollen,

aber dadurch vielleicht andere Möglichkeiten hat und andere Auswirkungen,

die wir noch gar nicht so benennen können.

Also was mich sehr beeindruckt hat, waren zwei Beispiele, die ich da auch immer gerne nenne.

Über Dokumentarfilme, die ich gesehen habe, über AlphaGo, Wo zuerst die Maschinen

oder künstliche Intelligenz oder Schach lernen konnte und das gut beherrscht

hat und dann die Entwickler geschafft haben, das Spiel Go,

von dem man glaubte, das kann eine Maschine halt nicht so gut spielen wie Mensch,

so bravourös zu spielen,

dass sie den weltbesten Go-Spieler wirklich in Grund und Boden gespielt hat

mit Zügen, wo alle aufgeschrien haben, das ist ein Anfängerfehler.

Und ich finde das ganz spannend, weil man halt gemerkt hat, dass die Maschine

eigentlich oder die KI am besten war,

wenn man halt nicht die menschlichen Vorannahmen reingefüttert hat,

die seit tausenden von Jahren über Go existierten, sondern die alleine hat lernen

lassen und die zu anderen Ergebnissen kamen, wo Menschen halt andere Wege beschritten haben.

Ich glaube, das ist so ein Hinweis darauf, dass wir vielleicht ein bisschen

vorsichtig sein müssen, mit uns immer was zu vergleichen und auch die,

möglicherweise die Entwicklung von der Schnelligkeit und von der Umfänglichkeit,

in welche Bereiche das alles eindringt, vielleicht ein bisschen beschreiben,

aber noch nicht wirklich fühlen und ermessen können. Das wäre so mein Eindruck.

Ja, das finde ich eine interessante Art, das darzustellen. Also ja,

Go war definitiv beeindruckend.

Für mich ist das tatsächlich jetzt auch schon wieder etwas länger her.

Ja, aber es stimmt. Also letztendlich ergibt sich für uns dadurch ja auch die

Frage, was macht uns eigentlich aus als Menschen?

Wenn du jetzt gerade die Frage stellst.

Ja, könnte das gegebenenfalls eine ganz andere Form von Intelligenz sein.

Und ich glaube, ja, das wird uns in den nächsten Jahren begleiten,

dass wir da auch viele Werte diskutieren werden.

Und ich glaube, es gibt auch ein unglaubliches Potenzial, was viele Dinge angeht,

von denen wir uns gerade noch nicht vorstellen können, dass sie dann vielleicht

nicht mehr Teil von unserem Arbeitsalltag sein werden.

Aber zum Beispiel, ich meine, wer hat nicht schon mal irgendwie die ein oder

zwei Wochen mit einer PowerPoint-Präsentation für ein wirklich wichtiges Business-Modell verbracht.

Und die kann man vielleicht zukünftig einfach generieren lassen und sind dann

perfekt gelayoutet mit allem, was dazugehört.

Das habe ich schon probiert. Das geht schon ganz gut.

Man muss noch ein bisschen bearbeiten. Die Inhalte sind noch nicht so ganz optimiert,

aber da kommt man hin. Ich glaube, das geht auch schon relativ gut.

Genau. Ja, aber dann wirklich auch nicht zu glauben, dass wir in gewissen Bereichen

nicht ersetzt werden können.

Ja, wenn du mal, so gut es geht, ohne dir zu nahe treten zu wollen,

wenn du ein bisschen an deine Emotionen gehst und mal überlegst,

was für ein emotionales Verhältnis du aufgrund deiner Erfahrung zu KI hast.

Ich weiß, maschinelles Lernen ist vielleicht ein bisschen ein anderes Gebiet,

aber du hast ja auch Einblicke und Diskussionen mit den, sag ich mal,

direkten Interfaces, wo man eher das Gefühl hat, da sitzt jemand gegenüber und

man hat einen dreckigen Gesprächspartner. Das ist ja auch ein wichtiger Aspekt.

Wenn du da ein bisschen an deine Emotionen gehst, wie stehst du dazu?

Hast du dich mal bedroht gefühlt, wenn du in Zukunft blickst?

Ist das etwas, wo du denkst, das ist nur gut und wir profitieren nur davon,

wir müssen ein bisschen aufpassen?

Oder was ist so dein Gefühl dafür?

Das ist ein sehr mächtiges Werkzeug. Und tatsächlich, wo ich Bauchschmerzen

habe, wenn es in die falschen Hände gerät.

Und von diesen Händen auch entsprechend genutzt wird.

Ich glaube, da habe ich in den letzten Jahren viel Naivität abgelegt.

Ich glaube, wir alle haben Dinge gesehen in der Welt, die wir vielleicht vorher

uns nicht haben vorstellen können.

Also ich hätte nicht gedacht, dass in unserer Generation nochmal wieder ein

Krieg in Europa herrschen wird.

Und wenn ich mir jetzt vorstelle, dass zum Beispiel so ein Werkzeug in den falschen

Händen landet und ja, diese Werkzeuge gibt es dort ja auch bereits,

dann bin ich da nicht nur positiv.

Also wie jedes Werkzeug auch, wenn man einen Hammer hat, kann man damit ein

Möbelstück zusammenbauen, man kann aber auch jemanden in den Kopf einschlagen.

Und es hat viel mit der Intention zu tun, der Person letztendlich,

die dieses Werkzeug führt und wie gut sie es auch einsetzen kann.

Also ich sehe tatsächlich sehr kritisch, wir haben uns jetzt gerade mit Emotionen

beschäftigt, wie leicht, glaube ich, heutzutage viele Menschen auch vereinnehmbar

sind. Über Mobiltelefone, über gewisse Kanäle.

Es ist wichtig, dass wir auch wieder stärker zu dem kritischen Denken,

was uns als Menschen auch ausmacht, zurückfinden.

Und sonst gibt es da durchaus größere Risiken, die ich sehe.

Also ich sehe, dass KI uns auch viele Aufgaben abnehmen kann.

Also viele Aufgaben, wo ich sagen kann, das stört mich überhaupt nicht,

wenn ich dann vier Stunden früher freimachen kann, weil jemand anders die für

mich erledigt hat sozusagen.

Das ist total gut. Es gibt gewisse Dinge, die ich, glaube ich, nicht brauche.

Noch besser kann, noch, mal gucken. Wir sehen dann in ein paar Jahren,

ja, ob ich das dann immer noch kann.

Aber ja, tatsächlich gemischte Gefühle, letztendlich, wie es bei jedem Werkzeug auch der Fall ist.

Ja, wie siehst du das? Ich sehe das sehr ähnlich.

Ich tendiere da hin und her zwischen Hoffnung und Aufpassen und Gefahr und falsche Hände, ganz klar.

Das Vertrauen in die Welt und die politischen und wirtschaftlichen Zusammenhänge

ist jetzt auch nicht mehr so gegeben. die Entwicklung der letzten Jahre,

wo ich denke, da wird schon irgendwie gute Kräfte geben, die das alles lenken.

Bin ich mir auch nicht so sicher. Ich finde auch interessant,

wenn man die Frage überlegt, wie geht die Entwicklung weiter?

Also wo kann es noch landen? Gerade wenn das so vielleicht wirklich sehr exponentiell weitergeht.

Dass die Menschheit vor, weiß nicht, 100 Jahren ein gutes Gespür hatte,

was so die Moderne bringt.

Wenn man so die Science-Fiction-Literatur und Filme anguckt,

Dann ist das so nicht so weit entfernt, mal abseits von den Außerirdischen,

wie sich die Welt auch so entwickelt hat.

Ich habe das Gefühl, entweder haben wir jetzt keine große Fantasie oder wir

können uns das nicht richtig vorstellen, wie die Welt in zehn Jahren sein wird

mit dieser rasenden Entwicklung.

Oder das ist so entfernt von unserer Intuition, dass wir das nicht auf den Plan kriegen.

Oder wir haben keine Zeit dafür, uns wirklich damit auseinanderzusetzen,

wie das sein wird, weil alle so mit der Realität oder mit der Gegenwart beschäftigt sind.

Mit diesem Hasseln und den Alltag zu bewältigen, mit den ganzen Informationen,

die auf uns einströmen und die Gefahr, dass wir den Fokus nicht mehr auf eine

Sache richten können, weil wir ständig abgelenkt sind, finde ich sehr groß.

Ja, das finde ich sehr gut.

Was da gerade gewesen ist, die würde ich dir mal stellen und mal gucken,

was du davon hältst. Es geht um Nachhaltigkeit und Effizienz durch KI.

Viele Anwendungen von KI streben danach, Prozesse effizienter und nachhaltiger zu gestalten.

Doch gibt es Bedenken hinsichtlich des ökologischen Fußabdrucks der KI selbst?

Wie können wir sicherstellen, dass der Einsatz von KI in Industrie und darüber

hinaus tatsächlich zu einer Nettopositivität für unsere Gesellschaft und Umwelt führt?

Welche Rolle spielen dabei fortschrittliche Technologien wie föderales Lernen oder Ash-Computing?

Das ist eine sehr große Frage, die Chat-GPT da für uns rausgeworfen hat.

Ja, wir sind eben schon mal etwas darauf eingegangen, was den Fußabdruck bedeutet,

wenn wir alle Daten zentralisieren.

Also ich glaube, tatsächlich gibt es ganz viele unterschiedliche Layer,

die wir jetzt angehen könnten.

Also erstmal fängt es damit an, wenn wir uns die Industrie anschauen,

wir müssen uns die richtigen Anwendungsfälle raussuchen.

Also es gibt Prozesse, die man mit KI einfach nicht verbessern kann aktuell.

Das geht noch nicht. Also tatsächlich dort keine Ressourcen verschwenden,

wo KI gerade keinen positiven Effekt hat. Also da müssen wir uns quasi vor jedem

Fall einmal fragen, wie groß ist überhaupt das Optimierungspotenzial dahinter?

Denn man muss ja zum Beispiel schauen, wenn wir jetzt diesen,

wir hatten den Qualitätsfall, den wir uns angeschaut haben, den Optimierungsfall,

was fällt da als Abfall am Ende raus?

Wie viel Energie können wir sparen, indem wir ein Produkt innerhalb des Prozesses,

diesem Prozess entziehen, weil wir schon wissen, dass am Ende die Qualität nicht gut ist.

Also tatsächlich erstmal die Beurteilung des Anwendungspfalls.

Gibt es eine bestimmte Kategorie von Prozessen, die nicht optimiert werden können?

Kann man das so benennen als Beispiel?

Also da gibt es diesen ganz schönen Begriff Shit in, Shit out.

Ja, alle Prozesse, die noch nicht optimiert sind, da sollte man keine KI drauf

werfen, denn die kann da auch nichts optimieren.

Also wenn wir im Bereich Industrie jetzt sind, wenn wir nicht im Bereich eines

Lean-Prozesses sind, die Datenakquise etc., das kann man alles noch im Retrofit machen,

aber ja, Prozesse, die per se noch nicht optimiert sind.

Gut, da gibt es kleine Handhabungen, wie man dann schon damit arbeiten kann,

aber wir brauchen optimierte Prozesse.

Also da sind vorher Menschen dran gewesen, wir haben Automatisierungslösungen,

die entsprechend laufen und dann können wir damit arbeiten. Und dann braucht

es tatsächlich auch die richtige Größe von Modellen.

Das ist zum Beispiel auch ganz wichtig, wenn wir jetzt gerade aus dem Bereich

Edge angesprochen, es gibt viele physikalische Prozesse, die auch entsprechend

modelliert werden können. Es muss nicht überall KI drin stecken.

Manchmal reichen auch einfachere Modellierungen, die genutzt werden können.

Also auch da die Entscheidung, wenn wir sagen, wir optimieren auf den Bereich

ökologischer Footprint, was ist hier gerade sinnvoll und was nicht?

Wie komplex ist dieses Feld, mit dem wir uns gerade beschäftigen und welche

Parameter, selbst wenn wir uns große Netze anschauen, häufig sind es gewisse

Parameter, die ausschlaggebend sind und einen größeren Effekt auf das Gesamtergebnis haben als andere.

Und dann ist immer die Frage zu beurteilen, was bedeutet das dann am Ende des

Tages? Und dann brauchen wir sicherlich auch noch mehr Forschung in diesem Bereich.

Es gibt bereits einige Vergleiche, wo man sehen kann, dass föderale Technologie

im Vergleich zu klassischer, zentralisierter Technologie zu Ressourceneinsparungen führt.

Aber da gibt es noch viele Stellschrauben, an denen gedreht werden kann.

Also die letzten Zahlen, die ich da gesehen habe, dass es mindestens 70 Prozent sind.

Wir können da noch deutlich besser werden.

Was das angeht. Da gibt es ja viele Stellschrauben zum Beispiel.

Was sind Stellschrauben, die man nutzen kann? Wie viele Training Runs nutzt man zum Beispiel?

Man kann zum Beispiel sagen, wir trainieren alle paar Minuten dieses Modell nach.

Ist das wirklich notwendig? Führt das am Ende des Tages zu einer Verbesserung

innerhalb des Prozesses von unserem Footprint oder nicht? Das wäre zum Beispiel

so eine Frage, die wir uns stellen müssten.

Und dann zum Beispiel auch, wenn wir über die Cloud diese Zentralisierung schaffen,

wo werden diese Daten dann abgelegt?

Wir haben vorher über Datenschutz gesprochen und es gibt auch mittlerweile bei

den großen Cloud-Anbietern immer stärker die Tendenz, diese Rechenzentren auch

dort zu bauen, wo die Daten anfallen, also in der Nähe.

Und das bedeutet natürlich auch immer wieder weniger Ressourcen,

die dafür beansprucht werden.

Wenn wir so ein Rechenzentrum haben in der Cloud, was hier in Deutschland steht,

dann ist der Transport dieser Daten dorthin deutlich kürzer,

als wenn es durch ein Überseekabel nach Amerika geschickt wird.

Das kostet Energie. Natürlich kostet das Energie. Am Ende des Tages.

Und da werden wir sicherlich auch sowas wie Label brauchen.

Ich denke da jetzt gerade so, das ist so eine Assoziation, die ich habe,

wenn wir uns unser Essen anschauen.

Da haben wir mittlerweile auch so kleine Food-Ampeln drauf, wo einfach steht,

wie gut ist das, um mal so eine Vorbeurteilung zu haben, wo man dann wirklich

schaut, was geht da. Ja, und die Nachnutzung von Modellen, da ist dann auch

Open-Source-Technologie zum Beispiel wichtig.

Es gibt viele Modelle, die jetzt immer wieder gebaut werden,

wenn man tatsächlich bereits bestehende Modelle einfach nutzen kann und sie

nachtrainiert für einen speziellen Anwendungsfall.

Das ist auch wieder ressourcenschonend. Also wo können wir quasi Recycling betreiben in diesem Bereich?

Ich finde es insofern sehr beeindruckend und spannend, weil ich denke,

also du hast ja auch am Anfang schon darauf hingewiesen, dass das für dich und

die Firma wichtig ist, auch so zu denken.

Da würde ich auch naiv sagen, das ist echt, wenn man dann auch selber noch die

Ressourcen hat, darüber nachzudenken, beeindruckend, weil ich würde mir vorstellen,

man hat genug zu tun, überhaupt das Anwendungsgebiet da richtig hinzubekommen.

Und da haut einem vielleicht auch keiner auf die Finger, wenn es zu ressourcenintensiv

ist, oder? Denke ich da falsch.

Also ich glaube, das ist in gewissen Bereichen aktuell noch der Fall,

was wir auch sehen, wenn man sich anschaut, wie unter anderem ChatGPT weiterentwickelt wird.

Auch da geht jetzt die Tendenz dahin, die müssen ja immer kosteneffizienter

werden. Wie können wir uns am Ende wirklich relevant machen als KI-Infrastruktur

für die Industrie zum Beispiel?

Das hat viel erstmal damit zu tun, dass wir relevante Bereiche abdecken,

aber gleichzeitig auch, es braucht eine Kosteneffizienz.

Und du hast vielleicht mitbekommen, wenn LLMs trainiert werden am Anfang,

fließen da ganz schön viele Ressourcen in die Infrastruktur.

Teilweise hunderte von Millionen einfach nur zum Trainieren der Modelle.

Und das ist schon eine wichtige Frage, die man sich stellen muss.

Braucht man immer so ein super Modell oder reichen vielleicht auch kleinere Modelle?

Also am Ende, wenn man KI für die reale Welt macht, dann gehören Fragen zur

Kosteneffizienz und tatsächlich auch dazu, wie unsere Welt sich weiterentwickelt

und auch, was unsere eigenen Werte sind, definitiv mit dazu.

Und wie gesagt, wir möchten KI erstmal für europäisches Werteverständnis machen,

aber zum Beispiel auch für eine Welt, in der unsere Kinder leben werden.

Da uns ist allen bewusst, wie ressourcenintensiv so etwas sein kann.

Da ist es wichtig, direkt von Anfang an solche Aspekte auch mitzudenken. Mhm.

Rückblickend auf das Interview heute, gibt es irgendwie einen Aspekt oder einen

Punkt, den du noch gerne ansprechen möchtest, den wir noch nicht hatten, der dir wichtig ist?

Ich finde, wir haben total viele tolle Bereiche abgedeckt.

Also was ich noch spannend gefunden hätte, ich finde ja sehr interessant,

wie wir uns kennengelernt haben.

Einfach diesen Aspekt, den du damals erwähnt hast, und jetzt gerade im Interview

auch nochmal wieder, wo es um Ängste geht.

Also ich glaube, wir haben schon viel über Gefühle, über Werte usw.

Gesprochen, Aber wie essentiell die tatsächlich auch für den Erfolg oder Misserfolg

von KI sind und wie das auch Gefühle beeinflussen kann.

Das fand ich einen spannenden Aspekt und das möchte ich gerade einfach nur nochmal

hervorheben, wie wichtig das ist, dass wir uns dessen bewusst sind.

Also tatsächlich gar nicht noch weiter darüber diskutieren, aber ja.

Okay. Magst du vielleicht am Schluss nochmal erklären, woher der Name Cthulhu kommt?

Ja, also als wir 2018 gestartet sind...

Mussten wir uns noch einmal umbenennen. Und da gibt es ein Monster,

was nie gesehen wurde, aber vor dem die Menschheit unglaubliche Angst hat.

Es ist ein Geschichtsphänomen von H.P. Lovecraft.

Und dieses Monster heißt Cthulhu. Und man stellte sich ungefähr so vor,

dass es ein Riese mit unglaublich vielen Armen ist.

Und ein wenig wie ein Oktopus. und tatsächlich ist das wie dieses ominöse,

die ominöse Datenkrake, vor der wir alle bei der KI so viel Angst haben.

Eine Krake, die am Ende ganz viel über uns weiß und wenn man sich jetzt mit

dem Oktopus näher beschäftigt und das wirst du aus deinem Bereich ja sehr gut wissen,

die Oktopoden, die Hände können unabhängig vom Kopf lernen, die brauchen tatsächlich

den Kopf überhaupt nicht Und von daher ist das sinnbildlich,

steht das für unsere Technologie,

die auf den ersten Blick vielen Menschen Angst macht, aber tatsächlich auf den

zweiten Blick so eine ganz andere Geschichte erzählen kann.

Diese verteilte Intelligenz, die es uns möglich macht, zusammenzuarbeiten und

aber trotzdem unabhängig zu bleiben, wie die Oktopoden auch.

Liebe Anna, danke dir ganz herzlich für das Gespräch. Lieber Matthias,

danke dir. Hat mir total viel Spaß gemacht.