KI: Werkzeug, Waffe und williges Opfer?

00:00:00: ist also KI im Grunde nichts anderes als Wahrscheinlichkeitsrechnung und Statistik.

00:00:05: Also was

00:00:06: Sebastian uns gerade gesagt hat, das ist total langweilig eigentlich?

00:00:08: Ja eigentlich habe ich gesagt man macht viel Matte.

00:00:10: Oh noch langweiltiger!

00:00:12: Dann

00:00:12: verdummen wir alle und irgendwann weiß niemand mehr warum die KI eigentlich macht was er macht.

00:00:16: Wenn ich dieses selbstfahrende Auto verwirre Gas geben statt bremsen kann ungeheuer schiefgehen.

00:00:22: Mensch

00:00:22: hat auch eine begrenzte Kapazität Ich nicht.

00:00:24: Das wären dann die Quantencomputer-Menschen, die haben unendlich Rechnenleistung.

00:00:30: Also wie hier vorne

00:00:35: eigentlich

00:00:41: an.

00:00:45: Bei dieser Technologie gibt's keiner zwischen entweder rettet sie uns oder sie zerstört uns.

00:00:51: das ist gerade so die Erzählung wenn es um KI und künstliche Intelligenz geht.

00:00:56: Hallo bei Per Anhalter durch den Cyberraum und wir klingen heute anders, denn wir sind mit dem Podcast zu Gast in Halle an der langen Nacht der Wissenschaft.

00:01:04: Wie gefährlich ist KI für uns und unsere IT-Systeme tatsächlich?

00:01:07: Wie können KI-Ssysteme für Angriffe verwendet werden und wie können KI Systeme selbst angegriffen werden?

00:01:15: Darum soll es heute gehen!

00:01:16: Und ich habe diesen Begriff glaube ich ganz lange geübt heute schon zu Gast im Melanchtonianom.

00:01:24: Ich hatte Sorge bei der langen Nacht der Wissenschaft, der Martin Luther Universität Halle Wittenberg.

00:01:29: Schön dass Sie zuhören und schön das sie da sind denn wir haben hier auch Publikum vor Ort und die Antworten auf alle unsere Fragen haben in dieser Folge Sebastian Karius von der Martin-Lutter Universität Halle Grüß dich Sebastian!

00:01:41: Und Dr.

00:01:42: Philipp Kreitschitzsch von der SAI-Agentur des Bundes in Halle Grüß Dich

00:01:47: Hallo Referat

00:01:48: künstlich Intelligenz.

00:01:49: Richtig

00:01:50: also wenn es jemand wissen muss dann du.

00:01:51: Also wir haben ganz viele Fragen, aber wie es bei uns im Podcast üblich ist damit wir starten können müssen wir noch mal ein bisschen was über unsere Gäste erfahren.

00:02:00: und ja Sebastian stellt sich vor.

00:02:04: Ich bin wissenschaftlicher Mitarbeiter an der Martin Luther Universität.

00:02:07: ich bin angestellt am Institut für Informatik.

00:02:10: Ich arbeite im Verbundprojekt des Cyber-Sicherheitsverbund Land Sachsen-Anhalt dort in dem Teil Projekt das in Halle angesiedelt Und derzeit promoviere ich zum Thema Anomalierkennung in Rechnernetzen, insbesondere mit KI.

00:02:26: Du lährst ja auch zu Grundlagen und Praxis der IT-Sicherheit?

00:02:30: Also stehst du vor Studieren und bringst dir was bei!

00:02:32: Ja, ich halte ab und zu Übungen und versuche den Studenten die Inhalte der Vorlesung in meinen Worten nochmal verständlich zu machen.

00:02:43: Gucken wir mal ob das hier funktioniert – auch heute bei uns im Uni Naumburg.

00:02:46: Bei Nauumburg bist du aufgewachsen habe ich gelernt.

00:02:49: Dann sind wir mal bei unserem nächsten Gast, Philipp.

00:02:51: Jetzt du?

00:02:51: Wer bist du nochmal?

00:02:53: Genau, mein Name ist Philipp Kreischitsch.

00:02:54: Ich arbeite bei der Cyber-Agentur in Abteilung Schlüsseltechnologien und dort im Referat Künstliche Intelligenz.

00:03:00: Vorher habe ich irgendwann mal Wirtschaftsinformatik studiert, hab dann an der Uni Leipzig promoviert zum Thema Process Mining.

00:03:07: also wie kann ich Geschäftsprozesse mittels KI sinnvoll analysieren?

00:03:11: Dann habe ich einen kleinen Abstecher in die Biodiversitätsforschung gemacht, hab geschaut Wie kann ich mit Bildverarbeitungsmethoden biologische Zellen analysieren, Blutzellen, Phytoplankton, Pollen

00:03:20: etc.?

00:03:21: Ich bin dann bei der Cyberagentur gelandet, war auch zwischendurch mal in Australien und hatte da noch ein kleines Forschungsprojekt mitgemacht für ein paar Monate.

00:03:28: Das war auch sehr interessant!

00:03:29: Und genau die ganzen Erfahrungen konnte ich denn zur Cyberagantur mitbringen.

00:03:32: Data Scientist

00:03:34: Kann man so sagen wenn man das möchte?

00:03:37: Du bist eben im Referat für künstliche Intelligenz und dein Chef Daniel Gille, der war schonmal zu Gast beim Podcast in Folge XIV.

00:03:45: Da haben wir auch sozusagen über das Thema Cyber-Sicherheit und KI so ein bisschen geredet.

00:03:49: Dann sagen mal zwei Sätze, was ihr gerade bei KI und Cybersicherheit so macht erforscht?

00:03:53: Wir beschäftigen uns damit wie kann man Machine Learning Verfahren robust und sicher machen?

00:03:57: Wie kann man große Foundation Modelle dazukommen?

00:03:59: Wir vielleicht später nachher noch testbar machen und für die innere und äußere Sicherheit einsetzbar machen.

00:04:05: Wie kann Man vielleicht auch in einem kommenden Programm KI für Betriebssysteme nutzen?

00:04:09: also ganz unterschiedliche Sachen mit dem Fokus Cyber Sicherheit

00:04:11: Genau.

00:04:12: Dann stoppe ich die hier schon mal und gucke mal in so die Runde, weil... Ich glaube wir müssen nochmal so grundsätzlich ein paar Dinge erklären!

00:04:18: Ich muss das auch zwischendurch immer mal wieder mir vergewissern was es eigentlich ist, ne?

00:04:21: Können wir mal zackig und verständlich sagen, Sebastian du vielleicht, was ist eigentlich KI?

00:04:27: noch

00:04:27: einmal?!

00:04:28: Also du hast jetzt hier Bachelor Studierende vor dir, erster Tag erstes Semester an.

00:04:33: KI ist eine Methode des maschinellen Lernens.

00:04:36: Es geht darum dass man gewinnt Musteramt Und mit Hilfe dieser gelernten Muster kann man dann verschiedene Dinge machen.

00:04:44: Also, man kann zum Beispiel Entscheidungen treffen.

00:04:47: Man kann Dinge in Kategorien einsortieren lassen was man vielleicht von Bilderkennung kennt.

00:04:52: also ist das ein Auto?

00:04:53: Ist das ein Fahrrad?

00:04:54: Ist es eine Straßenbahn?

00:04:55: und in der neuesten Entwicklung kann man mit KI Dinge generieren.

00:05:00: Das nennt sich dann generative KI und da kann man verschiedene Sachen generieren und das bekannteste ist Text Sprache, Language.

00:05:07: Und das sind dann diese Large-Language-Modelle die man kennt... ...die im Kern Sprache generieren.

00:05:14: und an sich macht KI nichts anderes als aus einer gegebenen Eingabe eine Ausgabe zu produzieren.

00:05:21: Es benutzt meistens die wahrscheinlichste Ausgabee.

00:05:23: Im Fall von Text ist es ich habe einen Eingabetext.

00:05:27: was ist das wahrscheinlich nächste Wort?

00:05:30: Ich kann aber auch ein Bild reintun.

00:05:31: Was ist das wahrscheinlichste Objekt auf diesem Bild?

00:05:34: Oder ich kann das Wetter von heute oder der letzten Woche reintun und fragen, was ist das wahrscheinlichste Wetter für morgen?

00:05:40: Dafür kann man KI benutzen.

00:05:42: Und im Kern sind es alles statistische Methoden.

00:05:45: Also man lernt im Prinzip eine sehr komplexe Funktion.

00:05:48: Was Sebastian uns gerade gesagt hat, das ist total langweilig eigentlich!

00:05:52: Weil KI wird denke man sich so glitzer-glitzer und es kann alles entscheiden.

00:05:56: Am Ende hast du uns jetzt ein Software erklärt.

00:05:58: Eigentlich habe ich gesagt, man macht viel Mathe.

00:06:00: Oh noch langweiltiger.

00:06:02: Danke

00:06:03: Musst du was ergänzen?

00:06:04: Vielleicht

00:06:06: wollen wir uns noch mal ... ein Ticken einfacher noch erklären will.

00:06:09: Also KI ist quasi im Computerprogramm, das versucht Aufgaben zu erledigen für die normalerweise menschliche Intelligenz notwendig ist wie zum Beispiel Sprache verstehen Muster erkennen wie Sebastian schon gesagt hat Entscheidungen treffen vielleicht längere Pläne machen.

00:06:24: und dazu nutzt KI kein eigenes Bewusstsein oder kein eigen Verständnis sondern nutzt eigentlich mathematische Modelle um aus den Daten aus denen es lernt quasi Zusammenhänge zu extrahieren und daraus regeln und dann wirklich Wissen aufzubauen.

00:06:39: Und

00:06:39: warum KI immer auch selbst überlisted werden kann, wie das jeder mal ausprobieren kann?

00:06:44: Darüber gehen wir gleich!

00:06:45: Haben Sie schon Fragen oder haben sie ganz viele Fragezeichen im

00:06:49: Kopf?

00:06:50: Da rechts ist eine Frage.

00:06:51: Ich springe auf.

00:06:52: ich bin mich gleich zu Ihnen.

00:06:54: Hatten Sie was?

00:06:54: Ich muss meine Zettel sortieren.

00:06:56: Also ich will nochmal

00:06:57: kurz zurückfragen und einfach

00:06:59: mal auf den Punkt gebracht.

00:07:00: Sie haben ganz

00:07:01: oft das Wort Wahrscheinlichkeit erwähnt, und Statistik ist also KI im Grunde nichts anderes als... ...Wahrscheinlichkeitsrechnung und Statistic um es mal ganz

00:07:11: simpel

00:07:11: auszudrücken?

00:07:12: Ja ja also maschinelles Lernen die die Grundlage dafür ist eigentlich nur Wahrscheinlichheitsrechnungen.

00:07:18: Und warum klingt das dann immer so wie Magie wenn wir drüber reden?

00:07:22: Die Sache ist die dass man über das was man so auf einem Papier ausrechnen kann, weit hinaus geht.

00:07:28: Die Wahrscheinlichkeitsrechnung in klassischen wie man Computer bisher gebaut hat war so.

00:07:33: jemand hat sich überlegt ich habe eine Eingabe und schreibt dann ein Programm Wie wahrscheinlich ist ne bestimmte Ausgabe?

00:07:40: Und irgendwann Kann man das aber nicht mehr In dem Programm fassen.

00:07:45: Irgendwann möchte man das einfach nicht mehr aufschreiben.

00:07:48: und jetzt ist der Trick dabei Ich habe Daten!

00:07:51: Ich hab zum Beispiel ganz viele Bilder von Dingen, die auf einer Straße sein können rumfahren können und sag einfach was das ist.

00:07:58: Und will jetzt aber nicht selber das Programm schreiben, was es mir entscheidet sondern ich sage eine Modell Das ist die Eingabe und dass da soll die Ausgabe sein.

00:08:09: Lernen mal selber die Mathematik, die ich brauche.

00:08:13: also lerne selber das Programm, was ich braue um die korrekte Entscheidung zu machen und im besten Fall funktioniert das gut.

00:08:19: Aber das kann auch schief gehen, ich glaube dazu kommen wir dann noch.

00:08:22: Ich habe mir hier noch zwei Begriffe aufgeschrieben gehabt die man gerade auch so ließ.

00:08:26: in dem Zusammenhang agentische KI und ich glaube du hast auch gesagt Foundation Modelle.

00:08:32: Sag doch mal Foundation Modell und Sebastian vielleicht was agentischer KI sein soll.

00:08:36: Das finde ich gut die Aufstellung.

00:08:37: Genau.

00:08:38: also vielleicht um da noch ein bisschen weiter vorne anzufangen es gibt ja künstliche Intelligenz und das kann man in klassischen Machine Learning Verfahren Die in diesem Machine Learning Verfahren integriert sind, aber eher neuronale Netze nutzen.

00:08:52: Also versuchen die Funktionsweise des Gehirns nachzubilden.

00:08:56: und Teil dieser deep learning Verfahren sind generative Verfahren wie Sebastian schon gesagt hat, die versuchen aus Eingaben Ausgaben zu generieren.

00:09:05: Da gibt es jetzt diese Foundation-Modelle.

00:09:07: Das sind quasi große KI-Basismodelle, die versuchen anhand ganz vieler unterschiedlicher Daten, die man beispielsweise im Internet findet wie Bilddaten, Textdaten-, Programmcode, Videosequenzen

00:09:17: etc.,

00:09:18: zu lernen.

00:09:19: Aber nicht wie es vielleicht bei den klassischen KI-Modellen der Fall ist dass ich anhand eines Datenformats wie Text oder Bilder versuche eine Aufgabe zu lösen sondern das sich wirklich versuche multimodal also mit ganz vielen unterschiedlichen Datentypen letzten Endes auch ganz unterschiedliche Aufgaben zu erfüllen.

00:09:34: und das alles in einem Modell würde ich jetzt mal ganz einfach zusammenfassen.

00:09:40: Genau, und jetzt nimmt man im Prinzip diese Foundation-Modelle die etwas generieren können.

00:09:46: Nun ist es so wie man das von den klassischen Chats kennt.

00:09:50: Man gibt eine Eingabe rein und bekommt eine Ausgabe und dann ist der Vorgang erstmal vorbei.

00:09:56: Das ist erst einmal schon interessant aber an sich langweilig weil man muss sämtliche Daten man irgendwie für eine sinnvolle Ausgabe benötigt, muss man dann dazutun.

00:10:08: Der Mensch ist faul, der Mensch will das nicht tun?

00:10:10: Das soll gefälligst jemand anderes für eintun.

00:10:12: und da kommt diese agentische KI dazu.

00:10:15: Man sagt also gib mir mal das Wetter von morgen beispielsweise!

00:10:21: Und jetzt kann das Large Language Modell ein generatives Modell... ...das kann man jetzt von so einem Foundational-Modell so trainieren oder so anpassen dass es in einer Art Denkprozess bekommt und erst mal über die Frage nachdenkt.

00:10:36: Jetzt denkt es über die frage, ich soll das Wetter von morgen sagen?

00:10:40: Das kenne ich nicht weil es ist ja eine Vorhersage.

00:10:43: Die waren mein Trainingsdaten nicht dabei.

00:10:45: Ich könnte aber im internet nachgucken.

00:10:47: da gibt es diese information Und jetzt wäre dass die ausgabe und im klassischen fall wär's hier vorbei.

00:10:53: man hat ja noch nicht die antwort.

00:10:55: jetzt kommt der agent dazu.

00:10:57: jetzt kann Aus dem text jetzt kann das modell auch noch sagen Mach bitte einen Internet-Brauser auf und such nach dem Wetter von morgen.

00:11:06: Und dann kommt der Agent, den man um dieses Modell rundrum packt und kann diese Aufgabe jetzt ausführen, kann also im Internet nachgucken wie das Wetter morgen wird und gibt die Antwort zurück an das Modell.

00:11:20: Jetzt hat man eine zweite Eingabe.

00:11:22: Als hätte es jetzt ein Mensch gemacht, wer in einem Brausegang hätte da das Ergebnis reinkupiert.

00:11:27: nur halt dass es automatisch ging hat sich der man nennt das Kontext also die Eingabe für das Modell erweitert und jetzt kann tatsächlich eine Ausgabe generiert werden, die das Wetter von morgen beinhaltet.

00:11:39: Da im Prinzip ein Agent ist ein Modell was man um die Fähigkeit einer Aktion auszuführen erweitern hat.

00:11:47: So Sebastian das heißt jetzt?

00:11:49: Du hast jetzt agentische KI beschrieben.

00:11:52: wenn ich jetzt jemand bin der möchte zum Beispiel einen Wasserkraftwerk angreifen oder eine Stadtverwaltung angreifen, oder die Internetseite der Universität Halle lahmlegen.

00:12:08: Dann könnte ich eine agentische KI nehmen und sagen einfach... Ich schreibe einfach ein Hallo guten Tag!

00:12:13: Bring mal bitte die Internet-Seite der University Halle zum Absturz.

00:12:18: Im Prinzip ja.

00:12:19: allerdings kommt das auf die Fähigkeiten dieses Agenten an.

00:12:23: also der Agent kann nicht alles.

00:12:26: Gerade aus IT-Sicherheitsperspektive ist es unwahrscheinlich wichtig, dass man einem Agent nicht alles.

00:12:33: erlaubt.

00:12:34: Außerdem muss man die Fähigkeit ja irgendwie programmieren, also das macht tatsächlich einen Mensch.

00:12:38: Also ein Mensch setzt sich hin überlegt sich was soll dieser Agent?

00:12:40: alles können im Internet etwas nachgucken?

00:12:43: Vielleicht soll der Agent aber auch den Taschenrechner bedienen können.

00:12:46: vielleicht soll der agent in einem Wörterbuch nach gucken können.

00:12:49: Das sind alles hilfreiche Dinge, die man sich für so eine Sprachausgabe vielleicht wünschen könnte und dann kann der Agent nur das.

00:12:55: gefährlich wird es, sobald Aktionen ausführen lässt, die andere Dinge beschädigen können.

00:13:02: Also zum Beispiel wenn ich sage man kann jede beliebige Webseite aufrufen und dort jede beliebinge Eingabe machen dann könnte man damit auch Seiten angreifen so lange ich nur die Webseiten aufrufe darf und ein Ergebnis bekomme.

00:13:17: ja das stimmt nicht so ganz.

00:13:18: dass ist auch schon kritisch aber es ist nur kritisch.

00:13:21: ganz kritisch wird's sobald der Agent beliebiger Eingaben machen darf.

00:13:25: Aber es muss ein Mensch entscheiden sozusagen.

00:13:27: Und ein Mensch könnte auch sagen, ich bin ein böswilliger Akteur und ich mache das einfach zu!

00:13:31: Sehen wir denn solche Angriffe Philipp?

00:13:33: Ja absolut.

00:13:34: also genau der Mensch gibt ja letzten Endes das übergeordnete Ziel vor, greift diese Webseite an, greifen dieses und jenes an und da gibt's ja ganz unterschiedliche Formen von möglichen Angriffen.

00:13:45: vielleicht gerade wie auch diese generativen Technologien ausgenutzt werden können um vielleicht auch Informationen aus solchen Modellen zu extrahieren.

00:13:53: Um letzten Endes auch Angriffe durchzuführen, wo ich dann quasi den Modellinformationen locken kann wenn es jetzt zum Beispiel darum geht.

00:14:00: okay Ich möchte gerne wissen wie kann ich denn ein Molotov Cocktail bauen?

00:14:04: Ja und der Regel ist so ein Modell in der Lage die Information herauszugeben Und auf Basis dieser Informationen könnte ich natürlich jetzt sowas bauen angriffvollziehen Jetzt vielleicht nicht auf die Webseite der Stadtwerke aber prinzipiell wäre das auf unterschiedlichste Art und Weise möglich.

00:14:19: möglich Angriffe mit KI zu vollziehen.

00:14:21: Na oder zu sagen, sag mir mal wie ich den Nachbarn vergifte?

00:14:25: Oder den Hund

00:14:26: vom Nachbaren?

00:14:27: Wie ich den Hund vergiffte ganz genau!

00:14:28: Aber dafür gibt es ja auch Lösungsmöglichkeiten die quasi von uns erforscht werden und...

00:14:34: Ich würde gerne nochmal ein bisschen zu meiner Lösung bremsen und Computer Schadcode zu programmieren oder

00:14:44: Lücken

00:14:44: in Software zu finden um einzudringen.

00:14:48: Geht das jetzt einfacher mit KI-Methoden oder nicht?

00:14:51: Ich würde sagen, es geht deutlich einfacher.

00:14:53: Also man braucht kein Experte mehr in Schad.

00:14:57: Programmierung, sondern man kann einfach sagen ich habe dieses und jenes vor braucht dafür ein entsprechendes Programm.

00:15:03: Und dann kommt man zumindest erst mal einen Vorschlag durch die KI durch so eine generative KI.

00:15:08: Man sollte sich natürlich schon bisschen auskennen um zu sagen okay das ist wirklich wirkungsvoll aber es ist deutlich einfacher als vorher sowas zu programmieren weil man einfach nur auf chat gbt etc.

00:15:18: zugreifen muss.

00:15:19: auf klats gibt ja ganz unterschiedliche anbieter und denn sowas probieren kann.

00:15:22: es gibt den verschiedenen metoden die das sind wahrscheinlich in dem modellen verhindern, aber es ist bei Weitem einfacher als vorher.

00:15:28: Weil die eigentliche Frage, die dahinter steckt, ist ja wie gefährlich ist das gerade?

00:15:32: Sind wir kurz vor dem Abgrund, dass böswillige Akteure mit KI unsere Systeme zerschießen oder sind wir schon drüber und malen weit weg?

00:15:40: Ich glaube, es wird immer gefährlicher mit diesem System weil diese Systeme halt auch die Fähigkeit vermitteln so was umzusetzen.

00:15:48: Es gibt natürlich dann auch eine Gegenbewegung in der Sicherheitsforschung.

00:15:51: Die versuchen genau das zu verhindern, indem Informationen die vielleicht schädlich sein könnten gar nicht aus diesen Modellen herausfließen und es ist so ein Katz- und Mausspiel.

00:16:00: Die Angreifer sind immer so ein bisschen voraus.

00:16:02: Die Verteidiger, die das System schützen wollen, müssen immer neue Methoden entwickeln um dem entgegenzuwirken also dass sie einen geben und nehmen.

00:16:11: Auf

00:16:11: der anderen Seite ist ja wenn Abwehrstrategien entwickelt werden eigentlich immer klar dass es eine Abwehrstrategie gibt und wo die Lücke sozusagen ist.

00:16:20: Also indem wir sozusagen Angriffsmöglichkeiten zeigen oder Sebastian Duhne, in dem du sagst Wir wissen wie wir was schützen sagst du ja eigentlich gleichzeitig wir wissen wie etwas angreifen.

00:16:31: da ist ein Loch.

00:16:32: also im Sinne von ich stopfe einen Loch und zeig damit auf das Loch.

00:16:35: Es gibt im Prinzip zwei Arten von Verteidigung.

00:16:38: Das eine ist man kann natürlich einmal wenn man das KI-Modell benutzen kann zum Angriff dann kann man's natürlich auch wenn man die Software gerade baut fragen, greif mal meine Software an und dann könnte man die Lücke beheben.

00:16:51: Das ist so das klassische Dualuse was auch die gängigen Hacker Tools wie man es nennt bisher die klassischen ja auch können.

00:16:58: also man kann hier sowohl benutzen um die Sicherheit von dem System zu testen als auch um es anzugreifen und das gleiche gilt natürlich für KI wenn man's als Werkzeug betrachtet.

00:17:08: Es gibt natürlich auch Sicherheitsmaßnahmen die dadurch sicher sind dass sie mathematisch validiert sind.

00:17:14: Also zum Beispiel Kryptografie, da hat sich jemand hingesetzt und überlegt dass das auf jeden Fall sicher ist?

00:17:21: Das wurde dann bewiesen!

00:17:23: Und nun kann zumindest noch die KI.

00:17:25: keine neue Mathematik und solange sind wir noch sicher.

00:17:28: aber der klassische menschliche Fehler der in Software gemacht wird, die lassen sich so wie es zur Zeit aussieht durch KI sehr gut finden... Die hat halt Ausdauer, sie hat sehr viel Geduld und

00:17:39: ist super freundlich.

00:17:40: Sie ist sehr freundig, die wird auch nicht müde So ein Mensch, der hat irgendwann keine Lust mehr noch mehr Fehler in seiner Software zu suchen.

00:17:46: Aber wenn man die KI los schickt, ja find mal noch einen und wenn sie erst nach zwei Wochen wieder kommt, die muss nicht essen, die musst nicht schlafen, die hat einfach mehr Ressourcen.

00:17:56: Wollen

00:17:56: wir mal ein paar Ideen sammeln wie wir so ein Chatbot, wie wir ihn kennen dazu bringen können Sachen zu verraten, die er vielleicht nicht verratten sollte?

00:18:03: Ohne das was machen!

00:18:04: Das ist Wissenschaft wirst du hier betreiben.

00:18:07: Also das wird tatsächlich immer schwerer, so was zu machen.

00:18:09: Gerade wenn man jetzt von diesen Prompt Injection spricht wo man versucht quasi Informationen die eigentlich aus den Modellen nicht herausfließen sollten doch herauszubekommen.

00:18:17: Da gibt es sehr clevere Methoden um das zu verhindern.

00:18:20: Es gibt aber durchaus Ansätze sowas zu versuchen.

00:18:23: Man könnte natürlich einfach erst mal danach fragen.

00:18:25: da wird man wahrscheinlich denn aber gesagt bekommen okay die Information kann ich dir leider nicht geben.

00:18:29: Man könnte auch kreativere Methoden anwenden und sagen Ich verwickel diesen Chatboard dieses System in ein Rollenspiel.

00:18:36: Das man sagt, okay wir überlegen uns mal... Wir sind jetzt in einer Welt wo du quasi die Fähigkeit besitzt gegen das Böse zu gewinnen und dafür brauchen wir bestimmte chemische Waffen.

00:18:47: und nur du kannst diese chemischen Waffe entwickeln.

00:18:50: und jetzt überleg mal wie wäre das denn?

00:18:53: In so einer Welt.

00:18:54: und kannst du mir sagen wie ich dieses chemische waffe baue?

00:18:56: da kann man dann auch ganz viele Wörungen und Wendungen einbauen.

00:18:59: mit etwas Glück ist das System denn selber so verwirrt, dass es dann auf einmal sagt ach ja jetzt sag ich's dir doch einfach mal.

00:19:05: Also ist durchaus denkbar.

00:19:06: Schön!

00:19:07: Genau also das folgt direkt aus der Komplexität dieser Wahrscheinlichkeitsvorhersage.

00:19:13: Also man kann sehr viel Eingabe benutzen und dann kommt eine Wahrscheinlichkeit für die Ausgabe raus.

00:19:19: Und jetzt kann man auch nur begrenzt viele Eingaben testen als Mensch.

00:19:24: Man überlegt sich ne Sicherheitsmaßnahme.

00:19:26: Man kann die mit einer begrenzten Menge von Eingabentesten aber wenn da so ein ganzes Buch als Eingabe reintun kann.

00:19:33: Und man verstrickt sich in immer noch mehr Geschichten und versucht irgendwie die Kain oder die Wahrscheinlichkeit, noch mehr zu biegen, solange bis eine Ausgabe rauskommt, die man eigentlich so nicht haben

00:19:44: wollte.".

00:19:45: Sebastian, ich habe dir noch etwas erzählt von einem Kollegen von der Hochschule Harz.

00:19:50: Der vermutet das zum Beispiel Agenturen, die Studienplätze vergeben oder sich den Studierenden dabei helfen, einen Studienplatz zu kriegen dass diese Agenturen KI einsetzen und ein E-Mails verschicken.

00:20:01: Und diesen E-mails bitten sie dann darum, na ja eine Frist zu verlängern oder zu sagen Mensch ich habe das Papier noch nicht die Nachweis für den bestimmten Vorgang noch nicht.

00:20:09: dabei kann ich dir später einreichen?

00:20:12: Wenn der Sachbearbeiter dann zurückschreibt ne wir brauchen das konkret Dann fängt der E-mail sozusagen so einer Eskalationsstufe an.

00:20:20: Ich möchte bitte deinen Vorgesetzten sprechen leite das mal an deinen Vorgesetzten weiter.

00:20:25: und wenn sowas massenhaft kommt und eine Organisation lahmlegt, weil alle plötzlich diese E-Mails beantworten müssen.

00:20:32: Ist das auch ein Angriff?

00:20:33: Aber ein ganz anderer.

00:20:35: Also sozusagen so einen Angriff auf einer Organisation oder sowas.

00:20:37: ähnliches glaube ich sehen wir gerade auch bei Open Source Projekten also bei freier Software wo automatisiert Fehlermeldungen eine KI schreibt und dann wird der Entwickler mit Fehltermeldung geflutet und kommt gar nicht dazu echte Fehlermeilungen sozusagen zu sichten.

00:20:51: Eine Angriffsmöglichkeit oder ist das was einfach so abfällt?

00:20:54: Diese Idee des Angriffes ist nicht neu.

00:20:57: Das gibt es schon auf normale Computersysteme und nennt sich DOS, Denial of Service also im Prinzip man versucht einen Service durch eine Flut an Anfragen lahmen zu legen.

00:21:07: bisher ging das aber üblicherweise auf Computerssysteme.

00:21:10: Man hat zum Beispiel eine Webseite die irgendwas verkaufen will Und jetzt mag man das nicht.

00:21:15: Dann kann man ganz viele Anfragen stellen, möglichst kompliziert.

00:21:18: Also je komplizierter die Anfrage ist umso besser!

00:21:21: Also zum Beispiel suchen wir mal die Waschmaschine XYZ aber bitte in blau und auch nur links drehend.

00:21:27: Also diese Suchfelder?

00:21:28: Genau.

00:21:28: Auf der Webseite.

00:21:29: Und je komplexer das wird und je mehr Rechenaufwand es auf dem Server erzeugt desto eher gibt dieser Service auf und liefert für die Legitim-Anfragen keine Antworten mehr.

00:21:40: Und genau das kann man jetzt übertragen auf Menschen.

00:21:43: Mensch hat auch eine begrenzte Kapazität von Dingen, die man erledigen kann.

00:21:47: Ich nicht!

00:21:48: Manche haben unbegrenzt... Das wären dann die Quantencomputer-Menschen?

00:21:52: Ja,

00:21:52: ich sehe

00:21:52: das genau.

00:21:54: Die haben unendlich Rechenleistung.

00:21:56: Du ja auch so, also wie hier vorne eigentlich an.

00:22:00: Genau und durch ... So generative KI die Texte erzeugen kann, die man nicht mehr so einfach erkennen kann.

00:22:07: als Quatsch ist es möglich einen Menschen oder eine Organisation zu überlasten mit Anfragen.

00:22:14: Aber inwieweit das praktisch ausgenutzt wird, da habe ich keinen Überblick.

00:22:18: Das

00:22:18: findet auf jeden Fall statt.

00:22:20: Wahrscheinlich auch gar nicht zu wenig.

00:22:22: Man bekommt es vielleicht tagtäglich nicht in den Medien mit.

00:22:24: Da werden dann andere Sachen gezeigt.

00:22:26: Außer auf jeden fall ein ganz großes Problem.

00:22:28: Mit den KDI-Technologien kann man ja solche Anfragen ganz einfach generieren aber der Aufwand wird eigentlich auf der anderen Seite erzeugt weil das muss alles geprüft werden.

00:22:37: dafür sind ganz viel Zeit und Ressourcen rein.

00:22:38: also dass ist ein echtes Problem.

00:22:41: Und jetzt eskaliere ich mal noch eine Stufe weiter, in unserer Folge im Juni haben wir über Cybercrime gesprochen und da sprach jemand das Stichwort KI und Robotik an.

00:22:51: Also dass jemand jetzt KI einsetzen kann um Roboter im Zweifelsfall zu hacken oder die Roboter das tun zu lassen was er möchte also als große Versuchung.

00:23:00: für Cyberkriminelle ist es auch ne Gefahr die ihr seht sozusagen das Software KI Roboter in der echten Welt verschmelzen und da entsprechend neue Angriffe möglich werden.

00:23:13: Absolut.

00:23:14: Ich meine, KI wird ja nicht nur genutzt um Roboter zu stören sondern KI wird auch dazu genutzen um Robotter zu steuern und dementsprechend habe ich dadurch auch gewisse Angriffsflächen um die KI anzugreifen die den Roboter steuert so dass sich dann vielleicht Aktionen durch den Robottern erzeugten lasse die so nicht gewünscht sind.

00:23:32: also eigentlich völlig egal wo ich KI einsetze diese Angriff Fläche besteht ob das Robotik ist oder ob es jetzt was anderes ist mit entsprechenden Auswirkungen im jeweiligen Einsatzbereich.

00:23:41: Ich gehe mal eine Ebene weiter nach unten.

00:23:44: Cyberangriffe funktionieren immer dann, wenn jemand in der Lage ist, eine Eingabe zu machen an ein Dingdingensmensch, Maschine irgendwas... Was in derlage ist, einen Aktion auszuführen?

00:23:59: Jetzt versucht die Cyber-Sicherheit dafür zu sorgen dass nur Aktionen ausgeführt werden, die sagen wir mal sicher sind.

00:24:07: Also man kann jetzt in eine Bank gehen und sagen, ich hätte gern zwei Millionen Euro ausgezahlt.

00:24:12: Und dann soll bitte jemand nachgucken ob ich überhaupt zu viel Geld habe?

00:24:16: Und ob ich auch die Person bin, die ich vorgebe zu sein.

00:24:19: also Ich mache eine Eingabe in einer Bank zu einem Menschen und dieser Mensch ist erst mal berechtigt ne Ausgabe zu machen.

00:24:26: Kann jetzt Intrissor gehen um mir zwei Millionen € in die Hand geben soll das aber vorher prüfen Und im Prinzip ist genau das auch ein Agent.

00:24:33: Also wenn man jetzt also den Menschen am Schalter ersetzen möchte durch einen KI-Agenten und dem die Möglichkeit gibt, Geld auszuhändigen zum Beispiel durch einen Roboter... Der Agent darf jetzt die Aktion Roboter bewegen zum Geldholen ausführen.

00:24:49: dann kann ich natürlich genau wie ich versuche den Menschen davon zu überzeugen dass er mir Geld geben soll natürlich auch versuchen eine KI zu überzeuge.

00:24:57: gerade in Feld von KI ist das eben was ganz Neues.

00:25:01: Wie man Menschen trainiert, sowas nicht zu tun – das machen wir schon lange.

00:25:06: Da haben wir Methoden zu und da wissen wir wie es geht, wie wir Menschen trainieren.

00:25:10: Und bei klassischem Computersystem haben wir das auch.

00:25:13: Wir kennen Schutzmaßnahmen aber KI ist ganz neu und da ist das Feld der Forschung für diese Schutzmaßen noch ganz neu oder noch nicht so

00:25:20: erforscht.".

00:25:21: Dann fangen wir jetzt mal an zu sagen okay die KI kann uns angreifen?

00:25:25: Jetzt greifen wir die mal an.

00:25:26: ja also die Möglichkeit Angriffe mit KI haben wir sozusagen so ein bisschen durchgespielt jetzt.

00:25:32: Angriffs auf KI also wie können wir kann jemand anders Einfluss auf KI Systeme nehmen?

00:25:40: Wir hatten ja gerade schon angesprochen diese prompt injections, also wie kann ich quasi durch so einen angriff dass sich jetzt quasi versuche dem modell informationen zu entlocken das model quasi nicht zu schädigen, aber aus diesen Informationen quasi Wissen zu gewinnen um dann anderweitig vielleicht Personen oder Systeme zu schädigen.

00:26:01: Ich kann natürlich auch sagen ich habe bestimmte Angriffe und versuche quasi aus diesen Modellen bestimmte Parameter zu extrahieren die Architektur zu extrahirn, vielleicht zu extrairren welche Trainingsdaten genutzt werden um diese Modelle nachzubauen um sie denn selber nutzen zu können.

00:26:16: das wären Beispiele für Angrffe auf KI

00:26:18: Genau.

00:26:19: Dass es ein bisschen harmlos aber klingt, ne?

00:26:21: Aber die Endkonsequenz ist ja also was mache ich mit diesen Informationen, die ich da ausgewonnen habe?

00:26:25: wenn ich jetzt in der Lage bin dieses Modell nachzubauen dann kann ich vielleicht diese ganzen Sicherheitsschranken die in den bestehenden Modellen drin sind quasi rausnehmen und hab' denn einen viel potenteres Modell das ich für ganz andere Sachen einsetzen könnte mit entsprechenden Implikationen und Konsequenzen genau.

00:26:42: Es klingt erstmal mal harmlos, aber wenn ich weiter überlege wo das hinfühlen kann, dann kann's ganz anders aussehen.

00:26:48: Ich wollte aber, weil Sebastian glaube ich du hast mir das erzählt.

00:26:51: Ein Schritt eher, wir haben ja am Anfang erzählt wie KI zustande kommt.

00:26:54: Wir haben von Mussang gesprochen und von Trainingsdaten.

00:26:57: auch da könnte man ja ansetzen und sozusagen die Grundlagen-Daten einer KI, was nicht vergiften oder was?

00:27:05: Ja also und es heißt tatsächlich Vergiften halt nur das englische Wort dafür.

00:27:08: Selbstverständlich

00:27:09: das engelische Wort?

00:27:10: Ja

00:27:10: logisch!

00:27:11: Das ist eine Form des Angriffs in dem an die Trainings Daten manipuliert.

00:27:16: Also man könnte zum Beispiel jetzt hingehen und macht immer da, wo man ein Auto auf der Straße sieht.

00:27:21: Sagt man einfach das ein Fahrrad?

00:27:23: Und dann lernt die KI genau das in den ganz kleinen damals, wo wir angefangen hatten mit dem Machine Learning.

00:27:29: Da haben das dann Forscher selber gemacht.

00:27:31: Genau Menschen, die sozusagen gesagt haben, Fahrrad-Auto-Cut.

00:27:33: Genau

00:27:34: also da konnte man den Trainingsdaten vertrauen.

00:27:36: Man wusste noch wer die generiert hat.

00:27:37: aber jetzt wenn man ins Internet geht und das Internet befragt und alles daraus zieht Dann könnte ja auch jemand vor allem jetzt auch mithilfe einer KI ganz viel Unsinn produzieren lassen.

00:27:49: Zum Beispiel, ganz oft die Fake News ins Internet stellen und wenn man daraus jetzt wieder eine KI trainiert dann trainiert ihr aus den auf den Quatsch Ausgaben von der KI.

00:28:00: vorher noch rollt der Schneeball nicht?

00:28:03: Und ich will auch keine Ideen verbreiten.

00:28:06: aber das Detail des Problems.

00:28:08: also wir sehen sozusagen Angriffsmöglichkeiten und erzählen gleichzeitig, es gibt diese Angriffsmöglichkeiten.

00:28:14: Was wir vorhin schon mal hatten?

00:28:15: Ja

00:28:16: da gibt es auch Forschung zu die zum Beispiel jetzt schon danach trennen muss von wann Daten stammen also zb aus Zeitschriftenartikeln.

00:28:24: dann vergleicht man Daten nach der KI Zeit mit Daten vor der KI-Zeit.

00:28:31: Und wenn man versuchen will KI generierte Texte zu erkennen zum Beispiel Da muss man aufpassen dass in die Vergleichsdaten nicht schon KI-generierte Texte mit aufnimmt, sondern man muss dann Texte benutzen, die vorher erzeugt wurden.

00:28:44: Und wenn sie einmal im Internet sind, dann gehen die da auch nicht so schnell wieder raus?

00:28:49: Ich habe mir noch einen schönen Englischen Begriff aufgeschrieben.

00:28:53: Das hat ganz viel mit dem eben besprochenen Datenmanipulationsproblem zu tun.

00:28:58: Insbesondere während des Betriebs des Modells, da kann man vielleicht ein ganz nettes Beispiel bringen.

00:29:04: Bestellen uns jetzt vor selbstfahrende Autos sind auf der Straße das ist alles schon ganz normal.

00:29:09: die müssen sich ja auch irgendwie an den Straßenverkehr und die STVO halten haben ganz viele Kameras und Sensoren und nehmen dann vielleicht auch Straßenschilder auf Stoppschilder, Vorfahrtsschilder und passen ihr Fahrweise entsprechend an.

00:29:21: Eine Adversarial Attack wäre jetzt beispielsweise wenn ich mir einen Stoppshilt vorstelle und jetzt mit ganz einfachem Method mit dem Aufkleber auf diesem Stoppschild dieses selbstfahrende Auto durch diesen Aufklebersow verwirre das ist in diesem Schild kein stoppschild mehr erkennt sondern ein Vorfahrtschild mit entsprechenden Risiken und Implikationen.

00:29:40: Also

00:29:41: Gas geben statt bremsen.

00:29:43: Das kann ungeheuer schiefgehen.

00:29:44: in dem Fall und das wäre vielleicht ein eingängiges Beispiel für so einen Adversarial Attack, dass ich quasi Daten so manipuliere, dass die Entscheidungen der zugrunde liegenden Modelle komplett fehlerhaft sind.

00:29:55: Hast du

00:29:55: sowas schon mal gesehen?

00:29:56: In Deutschland gibt es jetzt weder Flugtaxis noch selbstfahrende Autos Aber in den USA gibt es ja sowas, also selbstfahrende Autos.

00:30:01: Das wird sicherlich schon passiert sein.

00:30:03: das kann ich mir gut vorstellen weil diese Fahrzeuge basieren ja auch zu großen Teilen auf KI-Technologien und es wird sicher nicht nur im Bereich selbstfahlender Autos aber auch in anderen vielleicht verteidigungsrelevanten Bereichen um mit sich die Cyberagentur befasst auch Täuschungsverfahren geben die dann entsprechend Auswirkungen haben.

00:30:22: Wir gehen alle jetzt nach Hause denken wie kann man eigentlich nur was ist das für eine Technologie die wir uns da ans Bein binden gerade?

00:30:28: Wollen wir noch einmal fragen, was das tolle Anker ist?

00:30:31: Also ich finde KI ist eine ganz tolle Technologie.

00:30:33: KI bringt natürlich auch ganz toller Anwendung mit sich in der Medizin, wie kann ich vielleicht bestimmte Erkrankungen erkennen auf Röntgenbilder bevor sie einen Arzt überhaupt erkennen können?

00:30:43: Wie kann ich in der Bildung unterstützen dass Kinder durch KI-Technologien besser an der Lage sind Informationen aufzunehmen?

00:30:50: du wackelt jetzt so ein bisschen mit dem Kopf.

00:30:52: das sind vielleicht Sachen nachdenkliches Wackeln aber es gibt ja ganz viele spannende Bereiche.

00:30:58: Biodiversität, ich hatte es vorhin erzählt.

00:31:00: Ich war da ein bisschen unterwegs.

00:31:01: Früher wurde dort mit Mikroskopen eigentlich immer noch gearbeitet und durch KI kann man diese Prozesse einfach deutlich beschleunigen und entsprechende Ergebnisse daraus ziehen und weiterverarbeiten.

00:31:10: also ganz viele tolle Sachen die wirklich einen Mehrwert bringen.

00:31:13: Und ich glaube das ist auch ganz wichtig darauf zu schauen was die Technologie kann nicht nur darauf zu sehen welche Risiken es mitbringt weil wir wollen ja eigentlich dass das beste aus dieser Technologie ziehen und dann auch mehr wert für die Gesellschaft erreichen Auch mit den Risiken, die es vielleicht nützlich bringt.

00:31:30: Nur leider sind wir ja nicht allein auf der Welt.

00:31:33: Sebastian du wirst natürlich KI-Fan und findest KI toll weil er sonst als Informatiker wärst ein bisschen langweilig gerade ne?

00:31:41: Ja also man hat auch durch genug zu tun.

00:31:43: Ich fasse KI immer als einen relativ weiten Begriff auf Weil ich mich halt wissenschaftlich damit auseinandersetze Und sehe hier nicht nur die alltägliche KI Der großen Sprachmodelle Die man so kennt sondern auch anwendungsspezifische KI.

00:32:00: Man kann das Ganze ja auch verwenden, um spezialisierte Tasks zu machen.

00:32:05: zum Beispiel kann man über den Feld drüber fliegen und gucken ob da Feldhamster leben.

00:32:09: Na, Feldhamste müssen wir schützen?

00:32:12: Ich meine die sind gibt nicht mehr so viele davon Und bevor man mit dem Flug einmal über das Feld drüber fährt, möchte man vorher gucken ob da Feldhamster sind.

00:32:20: Jetzt möchte man natürlich nicht einen Menschen dahinsetzen der sich stundenlang eine Drohnaufnahme anguckt und ein Feldhamstermarkiert sondern man lässt das eine KI machen.

00:32:29: und je besser diese Modelle werden zum Beispiel auch in der Bilderkennung oder darin etwas auf einem Bild zu erkennen umso einfacher und umso genauer werden diese Aufgaben die für den Menschen einfach zu langweilig sind.

00:32:42: Wir haben am Anfang erzählt Angriffe mit KI, was alles so geht.

00:32:47: Zum Ende waren wir jetzt bei Angriffen auf KI?

00:32:50: Haltet ihr das beide für gleichgefährlich oder ist es einer... Ich meine, es lässt sich nicht trennen im Zweifel auch!

00:32:56: Also ich glaube, es wird – es ist ja jetzt auch schon teilweise der Fall einfach Angriffe durch KI auf KI geben.

00:33:02: Also wirklich so ein Kreislauf, der sich denn immer weiterentwickelt.

00:33:06: Das kann auch ganz interessante Züge haben, dass sich quasi beide Modelle die Angreifer und die Verteidiger dadurch verbessern, dass sie sich angreifen oder verteidigen müssen.

00:33:15: Ja, so wird auch die Veteidigung einfach besser.

00:33:17: aber ich könnte jetzt nicht sagen ob jetzt irgendwas was besser is'.

00:33:20: Ich hoffe die verteidigende KI im letzten Fall du hoffst das!

00:33:23: Ich hoffe, dass wir das natürlich nicht vorhersagen.

00:33:25: Wir wollen das!

00:33:26: Ja, wir wollen das schon.

00:33:27: Ich würde

00:33:28: so ein bisschen aufhören mit, dass jeder von euch vielleicht uns hier in Halle und den Leuten die uns unter Kopfhörern am Smartphone zuhören nochmal so einen Tipp gibt für den alltäglichen Umgang mit diesem... ich nenne es jetzt mal Quatsch einfach.

00:33:44: Also Wo wird jetzt oder wo nutzt ihr es persönlich im Alltag, wo ist völlig unproblematisch was total toll?

00:33:50: und wo sagt ihr da vielleicht lieber nicht oder das gibt er vielleicht lieber.

00:33:52: Nicht einfach mal so vielleicht ein zwei drei tipps

00:33:54: ist natürlich ganz schwer sehen nach dem was man für Interesse hat.

00:33:57: ich nutze dass insbesondere für Recherchen vielleicht auch fürs programmieren weil das macht viele Sachen deutlich einfacher und schneller

00:34:04: für recherche.

00:34:05: ich bin ja schon nichts von hause aus Solche Ohren und denke, Philipp lass das doch.

00:34:09: Also ich verstehe was du meinst Ich weiß auch was zu sagen willst.

00:34:11: da muss natürlich auch überprüfen Was daraus kommt?

00:34:14: Ich finde man sollte offen gegenüber der technologie sein dass ausprobieren Der technologie nahe kommen Und auch war sie sich damit vertraut machen.

00:34:20: aber man muss natürlich aufpassen was kommt daraus?

00:34:22: Man sollte das nicht alles gleich glauben ja man sollte es vielleicht auch noch mal gegen checken.

00:34:25: Aber für so eine erste idee Vielleicht teilweise kann Es Für bestimmte themen ganz ganz spannend seien.

00:34:31: und genau

00:34:32: darf ich euch noch eine geschichte erzählen die gerade unter Tech-Journalisten so ein bisschen für Augenrollen sorgt.

00:34:38: Eine Kollegin hat bei LinkedIn einen Post gepostet und hat dann von LinkedIn eine Mitteilung bekommen, oh guck mal hier gibt es einen Post von jemandem der sehr ähnlich zudem von dir ist.

00:34:51: Und offenbar stellte sich heraus dass dieser Post mit Hilfe einer KI sozusagen erstellt wurde vom anderen Journalisten Kollegen der offenbar sozusagen eine agentische KI programmiert hat, die sozusagen seine Themen checkt und durchspielt.

00:35:07: Und das dann postet!

00:35:10: Also wir sind alle keine Quantencomputer im Kopf.

00:35:14: Der ist gar nicht in der Lage zu recherchieren auf welcher Grundlage dieser LinkedIn-Post zustande kam.

00:35:20: Das ist ein Problem.

00:35:21: Wenn ich natürlich diese Inhalte, die durch die KI generiert werden und ungefragt übernehme, dann habe ich im Zweifelsfall so was, dass ich einfach Inhalten nutze, die gar nicht von mir stammen das aber als meine Inhalter verkaufe.

00:35:33: hat man jetzt vielleicht auch in der Politik gesehen Politiker die vielleicht reden mit KI schreiben lassen das fällt denn irgendwie auf.

00:35:38: ja es ist denn ungünstig in den meisten Fällen

00:35:40: wo bei Politiker da auch sagen wir nutzen doch selbstverständlich diese Technologie

00:35:45: Genau, da muss man auch offen damit umgehen.

00:35:47: Das machen sie aber meistens erst mal wieder auf.

00:35:48: angesprochen

00:35:49: werden ja

00:35:49: genau.

00:35:50: letzte frage an euch Angenommen eine KI in einem podcast die nicht Sabine heißt diese KI wie in diesem podcast würde ein Podcast übernehmen Woran würde ich das denn merken als höher?

00:36:02: Ich glaube, dass man diese Störungen nicht hätte.

00:36:04: Ich weiß nicht ob man sie jetzt hört.

00:36:05: Das wäre wahrscheinlich viel zu rund aber dadurch auch meiner Meinung nach viel zu unattraktiv.

00:36:11: Man will wissen das dort Menschen sitzen die Fehler machen ja die mal L und A sagen die einfach menschlich rüber kommen.

00:36:16: ich glaube die KI kann das in vielen Fällen auch schon gut nachahmen.

00:36:20: Total krass von Google.

00:36:21: wir haben also das ist wirklich irre PDF rein Und du kriegst irgendwie ein Podcast zurück mit zwei Leuten, wo jemand dann auch mal ... Na warte mal.

00:36:29: Wir warten da

00:36:29: so.

00:36:29: Okay okay das kenne ich noch nicht also den nehme ich wieder zurück.

00:36:32: aber ich kann mir vorstellen... Also schon allein das Wissen würde dazu führen dass es dem Podcast vielleicht nicht hören würde.

00:36:38: Vielleicht ändere ich meine Meinung in ein paar Jahren nochmal weil's denn einfach normal geworden ist, aber Das

00:36:41: ist dein personalisierter Podcast?

00:36:43: Das ist spannend!

00:36:44: Ok, dann will ichs doch

00:36:46: Danke was wollte ich jetzt nicht hören?

00:36:51: Ja, dadurch dass die KI im Grundaufbau Wahrscheinlichkeitsrechnung macht und in Prinzip eine Vorhersage liefert sieht man häufig auch wenn man sich zum Beispiel mit KI-Webseiten generieren lässt.

00:37:04: Dass es ein bestimmtes Muster gibt.

00:37:06: also man hat das mal untersucht und eine KI hat z.B.

00:37:10: sehr die Farbe lila gemocht und dann waren alle Seiten irgendwie lila oder andere KI wollte immer runde Ecken.

00:37:17: Man kann natürlich versuchen, über geschickte Eingaben das zu verändern.

00:37:22: Aber ich glaube dass man noch diesen Grundaufbau dennoch erkennen wird... ...dass es alles ist dann rund oder alles ist lila oder was auch immer das equivalent in dem Podcast wäre.

00:37:34: Jetzt die Chance!

00:37:36: Alles was Sie wissen wollen, alles was ich nicht mehr fragen kann, was ich mir sozusagen jetzt nicht in meinem Gehirn ausgedacht habe, das fragen sie jetzt.

00:37:43: Ich komme einfach auf sie zu und halte ihnen das Mikrofon.

00:37:48: KI ist ja gefüttert mit Daten.

00:37:50: Jetzt ist es aufgefallen, wenn ich selber damit arbeite.

00:37:52: Es kommen natürlich teilweise Milzenstande.

00:37:55: Dieser Müll verbreitet sich aber auch von anderen die USA im Internet, damit man wieder KI gefüttern wird.

00:38:00: Also wo wir hier KI weiterhin Müll bei den USA dran glauben waren die an der KI das auch so sagt.

00:38:04: Das ist die Quelle und kann man das irgendwie filtern.

00:38:07: Kann man sagen dass die KI erkennt, dass Daten fehlhaft sind.

00:38:10: nicht logisch?

00:38:12: Ich glaube es ist auf jeden Fall ein Problem.

00:38:16: mehr KI-generierte Inhalt im Internet verfügbar ist und auf diesen Inhalten lernen diese Modelle.

00:38:22: Es gibt ja durchaus Technologien, die es ermöglichen, KI generierte Inhalte aufzudecken so könnte man vielleicht versuchen das in gewisser Weise herauszufiltern, aber die Inhalte wachsen natürlich in ungeahntem Ausmaß.

00:38:35: Also es ist glaube ich allein in der Menge wahnsinnig schwer, alle Inhalter heraus zu filtern.

00:38:39: Ich glaube, das ist ein ganz großes Problem.

00:38:40: also ich kenne die Lösung dafür auch noch nicht weil du keine Idee hast.

00:38:44: Ja man hatte grundlegend auch ein mathematisches Problem da man ja wenn man mit einer KI-Inhalte erzeugt, die möglichst menschlich aussehen soll und ich möchte jetzt unterscheiden von menschlicht generierten Inhalten was macht man?

00:38:57: Man trainiert eine KI, die das kann.

00:39:00: Jetzt muss aber diese KI im Prinzip mehr können als die KI, der den Text generiert hat, da sie das dann ja wieder unterscheiden muss.

00:39:08: und jetzt könnte ich aber dieseKI, die mehr kann nämlich diesen Text noch zu unterscheidern auch benutzen um Text zu erzeugen, den nicht mehr unterscheide kann.

00:39:19: Und dann bräuchte ich wieder ne größere KI.

00:39:21: Das ist so ne endlose Kette von.

00:39:24: Ich brauche immer ein größeres Modell, was dann aber sich selbst wieder überlisten könnte.

00:39:28: Schön!

00:39:29: Also wir klären auf... Wir wissen jetzt Bescheid, aber wirklich zufrieden ist... Gehen wir uns hier nicht raus?

00:39:33: Ist mein

00:39:33: Eindruck?!

00:39:34: Ich glaube es ist wichtig aufzuklären wie der aktuelle Stand der Technologie ist und das machen wir glaub ich hiermit.

00:39:39: und genau es gibt ja viele Forschungsaktivitäten im Bereich die versuchen die Probleme zu lösen.

00:39:42: und

00:39:43: man kann es auch versuchen andersrum zu löse indem man Menschen generierte dinge explizit als diese markiert.

00:39:51: das könnte ja nacka i dann machen können sagen ich war ein mensch.

00:39:54: zum beispiel wie man zur zeit webseiten sicher macht.

00:39:58: Das funktioniert über kryptografische sicherheit der mathematisch sicher ist die auch ne kai nicht überlisten kann.

00:40:05: so model könnte man sich überlegen, dass dann eine menschengemachte Echtheits-Zertifikate quasi dran ist.

00:40:13: Das heißt das wir erstmal davon ausgehen?

00:40:15: Alles ist KI bis auf der Daumenabdruck der Digitale, der ein Menschenkenn zeichnet.

00:40:20: Wir schaffen mal ein Problem und lösen es gleichzeitig.

00:40:23: Fantastisch!

00:40:25: Noch immer eine Frage da hinten.

00:40:27: ja

00:40:27: Ich habe zwei Sachen.

00:40:29: Die eine Sache ist, dass durch diese ganzen Technologien die Masse wird angeregt.

00:40:38: Wir benutzen jetzt KI, die macht alles für uns und wir brauchen nicht mehr zu denken.

00:40:42: Da denke ich an diesen Film Idiocracy.

00:40:46: Wie ist zum Beispiel die Einstellung?

00:40:48: Wenn wir alle nur noch auf die KI basieren, dann verdummen wir alle und irgendwann weiß niemand mehr warum die KI eigentlich macht was sie macht.

00:40:55: Und das zweite ist, dass ich auch den ökologischen Punkt, der wurde hier gar nicht angesprochen.

00:40:59: Weil überbrauchen ja diese großen Datencenter die brauchen Wasser um sich unterzukühlen und das hat ja auch alles ausführungen.

00:41:07: also Ja, die Standpunkte sind viel mehr eigentlich heute.

00:41:10: Sie hat recht stellen wir erst mal fest würde ich sagen sie sehen uns nicken.

00:41:14: Also was ich wirklich total spannend fand finde ist dieser punkt Wir nutzen dies und verlieren dadurch auch Kompetenz im Zweifelsfall wenn wir das permanent nutzen

00:41:24: Absolut, wenn wir uns nur auf die KI verlassen und sagen das passt schon und dann nicht mehr selber kreativ werden.

00:41:28: Das könnte im Zweifel zwei in der Zukunft ein Problem sein.

00:41:31: Und der ökologische Aspekt?

00:41:33: Ja also ich sehe den ersten Aspekt genauso.

00:41:36: Ich begebe mich da jetzt auf dünnes Eis weil ich bin kein Didaktiker.

00:41:39: aber es ist öfter schon vorgekommen dass man Kompetenzen durch Technologie verliert.

00:41:44: Ich weiß nicht wer noch ein Auto reparieren kann oder wirklich versteht, wie das funktioniert einfach weil es zu komplex geworden ist.

00:41:50: Oder auch ein Computer.

00:41:50: also ich meine man weiß mal wieder an wo der Anschalter ist aber danach wird's schwierig.

00:41:54: Aber bei KI sieht man halt ein sehr großes Ausmaß davon.

00:41:58: Aber

00:41:59: Wahrscheinlichkeitsrechnung KI das heißt wahrscheinlich sind auch x prozent Der ausgaben dann falsch.

00:42:04: haben wir da noch die Kompetenz des zu erkennen?

00:42:07: Also beim auto okay da merken wir dass funktioniert nicht.

00:42:10: aber du wissen was wir tun müssen.

00:42:12: Bei einer KI Ausgabe denken wir dann naja gut er hat bisher gestimmt Das wird auch stimmen.

00:42:17: Eventuell kann man es ein bisschen mit Fahrschule vergleichen, also da lernt man ja auch so grundsätzlich wie das funktioniert und weiß Pimal Daumen, wie sich so ein Auto eigentlich anhört?

00:42:27: Und wenn sie's merkwürdig anhört, weiß man dass irgendwas faul!

00:42:30: Auch das könnte bei KI eintreten, dass man bei KI Kompetenzen entwickelt um sinnvolle Aussagen von unsinnvollen Aussagen zu unterscheiden zu können bzw sich Methoden anzueignen, wie man das denn prüfen kann oder dass man dann irgendwann zu der Erkenntnis kommt, ich muss das überprüfen und kann es nicht einfach so hinnehmen.

00:42:51: Bildung

00:42:51: Schule

00:42:52: ganz wichtig.

00:42:53: So letzte mögliche ganze Frage denn jetzt?

00:42:55: Ja halt Moment Sie müssen in dieses Mikrofon sprechen.

00:42:58: Bringt diese Künste hier ins WNS.

00:43:00: wenn dann Fehlmeldungen

00:43:02: reinkommen werden die rausortiert.

00:43:06: Es gibt natürlich Ansätze, um Fehlentscheidungen so einer künstlichen Intelligenz aufzudecken und dann herauszusortieren.

00:43:15: Ganz ohne wird es wahrscheinlich nicht gehen.

00:43:17: ich glaube im Problem ist denn auch einfach wenn eine KI Fehler macht das man mit diesen Fehlern ja weiter rechnet die potenzieren sich die werden immer größer ausgibt durchaus Ansätze um das herauszufiltern und damit auch gut umzugehen.

00:43:30: Deshalb sind wir da genau

00:43:33: Als

00:43:34: Cyber Agentur.

00:43:36: Dr.

00:43:36: Philipp Kreitschisch von der Cyber Agentur Referat Künstlerin Jens, danke dass du da warst und Sebastian Carius von der Martin Luther Universität Halle Wittenberg.

00:43:44: in zwei Wochen gibt es hier auf dem Kanal eine neue Folge.

00:43:47: bei der hören wir wieder wie ein Science-Fiction Roman entsteht der von Jens Hüttenberger für die Cyber Agenture nämlich.

00:43:55: da hören wir immer einen Podcast alle vier wochen und in vier Wochen sozusagen dann zwei Wochen danach Wieder eine reguläre Folge von Per Anhalter durch den Cyberraum.

00:44:04: Vielen Dank, Halle!

00:44:04: Schönen Abend und bleiben Sie uns wohlgesinnt und der KI kritisch gegenüber.

00:44:10: Danke schön.

00:44:22: In zwei Wochen tauchen wir an dieser Stelle wieder in die Zukunft ein.

00:44:25: Da gibt's nämlich den vierten Ausschnitt aus unserem Nier Future Roman, Kryptokalypse von Autor Jens Hüttenberger.

00:44:31: In den ersten drei Folgen habt ihr die beiden Hauptdarstellerinnen kennengelernt – Anna-Ram und Alice.

00:44:37: Die vierte Folge beginnt ganz harmlos mit einem Sommerabend, einem Glas Wein und einer alten Fabel.

00:44:53: Anna Rahm sah in das verständnislose Gesicht ihres Mannes.

00:44:57: Der Igel ist immer schon da, egal wie schnell der Hase rennt!

00:45:01: Nur dass es in diesem Fall keinen zweiten Igel gibt, sondern immer denselben.

00:45:07: Den gleichen meinst du?

00:45:09: Nein, denselbem!

00:45:10: Der Ige befindet sich an beiden Stellen zugleich bis der Hasa auftaucht.

00:45:15: Deswegen is' er so viel schneller.

00:45:17: Sobald der HASE um die Ecke kommt und den Igel sieht, IST DER IGEL DA!

00:45:21: In diesen Moment fällt die Entscheidung dort zu

00:45:23: sein.".

00:45:24: Du könntest auch sagen, der Hase macht den Igel.

00:45:27: Ich bin

00:45:28: raus.".

00:45:29: Jonathan saß mit seiner Frau bei einem Glas Weißwein auf der Terrasse.

00:45:34: Es war der erste Abend seit Tagen an dem sie Zeit für sich hatten.

00:45:38: Die Sommerschwöhle hatte nachgelassen und der Regen, der aus Westen gekommen war, hatte die Luft von Staub- und Hitze-und Kohlendioxid befreit.

00:45:47: Ein leichter Wind wehte – und Jonathan fühlte sich unbeschwert wie am ersten Urlaubstag in der Toskana!

00:45:55: Finn, ihr Sohn lag im Bett nachdem Anna Rahm ihm eine Geschichte vorgelesen hatte.

00:46:01: Obwohl er im Spätsommer in die dritte Klasse kam bestand er auf das Ritual ohne dass er nicht einschlafen wollte.

00:46:08: Nun konnte seine Frau ihm endlich erzählen was sie in den letzten Wochen so bewegte.

00:46:13: Zumindest versuchen Denn bis jetzt hatte Jonathan nur eine vage Ahnung wovon sich sprach.

00:46:24: Habt ihr eine Waageahnung oder gar keinen Schimmer, wovon Anna-Ram gesprochen hat?

00:46:28: Die Auflösung gibt es in zwei Wochen.

00:46:30: In der vierten Folge unseres Nier Future Romance Kryptokalypse am siebenundzwanzigsten August auf diesem Kanal und dort könnt Ihr auch alle bisherigen Folgen hören!