#69 Wie verändert KI unser Denken, Elisabeth l’Orange?

00:00:10: Sprechen, erinnern oder Probleme lösen.

00:00:15: All das und viel mehr umfasst unsere menschliche Kognition den Weg zur nächsten U-Bahnstation zu kennen die Straße zu kennen auf der wir stehen und die Namen der Menschen die wir in unserem Leben getroffen haben.

00:00:30: seit KI bei vielen Menschen in nahezu alle Lebensbereiche einzugehalten hat stellt sich zunehmend die Frage Inwieweit beeinflusst künstliche Intelligenz unsere kognitiven Fähigkeiten.

00:00:46: Nachdem du ein LLM benutzt hast, dann wieder eigentlich nicht zu denken wird sehr stark eingeschränkt.

00:00:52: das heißt dieses Switching von Modalitäten ist super schwierig fürs Gehirn.

00:01:00: Das sagt KI-Expertin Elisabeth Lorange.

00:01:04: Seit einiger Zeit beschäftigt sie sich intensiv mit der Frage, welchen Einfluss KI auf unsere Kognition hat.

00:01:12: Über ihre bisherigen Erkenntnisse habe ich mit ihr gesprochen über die Frage ob wir Dinge noch handschriftlich schreiben sollten das die Arbeit mit KI uns nimmt und darüber was sie uns gibt in dieser Folge von Alles Digital.

00:01:40: Und damit hei und herzlich willkommen.

00:01:42: Mein Name ist Jonas Ross und das ist alles digital, der Podcast der Finanzinformatik zu digitalen Innovation.

00:01:49: Produziert wird der Podcast vom Studio ZX einem Unternehmen des Zeitverlags.

00:01:58: Kognitiv Offloading Auf Deutsch so viel wie kognitives Auslagern beschreibt das Phänomen mentale Aufgaben an externe Hilfsmittel abzugeben etwa durch Notizen, Navigations-Apps oder den Taschenrechner.

00:02:13: Das ist jetzt erstmal nichts Neues Doch gerade Sprachmodelle, also LLMs wie ChatGPT ermöglichen es immer mehr und zunehmend auch komplexe Aufgaben auszulagern.

00:02:25: Emails formulieren, Kalkulation durchführen anspruchsvolle Texte verfassen und einordnen oder sogar eigene Entscheidungen vorbereiten.

00:02:34: Was bedeutet das für unsere eigenen kognitiven Fähigkeiten?

00:02:37: Werden sie jetzt immer schwächer?

00:02:39: Oder kann das Auslag an von Aufgaben auch Vorteile bringen?

00:02:45: Genau darum!

00:02:46: Geht es im folgenden Gespräch mit Elisabeth Lorange.

00:02:49: Sie ist Partnerin für KI und Daten bei Deloitte, Mitglied des Vorstands der Autogrupp- und Hostesspodcast Tech & Tales.

00:02:58: Zuvor gründete sie unter anderem das deutsche KI-Startup Oxsolo, dass sich auf die Erstellung von KI generierten Videos spezialisiert hatte.

00:03:06: Übers Lesen sprechen und vor allem übers Denken unterhalten wir uns jetzt!

00:03:12: Also los geht's.

00:03:18: Ich freue mich sehr, dass du da bist.

00:03:19: herzlich willkommen

00:03:20: Hi Jonas, vielen Dank dass ich dabei sein darf.

00:03:24: Ich habe mir überlegt das ich in dem Podcast gerne mal etwas einführen würde.

00:03:29: wir haben immer eine Frage am Ende die an alle Gäste geht.

00:03:32: dieselbe ist aber ich würde gerne mal einführen das wäre auch zu Beginn ein paar Fragen stellen.

00:03:37: Die werden jeder vorgestellt und du hast die große Ehre die fragwürdige Ehre da quasi das erste Test kann nicht hinzu sein Drei kurze Fragen für dich zu beginnen und zwar welche Tech-Anwendung, also sagen wir mal jetzt von App bis Software bis weiß ich nicht alles was dir einfällt.

00:03:55: Hat dich zuletzt richtig umgehauen?

00:03:57: Positiv!

00:03:59: Also was ich ganz interessant fand war dass sich im Zuge einer Vorbereitung oder im zuge der Vorbereitungen an ein Kino gerade gelesen habe das man in China eine Tech gebaut hat oder eine AI gebaut hat wo man anhand einer DNA Spur oder eines bisschen DNAs komplett das Gesicht rekonstruieren kann.

00:04:19: Und ich fand das irgendwie faszinierend und erschreckend zugleich, weil es natürlich in der ganzen Strafverfolgung ermöglicht, dass komplett neue Bahnen und Straßen und Wege.

00:04:30: Aber auf der anderen Seite in der Privatsphäre ist es natürlich maximal schädlich so.

00:04:36: Also das heißt... Ich fand's ganz interessant wie weit inzwischen die Systeme gehen.

00:04:40: Das heißt DNA to Image finde ich schon spannend.

00:04:44: Ja absolut, fasziniert!

00:04:47: Was hast du zuletzt für komplett Overhyped gehalten?

00:04:51: Ich halte die LLMs so ein bisschen veroverhyped und ich glaube, da stoße ich habe nicht viel Zuspruch.

00:04:56: Aber wenn ich sehe wie hoch die Halluzinationsraten sind tatsächlich Durchhaltevermögen die haben, also LLMs können typischerweise nicht länger als eine Stunde am Stück Antworten generieren bzw.

00:05:10: eine Antwort auf einen Frage oder ein Prompt oder längere Aufgaben wenn man so möchte weil sie dann mit an Sicherheit grenzender Wahrscheinlichkeit anfangen wirklich zu hallucinieren.

00:05:21: das heißt LLM sind immer gut für den Initial Prompt für die initiale Frage.

00:05:26: Aber alles, was darüber hinausgeht wird dann immer so ein bisschen verschwommen und das Ganze kann man im Unternehmenskontext dann immer eingrenzenen, indem man andere LLMs die Ergebnisse überprüfen lässt oder denen nur ganz kleine Teilaufgaben gibt.

00:05:40: aber ich finde es nach wie vor noch immer noch ein bisschen underwhelming weil ich seit Jahren jetzt darauf warte dass sie halt so skaliert sind und quasi auf AGI Level sind.

00:05:50: und stattdessen haben wir eben immer noch diese hohen Hallezinationsraten und Ausfälle.

00:05:55: Ich sympathisiere sehr mit der Antwort, weil ich kann auch oder mag es langweiten mich tatsächlich einfach ein bisschen.

00:06:03: Also ich weiß nicht ob das hart ist aber LLM muss sich sagen?

00:06:06: Es ist mittlerweile einfach irgendwie...

00:06:08: So einen Taschenrechner mit Worten

00:06:10: Ja so ein bisschen das Sehr hart, ist auch wirklich sehr hart.

00:06:15: Dass du das machst, halte ich fast noch für gerechtfertigt.

00:06:19: Ich kann mir das gar nicht erlauben.

00:06:20: so hart zu judging über was.

00:06:22: Und letzte Frage?

00:06:23: Wann hast Du zuletzt etwas Neues gelernt?

00:06:28: Ich habe heute tatsächlich auch im Zuge der Vorbereitung für diese Keynote, habe ich gelernt dass es inzwischen komplette Modelle gibt die die Kommunikation der Tiere entziffert haben.

00:06:40: Das Ganze nennt sich Animal Language Processing Und das ist Teil des Earth Species Projects.

00:06:50: Da hat man angefangen zu verstehen, was Vögel zwitschern und das finde ich schon sehr nice weil das vielleicht ein bisschen unseren Zugang zu den Tieren erleichtert.

00:07:00: und dann auch im zweiten Schritt die Tierhaltung hinterfragt wie wir mit der gesamten Umwelt umgehen.

00:07:08: Ich glaube Transparenz ist immer der erste Schritt zur Verhaltensänderung dass es vielleicht hier nicht so gut dabei geht und das dann wirklich visualisiert sehen, auch verbalisiert in irgendeiner Form.

00:07:19: Dann glaube ich hilft das uns.

00:07:22: Das war eine ganz spannende Ankenntnis.

00:07:26: Mega spannend!

00:07:27: Du hast jetzt mit allen drei Antworten die perfekte Überleitung gebracht zu dem, worum wir dich... worüber ich mit dir reden wollte und zwar die Kombination des kognitiven Fähigkeiten.

00:07:38: Und KI, jetzt ging es gerade um die kognitivem Fähigkeit von Tieren zu verstehen.

00:07:43: vielleicht aber bevor wir loslegen mal die Frage wo mit beschäftigst du dich da gerade dass du auf diese Dinge stößt?

00:07:50: Ich promoviere zurzeit in Neuro und AI und wir schauen uns an wie die Modelle also die langweiligen LLMs aufs Gehirn wirken quasi das heißt wie sich das Gehirn dabei verhält, also die Reaktionen im Gehirnen sind.

00:08:05: Wie das Gehören unter mit LLMs arbeitet ohne LLMs, wenn man so die Aufgaben untereinander Benchmarkt.

00:08:12: und es kam gerade tatsächlich in dieser Woche eine OECD-Studie auch raus, die sich zum Beispiel das Lernverhalten der Kinder angeschaut hat mithilfe von LLMS und ohne LlMS.

00:08:24: Und da zeigt sich halt überall dass das Geirn gravierend abschaltet.

00:08:30: Also das heißt, dass deine kognitiven Leistungen relativ schnell sehr eingeschränkt sind weil das ist wie ein Muskel wenn du es nicht verwendest dann verlierst du's irgendwann und die neuronalen Verbindung wenn du so möchtest oder die neuronale Netze sterben quasi ab.

00:08:46: also nicht dauerhaft aber es ist auf jeden Fall alles geschwächt nachdem du einen LLM benutzt hast.

00:08:53: dann wieder eigenständig zu denken wird sehr stark eingeschränkt, das heißt dieses Switching von Modalitäten ist super schwierig fürs Gehirn.

00:09:02: Das ist im Übrigen das Gleiche wenn du Maps verwendest.

00:09:05: also das heißt wenn du auf den Maps bist und dann hoch guckst und dich orientieren sollts braucht es hier auch erstmal wieder ein paar Momente um hoch zu fahren.

00:09:12: und das gleiche gilt eben auch für LLAMPS.

00:09:14: das heißt wir müssen unbedingt als gesellschaftschaften Guardrails einzuziehen dass eben nicht alle Antworten immer gleich vorgegeben sind, sondern vielleicht das ist LLM.

00:09:24: Die hilft auf die Antwort selber zu kommen.

00:09:26: so und ich glaube der Ansatz heißt der Sokrates-Ansatz an der ETH in Zürich da forschen sie auch daran.

00:09:31: aber so wie es momentan ist es auf jeden Fall extrem schädlich.

00:09:36: Sokates Ansatz weil er dafür bekannt war sein Schülerinnen und Schülern oder seinen Schüleren wahrscheinlich vor allem Fragen zu stellen und Nichtantworten vorzugeben?

00:09:43: Oder wieso Sokaters Beziehung?

00:09:44: Ja genau.

00:09:45: Okay beobachtest du dieses Prinzip bei dir selbst?

00:09:48: also Ich würde jetzt sagen Ich mache mir oder habe mir tatsächlich lange immer noch gerne handschriftliche Notizen gemacht.

00:09:54: Das heißt, cognitive offloading also das Auslagern von kognitiver Leistung ist ja dann auch schon erfüllt.

00:10:00: Also ich schreibe was auf, was mir gerade in den Kopf kommt und dann hab' ich's aus dem Kopf aber... ...ich hab' auch immer das Gefühl dass es mich dadurch besser merken kann.

00:10:07: Wenn ich etwas aufgeschrieben habe, dann ist es besser in meinem Kopf drin!

00:10:12: Aber funktioniert der beim Thema KI nicht.

00:10:15: Also gerade bei der Kommunikation mit LLMs funktioniert das ja nicht, weil ich habe ja nicht selbst den Gedanken aufgeschrieben.

00:10:20: Beobachtest du dieses Prinzip was du vorhin beschrieben hast dass wir sozusagen dann abschalten in der Sekunde wo wenn diese Kommunikations sind?

00:10:26: auch bei dir selbst?

00:10:27: Und ich merke auch, dass mein Gehirn wach zu halten ist eines meiner Kernsorgen sozusagen.

00:10:34: Ich habe gestern wieder ein Notizbuch aufgemacht und musste einen Stift suchen um wieder handschriftlich Dinge festzuhalten weil durch dieses Handschriftliche Verfestigen von Ideen kann sich das Gehirne es um zwanzig dreißig Prozent besser merken.

00:10:53: Und erstaunlicherweise ist auch, also ich habe früher dazu mal Studien gelesen das Schreibschrift durch diese schwingende Bewegung.

00:11:01: tatsächlich soll es noch mehr amplifiziert sein.

00:11:02: Also es ist noch besser für dich aber dieser Kommunikation oder diese Hirnhand sozusagen Achse wenn man so möchte die haben wir dies ja in unserer Evolution eingedruckt, wenn du so möchtest.

00:11:19: Das heißt wir müssen manuell irgendwie arbeiten und uns betätigen und dürfen halt nicht nur passiv da sitzen und uns Sachen generieren lassen weil dann absolut nichts gespeichert wird.

00:11:31: auch diese Recall-Fähigkeit dann sich das also sich daran zu erinnern was man mit einer KI vor zwei Wochen erstellt hat ist gleich null.

00:11:39: Wir haben das in unseren ganzen Experimenten gesehen dass die Leute wirklich nicht mehr daran erinnert haben selbst wenn sie ganze Essays mit AI geschrieben haben.

00:11:47: Kann man festmachen, woran das liegt?

00:11:49: Ist es die Austauschbarkeit?

00:11:51: Nein.

00:11:52: Weil dein Hirn sich das ja nicht erarbeiten muss.

00:11:55: Also wenn sobald du deinen Hirn nicht dafür selber nutzt sondern ist einfach nur copy-paste dann wird es nicht verfestigt und findet kein Lern statt und dadurch hast du keine Ahnung was da gerade vor sich geht.

00:12:08: Ja absolut!

00:12:09: Was ich mir vorgestellt habe als du das gerade erzählt hast war... Es gibt immer diese Floskel Die KI ersetzt den Menschen nicht, aber der Mensch muss kritischer denken.

00:12:18: Und im Kern liegt doch das Problem, dass unser Umgang mit KI dafür sorgt.

00:12:22: ist dieses kritische Denken und diese intensive Auseinandersetzung mit unseren Gedanken eigentlich schwächer wird, schlechter wird es ein schwerer Feld.

00:12:29: So würde ich's verstehen.

00:12:30: Ja, würde ich auch so sehen!

00:12:31: Das ist ja am Ende zum Beispiel auch der Sinn der Schule und des Studiums.

00:12:35: ganz viele... kritisieren ja, dass das Schule und Studium in der Form gar nicht mehr nötig wäre.

00:12:40: Weil wir ohnehin alles generieren könnten.

00:12:43: aber es geht ja darum, dass du's denken lernst.

00:12:46: Dass du diese kritische Analyse lernest... dich auseinandersetzen mit verschiedenen Themen, die pro und kontra Diskussion.

00:12:53: Es ist völlig egal was systematisch ist.

00:12:55: deswegen ich habe auch nichts relevantes in der Schule gelernt oder im Studium was ich später im Beruf genutzt hab wenn ich ehrlich bin außer vielleicht lesen und schreiben.

00:13:02: aber mein Latinum und so braucht dich definitiv nicht.

00:13:06: also KI hilft dir gar nicht für die kritische Auseinandersetzung mit Themen wobei sie hilft es tatsächlich in der Recherche.

00:13:14: das muss ich sagen dafür nutze ich KI tagtäglich stundenlang.

00:13:16: dass ist die Recherche zu speziellen Themen.

00:13:20: Ja, also wenn ich in irgendeiner Industrie arbeite, die mir vorher nicht so bekannt war dann schlaue ich mich damit halt unfassbar auf.

00:13:26: und da ist ja auch keine Frage zu dumm weil es gibt ja auch bei vielen Menschen gibt's auch viel Scham so dass man gewisse Fragen einfach niemanden stellen würde, weil sie einfach so unendlich peinlich ist.

00:13:36: So wärs unser Bundeskanzler alles vielleicht nicht aber.

00:13:39: Also einfach diese... Unfassbar dumm Fragen an einen Bord zu stellen, der halt zu jeder Tages- und Nachtzeit die größte Geduld hat.

00:13:48: Und dir wirklich alles erklärt!

00:13:49: Und dann du kannst nochmal nachfragen... ...und Dinge, die du noch nie verstanden hast, ja?

00:13:52: Die du noch nicht irgendwie dich getraut hast zu fragen oder die dir gerne bewusst waren dass du sie nicht wusstest, kannst du diesen Modell stellen.

00:13:59: also insofern ist es ein total demokratisierendes Tool.

00:14:02: Ja das kann damit könnten alle mal auf den gleichen Stand kommen wenn man so möchte.

00:14:09: Aber ist es nicht rein theoretisch so Wenn ich den Werk zur Kasten des kritischen Denkens mitbekommen habe, dann wäre ich doch in der Lage das auch so hinzubekommen.

00:14:20: Und meine Vermutung wäre jetzt wenn ich mir wissen härter arbeiten muss im Sinne von Ich muss vielleicht die Infos, die für mich wichtig sind aus verschiedenen Selbst wenn ich im Internet das mache per Google ja wir aus verschiedenen Artikeln aus verschiedenen Beiträgen aus verschiedenen Aufsetzen wie auch immer zusammenarbeiten und das rausfiltern.

00:14:38: was mir für mich Wichtig ist ist doch viel mehr gelernt, als wenn ich Frage eine Antwort bekomme und dann ja auch nochmal hinterfragen muss ob das jetzt wirklich hundert Prozent so hin kommt.

00:14:48: Also ich frage mich ein bisschen wo sozusagen der Vorteil liegt was vereinfachtes aus deiner Sicht?

00:14:57: Na ja, die Antworten sind viel konziser.

00:14:59: Also wenn ich irgendetwas google dann bekomme ich zwanzig dreißig Links, die vielleicht mich in die richtige Richtung führen.

00:15:05: aber wenn ich die gleiche Frage an einen LM-Stelle bekomme Ich dazu zwanzige Studien, die ich mir dann angucken kann und zwar für genau das kleine Unterthema.

00:15:14: also das heißt Für Recherche arbeiten macht sich das halt wirklich schneller!

00:15:17: Ich bin da durchs Thema so schnell geworden.

00:15:20: Früher hab ich für ein Slide irgendwie Stunden gebraucht und jetzt kann ich die innerhalb von einer halben Stunde wegballern sozusagen, weil ich den Kontext sofort verstehe.

00:15:27: Weil ich einfach jemanden immer fragen kann.

00:15:29: Weil früher ... Ich mein wenn so bei Spezialistenfragen hat man vielleicht mal irgendwie die beste Freundin gefragt, sag mal kennst du jemanden der sich mit keine Ahnung Motorenhaubenabdeckung oder irgendwas auskennt?

00:15:41: Sagt sie ja, ich glaub der Cousin von meiner Schwiegerin!

00:15:43: Und dann hat man irgendwie den übermorgen erreicht und er konnte einem dann sagen Ja da gibt's einen Laden irgendwo so Jetzt fragst du deinen Modell und innerhalb von einer Viertelsekunde hast du dazu zwanzig passende Antworten.

00:15:54: Das heißt es schneidet halt komplett diesen langwierigen Prozess, der komplett ineffizient ist raus.

00:16:01: Ja ich glaube mal ein anderer still in dem Podcast gesagt das ich schon immer noch die Erfahrung aber mache dass wenn man dann konkrete Zitate oder konkretes Dinge aus diesem aus diesen Studien beispielsweise suchen möchte, gerne mal Antworten gegeben werden die gar nicht in der Studie stehen einfach damit es eine Antwort gibt.

00:16:18: Also am Ende braucht's ja immer noch diesen Schritt danach.

00:16:22: jetzt ist die Frage... Es ist eigentlich ne steile Vorlage aber wissen die Leute das?

00:16:30: also glaubst du dass wenn das zum Massenmedium wird und das ist ja mittlerweile so Das dann dieser Schritt danach, dieses?

00:16:36: eigentlich müsste ich noch mal überlegen kommt das denn auch hin was da gesagt wird.

00:16:39: Dass genug im Fokus steht bei meinen Eindruck ist schon da müsste es eigentlich Nachholbedarf geben.

00:16:44: aber die Frage ist wie kommen wir dahin?

00:16:46: Ja also das ist glaube ich momentan recht katastrophal dass durch diese falschen Ergebnisse wird ganz viel Workslop auch kreiert.

00:16:53: das nennt sich der Work AI Slop d.h.

00:16:56: Unternehmen geben momentan Millionen aus um das zu korrigieren weil Mitarbeiter immer mehr Content generieren.

00:17:03: die Zahlen dazu sind wohl, dass das fünfzig Prozent mehr, fünfzig bis sechzig Prozent, mehr ... wenn du so möchtest Ergebnisse produziert werden schriftliche ohne einen einzigen Erkenntnis gewinnen.

00:17:16: Das heißt, du kriegst halt mehr E-Mails, du bekommst mehr Textmessages und du bekannst mehr Dokumente zugeschickt aber da steht halt nicht mehr drin.

00:17:21: Es ist nur Blablarmende!

00:17:23: Und das ist natürlich katastrophal weil irgendwer am Ende der Kette muss das Ganze ja irgendwie fixen.

00:17:30: Das heißt, das kostet dann wiederum so viele Ressourcen, dass du diesen Wust an produziertem Slop irgendwie einfangen musst und daraus das wirklich relevante zu ziehen.

00:17:40: Und das wird die hohe Kunst sein später diese KI-Orchestrierung.

00:17:45: D.h.,

00:17:45: diese Ergebnisse zu validieren, zu verifizieren und zur orchestrieren.

00:17:48: Das heißt in die richtige Richtung zu lenken und festzustellen was ist davon wirklich gut?

00:17:52: Was ist irgendwie nicht gut?

00:17:54: Und das wird auch die Aufgabe der Menschen sein.

00:17:57: Also ich glaube materiell werden die wenigsten Berufe noch in dem, also noch so seien wie sie jetzt sind.

00:18:03: Es wird am Ende ein einziges Überprüfen der AI-generierten Antworten sein Auch bei Ärzten, ja?

00:18:10: Das heißt die ganze Diagnostik würde mit hundertpräsentiger Wahrscheinlichkeit ausgesourzt werden.

00:18:15: zur AI Aber Ja, du wirst immer einen humanen Loop haben.

00:18:20: Weil man hat auch festgestellt also die Radiologie, die du ansprichst.

00:18:23: das Problem ist zum Beispiel dass innerhalb von zwei bis drei Monaten die Radiologen verlernt haben dann die Schnitte und die Bilder zu selber zu diagnostizieren.

00:18:35: Und das obwohl sie halt zehn Jahre studiert haben, dass die jahrelang irgendwie selber praktiziert haben.

00:18:40: Die Fähigkeit ist halt sehr schnell wieder verloren.

00:18:43: und trotzdem Die antwort relativ klar, wenn du weißt dass die Diagnose-Fähigkeit eines Modells bei irgendwie sieben acht neun Prozentpunkte höher ist als von einem Chefarzt.

00:18:56: Also von dem ganz Arzt am Anfang seiner Karriere völlig abgesehen diesen Ding bei irgendwie glaube ich sieben und sechzig Prozent wenn wir United School... ... mit Licensing-Examen, USMLE, die angucken.

00:19:09: Da sind hier so die Anfängen... Die jungen Ärzte liegen in den Sechzigern,... ...die Erfahrenen sind bei siebenundachtzig Prozent,... ...aber die LLMs sind bei fast neunneinzig Prozent.

00:19:16: oder die Modelle?

00:19:17: Nicht nur LLM, sorry auch die anderen Modelle!

00:19:18: Das heißt,... ...das heißt ohne Frage lässt du dich von so einem AI diagnostizieren,... ...aber dann brauchst du halt einen Arzt, der daneben steht und sagt so, mmh ja,... ...sehe ich so oder eben

00:19:28: nicht?!

00:19:29: Ja klar!

00:19:30: Ja klar.

00:19:30: Und bei der Interessanter Weise ist es ja so, wenn ich mich richtig erinnere, dass gerade in der Radiologie zum Beispiel die Erkennung vor allem von im frühen Stadium einfach auch durch die AI tendenziell schneller oder dass sie Dinge früher erkennen als ein Mensch kann... Bis fünf Jahre

00:19:45: früher!

00:19:45: Ist

00:19:46: ja auch nochmal eine interessante Entwicklung.

00:19:50: dann, wenn der Arzt bis bestätigen muss, da beim Zweifel gar nicht sicher.

00:19:53: Ich sehe auf dem Bild ehrlich gesagt nichts, aber die scheinen da was zu erkennen.

00:19:57: Das ist eine Herausforderung.

00:19:58: Das Gegenteil davon zeigt sich in Studien in unserer Gesamtgesellschaft.

00:20:03: also beispielsweise gibt es Studien die zum Einfluss von der Digitalisierung allgemein aufs Lesen sagen wir behalten weniger beim lesen.

00:20:11: digitale Medien sorgen auch dafür dass wir weniger verweilen unsere Aufmerksamkeit leider darunter und am Ende ist das Problem Weniger kritisch und weniger bewusst lesen, also unsere Auseinandersetzung mit Text ist einfach eine andere.

00:20:24: Hast du da nicht den Eindruck dass KI so eine Entwicklung einfach krass verstärkt?

00:20:27: Klar das ist wie als würdest du Benzin ins Feuer gießen.

00:20:33: Das Problem fing aber schon in dem Jahr zwei Tausendzehn an mit dem Beginn von Social Media.

00:20:38: Also es gibt Instagram seit zwei tausend Zehn.

00:20:41: Damit korrolliert halt, ich will sagen der Niedergang unserer Lesefähigkeit aber im gewissen Maße schon.

00:20:49: Und nicht nur die lesefähigkeiten auch die mathematischen Fähigkeiten sind halt wahnsinnig viel schlechter geworden und erstaunlicherweise in den USA also so dass ein Drittel der Amerikaner nur so gut lesen und schreiben kann wie ein zehneriges Kind.

00:21:03: Das ist erschreckend.

00:21:04: und das es korrollierte halt eins zu eins mit der Mediennutzung Das heißt, gerade bei der Generation KI.

00:21:10: also das ist halt die Gen Z und Gen Alpha.

00:21:13: Die bis zu sieben Stunden vor ihren Geräten sitzen und es noch nicht mal.

00:21:18: einige sind bei zwölf Stunden.

00:21:20: Die können alle einfach haben keine Aufmerksamkeitsspanne mehr und die können auch nicht wirklich lesen oder schreiben oder rechnen.

00:21:28: Und das ist erschreckend weil mit der Social Media Produkte sind seit Jahrzehn, zweiundzwanzig wesentlich besser geworden und zwar haben die ebenfalls angefangen KI zu nutzen.

00:21:46: Die haben die Transformer Architektur mit genutzt also der gleiche dass auch die großen Sprachmodelle nutzen und dadurch sind die Empfehlungsalgorithmen wesentlich bessere geworden und TikTok hat damit angefangen.

00:21:58: auf die Verweildauer der jeweiligen Augen, auf das Erd oder auf den Post optimiert haben und die anderen sind dann relativ schnell dem gefolgt.

00:22:07: Und dadurch sind die Algorithmen halt wesentlich, wenn so wird es aggressiver geworden oder schärfer oder more engaging.

00:22:14: Das ist halt im Jahr.

00:22:17: KI in Verbindung mit Social Media ist natürlich supertoxisch für die neue Generation.

00:22:23: Und sie müssen anfangen sich dem bewusst zu sein und sich davon lösen.

00:22:27: auf der einen Seite, dann ist es eine regulatorische Frage.

00:22:30: also es hat in den zwanziger, neunzehnzwanziger Jahren auch eine Weile gedauert bis man festgestellt hat dass man keinen Koks in den Cola tun sollte und kein irgendwie bleibenden Lippenstift und Radium und Schminke usw.. Es dauert einfach ein Zeit bis neue Technologien so... hinreichend reguliert werden, dass sie eben nicht mehr schädlich sind.

00:22:47: Aber momentan ist so ein bisschen Bilderwesten und ich kann allen nur empfehlen ihre Kinder zu

00:22:51: schützen.".

00:22:52: Der Unterschied zu den neunzelzwanziger Jahren ist das die Erkenntnisse.

00:22:56: da sind also auch die Erkennisse, dass wie du sagst die Kombination aus KI- und Social Media einfach im Zweifel toxisch sind weil es müsste ja nicht toxisch sein.

00:23:07: Also denke ich mir manchmal, es müsste doch nicht toxischer sein.

00:23:09: Es könnte ja auch anders sein aber wir wissen alle wie die Realität.

00:23:14: Aber das finde ich irgendwie interessant, weil diese Implementierung in allen Lebensbereichen geht die dann nicht ein Ticken zu weit.

00:23:21: Wenn wir kognitiv offensichtlich nicht mitkommen?

00:23:24: Das wäre jetzt mal die steile These!

00:23:27: Ja aber wo willst du es regulieren?

00:23:28: also wo würdest du anfangen?

00:23:30: Wo würdest Du

00:23:30: anfangen?!

00:23:31: Das ist eine gute Frage.

00:23:33: Ich habe darauf keine Antwort.

00:23:34: Ich müsste lange darüber nachdenken um eine Antwort zu finden... ...aber ich frag's mich manchmal, weil wir immer wieder darüber reden was für'n genialer boom das ist und wir gucken aber darauf was es kognitiv mit uns macht.

00:23:46: Und dass wir bestimmte Entwicklungen aus dem digitalen Zeitalter noch nicht richtig aufgeholt haben im Kopf, und schmeißen quasi schon das nächste drauf so ungefähr.

00:23:54: Macht ihr das nicht manchmal oder gerade wenn du dich jetzt damit beschäftigst?

00:23:56: Mit diesen Kombination als AI- und kognitivem Fähigkeiten?

00:24:00: ist das nicht etwas wo du mich mal inhältst und denkst ah okay ein bisschen bit too much.

00:24:05: Klar es ist total bit to much!

00:24:07: Es hat einen Katalysator für viele Dinge.

00:24:11: Ich glaube, das war aber historisch immer so.

00:24:13: Wenn es Neuerungen gab, wenn es in der Industrialisierung Webstühle haben gebrannt... Es gab jedes Mal eine lange Periode, in denen die gesamte Gesellschaft sehr heterogen war und nicht nachgezogen ist.

00:24:33: an vielen Stellen waren einige halt viel weiter fortgeschritten.

00:24:37: Das Kapital hat sich dann sehr krass an einigen bei meinen wegen den Fabrikbesitzern irgendwie gesammelt und wurde die Löhne zum Beispiel, also während der industriellen Revolutionen haben sich die Löne viel langsamer entwickelt als das Kapital der Fabrik-Besitzer.

00:24:59: So, das heißt die sind auf der einen Seite wesentlich schneller reich geworden und dass groder Menschen eben waren sehr arm im Vergleich.

00:25:06: Das Gleiche wird wahrscheinlich meines Erachtens auch auf der Tech-Seite passieren.

00:25:11: Ja, das heißt die Firmen, die die Modelle besitzen, die den Zugang zu der Tech-Besitzung und das Ganze orchestrieren.

00:25:19: Die werden sich in eine Richtung, also nach oben bewegen sozusagen.

00:25:25: Und die ganzen Anwender werden nicht an diesem ganzen Wertschöpfungsprozess teilhaben.

00:25:31: Also dass die einer die wirtschaftliche Seite und auf der kognitiven Seite ist es gleiche ja?

00:25:36: die Menschen, die wahnsinnig schlau sind.

00:25:38: Die können mit KI sehr viel mehr erreichen momentan ist es noch so.

00:25:41: und die die Menschen die kognitiv eben nicht also nicht so dass das nicht so wahnsinnviel nicht Potenzial haben aber einfach einen anderen andere Set-up haben im Kopf.

00:25:53: Die sind eher benachteiligt.

00:25:55: ja weil diese die Fähigkeit Fragen zu stellen ist letztlich die Fährigkeit die du brauchst um mit KI zu arbeiten.

00:26:01: und die Föhigkeit Fragen Hängt halt so ein bisschen mit der analytischen Begabung ab, die du hast oder mit deinem IQ am Ende.

00:26:09: Und... Die Hälfte der Bevölkerung ist halt unter dem IQ von hundert und also wenn man daran glaubt dann den ganzen IQ quatschen.

00:26:16: aber es gibt keine bessere oder das ist die schlechteste Art des zu messen am Ende.

00:26:22: Aber es gibt halt momentan nichts wirklich Besseres.

00:26:27: Wenn du so möchtest, kann halt die Hälfte der Bevölkerung nicht sich so... Also kann eben nicht diese kritischen Fragen stellen.

00:26:33: Kann die Ergebnisse nicht kritisch validieren?

00:26:34: Kann ich falsifizieren was da irgendwie gerade rausgekommen ist das heißt Die werden also auf dieser Seite oder auf die hälfte Der Bevölkerung.

00:26:43: müssen wir aufpassen dass sie nicht zurückgelassen werden und dass die einfach noch Teil der Gesellschaft bleiben.

00:26:51: Ja weil das ist ja eigentlich die andere Seite der Medaille.

00:26:53: Also wenn man mal drauf guckt und sagt auf der Seite Es ist ja auch so, dass KI komplexe Inhalte beispielsweise stark vereinfachen kann und eben auch zugänglicher machen.

00:27:01: Also da sind wir ein bisschen wieder bei den Anfängen von Social Media um nicht Instagram zu nennen aber Twitter zum Beispiel.

00:27:09: Ich weiß nicht ob du aktive Twitter-Nutzerin warst Aber als Twitter neu war hat man das Gefühl gehabt es ist dieses Versprechen von sozialen Netzwerken als demokratisierende Kraft.

00:27:20: also alle haben dieselbe Stimme alle machen mit und alle sind dabei.

00:27:25: Rein theoretisch steht ja, sagen wir mal in dieser Vereinfachung die KI vornehmen kann auch die Möglichkeit also die Chance mehr Teilhaber an Wissen zu haben.

00:27:36: Also das ist ja schon möglich

00:27:38: Total, dafür wird es nur leider momentan noch nicht genutzt.

00:27:40: Aber in der Theorie hat das auf jeden Fall diese egalisierende Wirkung und vor allen Dingen ist es endet auch so ein bisschen diese Bullshit-Economie weil es gibt ganz viele.

00:27:48: man hat festgestellt dass in Großbritannien gab's dazu auch viel Research dass die Millionen bzw Milliarden im Jahr werden sind auf Konsumaseite oder Kundenseite verloren Verträge eingegangen werden, die nachteilig sind.

00:28:06: Weil Dinge gekauft werden und kaputt sind, weil Autos gekauft wurden, die kaputzen Häuser irgendwie Schäden haben.

00:28:12: Und die Leute das nicht verstehen... Also A- Verstehen sie nicht was in den Verträgen steht?

00:28:16: Und zweitens können Sie sich nicht wehren, weil sie nicht wissen wie.

00:28:19: Ja!

00:28:20: Und dann bietet natürlich KI ja das die absolut beste Technologie so einen Vertrag da hochzuladen und sagen so hey Mein Dach in meinem Dachregnis rein.

00:28:29: Ich dachte, ich hätte gerade ein heiles Haus gekauft und plötzlich ist alles kaputt.

00:28:34: was kann ich tun?

00:28:34: Und dann kommt die KI sagt das tut mir leid dass du so ein Problem hast.

00:28:38: Das wäre ein Gewährleistungsfall.

00:28:40: wenn du möchtest, kann ich dir irgendwie einen Brief aufsetzen den Anwalt der Gegenseite schicken kannst.

00:28:44: Blah!

00:28:45: Dann Print und Send und das heißt das ist natürlich mega gut.

00:28:51: aber trotzdem ist es momentan eben so Diese Early Adopter gibt und die KI eben sehr viel nutzen, sehr viel besser werden.

00:28:59: Und eben große Teile der Bevölkerung eben nicht.

00:29:02: Also das sehe ich schon als

00:29:04: Gefahr.".

00:29:05: Wie würdest du wenn du könntest das ändern?

00:29:08: Wie würdest du diese Teilhabe steigern?

00:29:10: Wie würdest du dafür sorgen dass mehr Menschen Zugriff haben auf dieses Wissen?

00:29:14: also wir haben drüber gesprochen, dass Schule und Universität keine Frage, es wäre Schritt eins.

00:29:18: Das haben wir häufig in diesem Podcast sozusagen diese Bildung eigentlich an Schritt eins steht.

00:29:22: jetzt haben wir die Situation wie wir haben.

00:29:25: Also wie würdest du dafür sorgen, was wäre die Maßnahme?

00:29:29: Das ist ein vielschichtiges Problem sozusagen.

00:29:32: Weil das Kern des Problems ist dass wir in Deutschland keine eigene proprietäre Tech haben auf dem Level.

00:29:39: D.h.,

00:29:40: wir bräuchten so einen Germany GPT.

00:29:42: Dass aber gut genug.

00:29:43: es als Produkt ja... ...das ist nicht so ein wildes Produkt irgendwie, was den schlechten UXUI hat sondern vergleichbar mit der amerikanischen Lösung ist.

00:29:53: Und das wäre an Anfang, wenn wir das hätten.

00:29:56: Wenn wir das frei für alle verfügbar machen könnten.

00:29:58: Wenn es in einer guten Software verbaut wäre, wär da schon mal ein Anfang so.

00:30:04: Das heißt dass jeder erstmal Zugang hat und am Ende ist KI kritische Infrastruktur und sollte eigentlich jeder Zugang haben zu einem Modell als zum guten Modell.

00:30:14: Es gibt ja in verschiedenen Ländern die anderen Machen's aber die haben dann nicht ihre eigene Modelle.

00:30:17: Die geben dann ihren Bürgern alle Lizenzen zu den amerikanischen Modellen.

00:30:23: Das heißt, das wäre für mich auf jeden Fall Schritt eins und dann einen Schritt zwei.

00:30:27: Wäre auch eine Erwachsenenbildung oder so.

00:30:30: aber es haben halt alle Unternehmen die Pflicht ihre Mitarbeiter dahin gegen weiterzuentwickeln und nicht nur zu erwarten dass sie's alle nutzen sondern ihnen zu helfen dabei.

00:30:39: Es geht ja auch so ein bisschen konträr zur dieser Haltung.

00:30:45: Deutschland ist jetzt nicht das Digitalland Nummer Eins.

00:30:47: also traut man vielleicht auch dem Staat als großes Wort vielleicht auch gar nicht zu, dass diese Erwachsenenbildung finde ich eigentlich ein ganz schönes Wort.

00:30:57: Da aus dieser Perspektive kommt und die Unternehmen implementieren ja häufig schon viele Dinge, die der Staat gar nicht in eine Lage ist zu implementieren.

00:31:06: also ich find es einen interessanten Ansatz das es aus der Richtung kommen war ja auch zunehmend verlangt wird von Unternehmen des KI.

00:31:12: Wissen und der Umgang mit KI Nativer wird eigentlich

00:31:15: Total.

00:31:16: Und es ist fast ein bisschen wild, weil – und das verlinken wir auch in den Shownotes – es gab gerade eine Studie, die eben diese Diskrepanz zwischen dem Management, dem See-Level und den Mitarbeitern dargelegt hat.

00:31:28: Weil der See-level, da glaubt irgendwie das Groh, dass pro Woche über zwölf Stunden an Arbeit gespart werden kann mit künstlicher Intelligenz Die in Realitas ist es aber so, dass die Mitarbeiter sagen, also, dass sie gar keine Zeit damit sparen würden und über siebzig Prozent sagen, dass Sie ein bisschen Zeit damit spenden würden.

00:31:53: Das heißt beide denken diametral in eine andere Richtung.

00:31:56: und diese Gaps sowohl es ist einen Kognition-Gap da durch die AI, das ist halt ein Gap, ein Implementierungsgap ist da und es ist eben dieser Management Gap zwischen dem was gedacht wird, was möglich ist.

00:32:10: Aber was eben tatsächlich die Faktion nicht möglich ist.

00:32:13: und weißt du, was der Grund dafür ist übrigens?

00:32:15: Das

00:32:15: wollte ich dich gerade fragen!

00:32:17: Das ist nämlich das auch überraschendste, dass über sechzig Prozent der Mitarbeiter gar keinen Zugang zu irgendwelchen Modellen haben.

00:32:23: Wo sollen sie dann lernen?

00:32:24: also... Es ist ein bisschen schizofrin.

00:32:27: So waschen mir den Pelz, aber mach mich nicht nass!

00:32:29: Ich wollte

00:32:29: gerade sagen... ich wollte genau das sagen.

00:32:32: Wasch mich, aber mache mich nicht naß.

00:32:33: Genau das wollte ich grad sagen.

00:32:34: Ja also das heißt es geht halt nicht beides, ne?

00:32:36: Also entweder lässt man die... gibt man den Mitarbeiter einen Zugang dazu und dann kostet das umso weiter oder man lässt es sein und dann können sie's nicht bedienen.

00:32:48: Das ist aber natürlich eine wirklich ganz interessantes Spiegelbild auch von einer gesamtgesellschaftlichen Debatte rund um KI, also dieses auf der einen Seite das extreme Versprechen.

00:32:59: Was es alles kann und was es alles wird?

00:33:01: Und auf der anderen Seite so ein bisschen die Realität.

00:33:05: Also wo siehst du da dann noch eigentlich sagen wir mal die Grenze zwischen sinnvoller Effizienzsteigerung?

00:33:16: Ich wollte eigentlich fragen danach, wo du die Grenze siehst zwischen dem Zwischen sinnvolle Effizienzsteigerung und dem Verlust von echtem Verständnis.

00:33:24: Aber in diesem Fall muss man ja sagen, wo ist eigentlich die die Grenzen zwischen extra Arbeitsaufwand und Effizientsteigerungen?

00:33:30: Also wenn du das so beschreibst dann muss man tatsächlich die Frage stellen, wo findet denn da eine Effizience Steigerung statt?

00:33:35: praktisch im großen Stil?

00:33:37: Die Effizienteigerungen finden im Backoffice statt, die finden im back end statt.

00:33:42: also das heißt alles was Was Rechnungslegung kann automatisiert werden, Marketing kann automatiziert werden.

00:33:48: Lieferketten können automatisiert wird im Unternehmen selbst also bei den Mitarbeitern etwas mit einer KI quasi zu verfassen das ist das letzte was irgendwie die Leute schneller macht oder auch irgendwie glücklich stimmt am Ende.

00:34:04: Ich glaube tatsächlich eher, dass die Prozesse quasi neu aufgesetzt werden müssen.

00:34:07: Die Daten müssen sortiert werden und so.

00:34:09: Da gibt es ganz andere Hebel als jetzt unbedingt die Mitarbeiter mit ChatGPT auszustatten was aber trotzdem unabding... Also das ist etwas was unbedingt gemacht werden muss weil wir gar nicht wissen bei welcher Technologie wir jetzt irgendwie rauskommen werden oder wie sich die verschiedene Modelle entwickeln werden.

00:34:28: Aber der Umgang damit muss einfach zur Normalität werden.

00:34:34: Menschen zu wandeln oder auch irgendwie das, dass die sich an solche Dinge gewöhnen.

00:34:40: Es dauert einfach und deswegen ist es höchste Zeit damit anzufangen wenn man sie nicht gemacht hat.

00:34:45: Gibt's

00:34:45: denn Dinge bei dir selbst?

00:34:46: Die du beobachtest, die sich verändert haben?

00:34:48: also weiß ich nicht kann.

00:34:49: bist in der Lage Fragen pointierter zu formulieren oder ein Problem pointiert dazu beschreiben vielleicht.

00:34:56: Gutes Promnten ist ja auch eine Kunst.

00:34:59: Das stimmt natürlich.

00:35:00: Ich habe mich geärgert über meine eigene.

00:35:02: ich hab so ein bisschen die Fähigkeit Kurzzeitig die Fähigkeit zu schreiben verloren.

00:35:06: Und dann habe ich mich gezwungen, wieder viel mehr und vermehrt zu schreiben... ...und auch darauf zu achten dass ich korrekt schreibe und nicht eben dieses... ...sloppige weil irgendwie wird es... So stehen

00:35:14: du quasi?

00:35:15: Ja genau so irgendwie wird's schon richten.

00:35:18: Also entweder DKI oder Grammarly oder irgendwer.

00:35:21: also das heißt ist dass ich quasi mich konzentriere.. ..und das wirklich so schrei be wie sich gehört.

00:35:27: Ich glaube sehr sinnvoll.

00:35:28: Ich glaube auch sehr sinnfull ist wenn man ich glaube wenn man Maps verwendet dass man Versuch zu viel, es geht selber zu navigieren.

00:35:36: Ohne mit Hilfe dass man sich versucht an Worte und Namen zu erinnern ohne es gleich im Handy nachzugucken also einfach seinem Gehirn die Chance zu geben nochmal ein bisschen extra zu arbeiten.

00:35:45: so das ist eine an positiven Effekten.

00:35:49: für mich selber sehe ich nur dass ich halt wesentlich schneller werde.

00:35:52: Also das heißt KI hat seit in meine Arbeitsroutine geschafft Und am Anfang habe ich auch gewisse Dinge automatisiert.

00:36:00: Das war dann aber zu Fehler Anfällig, also irgendwelche Rechnungen abzulegen und sowas alles.

00:36:06: Aber ich habe auch nicht so wahnsinnig viele administrative Aufgaben aber die... Das an sich, das arbeiten an sich sozusagen die ganze Analyse

00:36:18: usw.,

00:36:18: es geht halt viel schneller.

00:36:20: Also ich persönlich muss sagen, ich hab sehr viel gelernt mit KI inhaltlich auch.

00:36:26: Ja interessant denn gut, du hast ja vorhin beschrieben wo um Zweifel die Schere verläuft?

00:36:32: auch gesellschaftlich.

00:36:33: Das würde ja bedeuten, okay dann gehörst du zu der einen Hälfte und die Lage ist damit zu arbeiten was jetzt auch wirklich glaube ich der harten Arbeit in dem harten Umgang bei dir geschuldet ist dass du dich da mit ihr auch schon länger beschäftigt als andere.

00:36:45: aber siehst du Tendenzen Möglichkeiten Chancen so ein bisschen das wir vorhin schon mal angedeutet haben?

00:36:52: Dass sich das in eine breitere Richtung entwickelt, dass diese dieses Gefühl vielleicht auch das in seinen Arbeitsalltag zu integrieren, weil es ist ja schon dieses Versprechen.

00:37:03: Also die große... Das wird alles in unserem Alltag stattfinden, das passiert eh alles schon.

00:37:08: so ungefähr kann ja auch dazu führen und ich will mich dann nicht mal rausnehmen dass man manchmal denkt Ja wo denn?

00:37:13: Wann denn wie denn?

00:37:14: also wie bin ich denn beteiligt daran mir diese Selbstermächtigung auch zu haben mein Alltag zu verändern schneller zu werden besser zu werden?

00:37:23: also Wo setz dich an was würdest du sagen?

00:37:25: Wo setzt sich an um ein Gefühl dafür zu bekommen Wie das mein Alltag verändert, meine Arbeit verändert hängt natürlich wahrscheinlich auch sehr vom Job ab.

00:37:32: Aber wo setzt man an?

00:37:34: Selbst wenn man schon tiefere Erfahrungen gemacht hat um dieses Gefühl dafür zu bekommen dass es Teil des eigenen Lebens wird und einen positiven Effekt haben kann?

00:37:43: Also ich glaube, dass man fast aktiv gar nicht mehr so viel tun muss und dass sich KI von alleine in dein Leben webt wie so ein silberner Faden.

00:37:51: Weißt du das heißt irgendwann würdest es ohnehin überall drin haben.

00:37:55: In jeder Software ist KI verbaut In deinem E-Mail-Account ist Bamfilter SKI, in deinem Handy ist überall SKI.

00:38:02: Gesichtserkennung SKI...

00:38:02: Und ja auch schon länger als ChatGPT.

00:38:04: das muss man machen?

00:38:04: Es sind nicht länger, ja auch ChatGAPT also auch die LLMs basieren auf Modellen, auf Architekturen die es seit Dekaden gibt, ja seit vierzig Jahren, fünfzig Jahren wie auch immer Also welchen Teil man auch immer davon nimmt aber schon lange lange lange.

00:38:16: Das wird jetzt nur skaliert weil es bessere Daten gibt und es gibt bessere Tipps und eben die Architektoen wurden optimiert.

00:38:23: Aber ich würde nicht aktiv jetzt ansetzen und überlegen, wie kann ich mein Leben KI fein oder künstliche Intelligenz mehr reinbringen?

00:38:36: Das passiert schon von alleine.

00:38:37: Ich glaube da muss man sich was dagegen wehren dass es nicht so viel wird irgendwann in allen Bereichen.

00:38:43: aber ich würde glaube ich trotzdem Technologie offen bleiben.

00:38:47: das heißt also dass ich einfach mit den verschiedenen Tools umgehen kann dass ich mich nicht irgendwie gegen verschließe.

00:38:56: Organisationsentwicklung sehr gut und die ist spezialisiert auf AI and Ablement.

00:39:01: Und sie hat mir heute von einem Fall erzählt, dass eine Kunden zu ihr kam und sagte hey wir haben riesige Customer Service Center Die immer Calls entgegennehmen und diese Calls müssen die Customer Service Mitarbeiter mit einem Daumen hoch oder einem Daum runter bewerten weil wir die Trainingsdaten brauchen um unsere künstliche Intelligenz zu trainieren.

00:39:22: so diese Daten Service Center sind überall verstreut in Europa, also das heißt die Mitarbeiter, die manchmal kein Deutsch sprechen und ein schlechtes Deutsch sprechen oder eben andere Sprachen sprechen.

00:39:32: Aber es ist jetzt nicht so dass man da mal vorbeigehen könnte.

00:39:35: Und das Problem ist, dass die Mitarbeiter das alle sabotieren weil sie natürlich nicht ihre Jobs verlieren wollen.

00:39:43: Das heisst jede Antwort die die KI generiert hat wird halt falsch bewertet mit Absicht um die Trainingsdaten zu ruinieren.

00:39:53: Das ist eigentlich das Kernproblem, weil wie willst du damit umgehen?

00:39:58: Shit in, shit out.

00:40:00: Ja aber wenn die Bevölkerung quasi Leute nicht mitmachen dann kannst du auch als Unternehmern kommst du auch nicht weiter.

00:40:08: Das hat wirklich was... weiß ich nicht, es hat so eine Arbeitsverweigerungsmaßnahme irgendwie.

00:40:13: Es ist eine sehr besondere moderne Art und Weise des Streiks den der KI falsche Trainingsdaten zu geben.

00:40:21: Das ist eine sehr interessante Auslegung von Sitzstreik irgendwie.

00:40:25: Aber es ist auch eine interessante Fragestellung, was kannst du machen?

00:40:30: Wir haben darüber nachgedacht und das Einzige, was du machen kannst, dass du nicht die Mitarbeiter, die das betrifft, dieses Training der Daten oder der Calls machen kannst.

00:40:39: Aber das ist doch dann auch ne Vorauswahl zu treffen bedeutet ja, also du willst ja einen möglichst größten Datensatz haben und du musst im Zweifel alle inkludieren.

00:40:49: Es ist halt ein bisschen die Frage, ob es die Möglichkeit gibt mit Wahrscheinlichkeiten zu arbeiten oder noch einen qualifizierteren Weg herauszufinden als gut und schlecht.

00:40:59: Aber das ist wahrscheinlich schwierig.

00:41:02: Interessant!

00:41:02: Aber faszinierendes Problem eigentlich?

00:41:05: Ja genau.

00:41:06: Je länger du darüber nachdenkst, desto faszinerner wird das Problem.

00:41:08: auch weil dieses Problem hat so viele Dimensionen ja dass das Problem hat ethische moralische historische also alles was dir dazu Einfeld sozusagen.

00:41:20: Ich meine, in Amerika ist es zum Beispiel auch so dass Juristen ganz viel KI's die Juror machen sozusagen, trainieren und anotieren, konnotieren usw.

00:41:31: Das heißt also es findet schon statt das es andersrum ist da sozusagen die Menschen die KI trainieren Und für die KI arbeiten noch nicht andersrum Aber auch nur Die die Modelle die momentan am Markt sind ja auch sind der auch nur so relevant und so gut weil die händisch anotiert wurden.

00:41:51: Die gesamte Süden, die ganze Südwelt halb Kugel war damit beschäftigt irgendwie für die großen Modelle Bilder anzuklicken und also für die grossen Datensätze Bilder anzuklicken, Sätze an zu klicken über eine lange Zeit und nur dadurch dass diese Daten eben die Datenqualität so gut geworden ist das Output so gut

00:42:11: Ja interessant.

00:42:13: ich meine Ich hänge jetzt bei diesem Problem natürlich mental fest, ich glaube das wird mich begleiten weit über die Folgen aus.

00:42:20: Weil ich die ganze Zeit denke es hängt daran ja auch ein so viel größeres Bild von der Erzählung, die wir rund um Technologie und ganz besonders KI uns gegenseitig erzählen und die uns erzählt wird welchen Einfluss KI auf unser Leben hat und dass bestimmte technologische Entwicklung immer mit einer Verlusterzählung einhergehen.

00:42:42: Und dann sind wir bei einer historischen Dimension, die Frage stimmt das am Ende des Tages eigentlich und ist es nicht eine Frage von den Begleitumständen.

00:42:49: Also würde man sozusagen ein gesellschaftlich anderes Klima haben würden, die einen anderen Sicht vielleicht auf Arbeit haben oder auf ihren eigenen Wert?

00:42:58: Würden sie dann nicht völlig befreit diese Fragen beantworten und sagen ja doch also ich muss ja vor nichts Angst haben so ungefähr.

00:43:04: Es hängt sehr vom gesellschaftlichen Kontext ab in dem man so eine Frage gestellt

00:43:09: bekommt Ja und man kann den Mitarbeitern ja auch nichts im Gegenzug anbieten, indem man sagt hey dafür kriegte kostenloses KI Training oder so.

00:43:20: Das ist ja alles fruchtlos was das einzige was die nicht wollen es von dieser scheiß KI ersetzt zu werden.

00:43:28: Kann man ihn wirklich nicht verübeln?

00:43:30: Ne das sind die brennenden Webstühle von zwanzig sechsundzwanzig

00:43:34: Mit dem Bild.

00:43:35: aber was ein Bogen hast du zum Abschluss vielleicht noch andere Learnings, andere Beispiele die dir gerade begegnen in dieser Promotion zum Thema oder zum Zusammenhang von kognitiven Fähigkeiten und KI also Beispiele wo KI heute schon kognitive Prozesse verändert.

00:43:58: Vielleicht auch ganz subtil?

00:44:01: Naja es gibt ja auch diese gesamten Neuralink-Geschichten.

00:44:04: das heißt dass Tipps auf Hirn implantiert werden Und die ersten Versuche sind sehr vielversprechend.

00:44:13: Da hat man Probanden, die gelehmt waren, Chips eingepflanzt, die dann mit dieser Power der Chips und ihrem Gehirn halt Computerspielen konnten wieder... ...und dann ist leider der Chip irgendwie verrutscht!

00:44:25: Jetzt sind sie wieder dabei, das Ding irgendwie wieder hochzuschieben.

00:44:30: Ist ja klar auf so einer galanten Masse hält kein Kleber wenn man so möchte.

00:44:35: Aber das ist schon faszinierend.

00:44:37: also ich glaube...

00:44:39: Irre her?

00:44:39: Ja, ich glaube also Bottom Line glaube ich dass das künstliche Intelligenz wahnsinnig viel Gutes bringen wird und auch wesentlich mehr Gutes als schlecht ist.

00:44:46: Wir sind momentan nur in dieser anfänglichen Phase in der es das auszuterrieren gilt.

00:44:51: Das ist ja faszinierend!

00:44:52: Das ist genau das was ich von meinte, dass es mit einer gesellschaftlichen Erzählung zu tun hat.

00:44:55: Also davon lese ich weniger und höre ich weniger als davon des Menschen Angst davor haben, dass sie ihren Job verlieren.

00:45:04: Das spielt eine riesengroße Rolle.

00:45:05: Also das Verhältnis zur Technologie wäre ja ein anderes, wenn wir bestimmte Dinge im Fokus stehen würden.

00:45:13: Ich fände es auch immer wieder bezeichnend, aber ich erinnere mich noch sehr gut daran dass die ersten Debatten rund um KI ersetzt uns als Menschen unsere Jobs.

00:45:23: Immer die Kreativ... Branche getrifft und es ist ja bis heute eigentlich so.

00:45:26: Aber zuallererst ging's darum, wofür brauchen wir denn noch Schauspieler in?

00:45:30: Wofür braucht man denn eigentlich noch Kamera-Leute?

00:45:33: Wovor brauchts dann eigentlich noch Regie?

00:45:35: All diese Dinge!

00:45:35: Das ist allererste was besprochen wird.

00:45:38: Und das war nicht so bezeichnend also dass die Erzählung rund um dieses Technologieding immer geprägt von einer Angsterzählung und ich kann das auch nachvollziehen, das meine ich gar nicht aber der komischerweise fällt das andere hinten über dass es einen unfassbaren Fortschritt in der Medizin geben wird.

00:45:57: Ein unfassbarer Fortsschritt in Bereichen, die unser Leben auch einfach verbessern werden?

00:46:01: Hast du da für eine Erklärung?

00:46:03: Klar, clickbait!

00:46:04: Also ich meine alles was klickt enragement is engagement wie Kara Swisher immer sagt.

00:46:08: also das ist natürlich nur diese negativen Narrative den Tech-Jüngeren aus dem Valley die Reichweite geben die sie brauchen.

00:46:20: Ich habe letztens tatsächlich mal korreliert, je polarisierender das Statement war von diesen großen Taxceos, desto näher war eine Finanzierungsrunde oder desto eher brauchten sie Presse weil sie ein Product released haben.

00:46:35: Das heißt diese gesamte Narrative der CEOs von Anthropic und Open AI

00:46:40: usw.,

00:46:41: die sind natürlich nicht unbedingt darauf gemünzt irgendwie Frieden in die Bevölkerung zu bringen sondern... um eben ihre Produkte unter die Bevölkerung zu kriegen.

00:46:50: Also schon vor achtzehn Monaten wurde gesagt, dass alle White-collar Jobs bis dato ausgeräumt werden sollen sein werden und nichts ist passiert.

00:47:01: Gardner hat sehr klug vorhergesagt das in zwanzigneunzwanzig die Jobs, die durch KI kreiert werden oder die Zahl der Jobverluste überrunden wird.

00:47:14: Das heißt wir werden netto positiv sein!

00:47:18: In drei Jahren.

00:47:19: davon gehe ich auch stark aus, wenn ich sehe wie viel.

00:47:21: Wie viele Leute es bedarf um diese ganzen Systeme zu implementieren?

00:47:24: Das ist Wahnsinn!

00:47:25: Wir können ein Shopping Center voller Engineers erfüllen die wir bräuchten um den ganzen Kramen auch zu depleuen also... Ich gehe überhaupt nicht davon aus dass es diese krasse Jobapokalypse im Arbeitsmarkt geben wird auf keinen Fall.

00:47:40: Es ist ja auch nicht so, dass... Also ich glaube es wird einen Wandel geben.

00:47:43: Es wird einen horizontalen Wandel innerhalb der Unternehmen geben.

00:47:45: Das heißt vielleicht hast du früher Marketing gemacht und dann machst du morgen irgendwie Sales.

00:47:49: aber es ist ja so das KI dich dazu befähigen kann weil du dich damit einfach im Mensch schnell fortbilden kannst und damit deine Lage sein wirst eben Dinge zu tun, zu denen du vorher nicht in der Lage warst.

00:48:00: Und gerade an Deutschland, ich meine Deutschland ist wahnsinnig besessen davon Dass man den Beruf dem man mit sechzehnmal erlernt hat seinen Leben lang machen muss.

00:48:09: Das heißt, das ist horizontale Wechsel sind ja quasi unmöglich

00:48:14: bei uns.

00:48:15: Ja aber unmöglicher nur weil die Leute glauben dass sie unmöglich sind.

00:48:19: also es wird dir dann im Zweifel.

00:48:20: ist der Markt eigentlich ein anderer wahrscheinlich?

00:48:23: Aber ich meine wenn du als gelernter Friseurin gehst und nicht zu einer Bank und sagst, guten Tag!

00:48:29: Ich würde jetzt gerne hinter dem Schalter arbeiten.

00:48:33: Die Systeme sind nicht da.

00:48:35: Und dieses System ist nicht da, weil der das Vertrauen daran fehlt dass es überhaupt möglich ist wie du schon sagst er glaube.

00:48:41: Aber das kann auch oder kann und wird KI ändern.

00:48:44: also es wird wahnsinnig viel horizontalen Schiff geben nach links und rechts weil Es gar nicht anders sein kann wenn Jobs tatsächlich Customer Service Marketing usw.

00:48:54: Da werden ja Leute irgendwie weg rationalisiert und die werden halt in den anderen Teile der Unternehmen gehen.

00:49:00: Ja klar und ich meine je mehr das auch geprägt wird von Generationen, übergreifenden Teams, Gruppen, desto besser.

00:49:06: Also ich hab das Gefühl, horizontale Wechsel sind unglaublich wichtig für Unternehmen und für Teams... ...und für die Weiterbildung auch von den Mitarbeitern.

00:49:15: Da bin ich mir ganz sicher!

00:49:17: Was für ein fantastischer Rundlauf.

00:49:19: wir schließen ab mit diesen drei Fragen.

00:49:22: Und zwar die erste ist was würdest du empfehlen?

00:49:24: Film, ein Film, einen Podcast, eine Buch Irgendwas zu rund um dieses Thema, irgendwas was du gelesen hast oder gehört hast.

00:49:33: Was die Leute sich geben sollten.

00:49:37: Also erstens ich muss meinen Podcast empfehlen das ist klar.

00:49:40: also mein Podcast Tech und Tales.

00:49:42: jeden Samstag dann... Ich frage Leute auch immer am Ende nach einer Buchempfehlung.

00:49:47: Also von Ray Kurzwheel also wahrscheinlich kurzweil auf Deutsch The Singularity is nearer.

00:49:54: Das wurde mir sehr empfohlen als Fortführung seines ersten Buches und ich habe es bestellt.

00:49:59: Und das liegt bei mir zu Hause, und ich warte darauf ist zu lesen.

00:50:02: Aber ich finde diese ganzen utopischen Zukunfts-Szenarien super spannend – zumindest Menschen die darüber nachdenken!

00:50:07: Ich find' es halt total spannend auf welche Ideen sie kommen….

00:50:10: …und dann im Nachhinein auch zu sehen was davon quasi Wirklichkeit geworden ist und was nicht... ...und ich finde, auch wenn man sich diese aussehen so….

00:50:19: …neunzehnvierundachtzig

00:50:20: usw.,

00:50:21: also wenn man dich so zurück… Schaut und die die Pondance aus der aus den damaligen Zeiten ließ, dann ist es am Ende alles nicht so schlimm gekommen wie gedacht.

00:50:30: Also bottom line Es wird nichts zu heiß gegessen wie es gekocht wird.

00:50:34: Super spannender Tipp.

00:50:36: Ray Kurzweil ist mir nicht als Autor bekannt sondern als Gründer von Kurzweiler Music Systems.

00:50:44: Die machen das Synthesizer Cool.

00:50:47: Das war das eine.

00:50:48: das andere is Was glaubst du?

00:50:51: Ist ne super Spezielle Frage, aber ich bin sehr gespannt wie du sie beantworten wirst.

00:50:54: Was glaubst du was du in einem Jahr anders sehen könntest oder wirst?

00:50:59: Wo du dich gerade mit beschäftigst?

00:51:02: Also ich bin immer noch zu glaube ich zu entspannt mit der ganzen Regulaturik und mit den Guardrails die KI hat und ich glaube manchmal bin ich wahrscheinlich ein bisschen naiv und sehe deswegen vielleicht Dringlichkeit dahinter nicht.

00:51:17: Zum Beispiel wurde von mir mal ein Deep Fake erstellt vor ein paar Monaten und bis dato, bis zu dem Moment war ich wirklich der Überzeugung dass man das normalisieren sollte weil es ohnehin einfach so einfach ist die zu erstellen und also das gesamte Internet wird davon geflutet werden.

00:51:35: deswegen hatte ich die Meinung initial So normal machen muss, dass es einfach kein Shame mehr gibt.

00:51:43: Dass sich die Betroffenen nicht schlecht fühlen müssen bis ich morgens aufgewacht bin und von mir eins gepostet wurde.

00:51:51: Es fühlte sich an, als würde sich der Boden auftun.

00:51:53: Und das heißt in dem Moment habe ich meine Meinung radikal dazu geändert.

00:51:58: Ich mein es ist total stupide, sobald man selber betroffen ist, ist man auf einmal der größte Verfechter davon.

00:52:04: aber ich glaube so ähnlich wird es auch gehen mit anderen Aspekten der künstlichen Intelligenz die halt momentan noch völlig unreguliert sind.

00:52:11: Das heißt wenn wir in einem Jahr sprechen werde konservativste KI-Kritikerin sein und fordern, dass man das alles nur auf die Menschheit loslässt wenn es vorher ganz stark geprüft ist.

00:52:24: Und Guardrails halt usw.

00:52:27: Die letzte Frage ist immer dieselbe was wird unverhandelbar analog bleiben in deinem Leben?

00:52:32: Was wird nicht digital ersetzt, digital passieren oder durch eine KI ersetzt?

00:52:36: Zwischenmenschliche Beziehung weil wenn wir uns in den USA umschauen haben Also, seventy-fünf Prozent der Teenager schon mal irgendwie romantische Beziehungen mit einem Chatbot gehabt.

00:52:49: Und diese parasozialen Beziehung sind mir total fremd und das ist für mich unverhandelbar analog.

00:52:56: Fantastischer Antwort!

00:52:57: Elisabeth, tausend Dank, dass du dabei warst, hat große Freude gemacht und vielen Dank.

00:53:02: Vielen Dank ebenfalls.

00:53:04: bis bald.

00:53:09: Das wars mit dieser Folge von Alles Digital.

00:53:13: Schön, dass Sie zugehört haben.

00:53:15: Mein Name ist Jonas Ross und ich hoffe, Sie sind auch beim nächsten Mal wieder mit dabei.

00:53:19: Wenn Ihnen der Podcast gefällt dann bewerten sie ihn doch auf der Podcast-Plattform Ira Bar oder wenn es Anregungen gibt schreiben Sie uns einen Kommentar.

00:53:28: In jedem Fall sollten Sie den Podcast abonnieren damit Sie keinen unserer spannenden Gäste verpassen!

00:53:34: Bis zum nächsten mal Machen Sie's gut.