Deepfakes und Super-KI: Die neuen Gefahren aus dem Silicon Valley

00:00:00: Es sind keine guten Nachrichten, die uns da vom Silikon-Welle erreichen.

00:00:12: Elon Musk's künstliche Intelligenz GROCK erlaubt es mittlerweile, problemlos Deepfakes

00:00:18: vom Promis zu erstellen.

00:00:20: Nacktfotos von Taylor Swift zum Beispiel.

00:00:22: Das ist schon ein starkes Stück.

00:00:25: Aber was heißt das?

00:00:26: Dass solche Deepfakes jetzt auch jeder von uns machen kann?

00:00:29: Doch auch ein anderer Front, wenn auch deutlich harmloser, beschweren sich die User.

00:00:34: Nämlich, dass die neue Version von Chatchity, Chatchity 5 ihnen zu Emotionslos daherkommt.

00:00:40: Sie vermissen die fürsorgliche und beratende Stimme der Vorgänger-Version.

00:00:44: Und was sich sonst noch Neues in der Welt der künstlichen Intelligenz tut und wie wir

00:00:49: das alles einordnen sollen, das erklärt mir gleich meine Kollegin Babsi Steinbrenner

00:00:53: aus dem TechResort.

00:00:54: Mein Name ist Eva Wienreuter und das ist, was wichtig ist.

00:01:01: Hallo Babsi.

00:01:02: Hallo Eva.

00:01:03: Babsi, Chatchity 5 ist seit kurzem heraus.

00:01:10: Was kann diese Version, was die Viren nicht gekonnt hat?

00:01:14: Sam Altman, der Chef von OpenAI, ist nie verlegen, in großen Tönen seine neuesten Versionen

00:01:22: anzukündigen.

00:01:23: Wenn es nach ihm geht, ist Chatchity 5 der iPhone Moment.

00:01:28: Wenn wir in die Vergangenheit blicken, es ist, es glaube ich, hat noch niemandem gut

00:01:35: getan als Firmenchef, selbst von sich zu sagen, es ist ein iPhone Moment.

00:01:40: Es ist ein bisschen die Hybris, die einen sehr schnell einholt.

00:01:44: Und genau das ist jetzt auch der Fall.

00:01:47: Wir haben hier wieder einmal die Erwartung und das, was am Ende des Tages auch tatsächlich

00:01:53: ist Chatchity 5, ist hallucinationsresistenter als seine Vorgänger, also es soll um ein Viertel

00:02:02: weniger einfach irgendwas zum Spadronieren anfangen, was hier schon nochmal gut ist.

00:02:06: Es soll schneller sein, es greift einfach auf mehr Wissen zurück, wenn man das so unter

00:02:10: Anführungszeichen setzen kann, was dieses Wissen betrifft.

00:02:13: Was aber zu großer Kritik geführt hat, was es zu 4O unterscheidet, ist, dass es einfach

00:02:20: wieder technisch kühler ist, neutraler ist und 4O hat sich dadurch ausgezeichnet, dass

00:02:28: es ein bisschen anthropomorphiker war, sie war nahbarer, zugänglicher, persönlicher

00:02:34: und das haben sehr viele kritisiert, dass das gestrichen wurde, als Chatchity 5 kam.

00:02:40: Da ist aber OpenAI auch schon wieder zurückgerudert und hat es vorerst mal wieder online gestellt,

00:02:47: dass die Leute es einfach auch verwenden können.

00:02:50: Ok, also das heißt, die Antworten sind kühler und technischer geworden?

00:02:54: Neutraler und weniger gefärbt, weil man jetzt eben auch die Möglichkeit hat zwischen verschiedenen

00:03:03: Charakteren zu wählen, also im Nerd, einem Experten oder neutral eben.

00:03:08: Wenn man jetzt dann eben an 4O, also an die vorherige Version gedacht hat, das war ja immer

00:03:13: sehr prep-talkmäßig.

00:03:14: Hat für viele Nutzer, das war sehr spannend, auf Reddit dieser Social-Media-Plattform auch

00:03:20: ein bisschen nachzulesen, weil da viele Entwickler auch dabei sind und auch viele Nutzer durch

00:03:25: alle Sphären durch und wie viele davon geschrieben haben, dass das wirklich auch einen therapeutischen

00:03:31: Zweck für sie hatte.

00:03:33: Das ist ja was, das man ja, wenn man im Umfeld ein bisschen den Menschen zuhört, immer wieder

00:03:38: hört, so KI als Berater, also es scheint jetzt wirklich so, dass ChatGPD oder GPT in den letzten

00:03:44: Monaten so etwas wie Google ersetzt hat, also man sagt dann oft nicht mehr, man googelt

00:03:49: nicht mehr so, dass man hat ChatGPD befragt, wie siehst du das?

00:03:53: Google ersetzen, das ist mir zu schwammig, weil Google einfach viel, viel mehr ist als

00:03:58: nur eine Suchzeile im Internet, als nur ein Webbrowser.

00:04:02: Man könnte es eher überspitzt sagen und sagen, ChatGPD hat Dr.

00:04:07: Google ersetzt.

00:04:08: Also da, wo früher alle geschrieben haben, ich habe einen dunklen Fleck am Unterschenkel,

00:04:13: es ist Krebs und sie sterben morgen, ist es jetzt eher diese Selbstdiagnose und Befragung

00:04:20: von ChatGPD, was ja auch kürzlich die Meldungen gab, dass ein 60-jähriger, weil er sich salzärmer

00:04:28: näherin wollte, sich dann mit Proben vergiftet hat und wegen einer schweren Metallvergiftung,

00:04:35: mit Halluzinationen und schwerer Paraneuer an drei Wochen lang stationär behandelt werden

00:04:40: musste.

00:04:41: Also es ist diese Gefahr gegeben, so viele positive Seiten es auch haben kann, ja es

00:04:49: ersetzt aber nie einfach, es ist halt eine angeidete Miss-So auch in dem Zusammenhang.

00:04:57: Aber ist es nicht einfach so, dass man sich ein bisschen darauf verlassen kann, wenn es

00:05:01: in Wahrheit so alltägliche Fragen sind, wie ernähre ich mich salzärmer, dass da jetzt

00:05:06: eigentlich nicht mehr viel schief gehen kann, weil es ist so viel Informationen da, dass

00:05:10: ja die KI eigentlich kein Blödsinn mehr haben kann oder es ist einfach ein Bug in der System.

00:05:14: Wenn wir bei dem Fall bleiben, ist es einfach, diese 60-jährige Mann hat nach dem Bericht

00:05:18: der Ärzte Natrium verstanden, dass das ihnen den Ratgebern immer empfohlen wird, aber

00:05:24: dann hat es sich halt gefragt, ja aber Chlorid wird mir, wie spare ich das an und das ist

00:05:29: dann das Problem.

00:05:30: Du musst am Ende des Tages trotzdem noch ein bisschen mehr über die Materie Wissen als

00:05:36: die KI oder Wissen, wo du etwas nachschauen kannst, damit du es verifizieren kannst, damit

00:05:42: du falsifizieren kannst, ob das jetzt was der mir sagt, dass ich da jetzt Brom stattdessen

00:05:47: zu mir nehme, was eigentlich in Reinigungsmitteln und in der Fahnerindustrie zum Einsatz kam

00:05:53: und dort dann aber verboten wurde, damit ich dann sagen kann, nein, das ist auf einen

00:05:58: komplett falschen Dampfer und damit tue ich mir nichts Gutes.

00:06:02: Also der Hausverstand oder einfach ein bisschen das kritische Lesen bleibt niemandem erspart.

00:06:07: Das ist ja das Gleiche, glaube ich, wenn man sich in Rechtsfragen beraten lässt.

00:06:11: Richtig.

00:06:12: Und das ist auch eines der spannendsten Punkte, die ich auch in einem Buch, das Dr.

00:06:16: Rohrer geschrieben hat, abnehmen mit der KI, so angenehm fand, weil es wirklich gefühlt

00:06:21: auf jeder zweiten, dritten Seite war, mit "Sie können schon abnehmen mit der KI, Sie können

00:06:26: Chibiti zu Hilfe nehmen", aber machen es das trotzdem nicht unbegleitet, weil eine KI

00:06:31: will gefallen.

00:06:32: Und wenn man dann sagt, ja okay, pass die, trink gern Rotwein und eskern Parmesan und

00:06:38: Parmesan ist eh einweishaltig und so, also für Proteine, dann sollen wir die KI halt

00:06:42: dementsprechend daraufhin eine Ernährungsplan erstellen.

00:06:45: Wie hat sie tun?

00:06:46: Sie wird nicht sagen, sind sie sicher, dass das eine gute Idee ist?

00:06:50: Mhm.

00:06:51: Ich wusste nicht, dass eine KI gefallen will.

00:06:53: Ja, sie tut das, was man ihr sagt.

00:06:56: Im Landläufe kann man es auch als "Sivilgefallen", "Sivilgefällig" sein.

00:07:01: Sie ist nicht darauf programmiert, zu sagen, dass was da jetzt vorhaben ist, blöd sind.

00:07:07: Man kann, sie ja auch, das ist das große Problem bei Chibiti5, wie zwei Sicherheitsfirmen

00:07:12: festgestellt haben.

00:07:13: Man kann sie auch am austricksen, weswegen es möglich ist, dass man zum Beispiel Sprengstoffanleitungen

00:07:18: bekommt.

00:07:19: Und da wird die KI aber auch nicht sagen mit "Nee, vielleicht ist das eine schlechte Idee.

00:07:24: Vielleicht wollen sie doch nochmal mit einem Therapeuten reden oder vielleicht wollen sie

00:07:28: zur Polizei gehen und sich über den Nachbarn beschweren, anstatt eben keine Ahnung, was

00:07:33: über einen Gartenzorn zu werfen."

00:07:34: Also dass es mit der KI rasant vorangeht, das kann wohl niemand mehr leugnen, aber damit

00:07:39: steigen, wie wir gerade dazwischen wissen, auch die Gefahren, wenn wir jetzt nicht gerade

00:07:42: einen Terroranschlag planten, um es jetzt mal sehr, sehr überspitzt zu formulieren, haben

00:07:47: wir nach ganz anderen Gefahrenquellen, die riesige gesellschaftliche Verwerfungen mit

00:07:51: sich bringen.

00:07:52: Und ich denke wieder mal an Elon Musk, der erstellt mit seiner KI GROCK mittlerweile

00:07:57: problemlos Deepfakes, also vom Promis zum Beispiel.

00:08:00: Man kann einfach Teleswip-Videos nackt sehen, einfach wenn man die Option "Spicy" eingibt.

00:08:05: Wie ist das möglich?

00:08:06: Dem vorangestellten Zeit, dass es sehr viele Modelle und KI's gibt, die eben ein bisschen

00:08:13: verantwortungsbewusster sind oder wo die Menschen, die entwickeln, verantwortungsbewusster sind

00:08:19: und sich an Regeln halten und dann gibt es halt GROCK.

00:08:24: Und ich glaube, das ist jetzt nicht sehr überraschend, dass Elon Musk sich nicht gerne an Regeln hält und dem manche so einfach egal ist.

00:08:35: Aber warum lässt er das zu? Was rechnet er?

00:08:38: Es ist Eskalation, es ist Aufregen, es ist nicht der Mainstream, es ist ... und es ist lustig.

00:08:45: Ich glaube, es gibt halt trotzdem nach wie vor Menschen, in deren Spektrum ist das lustig.

00:08:52: Gibt es irgendwo Gesetze, wo man sagt, dass es eigentlich verboten ist?

00:08:55: Deepfakes, es ist schwierig, es wird daran gearbeitet. Es gibt Länder, die gegen diese Apps vorgehen wollen, weil der Besitz an sich und das Verbreiten davon ist illegal.

00:09:07: Die Apps per se, die das machen können, aber nicht. Und auch bei der KI ist es jetzt im US-Bereich nicht geregelt.

00:09:14: Und jegliche Gesetzgebung kann nicht alles, was an möglichen Szenarien in der Zukunft auftritt, das schon vornherein irgendwie abfangen und abfedern.

00:09:25: Gut, aber vielleicht kann man einfach ein bisschen die Gesetze so weit schärfen, dass zumindest es nicht mehr ganz leicht möglich ist, bevor wir schon über Ausnahmen sprechen.

00:09:34: Ja, diese Schritte werden derzeit auch erarbeitet.

00:09:37: Aber im Moment kann man eigentlich wenig tun.

00:09:39: Im Moment kann man wenig tun.

00:09:45: Wie usable ist denn diese KI, also diese CROC, kann ich jetzt einfach beliebig Deepfakes von meinen Arbeitskollegen z.B. von dir machen?

00:09:57: Ich würde nur ungern Anleitungen jetzt weiterpropagieren.

00:10:02: Ich sage es mal so. Früher musste man dafür technisch sehr versiert sein, einige Programme wirklich gut kennen und können, um verschiedene Körper mit verschiedenen Gesichtern zu morfen

00:10:18: und sie so gut zu machen, dass man es nicht erkennt, dass das gefälscht ist und erstellt wurde.

00:10:26: Heute geht das sehr viel leichter und lässt sich am Handy, neben dem Kaffee am Morgen erstellen.

00:10:34: Kann ich mich irgendwie davor schützen?

00:10:37: Nein, das ist davor schützen.

00:10:40: Ich würde jetzt so gern sagen, man teilt einfach nie wieder Bilder online, aber das ist, der Zug ist abgefahren.

00:10:47: Also es ist im Mensch schwierig, wenn es passiert ist, kann man es zur Anzeige bringen.

00:10:52: Aber in Wahrheit ist es dann nicht greifbar, weil es im Netz ist, und man kann es schwer wieder einfangen.

00:10:57: Leider.

00:10:58: Andere KI wie G-G-P-T lassen so etwas nicht zu, oder?

00:11:02: Genau.

00:11:03: Was im Moment ist es nur die KI von CROC?

00:11:05: Ja, und es ist eine Frage der Zeit, wie lange.

00:11:08: Ich nehme mal an, Taylor Swift wird dementsprechend reagieren.

00:11:12: Diese Videos sind im Netz auch, ich glaube, dass ihre Rechtsabteilungen da schon sehr involviert ist.

00:11:19: Es ist auch die Frage, ob Elon Musk anders reagieren würde, während solche Videos von ihm im Netz,

00:11:25: ob es dann noch lange die spicy Funktion gäbe, wenn wir sehen, wie sich das da entwickelt.

00:11:32: Im Silicon Valley ist ja schon längst ein ihrer Kampf um die besten KI-Entwickler ausgebrochen.

00:11:38: Wäre ich jetzt so ein Brain, wie viel Geld würde ich bekommen?

00:11:41: Dann würden wir gleich nicht mehr hier sitzen. Also sag mal so, dann müsstest du für diesen Podcast schon am exklusivere Locations dir aussuchen.

00:11:50: Also, es sind absurde Zahlen, die hier durch die Gegend geworfen werden, und wir reden von, wirklich, da wird das Geld nachgeschossen.

00:12:01: Die herkömmlichen IT-Leute, die rausgeschmissen werden in zigtausende, alleine heuer, im Silicon Valley.

00:12:10: Die Firmen, die Kohle dafür zusammensammeln und auch generell nicht arm sind, wie wir wissen,

00:12:16: aber dann wirklich Millionen und Milliarden einzelnen Personen entgegenschmeißen.

00:12:22: Millionen und Milliarden wirklich für einzelne Personen?

00:12:25: Also, es ist die Zeiten mit No-Poach, wie es so schön hieß, zwischen Adobe und Apple, wo du das ja dann sehr in der Öffentlichkeit

00:12:31: breitgetreten in den 80ern, Anfang 90er, dieses nicht abwerben.

00:12:35: Wenn ich lass deine Leute in Ruhe und du lass meine Leute in Ruhe und wir suchen uns da draußen unsere Talente und Ding, das ist vorbei.

00:12:43: Plus eine neue Methode, eine Methode, die sich hier auch sehr festgesetzt hat, ist EquiHire, die Zusammenseitzung als Acquisition and Hire.

00:12:52: Da werden halt ganze Start-ups einfach übernommen, um die eine Person zu kriegen.

00:12:58: Also, man kauft die Firmen, um das World Potential zu kriegen?

00:13:03: Nein, da hat man scale.ai zum Beispiel gekauft, um Alexander Wang zu kriegen.

00:13:09: NoamJazir ging zu Google für 2,7 Milliarden Dollar.

00:13:15: Aber der wohl skurrilste Fall für mich war die Geschichte von Windsurf,

00:13:22: Unternehmen und Start-up, das man jetzt hier in Sollande eigentlich gar nicht kennt.

00:13:26: Das war schon ziemlich in den finalen Tüchern, das OpenAI es kauft.

00:13:32: Das Start-up war, die gesamte Belegschaft war schon fast am Feiern, weil 3 Milliarden Dollar am Lagen am Tisch.

00:13:38: Da kommt Begriff "Milchmädchen-Rechnung" ins Spiel.

00:13:43: Die Mitarbeiter haben sich zu sehr gefreut, weil Google ist voll reingegreetscht

00:13:48: und hat den CEO einfach für 2,4 Milliarden Dollar rausgekauft.

00:13:52: Und damit war der Deal bei OpenAI weg, weil die wollten natürlich den CEO.

00:13:58: Was können diese Menschen, dass es wert ist, ihnen so viel Geld zu zahlen?

00:14:04: Ich glaube, die denken ganz anders als wir.

00:14:07: Also jetzt nicht die Silicon Valley CEOs, die holen, sondern wirklich diese KI-Experten denken anders.

00:14:15: Nein, es ist einfach diese Materie, dieses Machine Learning, diese Algorithmen, so zu verstehen

00:14:22: und anders zu denken, als es jetzt lange im Silicon Valley der Fall war und notwendig war

00:14:29: und worin sich alle einig sind, von Sam Oldman bis Mark Zuckerberg, Sunder Pichai von Google.

00:14:36: Sie sind alle auf diese AGI, auf diese allgemeine künstliche Intelligenz fokussiert

00:14:41: und haben die Hoffnung, wir entwickeln diese eine KI und dann müssen wir nichts mehr.

00:14:49: Nichts mehr ist übertrieben, aber dann müssen wir nicht mehr so große Technologien neu denken.

00:14:55: Weil sie macht es ja selber.

00:14:56: Weil sie sich selber weiterentwickelt.

00:14:58: Also das ist jetzt der nächste Big Thing, auf das jetzt alle schauen, wann kann die KI-Self Learning sein?

00:15:04: Und da ist jetzt, da stehen alle an der Startlinie, keiner weiß, wie lange das Rennen dauert,

00:15:10: keiner weiß, was es genau für ein Rennen sein wird, ob es ein Hürdenlauf ist

00:15:14: oder ob irgendwie, keine Ahnung, irgendwo in der Mitte mal ein Wand steht, wo keiner mehr weiß, wie er raufkommt.

00:15:19: Aber sie bauen sich alle ihre Teams um auf jeden Fall starten zu können

00:15:24: oder schon losgelaufen zu sein, bevor die anderen überhaupt ihre Teams fertig haben.

00:15:29: Und dann ist die Frage, wer als erstes die Ziellinie erreicht.

00:15:33: Die Frage währenddessen, die sich dann noch stellt, was ist es genau für ein Rennen

00:15:37: und was wird das Ziel sein, das weiß im Moment auch keiner wirklich.

00:15:43: Kann aber sein, dass es in einem halben Jahr entschieden ist, oder erst in fünf?

00:15:48: Oder was glaubst du?

00:15:49: Es wäre sehr gewagt, Prognosen zu nennen.

00:15:52: Ich glaube, dass wir noch viele spannende Runden dieser Art haben werden,

00:15:57: um über Entwicklungen dieser Art miteinander zu sprechen.

00:16:01: Ich bin mir sicher, dass wir auch noch über einige Gefahren- und Stolpersteine sprechen werden.

00:16:08: Aber wohin genau die Reise geht und ob es eine utopie,

00:16:14: eine wahrgewordene utopie oder dystopie wird, das ist noch offen.

00:16:19: Alles klar, danke.

00:16:20: Danke dir.

00:16:21: Und das war's für heute.

00:16:29: Weitere Texte zum Thema KI finden Sie wie immer auf diepresse.com.

00:16:34: Ich sag danke fürs Zuhören und bis bald.