KI unter Kontrolle: Was ein Slowdown für Anleger bedeutet

00:00:00: Risiko-Hinweis.

00:00:01: Die

00:00:01: Inhalte dieses Podcast

00:00:02: dienen ausschließlich

00:00:03: der allgemeinen Information

00:00:05: und sind zum einen ohne Gewähr, und zum anderen keine Empfehlung zum Kauf oder Verkauf bestimmter Finanzinstrumente.

00:00:12: Es handelt sich hierbei nicht

00:00:13: um Anlagevermittlungen, Anlageberatung oder ähnliches.

00:00:17: Ihr entscheidet selbst was ihr macht!

00:00:37: Ja, letzte Woche haben wir gesprochen über Anthropic und den angekündigten Börsengang der jetzt so ein bisschen verschoben wurde im letzten Monat in den Wochen nach unserem Gespräch.

00:00:46: Aber nicht nur die Verschiebung sondern eine andere Äußerung vom Anthropic Chef Dario Amodei sorgt hierfür aufsehen denn er fordert die ganze Branche auf das Tempo bei der KI-Entwicklung zu drosseln.

00:00:57: ja es geht um Schäden im Bereich von hundert Milliarden Dollar und auch um Menschenleben hat er gewarnt.

00:01:03: Wie gefährlich ist die rasanten Entwicklung von KI?

00:01:05: Das wollen wir gleich von zwei Seiten betrachten heute.

00:01:08: Einmal aus Investoren sich, das werden wir gleich hier besprechen und aber auch aus Sicht deiner Stiftung, die eben vor KI-Risiken schützen soll.

00:01:15: Und die wird geleitet für deine Schwester Lisa, die auch heute hier mit dabei ist.

00:01:18: Hallo Lisa!

00:01:19: Schön, dass du da bist.

00:01:23: Wir fangen an mit der Investmentseite.

00:01:24: Jan, es gab ja zum Vorstoß von Amodei auch Zustimmung von Sam Altman und von Ilham Musk.

00:01:30: Und gerade Musk hat ja sogar in der Vergangenheit schon häufiger gewarnt, dass niemand so viel Macht haben sollte auf KI zuzugreifen – eine einzelne Person zumindest!

00:01:38: Was hat dein erster Gedanke als du jetzt diese drei gebündelten Stimmen zu dem Thema gehört hast?

00:01:42: Ja, Sie haben recht.

00:01:44: AI Safety ist ein extrem wichtiges Thema was in den nächsten Jahren für die Menschheit insgesamt eine sehr große Rolle spielen wird.

00:01:55: Insofern freue ich mich, dass bei diesem Thema zumindest kurz mal Einigkeit herrschte und eben drei der wichtigsten AI-Vordenker Amerikas dort sich insofern einig waren als das einfach bei der Entwicklung neuster Frontiermodelle künftig.

00:02:18: mehr Vorsicht an den Tag gelegt werden soll.

00:02:20: Und das auf jeden Fall bei aller Komplexität so einer Entscheidung, insbesondere natürlich auch geopolitischer Überlegung aber erstmal die richtige Richtung.

00:02:30: insofern, genau fand ich es gut dass es dort Einigkeit zwischen denen rein zumindest mal auf X gab.

00:02:38: Gibt es eigentlich einen konkreten Anlass?

00:02:40: Vielleicht haben viele unserer Hörer auch mitbekommen.

00:02:42: Es gab den Vorfall, bei dem OpenAI-Agenten dein Testlauf eigenständig in fremde Systeme eingedrungen sind.

00:02:48: War das so der Auslöser oder gab's andere Auslöse und war es einfach generell eine Warnung?

00:02:53: Also es gab eigentlich in den letzten Monaten sehr viele Vorfälle die insgesamt das Thema zu einem bedeutenderen, viel zentraler Thema auch letzten Endes in den Medien gemacht haben.

00:03:08: Es gab beispielsweise ja den Vorfall bei dem Hugging Face gehackt wurde der relativ große weltweite ich sag mal auch Presse Bedeutung erlangt hat weil dort einfach mehrere hundert Agenten sich untereinander abgesprochen und koordiniert haben um eben an dieser Stelle aus einer Sicherheitssandbox bei OpenAI auszubrechen.

00:03:35: Mit damals noch nicht verheerenden Konsequenzen in Summe, aber eben schon mit dem aufgezeigten Ergebnis dass das was eben unter AI-Sicherheitsforschern vor vielen Jahren schon als eine sehr große Gefahr diskutiert wird, nämlich eben dass AI-Agenten sich der menschlichen Kontrolle entziehen könnten jetzt eben aus ich sag mal kühnen Zukunftsgedanken voll in der Realität gelandet ist.

00:04:03: Von dieser Art von Vorfällen gab es zuletzt eine ganze Reihe und deswegen schlagen eben auch die CEOs der AI Labs Alarm, die ja erst mal kommerziell nicht unbedingt ein Interesse haben gerade wenn man sein LPO vor den Augen hat Dort vor allen Dingen die Bremsat zu sein.

00:04:27: und auch das sollte uns an der Stelle zu denken geben.

00:04:30: Wenn wir schon bei der Investmentseite sind, weil es ganz gut passt in unserer letzten Folge Es gibt recht aktuell einen Reuters-Bericht Der hat schon die ersten Zahlen aus dem Börsen-Prospekt von Anthropic.

00:04:39: Darin steht, dass es im Jahr ist, rund vier Komma.

00:04:41: sechs Milliarden Dollar Umsatz Das war eine Verzwölffachung Operativ aber über acht Milliarden Dollar Verlust Vor allem natürlich wegen der teuren Rechenleistungen Die man bezahlen muss.

00:04:51: Trotzdem mal gefragt zum Geschäftsmodell.

00:04:53: Wenn jetzt ausgerechnet so ein Konzern wie Anthropic langsamer machen soll, macht es uns Lowdown dann im Geschäfts-Modell das komplett auf Wachstum gebaut ist nicht Probleme?

00:05:01: Es geht ja nur darum dass an der Frontier insgesamt Modelle vorsichtiger entwickelt werden.

00:05:09: die Modelle, die jetzt von Anthropic bereits veröffentlicht sind sind weiterhin so gut, dass auf Jahre noch erst mal damit zusätzliche Produktivität in der Wirtschaft realisiert werden könnte.

00:05:25: Das relevantere Thema ist aber natürlich gelingt es Antrophic weiterhin vor den Wettbewerbern zu bleiben und ein Vorsprung zu behalten.

00:05:36: Und deswegen appellieren sie ja auch an die Politik zu sagen Es bringt nichts wenn wir jetzt nur als Einzige sagen, hey wir verlangsamen jetzt unseren Fortschritt.

00:05:48: Weil dann wird anderswo eben mit gleicher Geschwindigkeit weiter geforscht und dann treten dort eben die Risiken auf und vielleicht bei Anbietern die weniger vorsichtig sind als wir.

00:06:01: Das ist ja so ein bisschen im Kern einer der Appelle warum an Toffik insbesondere aber auch andere Anbiter sich eben dafür aussprechen okay es muss zentrale regulierte Standards geben Und es soll eben einfach auch unabhängige Institutionen geben, die die Einhaltung dieser Standards überwachen.

00:06:22: Das heißt so ein Slow-Down in Anführungszeichen würde jetzt für die Bewertungen und Gewinnossichten der Branche keine Änderung mit sich bringen?

00:06:30: Also ich würde nicht sagen das ist keine Änderung mit uns als langfristigen Investoren bringt.

00:06:36: Es ist aber viel lieber wenn die Branche weiterhin inordentlicher Geschwindigkeit weiterforscht, aber eben nicht in katastrophaler Geschwindigkeiten.

00:06:46: Wir wollen nicht dass es hier den großen ich sage man sich überschlagenen Crash gibt.

00:06:52: wenn du irgendwo mit einem Auto ich sag mal zügig ankommen willst dann ist das meistens besser als wenn du versuchst maximale geschwindigkeit in jeder Kurve zu nehmen weil irgendwann wirst du rausfliegen und er das Am Ende aus unserer Sicht bei einem so entscheidenden Thema wie Eisicherheit definitiv der richtige Weg nach vorne und auch aus einer Investmentsicht, der richtige weg nach vorne.

00:07:19: Lieber kontrolliertes Wachstum mit soweit möglich eben stattfindenden Sicherheitskontrollen als unkontroliertes Vorpreschen und dann eben katastrophale Ausfälle die dann natürlich wiederum nach noch viel drastischeren Maßnahmen rufen.

00:07:36: Insofern wir auch aus Investoren Sicht begrüßendes, das ist weltweit natürlich ein sehr sehr umstrittenes Thema gibt es natürlich auch vielfältigste andere Meinungen dazu.

00:07:47: Es wird natürlich auch Vielfach an Trophic unterstellt Das tun die nur aus eigen geschäftlichen Interessen.

00:07:53: Das sehen wir aber überhaupt nicht so.

00:07:55: Wer sich einmal mit dieser Organisation Auch Mit den Leuten dort auseinander gesetzt hat der weiß für Die Ist dass Thema AI Sicherheit eines der zentralen Themen, was dieses Unternehmen auch in der Mischen zusammenhält und was dafür sorgt dass Entrophic beispielsweise von all den Frontier Labs die wenigsten Personalabgänge hat weil es eben schon ein recht missions orientiertes Unternehmen in dieser Hinsicht ist.

00:08:22: Du sagst es gerade, es gibt einige Kritiker die sagen gut.

00:08:26: Die Modelle haben so einen großen Vorsprung mittlerweile.

00:08:28: wenn man jetzt auf die Bremse tritt dann sind vor allem die kleinen Herausforderer, die hier darunter leiden und die Macht der Großen wird quasi zementiert.

00:08:35: Sind also diese Kleinanbieter die Verlierer von so einer Entwicklung?

00:08:37: Kann man das einteilen um Gewinner und Verlieren?

00:08:39: Es ist schwierig das so sehr in schwarz oder weiß an der Stelle einzuteilen weil wenn du jetzt sagst okay du machst genau an der Frontier also dort wo du ganz vorne bist in der Forschung bist du, agierst du vorsichtiger.

00:08:55: Dann heißt es nicht dass jemand der jetzt den weit hinterher hängt seine Forschung nicht mehr weiter treiben kann.

00:09:02: Es ist glaube ich vor allen Dingen so das es darum geht dass die führenden Anbieter selber und die dies werden könnten an der Stelle gemeinsam sich ähnlichen Sicherheitsstandards unterlegen beispielsweise ähnlich sich... und darum geht es ja hoch qualifizierten Evaluatoren aussetzen, die eben beurteilen ob Modelle sicher genug sind er veröffentlicht zu werden.

00:09:28: Unsere These ist übrigens dass in Zukunft Modelle natürlich weiter entwickelt werden auch aus sicherheitspolitischen Interessen der USA das aber durchaus sein könnte dass diese modelle dann nicht immer oder nur mit großem Abstand der Öffentlichkeit zugänglich gemacht werden.

00:09:48: Und das ist natürlich aber auch aus einer europäischen Perspektive potenziell problematisch, wenn wir keine eigenen Modelle haben die an der Frontier mitspielen oder nicht nahe genug dran sind und dann wiederum von diesem Zugang abgeschnitten sind.

00:10:04: Also es ist insgesamt ein hochkomplexes Thema aus deutscher und europäischer Perspektive viel mehr aufmerksam verdient, sowohl eben von politischer Seite als auch von medialer Seite.

00:10:21: Und das ist aus unserer Sicht ein Thema was natürlich auch jeden Anleger aber auch dazu werden wir in den nächsten Jahren kaum jeden Bürger als solches sehr mit beeinflusst.

00:10:31: Deswegen denken wir es jetzt ein wichtiger Zeitpunkt eigentlich für alle sich damit auseinanderzusetzen zu informieren und dort dann vernünftige Positionen einzunehmen

00:10:40: Aus Investoren sich nochmal ich unterstelle dir jetzt mal ohne es natürlich konkret zu wissen, dass wenn du in der Entwicklung siehst oder hörst das du gleich drüber nachdenkst gibt's Unternehmen die davon profitieren können.

00:10:49: Gibt's denn Unternehmen die von diesen Slowdown auch wirklich als Profiteur hervorgehen können?

00:10:53: Natürlich ist es so daß Ich mich Natürlich mit den Chancen von A.I.

00:10:58: auseinandersetzen, aber auch mit den Risiken und das natürlich nicht nur im Rahmen der Stiftung sondern auch mit dem Risiken aus einer Investmentsicht Und dieses Nachdenken führt natürlich immer wieder zu Gedanken die dann auch den Weg ins Portfolio finden können.

00:11:16: Jetzt ist es klar dass ich sage mal bei all den Sicherheitsbedenken Die gerade herrschen natürlich Cyber Security Unternehmen erstmal gute geschäftsaussichten vor sich haben.

00:11:29: und dann ist natürlich viel mehr eine frage dessen bei welchen unternehmen er ist eben noch angesichts insgesamt sportlicher bewertungen der branche luft nach oben.

00:11:42: wo werden die zahlen noch unterschätzt?

00:11:44: welche dieser unternehmen würden auch in dem falle das dann etwas passiert?

00:11:49: und es werden Leider sicherlich in den nächsten Jahren noch deutlich größere Sicherheitsvorfälle auf uns zukommen, selbst wenn möglichst vorsichtig weitergeforscht wird.

00:12:00: Wo ist vielleicht genau dann wiederum eine Opportunity?

00:12:03: Also natürlich, ich sag mal Risiken die sich dann in Kursen niederschlagen von Unternehmen, die mal betroffen werden können.

00:12:11: Natürlich auch dann wieder eine Anlage-Opportunität darstellen.

00:12:16: am Ende.

00:12:17: Ich sage mal ist AI eine extrem mächtige Technologie mit sehr großen Chancen für die Menschheit, auch mit sehr grossen Chancsen natürlich.

00:12:28: Für Unternehmen dadurch deutlich produktiver zu werden aber eben auch mit großen Risiken und je besser das gemanagt wird von den betroffenen Unternehmen aber auch von Regulierungen von Regulatorn und der Gesellschaft umso besser.

00:12:45: letzten Endes auch wiederum aus Sicht der Anleger

00:12:49: Erinnert sich ein bisschen an die Bitcoin-Entwicklung.

00:12:53: Firmen gerufen wir wollen Regulierungen und haben die quasi vorangetrieben, obwohl ja viele Nutzer immer froh waren das es keine Regulierung gab.

00:12:59: Aber Investoren haben ja quasi immer darauf gewartet dass es klare Regeln gibt an denen Unternehmen sich eben auch entlang hangeln können.

00:13:05: Letzte Frage noch zum Westman-Seite bevor wir danach auf die Stiftung zu sprechen kommen.

00:13:08: Wir haben jetzt bei den Börsengänger gesehen, dass OpenAI schon verschoben hat mindestens aus dem nächsten Jahr und jetzt eben auch Anthropic ein paar Wochen verschoben hatte.

00:13:17: schließen sich diese Sachen Sicherheit und Börsenpläne gerade so ein bisschen?

00:13:22: Also ich würde nicht sagen, dass sie sich ausschließen.

00:13:24: Das definitiv nicht weil am Ende es ist extrem wichtig das diese Unternehmen AI sicher entwickeln mit oder ohne Bursengang.

00:13:36: also ich sage mal Risiken gibt es für diese Unternehmen wenn Sie unsicherere AI entwickeln sowohl mit Börsenlisting oder auch wenn sie weiterhin privat sind.

00:13:47: Es kann aber IPOs an der Stelle komplexer machen, weil man natürlich viel mehr an der stelle disclosen muss.

00:13:54: diese ich sag mal dieses Disclosen.

00:13:57: was das stattfindet ist es nur die Unternehmen aufschreiben.

00:13:59: ja es könnte beispielsweise sein dass wir verklagt werden wenn unsere AI irgendwelche Vorfälle nach sich zieht die irgendwo unternehmen oder Menschen schaden.

00:14:10: Es sind alles Disclosure-Practices, die ganz typisch sind für IPOs.

00:14:15: Aber je mehr und je relevantere und größere Risiken man natürlich in seine Prospekte schreiben muss das kann dann auch die Börsenbewertungen und den Appetit der Investoren deutlich verringern.

00:14:28: hier gehen wir davon aus dass weiterhin Börsengänger möglich sind aber dass sie eben mehr Zeit erfordern und es ist natürlich auch durchaus valuation Abschläge an der Stelle geben kann.

00:14:40: Also jetzt haben wir viel über Risiken gesprochen und genau in der Phase, wo sehr viel über Riesigen gesprochen wird.

00:14:44: Habt ihr was angekündigt?

00:14:47: Du stellst fünfzig Millionen Euro bereit um diese Risiken zu begrenzen.

00:14:50: das Ganze läuft eben über die Stiftung.

00:14:53: Und damit sind wir jetzt wieder bei Lisa.

00:14:55: Lisa du leidest ja die Global Technology Risk Foundation kurz GTR Foundation.

00:15:00: Vielleicht kannst du uns mal ganz kurz bevor wir tiefer einsteigen vorstellen Was macht die Stifte denn genau?

00:15:05: Ja sehr gerne.

00:15:06: Wir suchen letztendlich besondere Talente und junge Organisationen, die sich im Bereich AI-Safety engagieren.

00:15:14: Und wir starten sie dann aus zum einen mit Kapital aber wenn Bedarf ist auch mit Support darüber hinaus wie beispielsweise Netzwerk oder Operation

00:15:23: Support.".

00:15:23: Jetzt ist das Thema Risiken ja sehr aktuell.

00:15:25: Aber die Stiftung gibt es euch schon seit ein paar Jahren?

00:15:28: Wie kamen Sie denn dazu schon so früh über das Thema nachzudenken um eine Stiftungen zu

00:15:31: gründen?".

00:15:32: Also ich hatte schon vor, ich sag mal irgendwann wahrscheinlich so frühe zwei tausend Zehner den Gedanken oder die Sorge dass wenn Technologie immer mächtiger wird und das war ja meine Grundthese auch als Unternehmer und als Investor dann wird es leider irgendwann auch dazu kommen.

00:15:50: Dass diese Technologie Risiken mit sich bringt, die immer größer und dadurch auch immer möglicherweise katastrophaler bis hin zu Existenz bedrohend für die Menschheit werden können.

00:16:04: Und der Gedanke war dass das aber etwas ist was noch sehr lange braucht bis wir in diesen Größenordnungen angekommen sind nennen ins Werte existenzielle Gefahrendassen.

00:16:17: Das war eher so ein Gedanke, okay wenn ich mal sechzig bin oder so irgendwann dann werde ich mich diesen Gefahren wahrscheinlich widmen im Rahmen meines sozial- unternehmerischen Engagements und im Rahmen vom Spenden oder was auch immer, ich sag mal, ich dort für richtig halte.

00:16:33: Und da muss man aber sagen dieser Grundgedanke hat mich weiter verfolgt und hatte mich auch mit Lisa dazu häufiger einmal ausgetauscht.

00:16:39: und am Ende muss man dann sagen nach dem GPD ... zwanzig-zweiundzwanzig gelauncht ist, was wir auch auf Bittsicht zum Anlass genommen haben zu sagen okay das ist mit Abstand die wichtigste Technologie der kommenden Dekaden und eine riesen Opportunity für die Menschheit aber auch für Restaurant wird jetzt wahrscheinlich auch viel schneller zu einem relevanten katastrophalen Risiko.

00:17:04: Und dann haben wir eben deshalb, ich sag mal, zwanztwanzig noch angefangen, aber am Ende dreiundzwantzig die Stiftung gegründet und mit der Stiftung AI-Safetyorganisation und Forscher unterstützt, die beispielsweise technische Lösungen entwickeln oder die versuchen an dieser Stelle Aufklärungsarbeit zu leisten.

00:17:28: Die versuchen Mittelmächte von AI dazu zu bewegen gemeinsam mit einer guten starken Stimme aufzutreten.

00:17:38: Und nachdem wir das in den letzten Jahren... Vor allen Dingen ich wird Engagement, aber natürlich auch mit noch angezogenen Handbremsen.

00:17:46: Wir auch dachten okay es ist noch weiter Zeit steht haben wir jetzt gesagt ok aktuell sind wir auf einem Level an Risiken angekommen und das wird in den nächsten Jahren noch massiv einsteigen dass wir eben mehr tun wollen und deswegen eben das Announcement dass ich in den nächsten Jahren, ne?

00:18:05: Fünfzig Millionen bereitstellen werde dafür.

00:18:07: Und da um das korrekt darzustellen ein Teil davon werden Spenden sein also einfach Zuwendungen an Forscher und Organisationen die selber gemeinnützig agieren.

00:18:19: Das kommt dann aus der GTA Foundation und der Rest kommt aus meinen privaten Investment-Töpfen also quasi aus meinem Family Office, aus meinem eigenen privaten Geld.

00:18:30: nichts davon kommt natürlich aus irgendwelchen Bit Capital Geldern oder so.

00:18:34: das sind natürlich komplett unterschiedliche und getrennte Töpfe an der Stelle.

00:18:40: Aus einer Bit Capital Anlegersicht bringt es aus meiner Sicht aber zumindest den Vorteil.

00:18:44: ich glaube an diesen AI-Risiken dran zu sein und dadurch natürlich auch nahe an AI Forschung und an den Labs dran zu seien, ist natürlich etwas was uns auch wiederum weiterhelfen kann die richtigen Entscheidungen zu treffen sowohl eben aus einer Chancensicht als auch im Risikomanagement unserer Fonds.

00:19:06: Also

00:19:06: Jan jetzt haben wir über das ganze Geld gesprochen wie das zustande kommt wo es herkommt das Geld besser gesagt?

00:19:11: Was sind denn so konkrete Beispiele?

00:19:14: Also wir waren beispielsweise, ich glaube die ersten Förderer von Apollo Research.

00:19:20: Das sind jetzt weltweit die Nummer eins Experten was eigentlich Deception angeht das heißt quasi der Versuch von AI Modellen eigentlich etwas zu tun was vielleicht wir als Menschen nicht wollen.

00:19:36: also genau das große AI Alignment Thema um dass es geht Da waren wir eigentlich die ersten Geldgeber und haben sie dann auch später weiter supportet, beabsichtigen das in Zukunft noch in größerem Umfang zu tun.

00:19:52: Wir haben Kira als erste Geldgebersupported.

00:19:58: Das ist ein sehr wichtiger Sink Tank in Europa geworden.

00:20:02: Wir hatten eine AI Whistleblower Initiative mit supported SaveAI Germany Auch eine Reihe von internationalen Organisationen, die sich beispielsweise darum kümmern.

00:20:15: Dass AI auch in anderen Geografien wie China eben besonders sicher gemacht wird und dass dort ein Verständnis dafür herrscht.

00:20:27: Man muss dazu sagen, AI Safety ist in Amerika ein viel größeres Thema als in jedem anderen Land.

00:20:35: Es gibt dort auch viel mehr Geldgeber.

00:20:37: Viele andere Organisationen scheuen sich einmal auch amerikanisches Geld anzunehmen, um quasi nicht die Sicht im Vorwurf von Beeinflussungen dort auszusetzen.

00:20:47: Und da kann dann quasi eine europäische Spender-Identität wie wir sie haben, die jetzt kein spezielles ich sag mal amerikanes oder anderes Interesse hegt eigentlich außer AI hier sicher zu machen.

00:21:03: Auch...

00:21:03: von Vorteil sein, dass wir manchmal Projekte supporten können die eben anderes Geld nicht annehmen dürfen.

00:21:09: Und darüber hinaus investieren wir eben auch in Fonds beispielsweise die sich dem Ganzen mit einer VC Perspektive dem Thema AI Safety annehmen das dann einfach ein Investment meines Family Erfaces ist an der Stelle dann einfach eine Impact Investment, wo eben jetzt, ich sag mal nicht primär die Rendite im Vordergrund steht.

00:21:33: Wo es aber natürlich trotzdem schön ist wenn hinten eine gute Rendite dabei herauskommt.

00:21:38: und insgesamt glauben wir das ist jetzt an der Zeit.

00:21:42: das Thema

00:21:43: was

00:21:44: gerade beginnt sich zu entfalten wird in den nächsten Jahren einen riesigen Raum einnehmen und deswegen ist es wichtig dass eben viel mehr Talente sich diesem Thema widmen können.

00:21:55: Es ist ein großes gesellschaftliches Problem, das wir losen müssen und da muss jetzt mehr rein an Ressourcen an Knowledge und vor allem müssten die schlausten Leute daran arbeiten können nicht abgelenkt werden beispielsweise durch Schwierigkeiten im Fundraising.

00:22:11: Dann schauen wir doch mal auf den Prozess, Lisa.

00:22:13: Was ist denn das Wichtige bei der Auswahl von den Talenten und was brauchen diese Talente dann wirklich am meisten?

00:22:19: Ist es das Geld oder ist es auch Expertise und Netzwerk?

00:22:22: Genau also grundsätzlich sind wir offen für alle Hintergründe.

00:22:27: insbesondere sind wir aber auch interessiert an schon erfahrenen Leuten, das heißt nicht nur junge Forscher sondern auch Leute die einfach ein Karrierewechsel anstreben.

00:22:37: Also am wichtigsten sind eigentlich drei Punkte.

00:22:39: Das eine ist dass wir Leute suchen, die verstehen was dafür eine Transformation durch KI auf uns zukommt.

00:22:47: Dann haben wir den Punkt, dass die Leute wirklich sehr impactfokussiert arbeiten müssen und angetrieben sind davon Veränderungen hervorrufen zu wollen.

00:22:57: Der dritte Punkt ist Wir suchen besondere Talente mit viel Potenzial das heißt einfach smarte leute Die viel bewegen und die extrem motiviert sind in Bezug auf dem Prozess oder was die leute am meisten ja gebrauchen können.

00:23:13: bei uns ist es in der regel erstmal funding.

00:23:16: das ist so der kern den sie brauchen und darüber hinaus ist in der regel auch netzwerk sehr hilfreich sowohl international aber auch auf deutscher Ebene.

00:23:27: Und zum teil operational support.

00:23:30: das ist aber meist nur temporär.

00:23:32: Ja,

00:23:33: ich sag mal am Ende muss man das so sehen.

00:23:36: Eigentlich auch wie guckt man auf ein Start-up Investment drauf?

00:23:41: Ganz am Anfang geht es vor allen Dingen um das Team und insofern wenn's dort hoch überzeugende Top Leute gibt an die wir glauben würden irgendwo als Unternehmer, die sich aber dieser Mission verschrieben haben dann ist die Wahrscheinlichkeit sehr gut dass wir die auch supporten werden, weil wir denken.

00:24:00: Die Zeit ist einfach extrem dringend gerade und deswegen werden wir dort lieber ein Investment zu viel machen als eins zu wenig.

00:24:11: aus der Impact als auch aus der Reihen Spenden Sicht das ganze gedacht aber immer natürlich mit dem Ziel das Geld insgesamt möglichst sinnvoll zu platzieren und das heißt natürlich ja einfach die Top-Talente zu finden über unser Netzwerk.

00:24:32: und dann ist es in der Regel, einfach die Aufgabe von Lisa und dem Team dort zu selektieren.

00:24:37: Und bisher muss man sagen, wenn man durchguckt wie haben wir's verportet?

00:24:42: Welchen Impact haben sie gemacht in den letzten Jahren?

00:24:44: Dann waren das extrem gute Investments weil in den Letzten Jahren war uns eher noch ich sag mal überschaubere Summen die wir insgesamt dort investiert haben.

00:24:54: Also jetzt, ich sag mal bis heute ungefähr ein mittlerer siebenstelliger Betrag und das wollen wir jetzt eben dann noch deutlich beschleunigen weil ich glaube die nächsten zwei drei vier Jahre werden ziemlich entscheidend sein bei dem Thema.

00:25:08: Wie ist der ganze Ablauf noch vielleicht?

00:25:10: Ist es ein Standardprogramm mit festen Vorgaben oder ist es sehr individuell?

00:25:14: also wie läuft er erste Kontakt?

00:25:15: kann man sich auch bei euch melden oder wählt ihr nur aus?

00:25:18: geht's nur von einer Seite?

00:25:19: wie?

00:25:19: wie läuft es so?

00:25:20: Am besten?

00:25:21: meldet man sich bei Lisa oder beim weiteren Team.

00:25:27: Schaut sich unsere Webseite genau an und lässt sich dann quasi über das Netzwerk dort eine gute Introduction geben, die möglichst qualifiziert uns weiterhilft kann aber auch einfach sich auf der Webseiten

00:25:39: bewerben.

00:25:40: Wenn ihr jetzt in so fünf Jahren zurückblickt wann war die Stiftung besonders erfolgreich?

00:25:44: reicht schon wenn nichts passiert ist alles gut gewesen?

00:25:46: Also wenn nix passiert ist, was irgendwie katastrophale Risiken sind und werden wir sehr sehr sehr happy.

00:25:54: Ich

00:25:55: glaube es ist schwer vorstellbar dass nichts passiert.

00:25:57: insofern hoffen wir einfach das möglichst wenig schwerwiegendes passiert.

00:26:03: dann sind wir sehr happy.

00:26:04: und darüber hinaus geht's natürlich vor allen Dingen auch darum zu messen welchen Impact haben die von uns unterstützten Teams erzielt, wie wichtig konnten sie eine Rolle spielen bei technischen Breakthroughs?

00:26:19: Bei technischen Leistungen aber vielleicht auch einfach bei gesellschaftlichen Diskussionen, die Sie angeregt haben.

00:26:25: Es gibt glaube ich viele Wege das am Ende zu evaluieren.

00:26:30: Aber ja wir würden uns sehr wünschen – das ist natürlich das Paradoxe an AI-Safety – dass wenn alles geklappt hat und Nichts passiert ist, nichts Größertiges kann man sich fragen ob es überhaupt nötig war.

00:26:46: Aber das ist uns an der Stelle auch recht weil wir einfach davon überzeugt sind.

00:26:50: Das ist ein extrem wichtiges Thema wo tatsächlich reale große Risiken auf den zukommen und deswegen gehen wir da mit voller Überzeugung ran dass dieses Thema jetzt unserer Aufmerksamkeit an der stelle auch bedarf.

00:27:05: Da geht dann wieder der Spruch, den man häufiger schon gehört hat.

00:27:08: There's no glory in prevention weil am Ende kann ich immer sagen muss das überhaupt sein oder muss es nicht sein aber ein wichtiges Feld auf jeden Fall.

00:27:15: Jan, aber gibt es denn irgendwas was ihr euch jetzt noch besonders wünscht aus?

00:27:19: natürlich die richtigen Talente zu finden für die Stiftung?

00:27:22: Also ich glaube das Wichtigste ist dass sich die richtige Talente mit AI-Safety befassen.

00:27:27: Darüber hinaus ist es auch sehr willkommen wenn sich dort andere Stifter und andere Macher engagieren wollen.

00:27:35: Die sollen sich auch sehr gerne bei uns melden, wir werden zu dem Thema in den nächsten Wochen und Monaten nochmal ein Dinner- und Event auf die Beine stellen um dort die Szene zumindest mal die deutsche Szene für Weitart zu vernetzen.

00:27:52: Und natürlich auch noch einen Aufruf ich glaube... Auch in den Medien und in der Politik ist das Thema noch nicht genügend angekommen.

00:28:01: Das heißt jetzt ist eigentlich die Zeit, wo sich damit jeder einmal tiefgreifend informieren möchte.

00:28:07: Wo kann man das tun?

00:28:08: Fängt man beispielsweise natürlich mal an bei dem Post, den Dario Amodei da vor zwei Wochen eben zu gemacht hat könnte ein guter Startbasis in der Stelle sein.

00:28:19: Und wer dann tiefere Infos möchte zu eurer Stiftung, der findet die Webseite in der Folgenbeschreibung.

00:28:23: Da kann man auch mal vertieft Informationen zur Stiftungen finden.

00:28:27: Dann vielen Dank Jan und Lisa für ihre Einschätzungen!

00:28:29: Wir müssen es kurz erklären bei Lisa in den Nähe bei den Nachbarn.

00:28:32: offenbar waren Handwerker, die wir nicht wegschicken konnten und deswegen konnten wir leider die lauten Geräusche nicht unterbinden und wir konnten sie nicht so viel fragen wie wir wollten.

00:28:40: Wir werden das aber bei einem Update dass bestimmt folgend wird nachholen und da gibt's auch mehr Ausführungen von Lisa.

00:28:45: trotzdem natürlich vielen dank euch beiden

00:28:47: gerne.

00:28:48: Ja, liebe Hörer habt ihr Anmerkungen oder Feedback?

00:28:50: Oder auch Fragen die wir hier im Podcast mal beantworten sollen.

00:28:53: Dann lasst doch gerne einen Kommentar da bei Spotify einfach unter die aktuelle Folge und wenn Ihr schon da seid dann bewertet uns auch gerne mit fünf Sternen beim Podcast Anbieter eurer Wahl.

00:29:01: das hilft uns nämlich sehr!

00:29:03: Vielen Dank fürs Zuhören bis zum nächsten Mal tschüss.