Die letzte Million!

[MaxMueller]

Ja, das (fast) eigenständige Aufgabenlösen glaub ich dir gerne. Aber wie sieht es mit der interdisziplinären Koordination aus (Angebotserstellung, Kundenkommunikation, Rechnungsstellung, Buchhaltung, Steuern)? Das wird ja vermutlich noch menschlich koordiniert oder?

Aber ich stimme dir zu, weit entfernt ist das alles nicht mehr, höchstens noch eine Frage der Zeit....

[Lakai01]

Ja, das (fast) eigenständige Aufgabenlösen glaub ich dir gerne. Aber wie sieht es mit der interdisziplinären Koordination aus (Angebotserstellung, Kundenkommunikation, Rechnungsstellung, Buchhaltung, Steuern)? Das wird ja vermutlich noch menschlich koordiniert oder?

Aber ich stimme dir zu, weit entfernt ist das alles nicht mehr, höchstens noch eine Frage der Zeit....

So weit bin ich noch nicht, derzeit wird das Produkt entwickelt. Aber bei allem was ich bisher gesehen habe, sollte das alles kein Problem darstellen. Die Kundenkommunikation erfolgt ja jetzt bei vielen Systemen schon vollautomatisch, da kommt man erst im zweiten oder dritten Support-Level zu einem echten Mitarbeiter. Hier hat bspw. eine große österreichische Firma vor nicht allzu langer Zeit erst eine 4-stellige Anzahl an Mitarbeiter entlassen, da diese bspw. im Support nicht mehr benötigt werden.

Wir sind hier maximal 1-2 Jahre weg von vollautonomen Firmen, da bin ich mir fast sicher.

[MinoRaiola]

Wir sind hier maximal 1-2 Jahre weg von vollautonomen Firmen, da bin ich mir fast sicher.

Zu 100% vollständig Autonom wird wohl an rechtlichen Grenzen Scheitern. Also die gesetzlichen Vorschriften für Banken, Finanzämter und Gesetze benötigen zwingend eine haftbare natürliche Person. Der Rest wird in gewissen Bereichen vollautonom bestimmt möglich sein. Ich vermute mal es werden Taxiunternehmen und evtl. auch Lieferdienste sein. Ein Anruf oder eine Nachricht wird heute schon von KI übernommen, das Fahren eines Autos funktioniert auch schon und das Zubereiten einer Pizza + Lieferung, ich glaube das gibt es aktuell auch schon... eher in Fernost. Also China, Japan und Co. werden mit Sicherheit vor Europa so weit sein. Für Europa würde ich mind. nochmal 1-2 Jahre dazurechnen, oder evtl. sogar noch mehr. Also KI-Agenten mit Wallets werden wohl vorab "verifiziert" werden müssen, damit man sie für Krypto-Zahlungen auf die Reise schickt. Wenn


Es sind aktuell noch etwa 650 Tage bis zum nächsten Bitcoin Halving (April 2028).
Stand heute werden ca. 144 Blöcke × 3,125 BTC = 450 BTC erzeugt. Danach sind es nur noch 225 Bitcoins pro Tag.

[Lakai01]

Wir sind hier maximal 1-2 Jahre weg von vollautonomen Firmen, da bin ich mir fast sicher.

Zu 100% vollständig Autonom wird wohl an rechtlichen Grenzen Scheitern. Also die gesetzlichen Vorschriften für Banken, Finanzämter und Gesetze benötigen zwingend eine haftbare natürliche Person. Der Rest wird in gewissen Bereichen vollautonom bestimmt möglich sein. Ich vermute mal es werden Taxiunternehmen und evtl. auch Lieferdienste sein. Ein Anruf oder eine Nachricht wird heute schon von KI übernommen, das Fahren eines Autos funktioniert auch schon und das Zubereiten einer Pizza + Lieferung, ich glaube das gibt es aktuell auch schon... eher in Fernost. Also China, Japan und Co. werden mit Sicherheit vor Europa so weit sein. Für Europa würde ich mind. nochmal 1-2 Jahre dazurechnen, oder evtl. sogar noch mehr. Also KI-Agenten mit Wallets werden wohl vorab "verifiziert" werden müssen, damit man sie für Krypto-Zahlungen auf die Reise schickt. Wenn

Derzeit ist die Haftung ganz einfach geregelt: Der Benutzer der Agenten (in meinem Fall also ich) haftet, sowohl für Schäden, die die Agenten anrichten, als auch für potenzielle Strafdaten. Die Frage ist natürlich was passiert, wenn man sich illegal Zugang zu solchen Systemen verschafft, bspw. unter einer falschen Identifikation. Das ist vermutlich der gleiche Fall, als wenn mir jetzt jemand mein Mailkonto hacked und unter meinem Namen etwas anstellt damit. Da werden aber sicherlich die ersten Rechtssprechungen dazu sehr interessant sein.

Zum Fortschritt gebe ich dir da vollkommen recht, da wird Europa wohl zeitlich wieder stark hinterherhinken (im positiven wie im negativen Sinne). Autonome Taxis sind bspw. in San Francisco ganz normal, genauso wie Erstanamnese-Roboter in chinesischen Pilot-Krankenhäusern. Hier bei uns fehlt davon noch jede Spur.

[MaxMueller]

Naja, das ist bei uns vielleicht so geregelt, aber wir kommen da ganz schnell wieder in ein Durchsetzungsdefizit.

Server und LLMs kann man ja garantiert heute schon relativ einfach mit krypto einkaufen. Und wenn man dann den Harness irgendwo in Togo aufm server laufen lässt und dann die LLM-Abos mit BTC (am besten noch lightning) bezahlt, wie wollen dann bitte die europäischen Ermittlungsbehörden raus bekommen, dass nen hiesiger Staatsbürger die Fäden hält?

Und wo kein Verfolgungsrisiko existiert werden Gesetze wohl eher als unverbindliche Hinweise zur Kenntnis genommen... 

Denke übrigens das wird zunächst bei online-produkten einschlagen, Taxis und Pizzas sehe ich da durchaus noch später...

[Unknown01]

Ich hoffe eigentlich, dass es nie soweit kommen wird. Da gab es eine Folge bei Black Mirror, wo der Charakter irrtümlich festgenommen wird und anschließend nicht mehr freikommt, weil das KI-System versagt und kein Mensch mehr arbeitet. Solche Szenarien sind in allen Branchen möglich. Eine gänzliche Entfernung von Menschen sehe ich daher sehr kritisch.

[MinoRaiola]

Da gab es eine Folge bei Black Mirror, wo der Charakter irrtümlich festgenommen wird und anschließend nicht mehr freikommt, weil das KI-System versagt und kein Mensch mehr arbeitet.

Black Mirror sagt mir nichts, aber wenn das jemand schon so durchgespielt hat, dann gibt es eine theoretische Möglichkeit. Normalerweise sollten die Simpsons dazu auch schon etwas laufen haben, also eine "böse" KI die die Welt erobert (habe nicht danach gesucht).

Etwas vom Thema abgekommen, aber vielleicht wird diese Platform "außerhalb der Regulierungen" eine Chance haben und Transaktionen auf eigene Wallets anbieten/verarbeiten. Anonyme KI Dienstleistungen... liest sich jedenfalls interessant.

[Unknown01]

Da gab es eine Folge bei Black Mirror, wo der Charakter irrtümlich festgenommen wird und anschließend nicht mehr freikommt, weil das KI-System versagt und kein Mensch mehr arbeitet.

Black Mirror sagt mir nichts, aber wenn das jemand schon so durchgespielt hat, dann gibt es eine theoretische Möglichkeit. Normalerweise sollten die Simpsons dazu auch schon etwas laufen haben, also eine "böse" KI die die Welt erobert (habe nicht danach gesucht).

Etwas vom Thema abgekommen, aber vielleicht wird diese Platform "außerhalb der Regulierungen" eine Chance haben und Transaktionen auf eigene Wallets anbieten/verarbeiten. Anonyme KI Dienstleistungen... liest sich jedenfalls interessant.

Kommen jetzt etwas vom Thema ab aber die Serie ist sehr cool und würde ich weiterempfehlen (jede Folge ist voneinander unabhängig). Die Folgen sind teilweise älter aber man sieht schon parallelen zur aktuellen Entwicklung und irgendwie passt da Bitcoin auch ganz gut rein.

Was wäre eigentlich, wenn man irgendwann mittels KI Bitcoin-Verschlüsselung knacken könnte? Ist das vorstellbar?

[Lakai01]

Was wäre eigentlich, wenn man irgendwann mittels KI Bitcoin-Verschlüsselung knacken könnte? Ist das vorstellbar?

Die "Sicherheit" der Bitcoin-Verschlüsselung liegt in ihrer Komplexität. Es ist äußerst aufwendig - und mit derzeitigen technischen Mitteln schlicht nicht möglich - die Verschlüsselung zu knacken, daran ändert auch die KI nichts.

Was jedoch durchaus gefährlich sein kann ist, die Fähigkeit der KI, Schwachstellen in Software - wie eben der Verschlüsselung oder im Protokoll selbst - zu finden. Die neuesten Modelle von Antrophic haben bspw. in kürzester Zeit Sicherheitslücken in Software aufgedeckt, die bis dato als eines der sichersten Systeme der Welt gegolten hat. Findet ein Agent also so eine Lücke und nutzt diese aus, kann das also durchaus dazu führen, dass Leute ihre Coins verlieren. Das Ganze betrifft natürlich auch alle anderen Software-Komponenten die man rund um Crypto so einsetzt wie bspw. Ledger Live, Metamask und co. Auch diese Systeme könnten so Ziel eines Angriffs werden.

[MaxMueller]

Wenn man sich die Entwicklung bei deep fakes und voice cloning ansieht, dann würd es wohl nicht mehr lange dauern bis das in echtzeit möglich ist....

Person observieren (material sammeln) und dann nen social engineering Angriff auf unbedarfte Verwandte starten, dürfte ein Anwendungsfall sein der nicht nur bei BTC an bedeutung zunehmen wird.

Das sehe ich fast als noch größeres Risiko, da durch die Mitwirkung des Opfers sämliche technische Sicherheitsstrukturen umgangen werden können.

[Unknown01]

Die von euch aufgezählten Risiken sind tatsächlich real und werden wahrscheinlich auch vorkommen. Die Frage dich sich dabei stellt ist, welche Gegenmaßnahmen man setzen könnte? Mir fallen da nicht viele Möglichkeiten ein, außer das man auf alles verzichtet wie z.B. Hardware-Wallets oder den digitalen Aufenthalt auf ein Minimum zu reduzieren (was heutzutage sehr schwer ist).

[MaxMueller]

Persönliche Weiterbildung im Bereich Privatsphäre und IT-Sicherheit ist sicherlich nie verkehrt. Persönliche Verbindungen nicht für alle öffentlich einsehbar machen und nicht rumerzählen, dass man 100 BTC auf der Wallet hat war vorher schon wichtig und bekommt nun noch mehr Bedeutung. Einfach alles mögliche tun um es den Datenkraken so schwierig wie möglich zu machen diverse (Meta-)Informationen zu verknüpfen.
Ich merke bei mir eine Tendenz, wichtige Sachen wieder stärker persönlich (=face2face) besprechen zu wollen.

Selber mal bissl mit KI rumspielen um die Potentiale/Stärken/Schwächen besser zu verstehen und insgesamt sensibler für KI zu werden kann auch nicht schaden. Aber hier immer schön auf Anonymisierung achten (sonst liefert man freiwillig noch mehr Daten) und am besten europäische Modelle wie Mistral nutzen oder zumindest europäische Anbieter wie Mammouth.ai wo die Chatverläufe zumindest nicht fürs Training der nächsten Generationen von Modellen verwendet werden....

[Lakai01]

Die von euch aufgezählten Risiken sind tatsächlich real und werden wahrscheinlich auch vorkommen. Die Frage dich sich dabei stellt ist, welche Gegenmaßnahmen man setzen könnte? Mir fallen da nicht viele Möglichkeiten ein, außer das man auf alles verzichtet wie z.B. Hardware-Wallets oder den digitalen Aufenthalt auf ein Minimum zu reduzieren (was heutzutage sehr schwer ist).

Die einfachste Möglichkeit ist eine höhere Skepsis walten zu lassen und erst dann Zahlungen/... vorzunehmen, wenn der Sachverhalt zu 100% geklärt ist und du sicher bist, dass es sich um keinen Angriff handelt. Hier helfen bspw. schon persönliche Rückfragen, die höchstwahrscheinlich nur der Verwandte beantworten kann ("Wie gehts xyz mit dem Studium von ...?" - vor allem dann sinnvoll, wenn es die Person xyz nicht gibt ).

Wenn die Angriffe mehr werden wird es aber auch technische Mittel und Wege geben, dem entgegenzuwirken. Ähnlich der Spam-Telefonanrufe, die waren damals, als Festnetz noch stark verbreitet war, auch viel gängiger als heutzutage wo einfach das Smartphone die Anrufe gar nicht durchstellt.