AGI wird unser Untergang sein [Convince me otherwise]

Ich möchte diesen Beitrag mit der Bemerkung einleiten, dass ich kein direkter Gegner der KI bin. Ich glaube, dass sie uns bei unserem Fortschritt als Zivilisation helfen wird und dies bereits getan hat. Der anhaltende exponentielle Fortschritt hat mich jedoch dazu gebracht, mich zu fragen, welche negativen Auswirkungen diese Revolution mit sich bringen wird. Alans konservativer Countdown zur AGI hat vor kurzem 81% erreicht, nachdem OpenAIs neuestes o1-Modell veröffentlicht wurde, und obwohl ich glaube, dass dies "Countdown" ist zwar nicht mehr als eine fundierte, aber dennoch hoffnungsvolle Vermutung, wirft aber dennoch eine interessante Frage auf: Was passiert, wenn wir AGI erreichen?

Wie jeder andere, der mit der Technik Schritt hält, haben Sie wahrscheinlich gesehen unzählige Artikel über neue Fortschritte mit Modellen erreichen "Intelligenz auf Doktoratsniveau" und die Einführung fortgeschrittenerer Argumentation und Logik. Und obwohl das zunächst erstaunlich klingt, gibt es anhaltende Konsequenzen, die ich nicht ein einziges Mal diskutiert gesehen habe. Zum Beispiel:

Wirtschaft:

Die Automatisierung unzähliger Bereiche, was man als "weißer Kragen"ist unvermeidlich. Unser derzeitiges gesellschaftliches Konstrukt besteht darin, den Verbrauchern jeden Cent aus der Tasche zu ziehen. Und was wäre ein besserer Weg, dies zu erreichen, als die Belegschaft von 15-20 auf 2-3 zu reduzieren. Dies wird im Wesentlichen bei jedem Job passieren, der keine körperliche Arbeit erfordert, da echte AGI die Logik und Argumentation, die zur Erfüllung der Rolle erforderlich sind, nachahmen oder sogar verbessern kann. Dies wird zu einer Massenverdrängung der Belegschaft führen und die Menschen in arbeitsorientiertere Rollen zwingen. Dies wird jedoch nicht so einfach sein, wie es klingt. Die Migration zu arbeitsintensiveren Arbeiten wird den Wettbewerb in diesen Bereichen nur verschärfen und den Wert der von diesen Jobs geleisteten Arbeit verwässern. Wie werden wir mit dem dramatischen Anstieg des Wettbewerbs und der Arbeitslosigkeit umgehen, wenn wir schon in der heutigen Welt mit diesen Problemen zu kämpfen haben?

Innovation:

Es ist ein weit verbreitetes Gefühl, auf Errungenschaften menschlicher Innovation zurückzublicken und zu denken "Was haben wir falsch gemacht?"wenn man sie mit den "modern" Ästhetik, die wir angenommen haben, die nur als seelenlos beschrieben werden kann. Der einzige Grund, warum Menschen in der Lage sind, so zu denken, wie sie es getan haben, und das, was möglich ist, zu rekonstruieren, ist, dass sie keine andere Wahl hatten, als selbst denken. Ja, sie hatten Ressourcen, Mentoren usw., aber das half ihnen nur dabei, ihre eigene Denkweise zu entdecken. AGI wird die Notwendigkeit menschlicher Innovation und Kreativität ersetzen, da sie in der Lage sein wird, organische Ideen aus abstrakten Konzepten zu erschaffen, genau wie die größten menschlichen Köpfe. Was werden wir tun, wenn auch die Fähigkeit zu erforschen und zu entdecken automatisiert wird? Und ist es logisch zu sagen, dass der einzige Grund, warum wir es dorthin geschafft haben, wo wir heute sind, diese Gefühle des Staunens und der Neugier sind? Wie werden wir vorankommen, wenn uns die Ursachen für unseren Fortschritt genommen werden?

Zweck:

Leider muss ich diesen Beitrag mit einer düsteren Note beenden: Was wird unser Ziel sein, wenn unser gesamtes Leben automatisiert werden kann? Von den Inhalten, die wir konsumieren, den Entscheidungen, die wir treffen, der Arbeit, die wir machen usw., was wird dann der Grund sein, weiterzumachen? Es widert mich an, wenn ich Gespräche über den Einsatz von KI in Filmen und Kunst höre, denn die nur Der Grund, warum diese Dinge überhaupt schön sind, ist, dass sie die menschliche Erfahrung verkörpern. Die Emotionen, die Sie bei einem Gemälde empfinden können, oder die Empathie, die Sie für eine Figur in einem Film empfinden, entstammen der gemeinsamen Lebenserfahrung. Ohne diese Dinge konsumieren Sie nichts weiter als das Äquivalent von Schweinefraß für Ihr Gehirn. Es kann keine Verbindung hergestellt werden, weil sie, wie ich bereits bei der modernen Architektur erwähnte, seelenlos ist.

Viele Leute würden dies als "Untergangsstimmung" posten und dass dies Worst-Case-Szenarien sind, aber ich möchte, dass Sie realistisch und nicht hoffnungsvoll denken. Menschen sind gierig und machthungrig, und ich glaube, dass alle Posts, die eine utopische Zukunft beschreiben, einfach nur Heuchelei sind. Zu glauben, dass Menschen in der Lage sein werden, unsere gesellschaftlichen Normen zu entwurzeln und die Art und Weise, wie wir seit Jahrhunderten funktionieren, im gleichen Tempo wie der technologische Fortschritt umzustrukturieren, ist einfach unrealistisch. Obwohl ich wirklich auf das Beste hoffe, befürchte ich das Schlimmste.

Dennoch würde ich gerne gegensätzliche Ansichten zu den von mir angesprochenen Themen hören. Ich sage nicht, dass es genau so ablaufen wird, aber ich befürchte, dass genau das passieren wird.

BEARBEITEN:

Ich habe dies in einen meiner Antwortkommentare geschrieben, aber ich dachte, ich füge es auch hier hinzu.

Zu viele Leute haben den Eindruck, dass ich Panikmache mache. Dies sollte eine zivilisierte Diskussion darüber sein, wie sich AGI auf mögliche positive oder negative Weise auf uns auswirken könnte, und so kam es, dass ich die möglichen negativen Auswirkungen untersuchte. Ich bin auch mehr als offen dafür, positive Ansichten zu hören.