Die Künstliche Intelligenz stagniert und enttäuscht ihre Erfinder

Ich finde es schon erstaunlich wie weit man in vielen Fällen mit diesen Modellen kommt, obwohl klar ist das sie sehr stark limitiert sind. Aber natürlich hat man erstmal die bekannten Modelle immer größer gemacht als beobachtet wurde dass sie einfach immer besser werden je mehr Daten man reingibt. Aber auch das hat irgendwann ein Limit, und wenn es die Verfügbarkeit von GPUs ist oder von Trainingsmaterial mit guter Qualität.

Mal sehen was da als nächstes kommt, ich denke nicht das LLMs mit Transformer-Architektur alles sind was da rauskommen wird.

Das Problem ist doch, wie immer, dass alles übertrieben gehypt wird, und dann eine große Enttäuschung inszeniert wird, die ohne diesen Hype gar nicht existiert hätte.

Die aktuellen Versionen der LLMs können die meisten Leute in ihren Büro-Jobs unterstützen, und von hier an wird es nur noch besser.

Künstliche Intelligenz und ich haben viel gemeinsam

Das Problem ist denke ich eher, dass die gewaltigen Investitionen sich nur dann rentieren, wenn möglichst viele Use-cases für KI zeitnah realisiert werden können – da entsteht dann Druck für die Firmen, und man muss die Erwartungshaltung denke ich anpassen.

Was die KI-Modelle bisher können, ist trotzdem phänomenal.

Nur weil beim Endnutzer nicht direkt ersichtlich ist, was geschieht, heißt das noch lange nicht, dass wirklich nichts geschieht. Es gibt soviel Forschung zu KI wie nie zuvor und die Sprünge brauchen vllt länger, sind dafür aber höher. Es ist auch nicht nur die KI an sich. Es gibt gewisse Rahmenbedinungen, die stimmen müssen bzw. Strukturen, die erst geschaffen werden müssen. Die ignorante Achterbahnfahrt der Medien nervt einfach tierisch, weil sie nur die Extrema Hype und Downfall kennt.

Ach das kommt ja total unerwartet… Noch so ne 80% Lösung die nichts hält das vorher versprochen wurde…

No suprise. KI ist ein tolles Werkzeug, aber halt auch nicht mehr. Dieser ganze Techno-Bro Hype, der den neuen siliconbasierten Messias heraufbeschworen hat, war von Anfang an eher Schwachsinn. KI stellt in vieler lei Hinsicht eine Revolution dar, aber gerade keine so allumwälzende, wie immer prognostiziert wird.

Die Realität ist, dass der große Durchbruch, den wir jetzt gesehen haben, ist, dass wir endlich die Technologien haben die Theorien, die seit den 70erb herumwabern, umzusetzen. Aber diese Theorien waren noch nie in der Lage diese Ersetzung menschlicher Fähigkeiten zu schaffen, wie behauptet wird. Sie können stochastisch vorhersagen, welche Worte aneinander gereiht werden müssen, um korrekt zu klingen, können aber kein Verständnis erzeugen, um zu sehen, ob das auch richtig ist.

Irgendwo habe ich zum Thema KI vor einigen Wochen einen interessanten Vergleich gelesen: Für das Aufsetzen eines juristischen Vertrags kann man super eine KI hernehmen. Aber den dann zu unterschreiben, ohne nochmal einen Juristen drüber schauen zu lassen? Lieber nicht.

KIs eignen sich wirklich wunderbar dafür 90-95% der Arbeit zu machen, aber es ist offenbar verdammt schwierig, die restlichen 5% zu trainieren, damit das Ergebnis perfekt ist. Und das ist das Problem.

Ich warte auf Skynet….

Ja dann sollten wir dringend noch mehr Billionen Venture Capital reinstecken und noch mehr möglichst schmutzig produzierte Energie verschwenden.

Dass in der Tech-Branche so viel Geld fließt, weil niemand den nächsten Boom verschlafen will, befeuert die Bullshitmaschinerie. Nachdem Crypto allmählich als Spekulationsobjekt (oder Geldwäscheinstrument) verstanden wird und nicht mehr die weltweite Neuordnung der Finanzmärkte verspricht, muss KI als Heilsbringer herhalten. KI ist nicht einfach nur ein Werkzeug, das wie alle Werkzeuge in spezifischen Situationen mit korrekter Anwendung Arbeit erleichtern und teils übernehmen kann, sondern eben Alles. KI kann Alles. In zehn Jahren *macht* KI Alles. Während wir in selbstfahrenden Autos sitzen, die mit Wunderakkus laufen.

Ich wette schon mal 10 Hawk Tuah Coins, dass danach der Quantentencomputer Müllhalde für die durch zu niedrige Besteuerung überflüssigen Milliarden der obszön Reichen herhalten wird, also jetzt schon mal ein Start Up gründen, das nicht weniger verspricht, als eine Weltrevolution. Mit genug FOMO und etwas Glück kannst auch du das nächste Tech-Genie sein, das sich später ganz sicher nicht als Scharlatan herausstellt.

Ich hör nur “mimimimimi”

Menschen sind seltsam.
Noch vor fünf Jahren hielten die meisten Menschen sowas für völlig unvorstellbar:

https://www.br.de/nachrichten/netzwelt/ki-essays-an-uni-unerkannt-und-gute-noten,UVsyeIP

Jetzt wo es da ist, behaupten dieselben Menschen, das sei nichts besonderes und es sei enttäuschend, dass man nicht schon viel weiter ist.

Es gibt in der Entwicklung von künstlicher Intelligenz 2 bekannte Plateaus, bestehend aus fehlenden Investitionen oder fehlender Fortschritt. Die Investitionen sind da, aber der Fortschritt fehlt in der Dimension die durch die Investitionen erwartet werden. Das wird mit Sicherheit noch einige Jahre dauern, bis dieses Plateau überwunden ist.

War abzusehen, LLMs sind nur so gut wie die Daten die sie bekommen. Irgendwann sind die Daten halt aufgebraucht.

Dazu kommt natürlich, dass LLMs gar nicht damit klar kommen, etwas nicht zu wissen und lieber scheiße labern als das zuzugeben (weil die Trainingsdaten halt kein “weiß ich nicht” beinhalten)

ChatGPT ist ein gutes Upgrade für Suchmaschinen. Der Rest ist halt nur Hype …