Trotz ihrer beeindruckenden Leistung verfügt generative KI über kein kohärentes Verständnis der Welt: „Forscher zeigen, dass selbst die leistungsstärksten großen Sprachmodelle kein echtes Modell der Welt und ihrer Regeln bilden und daher unerwartet scheitern können.“ ähnliche Aufgaben. »
https://news.mit.edu/2024/generative-ai-lacks-coherent-world-understanding-1105
3 Comments
« Often, we see these models do impressive things and think they must have understood something about the world. I hope we can convince people that this is a question to think very carefully about, and we don’t have to rely on our own intuitions to answer it. »
Reference: Keyon Vafa et al., Evaluating the World Model Implicit in a Generative Model, arXiv:2406.03689 [cs.CL], https://doi.org/10.48550/arXiv.2406.03689
I don’t think we would call its output “impressive”.
Plentiful, certainly.