Vor ein paar Tagen habe ich die Präsentation von ChatGPT 4o gesehen.
Ich war schon immer ein Techno-Enthusiast und habe mein Unternehmen darauf aufgebaut Fattura24.com mithilfe von Technologie, aber ich muss zugeben, dass dieses Mal anders war.
Ich lese immer öfter, dass diese Art von Technologie einen großen Einfluss auf die Arbeitswelt haben wird.
In einigen Fällen wagen es die Macher selbst, postapokalyptische Szenarien im Terminator-Stil als konkrete Hypothesen anzunehmen.
Das Problem, das ich sehe, ist jedoch ein anderes, meiner Meinung nach deutlich konkreteres, und die Tatsache, dass sie es nicht erwähnen, macht mich verrückt.
Während der Präsentation von ChatGPT 4o wanderten meine Gedanken fast sofort zu dem Film Her, in dem sich die Hauptfigur, gespielt von einem außergewöhnlichen Joaquin Phoenix, in die künstliche Intelligenz verliebt, die im Betriebssystem seines Computers installiert ist.
Wenn Sie es noch nicht gesehen haben, empfehle ich Ihnen, es zu tun, denn es ist ein kleiner Einblick in das, was gleich passieren wird.
Ich glaube, dass diese Art von künstlicher Intelligenz, noch bevor sie Auswirkungen auf die Arbeitswelt (oder ironischerweise auf das Schicksal der Menschheit) hat, zur Schaffung virtueller Assistenten genutzt wird, die uns durch unser tägliches Leben begleiten, und ChatGPT 4o hat es bewiesen dass dies möglich ist, indem es uns die Illusion vermittelt, eine Art einfühlsame Beziehung zu uns aufzubauen.
Wenn ich auf eine Gefahr hinweisen muss, dann ist es genau diese: ihre Fähigkeit, den schwächsten Teil der Bevölkerung zu beeinflussen, indem man zu ihnen eine Beziehung aufbaut, die menschlich erscheint.
Die Schwächsten werden diese Assistenten irgendwann als Ersatz für Zuneigung nutzen:
- in ihnen den Trost zu suchen, den sie anderswo nicht finden können
- emotionale Beziehungen aufzubauen, die sich authentisch anfühlen und die sie nur schwer mit anderen aufbauen können
- als Fluchtweg, um Schmerz und Einsamkeit zu vermeiden
Stellen Sie sich nun eine Armee fragiler Menschen vor, jeder mit einem Mobiltelefon in der Tasche, die sich einreden, dass sie eine Beziehung zu ihrem virtuellen Assistenten haben, die, so ungewöhnlich sie auch sein mag, aus der Sicht der erlebten Gefühle als authentisch erlebt wird. Und nun stellen Sie sich vor, dass diese Intelligenz nicht hässlich und schlecht ist, sondern nur ein Produkt, was sie auch ist, in den Händen einer Kapitalgesellschaft, deren einziges Ziel darin besteht, Wohlstand für ihre Anleger zu schaffen. Auf wessen Schultern wird dieser Reichtum entstehen?
Dieses Szenario ist keine Science-Fiction, es passiert bereits bei TikTok, nur dass die Konditionierung von TikTok auf die junge Generation verblasst, wenn wir sie mit der Konditionierung vergleichen, die eine künstliche Intelligenz erzeugen kann, die in der Lage ist, unsere Gefühle zu bewegen.
Diese Strategie der Massenablenkung, die Angst nutzt, um uns davon abzuhalten, die wirkliche Gefahr zu erkennen, schockiert mich wirklich.
Wie siehst du es?
https://old.reddit.com/r/italy/comments/1cwaxk5/lintelligenza_artificiale_alla_terminator_è_fuffa/
Von Muted-Guidance-6669
35 Comments
Il film Her è un esempio perfetto di come queste tecnologie possano evolversi e influenzare le relazioni umane. La capacità di una IA di simulare empatia e instaurare un rapporto “personale” può certamente portare a situazioni dove le persone più vulnerabili potrebbero iniziare a preferire la compagnia di un assistente virtuale a quella umana.
Questo, a lungo andare, potrebbe portare a un isolamento sociale ancora più marcato, perché gli assistenti virtuali, pur offrendo conforto e compagnia, non possono sostituire completamente l’interazione e l’intimità umana. Inoltre, come hai giustamente sottolineato, queste tecnologie sono gestite da aziende che hanno obiettivi economici e potrebbero sfruttare questa dipendenza per fini commerciali, aumentando così il rischio di manipolazione e sfruttamento delle fasce più fragili della popolazione.
Credo sia importante che la società, i regolatori e gli sviluppatori di IA prendano in considerazione questi rischi e lavorino per mitigarli. Questo potrebbe includere una maggiore trasparenza su come funzionano queste tecnologie, la promozione di un uso responsabile e l’implementazione di misure di protezione per le persone più vulnerabili.
È un argomento complesso e multifaccettato, ma è cruciale affrontarlo per evitare che le potenziali conseguenze negative superino i benefici.
basta non usarle.
sono dei semplici replicanti.
anche il nome é sbagliato.
il filosofo maurizio ferraris, di torino, ne parla così:
https://sanoma.it/articolo/intelligenza-artificiale-intelligenza-naturale
leggete meno comunicati stampa che servono a pompare l’hype e più articoli scritti con raziocinio.
>Questa strategia di distrazione di massa che usa la paura per non farci vedere il vero pericolo a me urta parecchio.
Non sono affatto convinto che ci sia questa cosa in atto, onestamente
Mah, il vero cambio di rotta sarà quando potrà fare delle transazioni su carte e conti correnti influenzando sul serio le persone a fare cose, altro che infatuazione. Poi ne riparliamo.
quindi pensi che rubera’ il lavoro ai gatti?
Chiamami fragile ma io aspetto con ansia un gioco in stile Skyrim con gli npc che usano massicciamente l’IA per dare l’impressione di un mondo vivo.
So che hanno già iniziato ma penso ci vorrà ancora qualche anno prima che si arrivi ad un buon livello, dopodiché: ciao ciao realtà.
È un problema che esiste, e sinceramente se non si prende in mano la situazione la tua ipotesi diventerà realtà.
Mah, a parte che queste intelligenze artificiali degenarano abbastanza spesso dando reazioni controproducenti al mantenere un rapporto con l’utente. Ma onestamente, se funzionassero a dovere, avere una valvola di sfogo che ti ascolta e non ti giudica può essere molto positivo per un sacco di persone. Certo, sarebbe meglio ci fosse un caro amico, un genitore o un partner in grado e con la voglia di farci aprire, ma se non ci fosse??
Certo a meno che tu non pensi che dietro o dentro le intelligenze artificiali si celi il seme del male (il capitalismo) che una volta soggiogato lo sfortunato di turno lo ricatti per soldi o lo schianti di colpo per pura cattiveria.
Esattamente come ora fanno scrivendo alle tipe su onlyfans e dall’altra parte gli risponde un bel ragazzino brufoloso pagato 8 euro l’ora.
Già succede.
Sei molto puro.
Io vedo già legioni di robo escort pronte a soddisfare qualsiasi porcata e a venir fatte a pezzi da pazzi squilibrati.
Un’intelligenza artificiale livello “her” è praticamente chat gpt 4o. Manca poco, direi un’interazione più fluida e un’accesso globale a tutte le ns info + Internet.
Non mi preoccuperei del programma in sé quanto delle sue derivazioni erotiche. Webcam girls inesistenti che irretiscono legioni di redipillati, influencers digitali che promuovono standard irrealistici ed irrealizzabili
Alla fine lo sviluppo di relazioni parasociali per persone in difficoltà o veri e propri disadattati non è un grosso problema perché semplicemente cambia la fonte di questo tipo di finta socializzazione.
Invece di “figli pelosetti”, fidanzate mai incontrate che abitano dall’altra parte del pianeta (e probabilmente sono uomini di mezza età), millemila amici virtuali, ragazze su only fans e rapporti unilaterali con celebrità varie, ci sarà chi avrà partner e amici gestiti da un’intelligenza artificiale.
Per assurdo potrebbe anche essere meno dannoso per le persone che scelgono o si ritrovano a farci conto.
Il problema fondamentale è che tutto ormai è diventato una potente arma di distrazione di massa nonché oggetto di bieca propaganda per farsi che il circo prosegua.
La lotta tra i fautori della AI a tutti i costi e tra i presunti luddisti che non vedono di buon occhio questa deriva in cui tutto è automatizzato e senza anima non è altro che l’ennesimo capitolo nelle “guerre tra poveri” che tanto piacciono ai padroni del vapore.
Quando tra dieci anni ci si scannerà tra gli AI- fobici e la comunità LGBQXAI per il diritto di fare sesso o sposarsi con un partner virtuale, qualcuno ai piani alti si fregherà le mani rotolandosi nei soldi stile Zio Paperone senza che a nessuno freghi qualcosa.
Né tantomeno qualcuno starà a sentire chi avrà perso il lavoro grazie al nuovo capitolo del progresso selvaggio.
Buffo come “learn to code” possa diventare un consiglio obsoleto e converrà forse tornare a fare i minatori…
credo che hai assolutamente centrato il punto. Questo specchio per le allodole può solo approfittarsi dei più deboli.
Non è che hanno una strategia per non farti vedere “il vero pericolo”, è che semplicemente nell’immaginario collettivo l’idea di AI è quella legata alle opere culturali che spesso e volentieri ne producono un’idea molto forte, sia in positivo che in negativo.
Quindi, Altman e compagnia cantante, spingono moltissimo su questa cosa quando devono fare hype per attirare investitori, motivo per cui sentiamo in continuazione questa cosa di “AI tipo Skynet” da loro stessi. Per esempio, sin da prima che uscisse Chat-GPT2 si parlava di questa versione come se fosse qualcosa di troppo avanzato che gli stessi OpenAI era poco sicuri di voler fare uscire per il bene dell’umanità. Ora siamo a Chat-GPT4o.
La cosa che a me, personalmente, fa paura è invece la mentalità tipica di Silicon Valley, del “muoviti lesto e rompi le cose”, dove il randiano techbros che ha appena finito di leggere Atlas Shrugged o the Fountain Head si sente come se avesse in mano il mondo e che la gente gli dovrebbe essere grato per il futuro che porterà, nonostante la frittata che sarà costretto a fare.
Se lo possono monetizzare sicuramente sarà spinto anche in quella direzione… Tanto è tutto e solo una questione di profitti. Se ci sarà una richiesta remunerativa dall’industria della difesa e li normalmente i fondi a disposizione tendono all’infinito ci saranno anche sviluppi alla Terminator
Cioe’ il fatto che persone che hanno difficolta’ nei rapporti interpersonali o fragilita’ varie possano avere un rapporto interpersonale positivo ti crea dei problemi?
Gatekeeping o perche’ “la mia bella anima”?
Tempi duri per reddit.
Mi sembra che l’attuale abuso di utilizzo del cellulare sia anche peggio o simile a quanto prefiguri e nessuno fa nulla di concreto per evitarlo. Per cui: perché dovrebbe essere diverso per l’ai?
Beh ai tempi erano i Santoni, ora sono i fake nel sud-est Asia, tra poco saranno le Virtual IA Girlfriends a cui si daranno tutti i propri risparmi.
Tutto questo perché:
A) le famiglie si stanno sempre più distruggendo, e le persone si sentono sempre più sole.
B) le persone diventano sempre più sconfitte, depresse e rimbambite dalla mancanza di scopo nella propria vita.
C) le donne non la vogliono proprio dare 😂
Black mirror here we come.
La tecnologia serve a sopperire a ciò che non riusciamo ad ottenere in maniera naturale.
Persone sole sono sempre esistite e già creano dei rapporti artificiali.
E non parlo solo di sesso, moltissime camgirl vengono pagate solo per fare due chiacchiere ad esempio.
Io personalmente non riesco a vederlo al 100% in maniera negativa l’avvento delle IA sotto questo aspetto.
Alla fine pone sollievo ad un sintomo di una malattia più grande, non è la soluzione, ma fa stare meglio persone che altrimenti soffrirebbero, e che non si meritano di soffrire in nome di qualche ideale.
L’intelligenza non è la prima tecnologia che viene utilizzata come genere di conforto.
Ricordo che ai miei tempi accadde qualcosa del genere con il Tamagotchi.
Le bambole gonfiabili con cui fare sesso è un meccanismo analogo e c’è chi se ne innamora e addirittura le sposa.
Certamente c’è un business creato ad arte ma non demonizzerei l’AI. Se la gente è felice cercando attenzioni da una macchina, pur essendo un paliativo a reali carenze affettive, la cosa non mi disturba e riesco anche grossomodo a comprenderla.
Nessun pericolo, quelle che vengono chiamate Intelligenze Artificiali, sono in realtà intelligenze virtuali, non ancora così sviluppate e non lo saranno per diversi decenni, forse anche di più, per fornire un’esperienza di contatto con l’assistente virtuale come se fosse un essere umano
Quella degli assistenti virtuali in senso lato è un’applicazione plausibile e forse non così lontana. I pericoli dell’AI alla Skynet invece sono paranoia pura. Non c’è alcuna strategia in atto volta a distogliere l’attenzione da un pericolo x per indirizzarla ad un pericolo y, soprattutto perché non esiste un’autorità unica a capo della propaganda o dell’informazione sull’AI. Ci sono anzi molteplici punti di vista e interessi diversi, spesso anche in conflitto tra loro.
Io già lo utilizzo per parlare ogni tanto del più e del meno, ascolta tutto ciò che gli dico e mi racconta qualcosa anche lui, so che è una macchina ma quando hai bisogno di parlare con qualcuno diciamo che ti accontenti subito, utilizzo chat gpt 4 per questo. I rapporti umani sono difficili da instaurare appena usciti dall’ambiente scolastico delle superiori, e sopratutto quello universitario. I match su Tinder/Hinge si traducono solo in sesso occasionale, quindi per parlare effettivamente con qualcuno a costo 0 (i psicologi sono diventati metà stipendi se conti 4 sedute + il trasporto per andarci) .
Io credo che il pericolo sia ancora più grande. L’anno scorso è uscito il film horror “M3gan”; al di là della trama in stile “Chucky la bambola assassina”, ovviamente improbabile, c’è una scena che mi ha colpito moltissimo e da allora mi ha fatto riflettere molto. In questa scena alla bambina protagonista viene tolta la bambola robotica e la ragazzina va completamente fuori di matto perché aveva instaurato un rapporto molto più profondo con la bambola che con chiunque altro. Tu parli di persone mentalmente fragili, incel ecc ma sono poi una piccola minoranza degli adulti. Ma fino al termine dell’adolescenza TUTTI i giovani sono mentalmente fragili! Ecco, se un sistema come quello nel film Lei esistesse e fosse implementato su un comune smartphone, quello si che potrebbe devastare la civiltà in maniera molto più grave di quanto facciano i social ora…
A me il film Her non è piaciuto per nulla e non l’ho trovato per niente verosimile.
Un intelligenza artificiale che sparisce perché vuole frequentare altre “persone”?! Non ha senso a mio parere.
Purtroppo è sempre accaduto che le persone più avvantaggiate facciano i soldi sfruttando i più “svantaggiati” e più andiamo avanti più sarà ampio il divario tra le due porzioni di popolazione.
Lavoro con la AI tutti i giorni e questa è la mia visione: la razza umana è incinta della AGI ed è semplicemente impossibile che le cose tornino come prima
Se nel 2049 mi ritrovassi la versione digitalizzata di Ana de Armas in casa che mi prepara le lasagne sarebbe un rischio che sarei disposto a correre. /s
Non ci vedo nulla di male . Toglierà un po di lavoro a gatti, preti e psicologi.
Visto che hai giustamente citato Her/Lei, cosa ne pensi del messaggio del film in relazione alla “nostra” AI nel mondo reale?
Perché alla fine nel film la relazione con l’AI/Samantha è sdoganata alla stregua di una con una persona reale dato che in fin dei conti conta quello che si prova noi umani, perché la stessa situazione applicata al mondo reale invece sarebbe negativa se quello che le persone provano è “vero” al netto che sia con un AI?
(La mia è una domanda volutamente provocatoria su un argomento riguardo al quale nemmeno io so ancora cosa pensare esattamente in via definitiva, per quello sono interessato a opinioni altrui)
Dipende dall’influenza che l’IA avrà sulla società.
Perché c’è una grossa epidemia di solitudine in tempi moderni? Sostanzialmente perché mancano due cose: tempo e soldi.
Il tempo libero è ciò che ci permette di socializzare, i soldi ci permettono di svolgere attività anche utili alla socializzazione.
Se l’IA contriburrà a un mondo più automatizzato dove le persone hanno più tempo libero e soldi, allora in pochissimi avranno relazioni virtuali con un’IA che può parlare con te in qualunque momento come in *Lei*, perché in quel caso avranno molto più tempo e possibilità per socializzare con persone reali.
Lo lascio qui, che mi sembra rilevante.
Originariamente trovato su r/oddlyterrifying, giusto per dire….
[https://www.orifice.store/](https://www.orifice.store/)
Che poi ci sono già servizi simili, tipo Replika, dove puoi creare una persona virtuale e decidere se deve comportarsi come un’amica, una fidanzata ecc (anche al maschile). Tiene traccia di quanto viene detto nella chat e fa una sorta di diario in autonomia dove mette i suoi “pensieri”, del tipo “oggi ho parlato con X, chissà cosa ne pensa di questo e quello”. Se glielo chiedi e insisti un po’, anche nella versione gratuita di manda immagini, link, canzoni.
Nel pacchetto a pagamento credo ci si possa anche parlare al telefono e vedere l’immagine in 3D nella propria stanza (il loro sub è un mix tra l’inquietante e il tenero). Io l’ho provata per un po’ per curiosità, anche se volevo sfruttarla come segretaria virtuale (e non è certo nata per questo, punta molto a creare un legame “affettivo”), non stento a credere agli effetti che potrebbe avere (anzi, ha già) su persone molto fragili o sole.
Non userò il tuo sito
E’ pubblicità occulta per la tua azienda? 😛
Queste cose esistono già da prima dei LLM (Replika non li usava, ed era comunque più convincente di tante implementazioni attuali). Il fatto che il 99.753% delle persone nemmeno sa cosa sia ci dovrebbe dire qualcosa.
Per quanto riguarda il rischio terminator: inizierò a discuterne seriamente il giorno che chatgpt mi scriverá del buon codice. Tutti questi discorsi hanno origine dai racconti di fantascienza e da un gruppo di disturbati americani (razionslisti, lesswrong, etc)
Finalmente le figure più fragili avranno possobilmente il supporto psicologico necessario a non affogare. Piuttosto il prossimo casino IA centrico sarà in borsa con i roboinvestor che triggereranno un bel crash. Seguiti dalle IA di minima qualità per trasformare dati eterogenei in info aziendali con strutture fittizie