L’Unione Europea vara il primo framework legislativo che riguarda l’intelligenza artificiale, con particolare enfasi sui limiti all’utilizzo da parte delle forze dell’ordine e per sistemi di *social credit*
Ho anche trovato molto interessante questo aspetto:
>I paesi dell’UE dovranno istituire e rendere accessibili a livello nazionale spazi di sperimentazione normativa e meccanismi di prova in condizioni reali (in inglese sandbox), in modo che PMI e start-up possano sviluppare sistemi di IA innovativi e addestrarli prima di immetterli sul mercato
Avremo dataset liberi e accessibili gratuitamente? Saranno competitivi con i big? Comunque sono d’accordo su tutta la linea
loginnotlogin on
La sorveglianza biometrica di massa è pericolosissima, per come è passato l’atto non vi sono limiti all’utilizzo da parte delle forze dell’ ordine.
Patrick Breyer, Member of the European Parliament for the German Pirate Party, comments:
“The European Parliament set out to ban biometric mass surveillance in Europe, but is ending up legitimising it. Chilling monitoring of our behaviour and ubiquitous real-time face surveillance in public spaces, error-prone biometric identification used on CCTV recordings even for petty offences, racial classification of persons, unscientific AI ‚video lie detector‘ technology – none of these dystopian technologies will be off limits for EU governments, including illiberal governments such as Hungary’s. Rather than protecting us from these authoritarian instruments, the AI Act provides an instruction manual for governments to roll out biometric mass surveillance in Europe. As important as it is to regulate AI technology, defending our democracy against being turned into a high-tech surveillance state is not negotiable for us Pirates.”
Marcel Kolaja, Member and Quaestor of the European Parliament for the Czech Pirate Party and the opinion rapporteur of the AI Act in the Culture and Education Committee (CULT), comments:
“The AI Act is a disappointment to me. There is a clear need for rules on artificial intelligence. However, the current form that has emerged from the negotiations with national governments falls short of what it should have done. The national governments have inserted a section that de facto creates a legal framework for widespread snooping on people by biometric cameras. Such cameras, equipped with artificial intelligence, are able to recognise people’s faces and thus keep track of who has been where, when, and with whom. The AI Act should have banned such an Orwellian tool, but instead it explicitly legalises it. That’s an invasion of privacy that Pirates will never raise a hand for. It’s a shame, because the AI Act has also its positives. I’m for example glad that I was able to negotiate rules for so-called e-proctoring. Programs that are used to check on students when they take exams online. If the artificial intelligence is poorly trained, it can evaluate, for example, noise from the hallway in a dorm as cheating. Given the impact this can have on a young person’s life, it’s worth keeping an eye on and making sure the program works as it should. Unfortunately, in the end, when it comes to the AI Act, the negatives outweigh the positives.”
Mollan8686 on
Ennesimo pachiderma normativo da parte di chi non sa fare innovazione.
Mirieste on
>I sistemi di IA per finalità generali e i modelli su cui si basano dovranno soddisfare determinati requisiti di trasparenza e rispettare le norme UE sul diritto d’autore durante le fasi di addestramento dei vari modelli.
E io cerco ancora di capire se le norme UE sul diritto d’autore garantiscono al proprietario di un’opera il diritto di scelta ***totale*** su come questa viene utilizzata. È davvero così? Capisco che un autore possa decidere dei diritti di riproduzione, di alterazione o di ripubblicazione della sua opera; è naturale, ed è insito nel concetto stesso di copyright. Ma può un autore dire, non so, che non vuole che il suo romanzo sia usato nelle scuole per imparare? Sarebbe un divieto legalmente vincolante? I libri di antologia sarebbero costretti a non poter usare il suo romanzo?
Perché a me questo sembra la polemica sull’AI. Visto che l’intelligenza artificiale non rimescola contenuti o fa collage, ma apprende attivamente (nel senso che grazie al materiale di training semplicemente migliora un suo modello matematico interno che niente ha a che fare con quei dati né prima né dopo, se non che così capisce quali parametri numerici migliorare), siamo nella situazione in cui un autore dice all’utente finale cosa può o non può fare con la sua opera.
Ho già fatto questo esempio altrove, ma io non penso che se acquisto un romanzo poi l’autore può impedirmi di usare le sue pagine come materiale da combustione per un fuoco su cui poi faccio ciò che voglio—tipo cucinare carne e venderla come street food. L’unica monetizzazione vietata sarebbe quella legata, appunto, ai diritti di riproduzione, di alterazione o di ripubblicazione, ma non *in generale*.
E se si cadesse nell’errore di pensare che le AI funzionano così allora comprendo perché la gente pensi che infrangano il copyright; ma visto che l’uso che ne fanno è molto trasverso (tanto quanto uno che compra *Il Signore degli Anelli*, e semplicemente lo studia per poi scriversi il suo fantasy originale), questo è davvero molto più simile al caso di chi si compra un’opera e poi ci fa su qualcosa di completamente personale. Come un fuoco per vendere la carne in strada.
WorldlyEye1 on
L’idea ci sta. Ma difficile farla applicare. Come verranno fatti i controlli?
6 Comments
L’Unione Europea vara il primo framework legislativo che riguarda l’intelligenza artificiale, con particolare enfasi sui limiti all’utilizzo da parte delle forze dell’ordine e per sistemi di *social credit*
Ho anche trovato molto interessante questo aspetto:
>I paesi dell’UE dovranno istituire e rendere accessibili a livello nazionale spazi di sperimentazione normativa e meccanismi di prova in condizioni reali (in inglese sandbox), in modo che PMI e start-up possano sviluppare sistemi di IA innovativi e addestrarli prima di immetterli sul mercato
Avremo dataset liberi e accessibili gratuitamente? Saranno competitivi con i big? Comunque sono d’accordo su tutta la linea
La sorveglianza biometrica di massa è pericolosissima, per come è passato l’atto non vi sono limiti all’utilizzo da parte delle forze dell’ ordine.
https://www.patrick-breyer.de/en/pirates-ai-act-fails-to-protect-citizens-rights/
Patrick Breyer, Member of the European Parliament for the German Pirate Party, comments:
“The European Parliament set out to ban biometric mass surveillance in Europe, but is ending up legitimising it. Chilling monitoring of our behaviour and ubiquitous real-time face surveillance in public spaces, error-prone biometric identification used on CCTV recordings even for petty offences, racial classification of persons, unscientific AI ‚video lie detector‘ technology – none of these dystopian technologies will be off limits for EU governments, including illiberal governments such as Hungary’s. Rather than protecting us from these authoritarian instruments, the AI Act provides an instruction manual for governments to roll out biometric mass surveillance in Europe. As important as it is to regulate AI technology, defending our democracy against being turned into a high-tech surveillance state is not negotiable for us Pirates.”
Marcel Kolaja, Member and Quaestor of the European Parliament for the Czech Pirate Party and the opinion rapporteur of the AI Act in the Culture and Education Committee (CULT), comments:
“The AI Act is a disappointment to me. There is a clear need for rules on artificial intelligence. However, the current form that has emerged from the negotiations with national governments falls short of what it should have done. The national governments have inserted a section that de facto creates a legal framework for widespread snooping on people by biometric cameras. Such cameras, equipped with artificial intelligence, are able to recognise people’s faces and thus keep track of who has been where, when, and with whom. The AI Act should have banned such an Orwellian tool, but instead it explicitly legalises it. That’s an invasion of privacy that Pirates will never raise a hand for. It’s a shame, because the AI Act has also its positives. I’m for example glad that I was able to negotiate rules for so-called e-proctoring. Programs that are used to check on students when they take exams online. If the artificial intelligence is poorly trained, it can evaluate, for example, noise from the hallway in a dorm as cheating. Given the impact this can have on a young person’s life, it’s worth keeping an eye on and making sure the program works as it should. Unfortunately, in the end, when it comes to the AI Act, the negatives outweigh the positives.”
Ennesimo pachiderma normativo da parte di chi non sa fare innovazione.
>I sistemi di IA per finalità generali e i modelli su cui si basano dovranno soddisfare determinati requisiti di trasparenza e rispettare le norme UE sul diritto d’autore durante le fasi di addestramento dei vari modelli.
E io cerco ancora di capire se le norme UE sul diritto d’autore garantiscono al proprietario di un’opera il diritto di scelta ***totale*** su come questa viene utilizzata. È davvero così? Capisco che un autore possa decidere dei diritti di riproduzione, di alterazione o di ripubblicazione della sua opera; è naturale, ed è insito nel concetto stesso di copyright. Ma può un autore dire, non so, che non vuole che il suo romanzo sia usato nelle scuole per imparare? Sarebbe un divieto legalmente vincolante? I libri di antologia sarebbero costretti a non poter usare il suo romanzo?
Perché a me questo sembra la polemica sull’AI. Visto che l’intelligenza artificiale non rimescola contenuti o fa collage, ma apprende attivamente (nel senso che grazie al materiale di training semplicemente migliora un suo modello matematico interno che niente ha a che fare con quei dati né prima né dopo, se non che così capisce quali parametri numerici migliorare), siamo nella situazione in cui un autore dice all’utente finale cosa può o non può fare con la sua opera.
Ho già fatto questo esempio altrove, ma io non penso che se acquisto un romanzo poi l’autore può impedirmi di usare le sue pagine come materiale da combustione per un fuoco su cui poi faccio ciò che voglio—tipo cucinare carne e venderla come street food. L’unica monetizzazione vietata sarebbe quella legata, appunto, ai diritti di riproduzione, di alterazione o di ripubblicazione, ma non *in generale*.
E se si cadesse nell’errore di pensare che le AI funzionano così allora comprendo perché la gente pensi che infrangano il copyright; ma visto che l’uso che ne fanno è molto trasverso (tanto quanto uno che compra *Il Signore degli Anelli*, e semplicemente lo studia per poi scriversi il suo fantasy originale), questo è davvero molto più simile al caso di chi si compra un’opera e poi ci fa su qualcosa di completamente personale. Come un fuoco per vendere la carne in strada.
L’idea ci sta. Ma difficile farla applicare. Come verranno fatti i controlli?
Bene così. Bisogna darci un taglio.