Nightshade: lo strumento che permette agli artisti di “avvelenare” le IA

Nightshade è uno strumento che permette agli artisti di modificare i pixel delle proprie opere prima di caricarle online, con l’obiettivo di “avvelenare” le intelligenze artificiali che le usano per addestrarsi. Queste modifiche sono invisibili all’occhio umano, ma causano problemi al modello IA, che non darà i risultati sperati.

Curioso che il nome Nightshade prenda spunto dalla Atropa Belladonna che è una pianta alta da 60 a 120 cm, con fusti eretti e foglie ovali o a forma di cuore. I fiori sono grandi e campanulati, di colore viola o lilla. I frutti sono bacche rotonde e nere.

Tutte le parti della pianta sono velenose, in particolare le bacche. I sintomi di avvelenamento da belladonna includono secchezza delle fauci, difficoltà a deglutire, visione offuscata, tachicardia e allucinazioni. In caso di avvelenamento, è necessario consultare immediatamente un medico.

La belladonna è stata usata per secoli a scopo medicinale e cosmetico. In passato, veniva utilizzata per trattare una varietà di condizioni, tra cui la febbre, il mal di testa e l’insonnia. Veniva anche utilizzata come cosmetico per dilatare le pupille e rendere gli occhi più grandi.

Oggi, la belladonna è ancora usata in medicina, ma solo per scopi specifici, come il trattamento dell’epilessia e del morbo di Parkinson. Non è più utilizzata come cosmetico.

Perché è importante?

Lo strumento nasce come risposta alle IA per gli artisti, in particolare per contrastare le aziende che usano le opere senza permesso. “Avvelenare” i modelli porta queste intelligenze artificiali generative a creare risultati inutilizzabili: per fare degli esempi, i cani diventano gatti, le auto diventano mucche e così via.

Come funziona?

Nightshade agisce modificando i pixel delle immagini in modo impercettibile, ma che può essere rilevato dalle IA. Il team di sviluppo ha testato lo strumento su Stable Diffusion, un modello IA di intelligenza artificiale generativa, e ha dimostrato che bastano 50 immagini per iniziare a creare problemi. Con 300 immagini, Stable Diffusion ha iniziato a creare gatti quando gli venivano chiesti cani.

Chi lo può usare?

Nightshade è uno strumento open source, quindi può essere utilizzato da qualsiasi artista. Lo strumento verrà integrato in Glaze, un altro strumento sviluppato dal team di Nightshade che permette agli artisti di “nascondere” il proprio stile dalle IA.

Quali sono i rischi?

Il team di sviluppo ha ammesso che c’è il rischio che Nightshade possa essere utilizzato per scopi malevoli. Tuttavia, è anche convinto che servirebbero migliaia di campioni per avvelenare a un modello reale e di grandi dimensioni.

Conclusione

Nightshade è uno strumento potente che può aiutare gli artisti a proteggere le proprie opere dalle IA. Tuttavia, è importante essere consapevoli dei rischi associati al suo utilizzo.

L’articolo Nightshade: lo strumento che permette agli artisti di “avvelenare” le IA proviene da CorriereNerd.it.