Una domanda molto pressante e attuale circola sempre pi\u00f9 spesso nei talk su AI e scenari futuri: cosa accadr\u00e0 a ChatGPT-{n} (ma anche a Bard, Mid Journey, Dall-E, Stable Diffusion, \u2026.), una volta che i modelli linguistici di grandi dimensioni (*) contribuiranno a fornire gran parte della lingua trovata online?
(*) Un modello linguistico di grandi dimensioni (LLM Large Language Model) \u00e8 un modello linguistico su larga scala che ha una notevole capacit\u00e0 di raggiungere la comprensione e la generazione del linguaggio per scopi generali.<\/p>\n\n\n\n
Le AI generative permettono di creare testi e immagini che hanno invaso il web: la proliferazione di questi contenuti per\u00f2, potrebbe creare un corto circuito su cui ricercatori di diversi paesi si stanno concentrando: il model collapse <\/em><\/strong>(vedi anche: The Curse of Recursion: Training on Generated Data\u00a0 Makes Models Forget<\/a> <\/span>)<\/p>\n\n\n\n Il crollo del modello (model collapse) \u00e8 un processo degenerativo che colpisce generazioni di learned generative model<\/em>, in cui i dati generati finiscono per inquinare il set di addestramento della prossima generazione di modelli (che quindi percepiscono erroneamente la realt\u00e0 essendo addestrati su dati inquinati). <\/p>\n\n\n\n Si tratta di un processo degenerativo nell’apprendimento che rischia di autoalimentarsi e di conseguenza produrre risultati statisticamente pi\u00f9 probabili e ridurre quelli meno probabili producendo un “appiattimento” che impoverisce enormemente la qualit\u00e0 della generazione dei contenuti.<\/p>\n\n\n\n vedi anche:<\/p>\n\n\n\n AI – Recursive Training of Generative Models<\/a><\/strong> <\/span><\/p>\n\n\n\n AI – Model Collapse<\/a><\/strong> <\/span> <\/p>\n\n\n\n Modelli Generativi “autofagi” sono destinati al disturbo MAD (Model Autophagy Disorder)<\/strong><\/p>\n\n\n\n Come evidenziato in un recente studio ( Self-Consuming Generative Models Go MAD<\/a> <\/span>), senza dati reali sufficienti per ogni generazione, i futuri modelli generativi sono condannati al cosiddetto disturbo MAD<\/strong> (Model Autophagy Disorder<\/strong>), ovvero la loro qualit\u00e0 (misurata in termini di precisione) o la loro diversit\u00e0 (misurata in termini di richiamo) diminuiranno progressivamente e il degrado e gli artefatti generativi saranno amplificati.<\/p>\n\n\n\n Uno scenario apocalittico \u00e8 che, se lasciato senza controllo per molte generazioni, il MAD potrebbe avvelenare la qualit\u00e0 dei dati e la diversit\u00e0 dell\u2019intera Internet.<\/p>\n\n\n\n A parte ci\u00f2, sembra inevitabile che dall\u2019autofagia dell\u2019IA deriveranno conseguenze indesiderate finora invisibili anche nel breve termine<\/p>\n\n\n\n Un altro recente paper ( Nepotistically Trained Generative-AI Models Collapse<\/a> <\/span>) evidenzia che “un sistema di intelligenza artificiale generativa da testo a immagine basato sulla diffusione \u00e8 sorprendentemente vulnerabile all\u2019avvelenamento dei dati con le sue stesse creazioni.”<\/p>\n\n\n\n L’importanza del cigno nero (black swan)<\/strong><\/p>\n\n\n\n Preservare la capacit\u00e0 degli LLM di modellare eventi a bassa probabilit\u00e0 \u00e8 essenziale per l\u2019equit\u00e0 delle loro previsioni:\u00a0 anche gli eventi a bassa probabilit\u00e0 sono vitali per comprendere i sistemi complessi [vedi la teoria del cigno nero (black swan): Nassim Nicholas Taleb<\/a> <\/span> – Black Swans and the Domains of Statistics<\/a> <\/span>]<\/p>\n\n\n\n \u00ab… classico problema dell’induzione: fare affermazioni audaci sull’ignoto basate su presunte propriet\u00e0 del noto. Quindi (1) minore \u00e8 la probabilit\u00e0, maggiore \u00e8 la dimensione del campione necessaria per poter fare inferenze, e minore \u00e8 la probabilit\u00e0, maggiore \u00e8 l’errore relativo nella stima di questa probabilit\u00e0. (2) Tuttavia in questi domini, quanto minore \u00e8 la probabilit\u00e0, tanto pi\u00f9 consequenziale \u00e8 l’impatto dell’errore di probabilit\u00e0 assoluta sui momenti della distribuzione.\u00bb [Nassim Nicholas Taleb]<\/p>\n\n\n\n La questione del “cigno nero” (black swan), un termine coniato da Nassim Nicholas Taleb per descrivere eventi rari, imprevedibili ma di grande impatto, \u00e8 particolarmente rilevante nel contesto dei processi generativi dell’intelligenza artificiale (AI). Questi sistemi, che apprendono dalle distribuzioni statistiche dei dati, possono effettivamente tendere a trascurare o sottovalutare la possibilit\u00e0 di eventi altamente improbabili, come i cigni neri.<\/p>\n\n\n\n Inoltre basti pensare alle pi\u00f9 grandi scoperte della scienza quanto sono state realizzate grazie al contributo di veri geni che poi erano tali in quanto uscivano dagli schemi e trovavano prospettive nuove mai pensate prima (l’esatto opposto dell’appiattimento nel processo degenerativo nell’apprendimento).<\/p>\n\n\n\n vedi anche AI – Il cigno nero: l’impatto dell’altamente improbabile<\/a> <\/span><\/p>\n\n\n\n Le camere dell’eco (echo chamber)<\/strong><\/p>\n\n\n\n L’apprendimento automatico \u00e8 ampiamente utilizzato nei sistemi di raccomandazione dei prodotti. Le decisioni prese da questi sistemi possono influenzare le convinzioni e le preferenze degli utenti che a loro volta influenzano il feedback ricevuto dal sistema di apprendimento, creando cos\u00ec un ciclo di feedback.<\/p>\n\n\n\n Questo fenomeno pu\u00f2 dar luogo alle cosiddette \u201ccamere dell\u2019eco\u201d o \u201cbolle di filtro\u201d che hanno implicazioni sugli utenti e sulla societ\u00e0.<\/p>\n\n\n\n Rilevante in questo senso il lavoro: Degenerate Feedback Loops in Recommender Systems<\/a> <\/span>)<\/p>\n\n\n\n vedi anche:<\/p>\n\n\n\n AI – “camere dell’eco” e le “bolle di filtro” <\/a><\/strong><\/span><\/p>\n\n\n\n