Testi scritti da un umano o dall’Intelligenza Artificiale? Capirlo sta diventando sempre più difficile, e gli scienziati sono preoccupati.
L’Intelligenza Artificiale negli ultimi mesi ha ampiamente dimostrato tutta la sua forza. Da quando alla fine dello scorso anno ChatGPT è diventata facilmente utilizzabile da tutti noi, le sue capacità hanno rivoluzionato la vita di molti professionisti, dai copywriter agli analisti di dati, passando per i segretari e per gli studenti.
Nel tempo si sono sviluppati diversi tipi di software basati su IA, ognuno con i suoi utilizzi specifici, ma Chat GPT e molti altri condividono una caratteristica fondamentali: il loro funzionamento si basa principalmente sulla produzione di testi.
L’altro lato della medaglia della sua impressionante bravura è apparso subito chiaro: distinguere i testi realizzati da persone e quelli realizzati da IA è diventato molto difficile, e questo può avere diversi risvolti negativi. Basta pensare a un insegnante, che deve capire se l’alunno si è impegnato nella produzione di un testo o se l’ha semplicemente chiesto a qualche chatbot. Oppure a un editore, che deve capire se quello che sta pubblicando è frutto del duro lavoro di un redattore o se si tratta di notizie rielaborate grazie a ChatGPT.
Dubbi e incertezze sul futuro dei testi che leggiamo: come riconoscere l’IA?
Gli strumenti di rilevamento dell’IA hanno un funzionamento in parte simile a quello dei chatbot che producono i testi. Utilizzano enormi quantità di set di dati raccolti da diverse fonti per prevedere la probabilità che alcune combinazioni di parole appaiano in un determinato pezzo di testo.
Gli scienziati sono preoccupati per i futuro, quando l’IA sarà in grado di produrre testi ancora più simili a quelli degli esseri umani – tecnozoom.it
Più alta è la prevedibilità della parola successiva rispetto alle parole precedenti, più il rilevatore determina che il testo sia stato scritto da un’IA. Come qualsiasi modello di apprendimento automatico, vengono sostanzialmente utilizzati degli algoritmi per determinare un pattern.
Secondo Patrick Hall, scienziato principale presso BNH.ai, una società che si occupa proprio di rilevatori di AI generativa, la maggior parte di questi strumenti raramente funziona bene. E gli esseri umani da soli non sempre hanno gli strumenti giusti per riconoscere l’origine di un testo.
Alcune recenti ricerche sottolineano che le persone hanno diverse difficoltà a riconoscere la differenza tra messaggi reali e messaggi prodotti con l’aiuto di IA. Lo studio “L’euristica umana per il linguaggio generato dalle IA è difettosa”, pubblicato sulla rivista scientifica PNAS pochi mesi fa, dimostra che i sistemi di IA sanno sfruttare le nostre aspettative per produrre dei testi che possano essere percepiti come “più umani di quelli scritti dagli umani”.
La proposta degli scienziati che hanno firmato la ricerca è quindi quella di riorientare lo sviluppo dei sistemi linguistici dell’IA per garantire che essi supportino piuttosto che minare la cognizione umana. Tutto ciò potrà essere fatto dotando le IA di un accento particolare oppure inserendo un qualche tipo di segno di riconoscimento che renda facile riconoscere la sua provenienza.
