ChatGPT si dimostra anche molto convincente nei riassunti scientifici (e i revisori sono presi con gli occhi ben aperti)

I ricercatori hanno utilizzato il controverso chatbot per scrivere riassunti di studi ipotetici. E ciò ha portato ad alcuni buoni rilasci spaventosi.

Potrebbe il nuovo chatbot molto popolare ChatGPT fabbricare in modo convincente falsi riassunti di studi scientifici inesistenti, portando gli scienziati a credere che quegli studi siano reali? Questa è la domanda che si sono posti i ricercatori. un nuovo studio voluto rispondere. E la risposta forse preoccupante a questa domanda è sì; gli scienziati saranno sicuramente ingannati.

Ulteriori informazioni su ChatGPT
ChatGPT è un chatbot di intelligenza artificiale sviluppato dalla società di intelligenza artificiale OpenAI. Il chatbot è stato recentemente screditato per la sua capacità quasi sorprendente di fornire testi simili a quelli umani. Fai una domanda e la finestra di chat genera una risposta chiara in molte diverse aree di conoscenza. In effetti, ChatGPT è così specializzato nel linguaggio che può scrivere interi saggi e poesie, difficili da distinguere dai testi scritti dall’uomo.

I ricercatori hanno preso solo i titoli degli studi scientifici pubblicati di recente e poi hanno lasciato che ChatGPT generasse un riassunto appropriato (abstract). Hanno quindi eseguito il riepilogo scritto da ChatGPT, insieme all’originale, attraverso un controllo del plagio e dell’intelligenza artificiale e hanno chiesto ai revisori di distinguere tra i due. Ogni revisore ha ricevuto 25 abstract misti. Doveva quindi indicare quale abstract fosse l’originale.

Sintesi false
“I revisori sapevano che alcuni degli abstract forniti loro erano falsi, quindi erano molto sospettosi”, ha detto Catherine Gao, l’autrice principale dello studio. Nonostante ciò, anche questi revisori scettici non sono riusciti a individuare tutti i falsi riassunti. Solo nel 68% dei casi sono riusciti a selezionare le versioni generate da ChatGPT. Inoltre, credevano erroneamente che il 14% dei riepiloghi reali fosse stato scritto dall’intelligenza artificiale. “I nostri revisori hanno notato che era sorprendentemente difficile distinguere tra riassunti reali e fabbricati”, ha detto Gao. “E sono critici davvero competenti. Il fatto che non abbiano ancora riconosciuto il sommario originale nel 32% dei casi significa che le copie scritte da ChatGPT sono davvero buone. Sospetto che se uno scienziato ignaro vede uno di questi riepiloghi generati, non si renderà conto che è stato messo insieme dall’intelligenza artificiale.

Convincente
Uno dei motivi per cui i riepiloghi di ChatGPT sarebbero convincenti è che sembra ben informato. “ChatGPT sa anche quale dovrebbe essere la dimensione della coorte di pazienti quando si tratta di numeri”, spiega Gao. “Per uno studio sull’ipertensione, ChatGPT ha riferito che decine di migliaia di pazienti hanno partecipato allo studio, che in realtà è molto comune. Successivamente, molti meno partecipanti hanno partecipato a uno studio sul vaiolo delle scimmie.

preoccupante
La facilità con cui ChatGPT produce riepiloghi realistici e convincenti è piuttosto preoccupante. “L’uso senza scrupoli del chatbot può minare la scienza”, afferma Gao. Secondo lei, non è escluso che ChatGPT sia utilizzato dai cosiddetti ‘Stazionario’ (organizzazioni illegali che producono lavori scientifici fabbricati a scopo di lucro) viene utilizzato per creare riassunti scientifici avvincenti. “Se poi altri basano la loro ricerca scientifica su questi studi imprecisi, può essere davvero pericoloso”, sembra preoccupato.

Rivelatore AI
Fortunatamente, ci sono anche rilevatori di intelligenza artificiale. I risultati mostrano che gli abstract falsi non sono stati riconosciuti come tali dai tradizionali controllori antiplagio. Ma i rilevatori di intelligenza artificiale, come Rilevatore di uscita GPT-2, disponibile online e gratuitamente, è in grado di distinguere tra riassunti reali e inventati. “Abbiamo scoperto che questo rilevatore di intelligenza artificiale funziona abbastanza bene”, ha detto Gao. “Pertanto consigliamo di utilizzare tali rilevatori di intelligenza artificiale più spesso nel processo editoriale scientifico come arma contro Stazionarioche potrebbe tentare di inviare dati puramente generati. »

Per il meglio
Nonostante tutte le preoccupazioni, ChatGPT può anche essere usato per sempre. “I modelli di linguaggio AI possono aiutare ad automatizzare il processo di scrittura, che è spesso il collo di bottiglia nella generazione e diffusione della conoscenza”, ha affermato il ricercatore Yuan Luo. “I nostri risultati mostrano che questo è probabilmente fattibile in medicina, anche se dobbiamo ancora colmare alcune lacune etiche e pratiche”. Inoltre, ChatGPT potrebbe democratizzare ulteriormente la scienza, sospetta il ricercatore Alexander Pearson. “Ad esempio, potrebbe rendere più facile per gli scienziati non anglofoni condividere il proprio lavoro con una comunità più ampia. Allo stesso tempo, è imperativo riflettere attentamente su come utilizzare al meglio questi chatbot.

L’ultima parola su ChatGPT probabilmente non è stata ancora detta. Ad esempio, la comunità scientifica si chiede fino a che punto l’uso di tali programmi linguistici sia accettabile. Qual è il confine tra l’utilizzo di ChatGPT per migliorare la tua scrittura e l’utilizzo del chatbot per consentire a un robot di svolgere la maggior parte del lavoro? “Penso che sia importante che se le persone usano ChatGPT, diffondano la voce”, afferma Gao. “Ma è una domanda molto interessante. Sono molto curioso di vedere come andrà a finire la discussione sui limiti di ChatGPT.