Non è tutto oro cio che.. scrive
Come e quanto può rimpiazzarci l'IA?

ChatGPT, la”IA” che sta facendo impazzire il web non è poi così perfetta.. o almeno per ora

In questo articolo vedremo:

1. ChatGPT genera risposte false

2. ChatGPT è pieno di Bias

3. Minacce alla sicurezza e alla privacy

4. ChatGPT potrebbe prendere il lavoro degli umani

5. ChatGPT può rovinare l’istruzione

6. Può monopolizzare la conoscenza

7. Possibile impatto negativo sulla società

Non parleremo di cosa sia ChatGPT in questo articolo perché ne abbiamo già parlato nell’ articolo ChatGPT cos’è. In breve,  è un modello linguistico (di enormi dimensioni) progettato per produrre un linguaggio “Umano naturale”. È facile da usare, ma difficile da applicare in un determiato ambito, in quanto pieno di errori, nonostante faccio ricorso ad informazioni, sul web, spesso anche autorevoli.

1 ChatGPT genera risposte false

Uno dei principali problemi sollevati riguarda la sua tendenza a generare risposte false o inaccurate. Molti utenti difatti considerano ChatGPT una fonte affidabile di informazioni, creando problemi di disinformazione.
Questa problematica può derivare da diversi fattori. In primo luogo, ChatGPT non dispone di un meccanismo integrato per fornire il link alle fonti da cui attinge le informazioni. Ciò rende difficile per l’utente verificare la veridicità delle affermazioni fatte dal modello.

Una possibile soluzione potrebbe essere obbligare ChatGPT a fornire il link delle sue fonti. Qualora non fosse possibile, palesarlo all’utente in maniera chiara, tramite un testo a fine messaggio.

2 ChatGPT è pieno di Bias

Come qualsiasi sistema di intelligenza artificiale, ChatGPT si basa sui dati forniti dai suoi creatori umani. Se questi dati presentano dei bias, è possibile che il modello li riproduca nelle sue risposte. Pertanto, è fondamentale che gli sviluppatori di ChatGPT operino per ridurre al minimo l’impatto dei bias nel sistema.

3 Minacce alla sicurezza e alla privacy

È accessibile a chiunque, inclusi individui con cattive intenzioni. ChatGPT potrebbe essere utilizzato per diffondere disinformazione o ingannare le persone.

Inoltre, è molto probabile che OpenAI abbia raccolto informazioni personali quando ha addestrato ChatGPT. Mentre le leggi negli Stati Uniti sono meno rigide, le leggi europee sui dati tutelano ancora i dati personali di una persona, sia che pubblichi informazioni in modo pubblico o privato.

Argomentazioni simili contro i dati di addestramento vengono avanzate da artisti che affermano di non aver mai acconsentito al loro lavoro per addestrare un modello di intelligenza artificiale. Ad esempio, Getty Images ha fatto causa a Stability.AI per aver utilizzato immagini protette da copyright.

La mancanza di trasparenza rende difficile sapere se è stato fatto legalmente. Non conosciamo molti dettagli su come viene addestrato ChatGPT, ad esempio, quali dati sono stati utilizzati o da dove provengono.

4 ChatGPT potrebbe prendere il lavoro degli umani

Una parola, automatizzazione.  I sistemi automatizzati prenderanno il posto di molti lavori, e questo porterà a cambiamenti significativi. Almeno a corto termine, molti cambiamenti potrebbero  essere affrontati male, se non ci si reinventa. Tra i lavoratori più colpiti, ci saranno avvocati,i  copywriter, giornalisti e programmatori.

Guarda anche: Avvocato usa ChatGPT 
per ricerche legali. Finisce in tribunale.

5 ChatGPT può rovinare l’istruzione

ChatGPT può aiutare con qualsiasi attività che richieda il brainstorming, il riassunto o il trarre conclusioni intelligenti. Famoso il caso per cui Chat GPT3 è stato in grado di superare l’esame finale per il programma di MBA dell’Università della Pennsylvania (anche se non a pieni voti).

Non sorprende che gli studenti stiano già esplorando l’uso dell’IA. Lo Stanford Daily riporta che i primi sondaggi indicano che un numero significativo di studenti ha utilizzato l’intelligenza artificiale come supporto per compiti ed esami. In risposta, alcuni educatori stanno ristrutturando i propri corsi per adattarsi al fatto che gli studenti utilizzino l’intelligenza artificiale per assistere durante le lezioni.

È importante considerare attentamente le implicazioni di questa situazione e le possibili conseguenze sull’apprendimento e lo sviluppo delle competenze degli studenti. L’obiettivo deve essere quello di trovare un equilibrio tra l’utilizzo delle tecnologie avanzate come ChatGPT e l’insegnamento delle abilità di scrittura e pensiero critico agli studenti, garantendo che possano sviluppare una piena comprensione e padronanza delle competenze linguistiche e intellettuali necessarie per il loro futuro.

L’IA infatti potrebbe occuparsi della parte più tecnica dela scrittura (come la ricerca delle fonti e la stesura iniziale, oltre a dare idee, ad esempio per titoli,sottotitoli, pay off e alcune parti del testo), mentre lo studente può occuparsi della parte più emotiva del testo.

6 Può monopolizzare la conoscenza

Al contrario di Google, ChatGPT4 ha un costo di circa €17. Un costo abbastanza basso. È giusto però che una compagnia guadagni su un qualcosa che dovrebbe essere condiviso con tutti? Uno strumento così forte non dovrebbe essere a disposizione di tutti? OpenAI infatti è una società privata ed è importante sottolineare che mentre questa situazione rimarra tale, continuerà a sviluppare ChatGPT secondo i propri standard etici. Questa situazione è giusta per tutti?

Conclusione

 

L’articolo I 7 problemi di ChatGPT proviene da Tra me & Tech.