Mario De Caro è professore ordinario di Filosofia morale all’Università Roma Tre, dove è titolare della Cattedra UNESCO in Ethics of AI and Practical Wisdom, e Visiting Professor alla Tufts University. Si occupa di filosofia morale, libero arbitrio, teoria dell’azione e rapporti tra scienza, mente e responsabilità. È stato Fulbright Fellow a Harvard e Visiting Scholar al MIT. È presidente della Society for the Ethics and Politics of AI (SEPAI).

Professore, quando parliamo di intelligenza artificiale, di che cosa stiamo parlando davvero?

Il termine intelligenza artificiale ha cambiato significato nel tempo e ancora oggi viene usato in diversi sensi. Nella prima accezione era il progetto elaborato a metà degli anni Cinquanta secondo il quale si potevano ripetere le modalità di pensiero della logica e della matematica. Si pensava che questo avrebbe portato a un’enorme espansione delle conoscenze, usando il metodo deduttivo, cioè quello delle dimostrazioni matematiche e dei sillogismi di Aristotele. Quel progetto non ha funzionato molto, il prodotto sono stati i famosi sistemi esperti e poco più. Oggi è arrivato un nuovo tipo di intelligenza artificiale, che invece pensa dal basso, a partire dai dati. Cerca di elaborare pattern, cioè schemi, a seconda dei dati che riceve, e di riorganizzarli. Nel caso dei Large Language Models, come ChatGPT, questi sistemi raccolgono i dati dalla rete, li elaborano in modelli linguistici e, sulla base di quei modelli, cercano di trovare le parole che rispondono nel modo migliore ai nostri prompt, alle nostre domande.

Nell’ambito della scuola e dell’educazione, l’intelligenza artificiale è soprattutto un aiuto, un rischio, o può essere entrambe le cose?

Può essere entrambe le cose, a seconda di come viene usata. Innanzitutto, fare domande a cui si tiene alle versioni commerciali gratuite è sbagliato, perché fanno più errori rispetto alle versioni professionali. Con un abbonamento a un Large Language Model più avanzato si ha uno strumento molto più affidabile. I migliori risultati si hanno con un’interazione continua. Si fa una domanda, arriva una risposta, poi si precisa, si chiede di migliorare, si riformula. Usati male, possono portare anche a carenze cognitive da parte di chi ci si adagia troppo. Se si usano in modo eccessivo, senza governare il processo, si tende ad atrofizzare certe funzioni cognitive. Questo rischio c’è.

I contesti educativi non dovrebbero vietare l’uso dell’intelligenza artificiale, ma insegnare a usarla in modo critico e responsabile?

Escluderli dalle scuole non serve molto. Per i più piccoli, fino a 12 anni, è probabile che sia bene non usarli. Ma dopo deve essere la scuola a insegnare ai giovani come si usa l’intelligenza artificiale. Non vedo chi altro potrebbe essere. Il punto è che anche il corpo docente deve essere alfabetizzato. Anzi, tutti dovremmo essere alfabetizzati, tutti i cittadini, anche gli adulti, e non solo gli insegnanti; è una questione di sopravvivenza in un mondo che si fa sempre più complicato.

Se un testo, un elaborato, un contenuto viene prodotto insieme a un chatbot, di chi è quel lavoro? Come cambia il concetto di responsabilità, originalità e plagio?

È una questione complessa. Oggi ci sono molte aste dedicate all’arte prodotta da esseri umani insieme all’intelligenza artificiale. Molti artisti dicono che l’intelligenza artificiale è uno strumento con cui lavorare, un po’ come è stata l’invenzione della fotografia, anche se in modo più forte. Il punto sono i diritti. Poi c’è la questione del plagio: far scrivere qualcosa interamente dall’intelligenza artificiale e venderlo come proprio. Per esempio, le tesi di laurea: se l’intelligenza artificiale diventa sempre più accurata, sarà sempre meno riconoscibile un testo scritto dall’intelligenza artificiale.

L’intelligenza artificiale può dare risposte molto convincenti anche quando sbaglia. Come possono studenti, studentesse, educatori e insegnanti imparare a non fidarsi automaticamente di ciò che produce?

La prima cosa è ricordare che l’errore è sempre possibile. Ormai l’intelligenza artificiale sbaglia meno degli esseri umani, ma il problema è generale, anche uno studente che si fida dell’insegnante deve sapere che l’insegnante può sbagliare. Con l’intelligenza artificiale uno potrebbe avere l’idea istintiva che non sbagli mai, ma questo è falso. Gli errori fattuali sono minori; gli errori di giudizio, invece, su questioni controverse, restano sempre legati a punti di vista. Bisogna stare attenti anche agli usi eccessivi. Per esempio, c’è chi usa questi sistemi come psicologi. Questo è rischioso, perché la risposta non è infallibile e non può sostituire completamente uno psicologo in carne e ossa.

L’intelligenza artificiale può aumentare le disuguaglianze tra ragazzi e ragazze, oppure può diventare uno strumento di inclusione?

Può essere tutte e due le cose. Si sta creando una sperequazione tra chi è in grado di usare e comprendere come funzionano i nuovi sistemi e chi non è in grado. Se una persona con una disabilità è messa in grado di usarla, l’intelligenza artificiale può essere un grandissimo ausilio, purché capisca come funziona, quali sono i limiti, i rischi e le opportunità. Ma se non si fa nulla dal punto di vista educativo, ci sarà un’enorme disparità tra chi magari è già avvantaggiato e si mette nelle condizioni di usare meglio l’intelligenza artificiale e chi invece resta indietro. Affidarsi ciecamente ai nuovi sistemi non va bene. Bisogna essere sensibili ai rischi e alle sfide, e tutto questo richiede uno sforzo educativo notevole. A un ragazzo o a una ragazza che vuole usare l’intelligenza artificiale senza smettere di pensare con la propria testa direi di immaginarla come uno strumento, o anche come un partner intellettuale. Chi saprà usarla bene avrà vantaggi enormi rispetto a chi non sarà in grado di farlo.